 |
| Снимка: Антон Пулийски/ Startup Europe Week - Sofia /AnetFoto/ iStock by Getty Images |
Едва ли има човек, който да не ползва всеки ден социалните мрежи. Дали на компютър или телефон, но докато скролваме из различните платформи често виждаме атрактивно звучащи заглавия на страници, които не сме харесали. Те обикновено са придружени от снимки или видеа. Можем ли да вярваме на очите си?
С развитието на изкуствения интелект и новите технологии фалшивите новини, deepfake видеата и онлайн измамите достигат невиждани досега нива на достоверност, поставяйки под въпрос способността ни да различаваме истината от манипулацията.
Антон Пулийски, основател на КиберКЛУБ, е един от експертите, които работят активно за повишаване на дигиталната култура и устойчивостта срещу тези заплахи. С близо 20 години опит в областта на киберсигурността и безопасната интеграция на новите технологии, той е участвал в редица международни проекти, свързани с изкуствен интелект, дронове и виртуални реалности.
В този разговор ще обсъдим как AI се използва за разпространение на дезинформация и кибератаки, какви нови заплахи се очертават на хоризонта и как обикновеният потребител може да се предпази. Ще разберем също как КиберКЛУБ помага на професионалисти и ентусиасти да изградят знания и умения за сигурно дигитално бъдеще.
- Г-н Пулийски, дезинформацията не е нов феномен, но изглежда, че технологиите я правят по-трудна за разпознаване. Какви са най-големите заплахи в тази област днес?
- Технологиите значително засилиха ефекта на дезинформацията, като я направиха по-лесна за създаване, разпространение и възприемане. Всяко свързано устройство - от смартфон до гласов асистент - вече е потенциален канал за манипулативно съдържание. Днес заплахата не е просто в наличието на фалшиви новини, а в скоростта и мащаба, с които те се разпространяват. В свят, в който киберсигурността е въпрос не само на технологии, но и на поведение, дезинформацията се превръща в масова заплаха, която изисква осъзнат, колективен отговор.
- Какви инструменти се използват най-често за разпространение на фалшива информация? Каква е ролята на изкуствения интелект в този процес?
Основните канали за разпространение са социалните мрежи, чат приложенията и видеоплатформите. Изкуственият интелект все по-често се използва за автоматизирано генериране на убедително фалшиво съдържание - от текст до изображения и гласове, което значително затруднява откриването на измами. В някои случаи дезинформацията се произвежда от цели "фабрики за съдържание", работещи с помощта на автоматизация и машинно обучение, което води до огромен обем фалшификати с минимално човешко участие.
- Deepfake технологиите стават все по-усъвършенствани. Виждаме ги не само в забавленията, но и в измамите. До каква степен това е заплаха за общественото доверие?
- Deepfake е заплаха, размиваща границата между реално и фалшиво. Това може да подкопае доверието към институции, медии и дори междуличностна комуникация, когато хората вече не са сигурни в това, което виждат или чуват. В дигиталната епоха доверието става най-ценната и същевременно най-уязвимата валута.
- Как социалните мрежи и медийните платформи допринасят за разпространението на дезинформация? Според Вас, достатъчно ли правят, за да я ограничат?
- Алгоритмите в социалните мрежи често насърчават сензационното и поляризиращо съдържание, което улеснява разпространението на фалшиви новини. Макар платформите да въвеждат механизми за проверка и сигнализация, много от действията им остават непрозрачни. Технологичните компании трябва да приемат по-голяма етична отговорност и да създадат по-устойчиви решения в партньорство с различните общности, които са "подслонили".
- Как изкуственият интелект се използва в онлайн измами? Може ли той да бъде "супероръжие" в ръцете на киберпрестъпници?
- AI се използва доста успешно за създаване на реалистични фишинг съобщения, персонализирани измами и гласови клонинги. Това го прави мощен инструмент в ръцете на киберпрестъпници. Както всяка технология - той е неутрален по природа, но става опасен според намеренията на онези, които го използват. В ръцете на престъпници може да се превърне в дигитално "супероръжие", особено при липса на контрол, регулации и най-вече познание у широката общественост.
- Наскоро видяхме случаи на AI-генерирани гласове, използвани за телефонни измами. Как може обикновеният човек да се предпази от подобни атаки?
- Първата и най-важна защита е информираността. Ако получите обаждане с неочаквано искане за пари или лични данни - дори гласът да звучи познат - винаги проверявайте чрез друг канал, например текстово съобщение или видео разговор. Дори базови цифрови умения могат да помогнат срещу подобни атаки.
- Какви са най-новите тенденции при фишинг атаките и измамите, базирани на социално инженерство?
- Фишинг кампаниите стават все по-насочени, персонализирани и трудноразличими от реална комуникация. Атаките често се основават на предварително събрана информация от социални мрежи и включват психологически тактики - спешност, авторитет или емоционално въздействие. Това вече не са масови атаки, а прецизно насочени социално-технически манипулации.
- Възможно ли е технологиите, които днес се използват за манипулация, да бъдат насочени към защита срещу същите заплахи?
- Определено е възможно. Към момента AI успешно се използва и за разпознаване на deepfakes, фалшиви профили, фишинг шаблони и дори за автоматично обучение на потребителите как да се предпазват. Както всяка технология - всичко зависи от това в чии ръце попада и колко е мотивиран ползвателя. За момента е важно да възприемем, че заплаха съществува и да подлагаме под съмнение съдържание, за което има шанс да не е автентично.
- Кои са първите стъпки, които един интернет потребител трябва да предприеме, за да се предпази от дезинформация и онлайн измамите?
- Първата стъпка е да се откаже от пасивната роля. Проверка на източници, критичен поглед към съдържанието, двуфакторна автентикация и дигитална хигиена трябва да станат навици. Някои автори го наричат"цифрово любопитство" на потребители, а именно умението на всеки да се пита "кой, защо и как" преди да приеме нещо за истина или не.
- Какви инструменти и практики бихте препоръчали за разпознаване на фалшиви новини? Кое е най-сигурното лекарство, което може да ни спаси от новите методи на онлайн измамниците?
- Инструменти като Google Fact Check, InVID и обратна проверка на изображения могат да бъдат полезни. Но най-силният инструмент остава критичното мислене - без него, дори най-добрата технология е слабо ефективна. В ерата на цифрова хиперреалност, способността да задаваме правилните въпроси е най-сигурната ни защита.
- КиберКЛУБ общността вече три години работи за повишаване на дигиталната култура. Каква беше мотивацията Ви да създадете тази общност?
- Мотивацията в началото беше да създадем среда, в която знанието, любопитството и взаимната подкрепа да бъдат водещи. Киберсигурността не е нещо, което се случва само в ИТ отдела - тя е култура, която се изгражда в ежедневието, и това може да стане само в силна, активна общност. От друга страна, киберсигурността не може да съществува без технологичния контекст. Именно затова още от самото начало в КиберКЛУБ поканихме участници и съмишленици от разнообразни технологични общности - включително специалисти и ентусиасти в сферите на дроновете, изкуствения интелект, роботиката, XR технологиите, виртуалната и добавената реалност. Това технологично многообразие прави дискусиите по-богати и по-актуални, а общността - жива, динамична и отворена към бъдещето.
- Какви са плановете на КиберКЛУБ за бъдещето? Виждате ли нови предизвикателства, към които да насочите усилията си?
Предстои ни разширяване на обучителните ни формати, изграждане на съвместни проекти с училища и нови инициативи, насочени към развиването на дигитална грамотност у различни възрастови групи. Едно от големите ни предизвикателства е как да изградим мост между експертите и обикновения потребител - без технически жаргон, но с реална стойност. Особено внимание ще отделим на младата аудитория чрез инициативата киберЗНАМ - образователна програма за деца и подрастващи, която цели да ги въведе в света на киберсигурността по достъпен, увлекателен и практически ориентиран начин. Вярваме, че инвестицията в критично мислене и умения за безопасно поведение онлайн трябва да започне още от ранна възраст.
- Как всеки, който има интерес към киберсигурността и дигиталната култура, може да стане част от вашата общност?
- Всеки е добре дошъл - без значение дали е професионалист, ученик, преподавател или просто любопитен човек. Може да се включи през нашия сайт, социални мрежи или директно да посети някое от събитията ни. Няма членски внос и формални изисквания. Всички събития на КиберКЛУБ са напълно безплатни и това няма да се промени с времето. Най-важното е желанието да учиш и да участваш. През изминалите години видяхме как хора от различни възрасти и професии се включиха като доброволци, лектори или организатори - и заедно постигнахме конкретни каузи в полза на обществото. КиберКЛУБ не е просто общност, а платформа, в която всеки може да се обедини с други съмишленици, да споделя знания и да работи заедно за по-сигурно и информирано дигитално бъдеще.
КиберКЛУБ е отворена и независима среда за комуникация на експерти, обучители, студенти и ентусиасти, посветена на повишаването на дигиталната култура и киберсигурността чрез споделено знание, практическа стойност и събития с мисия.
На 8 април (вторник), от 19:00 ч. в Интерпред - Световен търговски център София, общността ще отбележи своя трети рожден ден. Това ще стане със събитие, посветено на една от най-ценните валути на бъдещето - знанието.
Участието на събитието е напълно безплатно, но с предварителна регистрация тук >>>
Участието носи 2 CPE точки за членове на ISACA Sofia Chapter, IIA Bulgaria и PMI Bulgaria Chapter.
Последвайте и се включете в бъдещи инициативи тук:
-
Eventbrite: https://www.eventbrite.com/o/57513021603
-
Календар: https://calendar.cyberclub.bg/