ДийпФейк

2

Въведение

• Дийпфейковете като нарастваща заплаха за публичната дезинформация, влияние върху политиката и изборите, допринасяне за измами.

​

• Ролята на Киберпрестъпност-ГДБОП и Европол в адресирането на заплахата.

​

05/15

​

• В наши дни, технологията на дийпфейковете представлява една от най-значимите и бързо развиващи се заплахи в цифровия свят. Тези изкуствено създадени аудио и видео материали, които изглеждат изключително убедително, се превърнаха в мощен инструмент за публична дезинформация.

​

Нарастваща заплаха

Европол и Киберпрестъпност-ГДБОП играят критична роля в борбата срещу дийпфейковете. Роботят за идентифициране, разследване и намаляване на рисковете, свързани с дийпфейковете. Чрез събиране на информация, анализ и споделяне на разузнавателни данни, агенцията помага на националните правоприлагащи органи в Европейския съюз да разберат и да се справят със сложността и предизвикателствата, които тези технологии представляват.

Ролята на Киберпрестъпност-ГДБОП

и Европол

​

Въздействие върху престъпността

​

• Дийпфейкове в социалните мрежи
• Дийпфейкове с политици и популярни личности

​

​

Социалните мрежи представляват плодородна почва за разпространение на дийпфейкове. Лесното споделяне и бързото разпространение на съдържание могат да превърнат фалшива информация във вирусна, засягайки милиони потребители за кратко време. Това води до създаването на паралелни реалности, в които хората могат лесно да бъдат подведени и манипулирани. Представете си дийпфейк видео, което показва политически лидер да прави скандално изявление, което би могло да предизвика социално напрежение или дори насилие. Реалността е, че такива сценарии вече не са част от научната фантастика, а реална заплаха.

Artificial

Intelligence.

Пример номер 1:

​

В тази публикация в социалната мрежа Фасебук е инсценирана фалшива новина съобщава за осигурителен фонд и предлага опция за инвестиция с цел измама. Към публикацията е поставен скрееншот от новинарска емисия на БТВ, за да внуши доверие и авторитет в читателя.

9

Пример номер 2:

​

В този пример се рекламира страницата която предлага нереалистична многократна възвращаемост без риск.

10

Фалшификация с Президента

​

Тук същата Фасебук страница от “пример номер 2” използва лицето на президента, за да подведе читателя внушавайки ,че Румен Радев стой зад този проект за да привлекат инвестиране в тяхната платформа.

​

Технологията зад дийпфейковете

​

• Дълбоко учене и генеративни противопоставящи мрежи (GANs)
• Как тези технологии допринасят за създаването на убедителни дийпфейкове."

​

Дълбоко учене

​

Дълбокото учене, форма на машинно обучение, използва сложни невронни мрежи с множество слоеве, които имитират начина, по който човешкият мозък обработва данни. Тази технология позволява на компютрите да анализират обемисти набори от данни и да извличат сложни модели и характеристики, които не могат лесно да бъдат разпознати от човека. В контекста на дийпфейковете, дълбокото учене дава възможност за анализиране на хиляди лица и гласове, за да се "научи" как точно изглеждат и звучат конкретни хора. Това знание след това може да бъде използвано за създаването на убедителни фалшиви видеа, в които тези лица изглежда правят или казват неща, които никога не са се случили наистина.

13

Съпоставка между „машинно“ и „дълбоко“ учене :

Генеративни противопоставящи мрежи (GANs)

​

Генеративните противопоставящи мрежи (GANs) са революционен вид алгоритми в областта на изкуствения интелект, които включват две мрежи, състезаващи се една срещу друга: генератор, който създава изображения, и дискриминатор, който се опитва да различи истинските изображения от генерираните. Генераторът се стреми да произведе колкото се може по-реалистични и убедителни изображения, докато дискриминаторът се обучава да става все по-добър в разпознаването на фалшивите. Този динамичен процес на обучение води до значително подобряване на качеството на генерираните дийпфейкове, като ги прави все по-трудни за различаване от реалното съдържание.

15

противопоставящи мрежи (GANs) :

Откриване на дийпфейкове

• Ръчно срещу автоматизирано откриване

​

• Текущи ограничения и бъдещи перспективи

​

​

Ръчно срещу автоматизирано откриване

​

Ръчното откриване включва човешки анализатори, които преглеждат съдържание в търсене на признаци на манипулация. Този подход зависи от експертни знания и внимателно наблюдение на детайли като несъответствия в осветлението, странни движения на лицето или неестествени преходи във видеото. Въпреки че ръчното откриване може да бъде изключително точно, то е времеемко и неефективно при обработката на големи обеми от данни.

От друга страна, автоматизираното откриване използва софтуер, базиран на изкуствен интелект, за анализ на видеоклипове и изображения на масова скала. Тези системи се обучават да търсят специфични индикатори за манипулация, като същевременно се адаптират към новите методи, използвани от създателите на дийпфейкове.

18

Текущи ограничения и бъдещи перспективи

​

Едно от основните ограничения в откриването на дийпфейкове е, че технологията за създаването им се развива с удивителни темпове, което затруднява системите за откриване да останат актуални. Допълнително, висококачествените дийпфейкове могат да бъдат изключително убедителни, което прави тяхното идентифициране още по-трудно.

Въпреки тези предизвикателства, бъдещето на технологиите за откриване изглежда обещаващо. Непрекъснатите иновации в областта на изкуствения интелект и машинното обучение предлагат нови възможности за разработването на по-софистицирани и адаптивни системи за откриване.

​

19

Artificial

Intelligence.

Предизвикателства за правоприлагането

• Въздействие върху полицейската работа

​

• разграничаване реалното от фалшивото съдържание

20

Въздействие върху полицейската работа и правен процес

​

Появата на дийпфейкове поставя правоприлагащите органи пред уникални предизвикателства. Видеоматериалите и аудиозаписите, които преди са били счетени за надеждни доказателства, сега могат лесно да бъдат манипулирани с помощта на изкуствен интелект. От една страна, създава риск от неправомерно обвинение на невинни хора върху основата на фалшифицирано съдържание но също, дава възможност на престъпниците да използват дийпфейкове за създаване на алиби или за дезинформация, целяща да отклонят вниманието от техните истински действия. Необходимостта от новия капацитет е очевидна. Правоприлагащите агенции трябва да разработят и внедрят технологии за откриване на дийпфейкове, да обучат своя персонал да разпознава потенциално манипулирано съдържани.

21

Трудността да се разграничи реалното от фалшивото съдържание

​

Разграничаването между реално и фалшиво съдържание става все по-трудно, тъй като като технологията зад дийпфейковите продължава да се развива с бързи темпове. Съвременните дийпфейкове могат да бъдат изключително убедителни, като създават видео и аудио записи, които за необученото око могат лесно да минат за истински. Това поставя под въпросите методи за проверка на фактите и изисква нов подход, който включва както технологични, така и методологични иновации.

За да се справим с тези предизвикателства, е необходимо да развием мултидисциплинарен подход, който обединява усилията на правоприлагащите органи, научната общност, технологичния сектор и обществеността.

22