Викладені погляди та думки належать виключно автору (авторам) і не обов'язково відображають позицію Європейського Союзу чи Європейського виконавчого агентства з питань освіти та культури (EACEA). Ні Європейський Союз, ні EACEA не несуть за них відповідальності.
Модуль 2 Протидія візуальній та посиленій AI дезінформації
DREAM
СИНТЕТИЧНІ МЕДІА
Синтетичні медіа включають:
згенеровані штучним інтелектом (AI), який керує всім (або частиною) творчого процесу.
DREAM
01
Що таке синтетичні медіа і як їх генерують?
DREAM
ЕВОЛЮЦІЯ МЕДІА
DREAM
СИНТЕТИЧНІ ЗОБРАЖЕННЯ
AI-програми легко можуть генерувати зображення неіснуючих людей, як-от моделі ліворуч: жодна з них не є справжньою.
Погляньте на проєкт
DREAM
СИНТЕТИЧНІ ВІДЕО
Deepfake — це найвідоміші приклади синтетичних відео, створених за допомогою штучного інтелекту та спеціальних візуальних ефектів. Ранні deepfake ґрунтувалися на face-swapping та статичних об'єктах.
Приклади ранніх deepfake:
Термінатор у виконанні Сильвестра Сталлоне (2019)
Цукерберг нас контролює (2019)
Бекхем говорить 9 мовами (2019)
DREAM
СИНТЕТИЧНІ ВІДЕО
Останніми роками синтетичні відео еволюціонували до відтворення складних рухів тіла й освітлення. Сучасні AI-моделі text-to-video можуть генерувати цілі гіперреалістичні сцени з нуля. Термін «deepfake» став також означати реалістичне створення або маніпулювання будь-яким типом медіа.
Приклади, що показують еволюцію моделей:
Том Круз грає в гольф (2021)
Прогулянка Токіо від Sora (2024)
Запуск Aleph 2.0 від Runway (2026)
DREAM
СИНТЕТИЧНІ ІНФЛЮЕНСЕРИ
�Створювати AI-інфлюенсерів стає дедалі простіше й дешевше: тоді як відомий AI-персонаж Lil Miquela вимагав студійних команд і значних виробничих бюджетів, то AI-гуру велнесу Yang Mun був створений однією людиною за допомогою загальнодоступних AI-інструментів.
Сьогодні він має понад 2,5 мільйона підписників.
DREAM
ФЕЙКОВА ГЕОГРАФІЯ
Також можна генерувати реалістичні синтетичні супутникові знімки місць, яких насправді не існує, або змінювати реальні супутникові знімки.
DREAM
СИНТЕТИЧНІ ПОДКАСТИ
Існують навіть подкасти, згенеровані AI. Наприклад, Washington Post має AI-інструмент для створення розмовних подкастів, адаптованих до обраних користувачем тем, історії читання, улюблених ведучих і обраної тривалості.
DREAM
AI SLOP
Сьогодні мережа сповнена так званого «AI slop» — синтетичних медіа низької якості, вироблених масово. Головна мета — стимулювати залученість, апелюючи до сильних емоцій, як-от страх, гнів чи співчуття.
Але критики попереджають про зростання ризику дезінформації.
DREAM
Але як вони генеруються?
TEXT TO…
У 2022 році почала поширюватися низка AI-інструментів, здатних перетворювати текст (промпти) на різні типи контенту: зображення, аудіо, мови програмування.
Ви коли-небудь чули про ChatGPT?
DREAM
ANY TO ANY
У 2026 році ці програми інтегровані в мультимодальні генеративні моделі (напр. Gemini, GPT4o, Claude), які можуть приймати кілька форматів на вході й повертати кілька форматів на виході
Розгляньмо приклад, як працює генерація text-to-image.
DREAM
1) ДАНІ
Насамперед моделі потрібен навчальний датасет, що містить відповідні пари «текст–зображення». Ці пари використовують, щоб навчити модель, як текстові описи співвідносяться із зображеннями.
DREAM
2) TRAINING
Далі модель deep learning навчають на цьому датасеті. Під час цієї фази модель вчиться зіставляти текстові описи з простором ознак, який можна використати для генерування зображень.
DREAM
3) LATENT SPACE
Навчена модель створює представлення в «latent space» — компендіумі ключових ознак і тексту, і зображень. Цей latent space слугує містком між текстовими описами та зображеннями, дозволяючи моделі узагальнювати від тексту до зображення.
DREAM
4) ГЕНЕРАЦІЯ
Коли в модель вводять новий текстовий опис, його спершу зіставляють із latent space.
Звідти модель використовує свій візуальний компонент, щоб згенерувати зображення, яке відповідає цьому латентному представленню.
У такий спосіб слова «перекладаються» у візуальну форму.
DREAM
Візуальна та посилена AI дезінформація
02
DREAM
BALENCIAGA POPE
Ви, ймовірно, вже бачили це зображення підробленого Папи Франциска: воно було створене як експеримент і стало вірусною сенсацією візуального AI у 2023 році.
DREAM
ТРАМПА ЗААРЕШТОВАНО
Того ж року синтетичні зображення, що показували арешт Трампа, стали вірусними по всьому світу.
DREAM
ТРАМПА ЗААРЕШТОВАНО
Такі зображення стають вірусними, бо показують дуже відомих людей у незвичних, але можливих ситуаціях: на той час Трамп був під судом.
Проте їх можна швидко спростувати.
DREAM
DEEPFAKE У ПОЛІТИЦІ
Від самого початку deepfake використовували для маніпуляції інформацією, зокрема в політиці, як-от ці зображення фанатів Тейлор Свіфт, що підтримують Трампа у 2024 році.
Сьогодні контент, змінений AI, може досягати рівня складності, який набагато важче помітити.
DREAM
МЕДИЧНА ДЕЗІНФОРМАЦІЯ
Ще одне зловживання AI — шахрайства у сфері охорони здоров'я: вони використовують deepfake з обличчями справжніх лікарів або відео, що імітують певні журналістські формати, аби просувати альтернативну медицину та продавати «чудодійні» ліки.
Найпопулярніший reel на цьому польському TikTok-акаунті, що просуває холістичну медицину, зібрав понад 1,3 мільйона переглядів.
DREAM
ТУМАН ВІЙНИ, ПОСИЛЕНИЙ AI
Синтетичні медіа стали дієвим інструментом воєнної пропаганди.
У війні США та Ізраїлю з Іраном величезна кількість фейкових зображень і відео посилює плутанину навколо конфлікту.
Наприклад, це відео поширили десятки тисяч разів на соціальних платформах.
DREAM
ЗОБРАЖЕННЯ, ПОКРАЩЕНІ AI
Ще один виклик — зображення, покращені AI, які «шліфують», масштабують або змінюють оригінальні фото чи кадри відео.
Ці зображення важко розпізнати, бо вони засновані на реальних кадрах. Вони можуть поширювати оманливу інформацію, як у випадку нібито викриття агента ICE під час стрілянини в Міннеаполісі.
DREAM
СПРАВЖНЯ ІСТОРІЯ, ФЕЙКОВЕ ЗОБРАЖЕННЯ
Арешт венесуельського лідера Мадуро — реальна подія, але вона спричинила поширення величезної кількості синтетичних зображень, багато з яких поширили навіть офіційні акаунти Дональда Трампа в соцмережах.
DREAM
СПРАВЖНЯ ІСТОРІЯ, ФЕЙКОВЕ ЗОБРАЖЕННЯ (?)
У цьому випадку навіть аналіз NY Times не зміг визначити, чи було фото згенероване AI, чи ні. Зрештою вони вирішили опублікувати фото в контексті допису Трампа.
Це зображення краще за будь-яке інше ілюструє, наскільки складнішим стає розпізнавання синтетичних медіа.
DREAM
Як розпізнати синтетичні медіа
03
DREAM
БУДЬ АКТИВНИМ ГЛЯДАЧЕМ
Сьогодні надзвичайно легко натрапити на синтетичні медіа онлайн, особливо в social media.
Деякі з них дуже витончені й важко виявні без методу fact-checking. Попри це, ми все одно можемо створити власну стратегію, щоб не піддатися на синтетичні медіа.
DREAM
МЕТОД ІЗ 3 КРОКІВ
Коли ви натрапляєте на контент, який з якоїсь причини здається трохи дивним, ви можете:
DREAM
ZOOM OUT: ХТО ДЖЕРЕЛО?
Перш ніж вивчати візуальні деталі зображення чи відео, перевір, хто автор контенту.
Це медіа, розважальна сторінка, користувач social media чи щось інше? Кому він призначений і навіщо?
DREAM
ZOOM OUT: ІНФОРМАЦІЯ ПРО АКАУНТ
Подивись на акаунт джерела допису: позначки про використання AI можуть бути видимі в імені користувача, біо та описі профілю.
DREAM
ZOOM OUT: ІСТОРІЯ ДОПИСІВ
Перегляд попередніх дописів сторінки може допомогти визначити, чи регулярно вона поширює синтетичні медіа.
DREAM
ZOOM IN: ХЕШТЕГИ
Звертай увагу на деталі в тексті. Іноді автор контенту повідомляє про використання AI через явні хештеги, як-от:
DREAM
ZOOM IN: КОМЕНТАРІ
Коментарі до допису можуть виявити обговорення AI-статусу контенту, надаючи підказки та докази використання штучного інтелекту.
DREAM
ZOOM IN: ПОЗНАЧКИ
Багато соціальних платформ запровадили позначки для контенту, згенерованого або відредагованого AI, але їх часто немає.
Коли вони є, позначки можна знайти в описі допису. Іноді вони присутні лише в застосунку платформи, але відсутні у вебверсії.
DREAM
ZOOM IN: ВИДИМИЙ ВОДЯНИЙ ЗНАК
Деякі генеративні моделі додають видимі водяні знаки до AI-контенту. Водяний знак зазвичай у правому нижньому куті: на зображеннях Gemini він має вигляд білої іскри, а у відео Veo — це маленька позначка з написом «Veo».
Проте всі ці водяні знаки можна легко видалити, обрізавши та відредагувавши контент, або скориставшись сторонніми інструментами для видалення водяних знаків.
DREAM
ZOOM IN: ПРИХОВАНИЙ ВОДЯНИЙ ЗНАК
Існують також цифрові водяні знаки, вбудовані в синтетичні медіа. Прикладом є SynthID від Google, який дозволяє користувачам перевірити походження цифрового контенту й побачити, чи використовувалися AI-інструменти Google у його створенні або зміні.
Наприклад, SynthID вбудований у це реалістичне зображення уламків ізраїльського винищувача.
DREAM
ZOOM IN: РЕКОМЕНДОВАНІ ВОДЯНІ ЗНАКИ
Ти також можеш натрапити на водяний знак, як-от ці.
Розроблені Європейською Комісією відповідно до AI Act, вони походять із відкритого набору іконок, які творці, видавці та інші розгортачі генеративних AI-систем можуть використовувати, щоб маркувати свій згенерований AI контент.
DREAM
ПИТАННЯ ПОСВІДЧЕНЬ
Теоретично великі техкомпанії зобов'язалися розкривати так звані Content credentials — галузевий стандарт, що показує, коли медіа було створене та чи його змінювали.
DREAM
ТЕСТ ВІД WASHINGTON POST
На практиці система досі добровільна й тому неефективна у виявленні AI.
Це показав Washington Post, який завантажив згенероване AI відео на вісім соціальних платформ. Лише YouTube показав повідомлення про AI-походження відео — воно з'явилося в описі. Жодна з восьми платформ не розкрила Content Credentials.
DREAM
ZOOM IN: ЧЕКЛИСТ (СТАРИЙ, АЛЕ ЩЕ АКТУАЛЬНИЙ)
Хоча вони трапляються дедалі рідше, ти все ще можеш знайти помилки AI у візуальних деталях, як-от:
DREAM
ZOOM IN: ЗНАЙДИ ХИБУ
Синтетичні медіа стали гіперреалістичними, але в певних випадках дрібні деталі все ще можуть виказати AI.
Ти помічаєш щось дивне в цьому відео?
DREAM
ZOOM IN: ЗНАЙДИ ХИБУ
Поки вантажівки рухаються вперед, у правому нижньому куті відео помітно неприродний рух каміння вздовж дороги, що доводить: воно згенероване AI.
DREAM
LOOK BEYOND
Окрім перевірки джерела й деталей контенту, важливо зупинитися й подумати про ширшу картину: які емоції він у тебе викликає?
Зупинись, перш ніж реагувати. Запитай себе, який наратив підсилює цей контент і чи намагається він тебе в чомусь переконати. Якщо сумніваєшся, поговори про це з дорослим, якому довіряєш, перш ніж сприяти поширенню.
DREAM
04
Інструменти для генерування та аналізу синтетичних медіа
DREAM
ГЕНЕРУВАННЯ СИНТЕТИЧНИХ МЕДІА
Сьогодні основні мультимодальні моделі (Claude, ChatGPT, ChatGPT тощо) дозволяють користувачам генерувати різні типи медіа.
Проте існують і AI-сервіси, що спеціалізуються на певних типах контенту, як-от Runway для відео чи Recraft для графічного дизайну.
DREAM
ГЕНЕРУВАННЯ СИНТЕТИЧНИХ МЕДІА: ОГЛЯД
Графічний дизайн
Мультимодальна генерація
Генерування відео
Генерування зображень
ІНСТРУМЕНТИ ДЛЯ ВИЯВЛЕННЯ AI
Що більше вдосконалюються генеративні моделі, то складніше розрізняти синтетичні медіа.
Існують автоматизовані інструменти, що оцінюють імовірність генерування та використання AI в контенті, як-от Deepware або AI Image Detector on Hugging Face.
DREAM
ІНСТРУМЕНТИ ДЛЯ ВИЯВЛЕННЯ AI (?)
Проте жоден із цих інструментів не є точним на 100%.
Насправді, як показав NY Times, ризик помилок значний, особливо зі складними зображеннями та відео.
DREAM
ПОШУК ПРИХОВАНОГО ВОДЯНОГО ЗНАКА
Існують специфічні методи перевірки для конкретних моделей: щоб перевірити, чи створений або змінений контент AI від Google, можна завантажити файл у Gemini й попросити його промптом виконати перевірку.
Нещодавно OpenAI також запровадила той самий механізм перевірки.
DREAM
INVID
Якщо тобі потрібно проаналізувати окремі кадри відео, щоб краще зрозуміти, чи є деталі, що не збігаються, можеш скористатися InVid: це безкоштовний онлайн-сервіс, що дозволяє проводити поглиблений аналіз відео та зображень.
DREAM
ЗВОРОТНИЙ ПОШУК ЗОБРАЖЕНЬ
Як ти бачив у модулі про fact-checking, зворотний пошук зображень також допомагає з'ясувати, чи і де зображення вже публікували онлайн, визначити, де воно з'явилося вперше, або знайти сайти, де його спростували.
Інструменти:
DREAM
FACT-CHECKING — ЦЕ НЕ ВСЕ
Проте іноді жодна з цих аналітичних технік не дає змоги з упевненістю спростувати відео чи фото.
Тому необхідно застосувати запобіжний підхід до дезінформації. Ми детальніше розглянемо цю тему в наступному розділі.
DREAM
05
Завдання
Synthetic Media
Завдання 2. Це відео справжнє?
Це завдання розроблене для вчителів, але його можна використати й безпосередньо в класі. Відскануй QR: