Wyrażone poglądy i opinie są jednak wyłącznie poglądami autora lub autorów i niekoniecznie odzwierciedlają stanowisko Unii Europejskiej lub Europejskiej Agencji Wykonawczej ds. Edukacji i Kultury (EACEA). Ani Unia Europejska, ani EACEA nie ponoszą za nie odpowiedzialności.
Moduł 2 Zwalczanie wizualnej i napędzanej przez AI dezinformacji
DREAM
SYNTETYCZNE MEDIA
Syntetyczne media obejmują:
generowane przez sztuczną inteligencję (AI), która zarządza całością (lub częścią) procesu twórczego.
DREAM
01
Czym są syntetyczne media i jak są generowane?
DREAM
EWOLUCJA MEDIÓW
DREAM
SYNTETYCZNE OBRAZY
Oprogramowanie AI może z łatwością generować obrazy nieistniejących osób, takich jak modelki po lewej: żadna z nich nie jest prawdziwa.
Zobacz projekt
DREAM
SYNTETYCZNE FILMY
Deepfake to najbardziej znane przykłady syntetycznych filmów tworzonych z użyciem sztucznej inteligencji i specjalnych efektów wizualnych. Wczesne deepfake opierały się na face-swappingu i statycznych postaciach.
Przykłady wczesnych deepfake:
Terminator grany przez Sylvestra Stallone'a (2019)
Zuckerberg nas kontroluje (2019)
Beckham mówi w 9 językach (2019)
DREAM
SYNTETYCZNE FILMY
W ostatnich latach syntetyczne filmy rozwinęły się na tyle, że odwzorowują złożone ruchy ciała i oświetlenie. Dzisiejsze modele AI text-to-video potrafią wygenerować od zera całe, hiperrealistyczne sceny. Termin „deepfake” zaczął też odnosić się do realistycznego tworzenia lub manipulowania dowolnym rodzajem mediów.
Przykłady pokazujące ewolucję modeli:
Tom Cruise gra w golfa (2021)
Spacer po Tokio autorstwa Sora (2024)
Premiera Aleph 2.0 od Runway (2026)
DREAM
SYNTETYCZNI INFLUENCERZY
�Tworzenie influencerów AI staje się łatwiejsze i tańsze: podczas gdy słynna postać AI Lil Miquela wymagała zespołów studyjnych i znacznych budżetów produkcyjnych, guru dobrego samopoczucia AI Yang Mun został stworzony przez jedną osobę przy użyciu ogólnodostępnych narzędzi AI.
Dziś ma ponad 2,5 miliona obserwujących.
DREAM
FAŁSZYWA GEOGRAFIA
Możliwe jest też generowanie realistycznych syntetycznych zdjęć satelitarnych miejsc, które nie istnieją, lub przerabianie prawdziwych zdjęć satelitarnych.
DREAM
SYNTETYCZNE PODCASTY
Istnieją nawet podcasty generowane przez AI. Na przykład Washington Post ma narzędzie AI do tworzenia konwersacyjnych podcastów dopasowanych do wybranych przez użytkownika tematów, historii czytania, preferowanych prowadzących i wybranego czasu trwania.
DREAM
AI SLOP
Dziś sieć jest pełna tzw. „AI slop” — masowo produkowanych syntetycznych mediów niskiej jakości. Głównym celem jest generowanie zaangażowania poprzez odwoływanie się do silnych emocji, takich jak strach, gniew czy współczucie.
Ale krytycy ostrzegają przed rosnącym ryzykiem dezinformacji.
DREAM
Ale jak są generowane?
TEXT TO…
W 2022 roku zaczął rozprzestrzeniać się szereg narzędzi AI zdolnych do przekształcania tekstu (promptów) w różne rodzaje treści: obrazy, audio, języki programowania.
Czy słyszałeś kiedyś o ChatGPT?
DREAM
ANY TO ANY
W 2026 roku te programy są zintegrowane z multimodalnymi modelami generatywnymi (np. Gemini, GPT4o, Claude), które mogą przyjmować wiele formatów wejściowych i zwracać wiele formatów wyjściowych
Zobaczmy przykład, jak działa generowanie text-to-image.
DREAM
1) DANE
Przede wszystkim model potrzebuje zbioru treningowego zawierającego odpowiadające sobie pary tekst–obraz. Pary te służą do nauczenia modelu, jak opisy tekstowe korelują z obrazami.
DREAM
2) TRAINING
Model deep learning jest następnie trenowany na tym zbiorze. Podczas tej fazy model uczy się odwzorowywać opisy tekstowe w przestrzeń cech, którą można wykorzystać do generowania obrazów.
DREAM
3) LATENT SPACE
Wytrenowany model generuje reprezentację w „latent space” — zbiorze kluczowych cech zarówno tekstu, jak i obrazów. Ta latent space działa jak pomost między opisami tekstowymi a obrazami, pozwalając modelowi uogólniać od tekstu do obrazu.
DREAM
4) GENEROWANIE
Gdy do modelu zostaje wprowadzony nowy opis tekstowy, jest on najpierw odwzorowywany w latent space.
Stamtąd model wykorzystuje swój komponent wizualny, aby wygenerować obraz odpowiadający tej reprezentacji latentnej.
W ten sposób słowa zostają „przetłumaczone” na formę wizualną.
DREAM
Wizualna i napędzana przez AI dezinformacja
02
DREAM
BALENCIAGA POPE
Prawdopodobnie widziałeś już ten obraz fałszywego papieża Franciszka: powstał jako eksperyment i stał się wiralowym fenomenem wizualnej AI w 2023 roku.
DREAM
TRUMP ARESZTOWANY
W tym samym roku syntetyczne obrazy przedstawiające aresztowanie Trumpa stały się wiralowe na całym świecie.
DREAM
TRUMP ARESZTOWANY
Obrazy takie jak ten stają się wiralowe, ponieważ przedstawiają bardzo znane osoby w nietypowych, ale możliwych sytuacjach: w tamtym czasie Trump był sądzony.
Można je jednak szybko obalić.
DREAM
DEEPFAKE W POLITYCE
Od samego początku deepfake były wykorzystywane do manipulowania informacją, także w polityce, jak te obrazy fanów Taylor Swift popierających Trumpa w 2024 roku.
Dziś treści zmanipulowane przez AI mogą osiągać poziom wyrafinowania znacznie trudniejszy do wykrycia.
DREAM
DEZINFORMACJA MEDYCZNA
Innym nadużyciem AI są oszustwa zdrowotne: obejmują deepfake wykorzystujące twarze prawdziwych lekarzy lub filmy naśladujące konkretne formaty dziennikarskie, aby promować medycynę alternatywną i sprzedawać cudowne kuracje.
Najczęściej oglądany reel na tym polskim koncie TikTok promującym medycynę holistyczną przekroczył 1,3 miliona wyświetleń.
DREAM
MGŁA WOJNY NAPĘDZANA PRZEZ AI
Syntetyczne media stały się skutecznym narzędziem propagandy wojennej.
W wojnie USA-Izraela z Iranem ogromna liczba fałszywych obrazów i filmów potęguje zamęt wokół konfliktu.
Na przykład ten film udostępniono dziesiątki tysięcy razy na platformach społecznościowych.
DREAM
OBRAZY ULEPSZONE PRZEZ AI
Kolejnym wyzwaniem są obrazy ulepszone przez AI, które wygładzają, skalują w górę lub zmieniają oryginalne zdjęcia albo klatki wideo.
Te obrazy trudno rozpoznać, ponieważ opierają się na prawdziwych nagraniach. Mogą szerzyć wprowadzające w błąd informacje, jak w przypadku rzekomego zdemaskowania agenta ICE podczas strzelanin w Minneapolis.
DREAM
PRAWDZIWA HISTORIA, FAŁSZYWY OBRAZ
Aresztowanie wenezuelskiego przywódcy Maduro to prawdziwe wydarzenie, ale doprowadziło do rozpowszechnienia ogromnej liczby syntetycznych obrazów, z których wiele udostępniły nawet oficjalne konta społecznościowe Donalda Trumpa.
DREAM
PRAWDZIWA HISTORIA, FAŁSZYWY OBRAZ (?)
W tym przypadku nawet analiza NY Times nie mogła ustalić, czy zdjęcie zostało wygenerowane przez AI, czy nie. Ostatecznie zdecydowali się opublikować zdjęcie w kontekście posta Trumpa.
Ten obraz lepiej niż jakikolwiek inny pokazuje, jak coraz bardziej złożone staje się rozpoznawanie syntetycznych mediów.
DREAM
Jak rozpoznać syntetyczne media
03
DREAM
BĄDŹ AKTYWNYM ODBIORCĄ
Dziś niezwykle łatwo natknąć się na syntetyczne media w sieci, zwłaszcza w social media.
Niektóre z nich są bardzo wyrafinowane i trudne do wykrycia bez metody fact-checkingu. Mimo to możemy stworzyć własną strategię, aby nie dać się zwieść syntetycznym mediom.
DREAM
METODA W 3 KROKACH
Gdy natkniesz się na treść, która z jakiegoś powodu wydaje ci się nieco dziwna, możesz:
DREAM
ZOOM OUT: KTO JEST ŹRÓDŁEM?
Zanim przeanalizujesz szczegóły wizualne obrazu lub filmu, sprawdź, kto jest autorem treści.
Czy to serwis informacyjny, strona rozrywkowa, użytkownik social media, czy coś innego? Do kogo jest skierowany i dlaczego?
DREAM
ZOOM OUT: INFORMACJE O KONCIE
Przyjrzyj się kontu źródła posta: informacje o użyciu AI mogą być widoczne w nazwie użytkownika, bio i opisie profilu.
DREAM
ZOOM OUT: HISTORIA PUBLIKACJI
Sprawdzenie wcześniejszych postów strony może pomóc ci ustalić, czy regularnie udostępnia syntetyczne media.
DREAM
ZOOM IN: HASHTAGI
Zwróć uwagę na szczegóły w tekście. Czasem autor treści ujawnia użycie AI za pomocą wyraźnych hashtagów, takich jak:
DREAM
ZOOM IN: KOMENTARZE
Komentarze pod postem mogą ujawnić dyskusję na temat statusu AI treści, dostarczając wskazówek i dowodów użycia sztucznej inteligencji.
DREAM
ZOOM IN: ETYKIETY
Wiele platform społecznościowych wprowadziło etykiety oznaczające treści generowane lub edytowane przez AI, ale często ich brakuje.
Gdy są dostępne, etykiety znajdziesz w opisie posta. Czasem występują tylko w interfejsie aplikacji platformy, a nie w wersji przeglądarkowej.
DREAM
ZOOM IN: WIDOCZNY ZNAK WODNY
Niektóre modele generatywne dodają widoczne znaki wodne do treści AI. Znak wodny zwykle znajduje się w prawym dolnym rogu: na obrazach Gemini pojawia się jako biała ikona iskry, a w filmach Veo to mała etykieta z napisem „Veo”.
Jednak wszystkie te znaki wodne można łatwo usunąć, przycinając i poddając treść obróbce, lub korzystając z zewnętrznych narzędzi do usuwania znaków wodnych.
DREAM
ZOOM IN: UKRYTY ZNAK WODNY
Istnieją też cyfrowe znaki wodne osadzone w syntetycznych mediach. Przykładem jest SynthID od Google, który pozwala użytkownikom zweryfikować pochodzenie treści cyfrowej i sprawdzić, czy w jej tworzeniu lub modyfikacji użyto narzędzi AI Google.
Na przykład SynthID jest osadzony w tym realistycznym obrazie szczątków izraelskiego myśliwca.
DREAM
ZOOM IN: ZALECANE ZNAKI WODNE
Możesz też natrafić na znak wodny taki jak te.
Opracowane przez Komisję UE zgodnie z AI Act, pochodzą z otwartego zbioru ikon, z którego twórcy, wydawcy i inne podmioty wdrażające systemy generatywnej AI mogą korzystać, aby oznaczać swoje treści generowane przez AI.
DREAM
KWESTIA POŚWIADCZEŃ
W teorii wielkie firmy technologiczne zobowiązały się do ujawniania tzw. Content credentials — standardu branżowego pokazującego, kiedy medium powstało i czy zostało zmodyfikowane.
DREAM
TEST WASHINGTON POST
W praktyce system jest wciąż dobrowolny, a przez to nieskuteczny w wykrywaniu AI.
Pokazał to Washington Post, który przesłał wygenerowany przez AI film na osiem platform społecznościowych. Tylko YouTube wyświetlił informację o pochodzeniu AI filmu, która pojawiła się w opisie. Żadna z ośmiu platform nie ujawniła Content Credentials.
DREAM
ZOOM IN: LISTA KONTROLNA (STARA, ALE WCIĄŻ AKTUALNA)
Choć są coraz rzadsze, wciąż możesz znaleźć błędy AI w szczegółach wizualnych, takich jak:
DREAM
ZOOM IN: ZNAJDŹ USTERKĘ
Syntetyczne media stały się hiperrealistyczne, ale w niektórych przypadkach drobne szczegóły wciąż mogą zdradzić AI.
Czy zauważasz coś dziwnego w tym filmie?
DREAM
ZOOM IN: ZNAJDŹ USTERKĘ
Gdy ciężarówki jadą do przodu, w prawym dolnym rogu filmu widać nienaturalny ruch skał wzdłuż drogi, co dowodzi, że jest to treść wygenerowana przez AI.
DREAM
LOOK BEYOND
Oprócz sprawdzenia źródła i szczegółów treści ważne jest, aby zatrzymać się i pomyśleć o szerszym obrazie: jak sprawia, że się czujesz ta treść?
Zatrzymaj się, zanim zareagujesz. Zadaj sobie pytanie, jaką narrację wzmacnia dana treść i czy próbuje cię do czegoś przekonać. W razie wątpliwości porozmawiaj o tym z zaufaną dorosłą osobą, zanim pomożesz to rozpowszechnić.
DREAM
04
Narzędzia do generowania i analizowania syntetycznych mediów
DREAM
GENEROWANIE SYNTETYCZNYCH MEDIÓW
Dziś główne modele multimodalne (Claude, ChatGPT, ChatGPT itd.) pozwalają użytkownikom generować wiele typów treści multimedialnych.
Istnieją jednak także usługi AI wyspecjalizowane w określonych typach treści, takie jak Runway do filmów czy Recraft do projektowania graficznego.
DREAM
GENEROWANIE SYNTETYCZNYCH MEDIÓW: PRZEGLĄD
Projektowanie graficzne
Generowanie multimodalne
Generowanie wideo
Generowanie obrazów
NARZĘDZIA DO WYKRYWANIA AI
W miarę jak modele generatywne się doskonalą, coraz trudniej odróżnić syntetyczne media.
Istnieją zautomatyzowane narzędzia oceniające prawdopodobieństwo wygenerowania i użycia AI w treści, takie jak Deepware lub AI Image Detector on Hugging Face.
DREAM
NARZĘDZIA DO WYKRYWANIA AI (?)
Jednak żadne z tych narzędzi nie jest w 100% dokładne.
W istocie, jak pokazał NY Times, ryzyko błędów jest znaczące, zwłaszcza w przypadku złożonych obrazów i filmów.
DREAM
ZNAJDOWANIE UKRYTEGO ZNAKU WODNEGO
Istnieją metody weryfikacji dla konkretnych modeli: aby sprawdzić, czy treść została stworzona lub zmieniona przez AI Google, możesz przesłać plik do Gemini i poprosić go promptem o wykonanie sprawdzenia.
Niedawno OpenAI również przyjęło ten sam mechanizm weryfikacji.
DREAM
INVID
Jeśli musisz przeanalizować poszczególne klatki filmu, aby lepiej zrozumieć, czy są szczegóły, które do siebie nie pasują, możesz użyć InVid: to darmowy serwis online, który pozwala przeprowadzać dogłębne analizy filmów i obrazów.
DREAM
WYSZUKIWANIE OBRAZEM WSTECZ
Jak widziałeś w module o fact-checkingu, wyszukiwanie obrazem wstecz może też pomóc sprawdzić, czy i gdzie obraz został już opublikowany w sieci, ustalić, gdzie pojawił się po raz pierwszy, lub znaleźć strony, na których został obalony.
Narzędzia:
DREAM
FACT-CHECKING TO ZA MAŁO
Jednak czasem żadna z tych technik analitycznych nie wystarcza, by z pewnością obalić film lub zdjęcie.
Dlatego konieczne jest przyjęcie prewencyjnego podejścia do dezinformacji. Zgłębimy ten temat w następnym rozdziale.
DREAM
05
Ćwiczenie
Synthetic Media
Ćwiczenie 2. Czy ten film jest prawdziwy?
To ćwiczenie przygotowane dla nauczycieli, ale można je też wykorzystać bezpośrednio w klasie. Zeskanuj kod QR: