Le opinioni e i pareri espressi sono tuttavia esclusivamente quelli dell'autore o degli autori e non riflettono necessariamente quelli dell'Unione europea o dell'Agenzia esecutiva europea per l'istruzione e la cultura (EACEA). Né l'Unione europea né l'EACEA possono esserne ritenute responsabili.
Modulo 2 Contrastare la disinformazione visiva e potenziata dall'AI
DREAM
MEDIA SINTETICI
I media sintetici includono:
generati da un'intelligenza artificiale (AI) che gestisce tutto (o parte) del processo creativo.
DREAM
01
Cosa sono i media sintetici e come vengono generati?
DREAM
L'EVOLUZIONE DEI MEDIA
DREAM
IMMAGINI SINTETICHE
I software di AI possono generare facilmente immagini di persone che non esistono, come le modelle qui a sinistra: nessuna di loro è reale.
Dai un'occhiata al progetto
DREAM
VIDEO SINTETICI
I deepfake sono gli esempi più noti di video sintetici creati con l'intelligenza artificiale ed effetti visivi speciali. I primi deepfake si basavano sul face-swapping e su soggetti statici.
Esempi di primi deepfake:
Terminator interpretato da Sylvester Stallone (2019)
Zuckerberg ci controlla (2019)
Beckham parla 9 lingue (2019)
DREAM
VIDEO SINTETICI
Negli ultimi anni, i video sintetici si sono evoluti fino a riprodurre movimenti del corpo e illuminazioni complesse. I modelli AI text-to-video di oggi possono generare da zero intere scene iperrealistiche. Il termine «deepfake» è arrivato a indicare anche la creazione o manipolazione realistica di qualsiasi tipo di media.
Esempi che mostrano l'evoluzione dei modelli:
Tom Cruise gioca a golf (2021)
Passeggiata a Tokyo di Sora (2024)
Lancio di Aleph 2.0 di Runway (2026)
DREAM
INFLUENCER SINTETICI
�Creare influencer AI sta diventando più facile ed economico: mentre il famoso personaggio AI Lil Miquela ha richiesto team di uno studio e budget di produzione considerevoli, il guru del benessere AI Yang Mun è stato creato da una sola persona usando strumenti AI disponibili pubblicamente.
Oggi ha oltre 2,5 milioni follower.
DREAM
GEOGRAFIA FALSA
È anche possibile generare immagini satellitari sintetiche realistiche di luoghi che non esistono, oppure alterare immagini satellitari reali.
DREAM
PODCAST SINTETICI
Esistono persino podcast generati dall'AI. Ad esempio, il Washington Post dispone di uno strumento AI per creare podcast conversazionali su misura in base agli argomenti scelti dall'utente, alla cronologia di lettura, ai conduttori preferiti e alla durata selezionata.
DREAM
AI SLOP
Oggi il web è pieno del cosiddetto «AI slop»: media sintetici di bassa qualità prodotti in serie. L'obiettivo principale è generare engagement facendo leva su emozioni forti, come paura, rabbia o compassione.
Ma critici avvertono del crescente rischio di disinformazione.
DREAM
Ma come sono generati?
TEXT TO…
Nel 2022 ha iniziato a diffondersi una serie di software AI capaci di trasformare il testo (prompt) in vari tipi di contenuto: immagini, audio, linguaggi di programmazione.
Hai mai sentito parlare di ChatGPT?
DREAM
ANY TO ANY
Nel 2026 questi software sono integrati in modelli generativi multimodali (es. Gemini, GPT4o, Claude), che possono accettare più formati in input e restituire più formati in output
Vediamo un esempio di come funziona la generazione text-to-image.
DREAM
1) DATI
Prima di tutto, il modello ha bisogno di un dataset di addestramento che includa coppie corrispondenti di testo e immagine. Queste coppie servono a insegnare al modello come le descrizioni testuali si correlano alle immagini.
DREAM
2) TRAINING
Il modello di deep learning viene poi addestrato su questo dataset. Durante questa fase, il modello impara a mappare le descrizioni testuali in uno spazio di caratteristiche utilizzabile per generare immagini.
DREAM
3) LATENT SPACE
Il modello addestrato genera una rappresentazione all'interno del «latent space», un compendio delle caratteristiche essenziali sia del testo sia delle immagini. Questo latent space funge da ponte tra descrizioni testuali e immagini visive, permettendo al modello di generalizzare dal testo all'immagine.
DREAM
4) GENERAZIONE
Quando una nuova descrizione testuale viene inserita nel modello, viene prima mappata nel latent space.
Da lì, il modello usa la sua componente visiva per generare un'immagine che corrisponde a quella rappresentazione latente.
In questo modo, le parole vengono «tradotte» in una forma visiva.
DREAM
Disinformazione visiva e potenziata dall'AI
02
DREAM
BALENCIAGA POPE
Probabilmente hai già visto questa immagine di un finto Papa Francesco: è stata generata come esperimento ed è diventata il fenomeno virale dell'AI visiva nel 2023.
DREAM
TRUMP ARRESTATO
Quello stesso anno, immagini sintetiche che mostravano l'arresto di Trump sono diventate virali in tutto il mondo.
DREAM
TRUMP ARRESTATO
Immagini come questa diventano virali perché ritraggono personaggi molto famosi in situazioni insolite ma possibili: all'epoca, Trump era sotto processo.
Tuttavia, possono essere smentite rapidamente.
DREAM
DEEPFAKE IN POLITICA
Fin dall'inizio, i deepfake sono stati usati per manipolare l'informazione, anche in politica, come queste immagini di fan di Taylor Swift che sostengono Trump nel 2024.
Oggi i contenuti manipolati con l'AI possono raggiungere livelli di sofisticazione molto più difficili da individuare.
DREAM
DISINFORMAZIONE MEDICA
Un altro uso improprio dell'AI riguarda le truffe sanitarie: coinvolgono deepfake che sfruttano i volti di medici reali, o video che imitano specifici formati giornalistici per promuovere medicine alternative e vendere cure miracolose.
Il reel più visto su questo account TikTok polacco che promuove la medicina olistica ha superato 1,3 milioni di visualizzazioni.
DREAM
LA NEBBIA DI GUERRA POTENZIATA DALL'AI
I media sintetici sono diventati uno strumento efficace per la propaganda di guerra.
Nella guerra tra USA-Israele e Iran, un'enorme quantità di immagini e video falsi accresce la confusione attorno al conflitto.
Ad esempio, questo video è stato condiviso decine di migliaia di volte sulle piattaforme social.
DREAM
IMMAGINI MIGLIORATE CON L'AI
Un'altra sfida è posta dalle immagini migliorate con l'AI, che rifiniscono, riscalano o alterano foto o fotogrammi originali.
Queste immagini sono difficili da individuare perché si basano su riprese reali. Possono diffondere informazioni fuorvianti, come nel caso del falso smascheramento di un agente ICE durante le sparatorie a Minneapolis.
DREAM
STORIA VERA, IMMAGINE FALSA
L'arresto del leader venezuelano Maduro è un evento reale, ma ha portato alla diffusione di un enorme numero di immagini sintetiche, molte delle quali sono state condivise persino dagli account social ufficiali di Donald Trump.
DREAM
STORIA VERA, IMMAGINE FALSA (?)
In questo caso, nemmeno un'analisi del NY Times ha potuto determinare se la foto fosse generata dall'AI o meno. Alla fine, hanno scelto di pubblicare la foto nel contesto del post di Trump.
Questa immagine illustra meglio di qualsiasi altra quanto stia diventando sempre più complesso riconoscere i media sintetici.
DREAM
Come riconoscere i media sintetici
03
DREAM
SII UNO SPETTATORE ATTIVO
Oggi è estremamente facile imbattersi in media sintetici online, soprattutto sui social media.
Alcuni sono molto sofisticati e difficili da individuare senza un metodo di fact-checking. Ciononostante, possiamo comunque creare una nostra strategia per non farci ingannare dai media sintetici.
DREAM
UN METODO IN 3 PASSI
Quando ti imbatti in un contenuto che per qualche motivo ti sembra un po' strano puoi:
DREAM
ZOOM OUT: CHI È LA FONTE?
Prima di esaminare i dettagli visivi di un'immagine o di un video, controlla chi è l'autore del contenuto.
È una testata giornalistica, una pagina di intrattenimento, un utente dei social media o qualcos'altro? A chi è destinato e perché?
DREAM
ZOOM OUT: INFO DELL'ACCOUNT
Guarda l'account della fonte del post: eventuali dichiarazioni sull'uso dell'AI potrebbero essere visibili nell'username, nella bio e nella descrizione del profilo.
DREAM
ZOOM OUT: CRONOLOGIA DEI POST
Controllare i post precedenti della pagina può aiutarti a capire se condivide regolarmente media sintetici.
DREAM
ZOOM IN: HASHTAG
Presta attenzione ai dettagli nel testo. A volte l'autore di un contenuto dichiara l'uso dell'AI tramite hashtag espliciti, come:
DREAM
ZOOM IN: COMMENTI
I commenti a un post potrebbero rivelare una discussione sullo status AI del contenuto, offrendo indizi e prove dell'uso dell'intelligenza artificiale.
DREAM
ZOOM IN: ETICHETTE
Molte piattaforme social hanno introdotto etichette per segnalare i contenuti generati o modificati con l'AI, ma spesso sono assenti.
Quando presenti, puoi trovare le etichette nella descrizione del post. A volte sono presenti solo nell'interfaccia dell'app della piattaforma ma assenti in quella web.
DREAM
ZOOM IN: FILIGRANA VISIBILE
Alcuni modelli generativi aggiungono filigrane visibili ai contenuti AI. La filigrana si trova di solito nell'angolo in basso a destra: nelle immagini di Gemini appare come un'icona a scintilla bianca, nei video di Veo è una piccola etichetta con la scritta «Veo».
Tuttavia, tutte queste filigrane possono essere rimosse facilmente ritagliando e post-editando il contenuto, o usando strumenti di terze parti per rimuovere le filigrane.
DREAM
ZOOM IN: FILIGRANA NASCOSTA
Esistono anche filigrane digitali incorporate nei media sintetici. Un esempio è il SynthID di Google, che permette agli utenti di verificare l'origine di un contenuto digitale e vedere se sono stati usati gli strumenti AI di Google nella sua creazione o modifica.
Ad esempio, un SynthID è incorporato in questa immagine realistica dei resti di un caccia israeliano.
DREAM
ZOOM IN: FILIGRANE CONSIGLIATE
Potresti anche imbatterti in una filigrana come queste.
Sviluppate dalla Commissione UE in conformità con l'AI Act, provengono da un insieme aperto di icone che creatori, editori e altri utilizzatori di sistemi di AI generativa possono usare per etichettare i propri contenuti generati dall'AI.
DREAM
UNA QUESTIONE DI CREDENZIALI
In teoria, le grandi aziende tech si sono impegnate a rendere note le cosiddette Content credentials, uno standard di settore che indica quando un media è stato creato e se è stato modificato.
DREAM
IL TEST DEL WASHINGTON POST
In pratica, il sistema è ancora volontario e quindi inefficace nel rilevare l'AI.
Lo ha dimostrato il Washington Post, che ha caricato un video generato dall'AI su otto piattaforme social. Solo YouTube ha mostrato un avviso sull'origine AI del video, che compariva nella descrizione. Nessuna delle otto piattaforme ha reso note le Content Credentials.
DREAM
ZOOM IN: LA CHECKLIST (VECCHIA MA ANCORA VALIDA)
Anche se stanno diventando sempre più rari, puoi ancora trovare errori dell'AI in dettagli visivi come:
DREAM
ZOOM IN: TROVA L'ERRORE
I media sintetici sono diventati iperrealistici, ma in certi casi piccoli dettagli possono ancora tradire l'AI.
Noti qualcosa di strano in questo video?
DREAM
ZOOM IN: TROVA L'ERRORE
Mentre i camion avanzano, nell'angolo in basso a destra del video si nota un movimento innaturale delle rocce che costeggiano la strada, a riprova che è generato dall'AI.
DREAM
LOOK BEYOND
Oltre a controllare la fonte e i dettagli del contenuto, è importante fermarsi e riflettere sul quadro generale: come ti fa sentire il contenuto?
Fermati prima di reagire. Chiediti quale narrazione rafforza il contenuto e se sta cercando di persuaderti di qualcosa. Nel dubbio, parlane con un adulto di fiducia prima di contribuire a diffonderlo.
DREAM
04
Strumenti per generare e analizzare i media sintetici
DREAM
GENERARE MEDIA SINTETICI
Oggi i principali modelli multimodali (Claude, ChatGPT, ChatGPT, ecc.) permettono agli utenti di generare diversi tipi di output multimediali.
Tuttavia, esistono anche alcuni servizi AI specializzati in specifici tipi di output, come Runway per i video o Recraft per la grafica.
DREAM
GENERAZIONE DI MEDIA SINTETICI: UNA PANORAMICA
Progettazione grafica
Generazione multimodale
Generazione di video
Generazione di immagini
STRUMENTI PER IL RILEVAMENTO DELL'AI
Man mano che i modelli generativi migliorano, distinguere i media sintetici diventa sempre più difficile.
Esistono strumenti automatici che valutano la probabilità che un contenuto sia generato o modificato dall'AI, come Deepware o l'AI Image Detector on Hugging Face.
DREAM
STRUMENTI PER IL RILEVAMENTO DELL'AI (?)
Tuttavia, nessuno di questi strumenti è accurato al 100%.
Di fatto, come ha mostrato il NY Times, il rischio di errori è significativo, soprattutto con immagini e video complessi.
DREAM
TROVARE LA FILIGRANA NASCOSTA
Esistono metodi di verifica specifici per modelli specifici: per verificare se un contenuto è stato creato o modificato dall'AI di Google, puoi caricare il file in Gemini e chiedergli con un prompt di eseguire il controllo.
Di recente, OpenAI ha adottato lo stesso meccanismo di verifica.
DREAM
INVID
Se hai bisogno di analizzare i singoli fotogrammi di un video per capire meglio se ci sono dettagli che non tornano, puoi usare InVid: è un servizio online gratuito che permette di eseguire analisi approfondite di video e immagini.
DREAM
RICERCA INVERSA DELLE IMMAGINI
Come hai visto nel modulo sul fact-checking, la ricerca inversa delle immagini può anche aiutarti a vedere se e dove un'immagine è già stata pubblicata online, a identificare dove è stata pubblicata per la prima volta o a trovare siti in cui è stata smentita.
Strumenti:
DREAM
IL FACT-CHECKING NON BASTA
Tuttavia, a volte nessuna di queste tecniche analitiche è sufficiente per smentire con certezza un video o una foto.
È quindi necessario adottare un approccio preventivo alla disinformazione. Approfondiremo l'argomento nel prossimo capitolo.
DREAM
05
Attività
Synthetic Media
Attività 2. Questo video è reale?
Questa è un'attività pensata per gli insegnanti, ma può essere usata anche direttamente in classe. Scansiona il QR: