Russia e Iran usano ChatGPT per propaganda anti-Ucraina con falsi giornalisti

OpenAI ha scoperto e disattivato due operazioni coordinate di influenza digitale orchestrate da Russia e Iran, entrambe costruite attorno all'uso sistematico di ChatGPT per generare propaganda anti-Ucraina su larga scala. L'indagine della società ha rivelato che gli attori statali sfruttavano il modello linguistico per creare contenuti disinformativi sofisticati, inclusi articoli e profili di falsi giornalisti, diffusi attraverso siti web contraffatti e account social costruiti ad hoc. La campagna rappresenta uno dei primi esempi documentati di come strumenti di intelligenza artificiale generativa possono essere trasformati in armi di guerra informativa.

La strategia era duplice: da un lato, gli operatori russi e iraniani creavano identità fittizie di corrispondenti e commentatori occidentali, conferendo ai loro contenuti un'apparenza di credibilità attraverso l'imitazione di stili giornalistici riconoscibili. Dall'altro, generavano articoli interi e narrazioni pacifiste che dipingevano l'Ucraina sotto una luce negativa o presentavano la guerra come un conflitto dove la pace era possibile solo attraverso concessioni territoriali. Questi contenuti venivano poi amplificati attraverso reti di siti web clonati, che replicavano il design e la struttura di testate giornalistiche occidentali legittime per aumentare la percezione di autenticità.

Ciò che rende questa operazione particolarmente significativa è la scala e l'efficienza del metodo. Utilizzando ChatGPT, gli operatori potevano generare decine di articoli al giorno, adattandoli a diversi pubblici e piattaforme senza richiedere team redazionali tradizionali. Il modello linguistico forniva la velocità e la versatilità necessarie per mantenere una pressione costante di messaggi disinformativi, mentre gli account falsi e i siti clonati fornivano i canali di distribuzione. La combinazione di automazione e ingegneria sociale rappresentava un approccio nuovo alla propaganda di stato.

OpenAI ha identificato queste operazioni attraverso il monitoraggio dei pattern di utilizzo anomali e della coerenza tematica nei contenuti generati. Una volta scoperte, la società ha revocato gli accessi e ha notificato le autorità competenti. Il dossier-denuncia di OpenAI ha documentato come entrambi gli attori statali avevano sviluppato processi sofisticati per mascherare l'origine dei loro account e per evitare i sistemi di rilevamento automatico. Tuttavia, i pattern di comportamento — la tempistica dei post, la coerenza dei messaggi, la rete di account correlati — hanno tradito il coordinamento centralizzato dietro le operazioni.

La scoperta solleva questioni urgenti sulla vulnerabilità dei sistemi di informazione democratici di fronte a strumenti di IA sempre più potenti. Se modelli come ChatGPT possono essere utilizzati per generare contenuti disinformativi convincenti a velocità industriale, le difese tradizionali — fact-checking manuale, moderazione umana, segnalazione di contenuti — rischiano di diventare obsolete. OpenAI ha dichiarato che continuerà a monitorare gli abusi della sua piattaforma e a sviluppare sistemi di rilevamento più sofisticati, ma il problema rimane strutturale: ogni strumento di generazione linguistica potente può essere deviato verso scopi malevoli.

Questa operazione non è isolata. Nel corso degli ultimi anni, Russia e Iran hanno investito pesantemente in capacità di guerra informativa, sfruttando social media, siti di notizie false e reti di bot per influenzare l'opinione pubblica in Occidente e nei paesi confinanti. L'aggiunta di strumenti di IA generativa al loro arsenale rappresenta un'escalation qualitativa. Non si tratta più solo di amplificare messaggi esistenti o di coordinare reti di account umani; si tratta di automatizzare la produzione di contenuti persuasivi, riducendo i costi e aumentando la portata in modo esponenziale.

Per i governi occidentali e per le piattaforme tecnologiche, la sfida è ora duplice: da un lato, sviluppare capacità di rilevamento che possano identificare contenuti generati da IA con la stessa velocità con cui vengono prodotti; dall'altro, stabilire norme internazionali che rendano chiaro che l'uso di IA per operazioni di propaganda di stato costituisce una violazione della sovranità digitale. Nel frattempo, il pubblico rimane il fronte più vulnerabile, esposto a una marea crescente di contenuti sofisticati e difficili da distinguere dalla realtà.