“Questi gruppi estremisti non temono la tecnologia, la abbracciano e la usano per promuovere la loro propaganda”
Negli Stati Uniti gli estremisti stanno sfruttando sgli trumenti di intelligenza artificiale per diffondere l’odio in modo più veloce ed efficiente. La Middle East Media Research Institute (Memri), un’organizzazione americana senza scopo di lucro che monitora la stampa, ha pubblicato un nuovo rapporto che rivela come i neonazisti sfruttino l’intelligenza artificiale per divulgare messaggi d’odio. Sempre più gruppi estremisti e individui vicini all’estrema destra utilizzano, infatti, il potere dell’IA per fare propaganda e diffondere disinformazione o anche per ricevere indicazioni per realizzare armi stampate in 3D o istruzioni per fabbricare bombe.
Come i neonazisti sfruttano l’IA
Queste persone utilizzano gli strumenti tecnologici più recenti, tra cui anche la traduzione e l’emulazione vocale, per reclutare nuovi adepti e radicalizzare i loro sostenitori online a una velocità senza precedenti in spazi online come OpenAI, Google e Microsoft.
“Non solo i neonazisti e i suprematisti bianchi hanno abbracciato pienamente il lato oscuro dell’intelligenza artificiale, ma continuano ad adottare le ultime tecnologie per incitare alla violenza e causare caos”, ha affermato Steven Stalinsky, Ph.D., direttore esecutivo del MEMRI e uno degli autori del rapporto. “Questi gruppi sono costantemente esclusi dai siti mainstream e devono trovare il modo di diffondere il loro odio“, ha continuato. Gli estremisti stanno anche sperimentando la creazione di un codice finalizzato a rubare le informazioni personali di potenziali obiettivi per il reclutamento.
Un gruppo estremista lo scorso 11 aprile aveva pubblicato un video fake realizzato tramite IA e diffuso su X che mostrava Hitler ballare davanti a una folla di migliaia di persone. Questo è un esempio di come la tecnologia sta rendendo sempre più semplice fare propaganda e diffondere i propri ideali, seppur sbagliati. In questo modo verrà sempre più alimentata la guerra dell’informazione.
Un altro esempio è il video in cui il presidente statunitense Joe Biden pronuncia insulti razzisti durante un discorso e l’attrice Emma Watson legge ad alta voce il Mein Kampf indossando un’uniforme nazista. Un esperto spiega che questa tecnologia viene utilizzata in due modi principali: prima l’AI generativa viene utilizzata per creare bot che gestiscono account falsi e poi viene anche impiegata per realizzare testi, immagini e video attraverso strumenti open source.
Il direttore del progetto MEMRI DTTM e l’autore principale del rapporto, Simon Purdue, ha spiegato: “Questi gruppi estremisti non temono la tecnologia, la abbracciano e la usano per promuovere la loro propaganda, acquisire notorietà virale e aumentare enormemente il loro coinvolgimento online“. “Devono essere adottate misure di salvaguardia per limitare la capacità dei neonazisti, dei suprematisti bianchi e di altri gruppi simili di utilizzare questi strumenti per continuare a diffondere retorica estremista, antisemitismo e odio“, ha continuato.
Lo sviluppo della tecnologia alimenta la propaganda d’odio
MEMRI è stata fondata nel febbraio 1998 e la sua sede principale è a Washington, con filiali in varie capitali del mondo. Da oltre quattro anni il team di esperti che lavora per l’organizzazione monitora e analizza l’attività online di suprematisti, neonazisti e altri estremisti nazionali negli Stati Uniti e nel mondo. Ad illustrare i dettagli delle attività online dei suprematisti sono i ricercatori del Domestic Terrorism Threat Monitor, un gruppo all’interno del Memri che si occupa specificamente di monitorare gli estremisti che operano negli Stati Uniti.
Simon Purdue, direttore del Domestic Terrorism Threat Monitor ha dichiarato: “All’inizio c’era un po’ di esitazione su questa tecnologia e abbiamo assistito a molti dibattiti tra gli estremisti online. Negli ultimi anni siamo passati dal vedere pochi contenuti AI a una porzione sempre più grossa di propaganda d’odio online, in particolare per quanto riguarda i video e la propaganda visiva. Con lo sviluppo della tecnologia, vedremo gli estremisti utilizzarla sempre di più“.
“La tendenza più grande che abbiamo notato nel 2024 è l’aumento dei video. L’anno scorso i contenuti video generati dall’AI erano molto semplici. Quest’anno, con il lancio di Sora da parte di OpenAI e altre piattaforme per la generazione o la manipolazione di video, abbiamo visto gli estremisti utilizzarli come mezzo per produrre contenuti“, ha continuato.
Il rapporto del Memri fornisce centinaia di esempi che illustano come questi utenti abbiano sfruttato strumenti di AI come ChatGPT e Midjourney per alimentare violenza e odio.