I propagandisti e gli hacker di tutto il mondo stanno cercando di utilizzare il chatbot più famoso a livello globale per diffondere propaganda e influenzare le elezioni politiche, secondo quanto riportato in un documento di OpenAI. Dal report emerge che questi gruppi stanno tentando di automatizzare le operazioni avvalendosi dell’intelligenza artificiale (AI), senza però ottenere progressi significativi a causa della moderazione sulla piattaforma.
Il report di OpenAI
Secondo il report recentemente pubblicato da OpenAI, dunque, i propagandisti hanno cercato di utilizzare ChatGPT nelle loro operazioni di influenza elettorale. Tuttavia, OpenAI ha sottolineato che la moderazione della piattaforma è stata molto rigorosa. La compagnia di Sam Altman è l’unica grande azienda tecnologica a pubblicare regolarmente report pubblici su come attori malintenzionati abbiano tentato di abusare dell’AI. Questo approccio fornisce una visione chiara delle strategie messe in atto da propagandisti e hacker, sia indipendenti che sostenuti da altri Stati.
L’AI sempre di più a servizio della propaganda
OpenAI ha bloccato utenti che tentavano di utilizzare ChatGPT per generare contenuti relativi alle elezioni negli Stati Uniti, in Ruanda, in India e nell’Unione Europea.
L’azienda ha registrato anche un’operazione di propaganda iraniana basata sulla creazione di falsi siti di notizie in inglese e dei relativi post sui social media, anche se non è chiaro se questi tentativi siano andati in porto. Inoltre, il mese scorso, proprio gli Stati Uniti hanno incriminato tre hacker iraniani, accusati di essere dietro a un’operazione per violare e divulgare documenti sensibili della campagna presidenziale di Donald Trump.
Le operazioni bloccate
OpenAI ha monitorato anche le operazioni del gruppo di hacker iraniani CyberAv3ngers, che ha cercato di utilizzare ChatGPT per le sue attività illegali. Dopo le sanzioni del Dipartimento del Tesoro degli Stati Uniti a febbraio, il gruppo, che in passato ha attaccato gli impianti di trattamento delle acque negli Stati Uniti e in Israele, sembrava essersi sciolto. Invece, hanno chiesto a ChatGPT informazioni per le loro operazioni, tra cui quali router internet sono più utilizzati in Giordania e come sapere quali vulnerabilità può sfruttare un hacker, nonché un supporto su diverse domande di codifica.
Un’altra operazione, che OpenAI ritiene collegata ad alcune persone in Ruanda, è stata utilizzata per creare post su X a favore del Fronte Patriottico, il partito repressivo che governa il Ruanda da molti anni.
L’azienda ha anche fermato una campagna in vista delle elezioni parlamentari dell’UE, così come un’altra che generava contenuti legati alle elezioni in India. Entrambe le operazioni sono state bloccate e, secondo OpenAI, nessuna di queste campagne ha registrato interazioni significative. Tuttavia, è possibile che i responsabili abbiano semplicemente spostato le loro attività su altri modelli di AI.
Dipendenti di OpenAI a rischio
Anche OpenAI si trova sotto attacco: hacker dalla Cina hanno cercato di violare gli account e-mail personali e aziendali dei suoi dipendenti. Ma, secondo il report, la campagna di phishing non ha raggiunto gli obiettivi sperati.
Anche durante una conferenza stampa del mese scorso, i funzionari dell’intelligence statunitense hanno confermato che propagandisti operanti per conto di Iran, Russia e Cina hanno integrato l’AI nelle loro operazioni di propaganda destinate agli elettori statunitensi, ma che nessuno sembra aver ottenuto grandi successi.
