Il nuovo rapporto di Strategic Dialogue (ISD), riportato da WIRED, rivela che centinaia di account estremisti su TikTok pubblicano video che negano l’Olocausto, glorificano Hitler e la Germania nazista, e suggeriscono che l’ideologia nazista possa risolvere i problemi della modernità, come il fenomeno migratorio nei paesi occidentali. Molti di questi account supportano gli autori di stragi di massa riproducendo in live streaming tali massacri.
L’indagine dell’Institute for Strategic Dialogue
Nathan Doctor, ricercatore dell’ISD e autore del rapporto, ha iniziato la sua indagine all’inizio dell’anno, scoprendo una rete ampia di account neonazisti che si aiutano reciprocamente con “Mi piace”, condivisioni e commenti per ampliare la loro portata.
I gruppi che promuovono narrazioni neonaziste erano solitamente confinati alle piattaforme marginali, come Telegram, l’app di messaggistica criptata. “Abbiamo pubblicato contenuti sul nostro nuovissimo account TikTok con 0 follower e abbiamo ottenuto più visualizzazioni di quanto avremmo mai potuto su Bitchute o Twitter“, ha scritto un account neonazista su Telegram riguardo alla loro attività su TikTok.
L’intervento del Global Network on Extremism and Technology
Questo non è il primo caso di promozione di contenuti estremisti tramite la piattaforma cinese. Recentemente, il Global Network on Extremism and Technology ha riferito che l’algoritmo stava promuovendo “l’adorazione di ideologie fasciste minori”. Gli stessi ricercatori hanno scoperto l’anno scorso che l’algoritmo amplificava narrazioni suprematiste eurocentriche nel sud-est asiatico.
Uno dei motivi per cui piattaforme come TikTok non riescono a reprimere efficacemente i contenuti estremisti è l’uso di un linguaggio in codice, emoji, acronimi e numeri. Ad esempio, molti account neonazisti utilizzano un’emoji di una scatola di succo per riferirsi agli ebrei.
Sebbene molti degli utenti identificati abbiano sede negli Stati Uniti, Doctor ha scoperto che la rete è internazionale. “È sicuramente globale, non si limita alla lingua inglese”, dice Doctor a WIRED. “Abbiamo trovato contenuti in francese, ungherese, tedesco e anche in lingue di paesi dove il nazismo è illegale”.
I ricercatori hanno anche creato nuovi account TikTok per analizzare come l’algoritmo promuove i contenuti nazisti ai nuovi utenti. Utilizzandone uno creato a fine maggio, i ricercatori hanno guardato 10 video della rete di utenti pro-nazisti, cliccando occasionalmente sui commenti ma evitando un coinvolgimento diretto.
TikTok non riesce ad arginare il problema
TikTok afferma di aver completato un programma di tutoraggio con Tech Against Terrorism, un gruppo che cerca di identificare l’attività online dei terroristi e aiuta TikTok a riconoscere le minacce online. “Nonostante le misure proattive adottate, TikTok resta una importante piattaforma di condivisione per sua crescente popolarità”, ha detto a WIRED Adam Hadley, direttore esecutivo di Tech Against Terrorism. “Lo studio ISD sottolinea la necessità di un’intelligence sulle minacce multipiattaforma supportata da una moderazione dei contenuti migliorata basata sull’intelligenza artificiale. Il rapporto ci ricorda anche che Telegram dovrebbe essere ritenuto responsabile nell’avanzata delle ideologie estremiste online”.
Hadley sottolinea che i risultati del rapporto dimostrano che le attuali politiche dell’azienda presentano notevoli lacune.
Leggi anche: TikTok ha indirizzato i giovani tedeschi verso il partito di estrema destra
