"Un'ulteriore prova di un'economia dell'indignazione."
Poco dopo lo scoppio della guerra tra Stati Uniti e Iran, ha iniziato a circolare online un video generato dall'intelligenza artificiale che ritraeva il Primo Ministro britannico Keir Starmer in piedi davanti a un leggio di Downing Street, vestito con abiti islamici.
Nel giro di pochi giorni, aveva accumulato circa 400,000 visualizzazioni tra Facebook e Instagram.
Nel video, l'avatar pronuncia un discorso inventato e incendiario, che include un linguaggio islamofobo e un insulto razziale rivolto ai pakistani.
A prima vista, sembra un altro esempio di AI-disinformazione politica alimentata dalla rapida diffusione sulle piattaforme dei social media.
Ma l'origine di questi contenuti complica tale ipotesi in un modo inaspettato.
Secondo L'Ufficio indagaIl creatore è un uomo musulmano residente in Pakistan che gestisce anche account a tema religioso.
Il suo caso mette in luce una realtà crescente e inquietante: gli strumenti di intelligenza artificiale non solo stanno democratizzando la creazione di contenuti, ma stanno anche annullando il confine tra ideologia, intenti e profitto.
Ciò che emerge è un ecosistema online in cui l'indignazione viene prodotta su larga scala, spesso avulsa da credenze, comprensione o persino competenza linguistica.
Il creatore della Gran Bretagna di oggi
L'uomo dietro i contenuti gestiva una rete di pagine sui social media rivolte al pubblico del Regno Unito.
Una delle più importanti era una pagina Facebook chiamata Britain Today, che ha accumulato 192,000 follower, insieme a un account Instagram con 44,000 follower e una presenza su TikTok con 11,000 follower.
Insieme, hanno generato milioni di visualizzazioni grazie a un flusso costante di meme, video e clip rielaborati creati dall'intelligenza artificiale.
Secondo quanto riportato da Bureau Investigates, l'autore sosteneva che la sua motivazione principale fosse la sopravvivenza economica, affermando di guadagnare circa 1,500 dollari al mese da una singola pagina.
Ha dichiarato al giornale: "Siete a conoscenza delle condizioni in Pakistan, del prezzo della benzina e della situazione generale. Chiunque svolga questo lavoro lo fa per guadagnarsi da vivere."
“Non ci interessano le notizie. Non ho nemmeno guardato cosa viene detto nei video, cosa è stato scritto e cosa non è stato scritto.”
Il contenuto stesso spaziava da rappresentazioni di politici britannici generate dall'intelligenza artificiale a meme che promuovevano teorie del complotto come la narrativa della "grande sostituzione", che afferma falsamente che gli immigrati non bianchi stiano deliberatamente sostituendo le popolazioni bianche.
Altri post descrivevano i musulmani che pregano in pubblico come una "strategia di dominio" e un'"invasione dell'Occidente".
Meta ha successivamente rimosso gli account dopo averli segnalati, ma non prima che i loro contenuti si fossero ampiamente diffusi su diverse piattaforme.
Un portavoce ha dichiarato: "Abbiamo standard comunitari chiari che vietano l'incitamento all'odio, le molestie, la disinformazione dannosa e i comportamenti non autentici, e abbiamo rimosso questi account per violazione delle nostre norme."
L'industrializzazione dell'indignazione
Ciò che rende questo caso particolarmente significativo non è solo il contenuto, ma anche il metodo di produzione.
Il creatore ha dichiarato: "Tutti i contenuti, persino il nome della pagina e tutto il resto, i contenuti presenti nei video, sono generati dall'intelligenza artificiale."
Strumenti come Grok, Whisk (il generatore di immagini di Google), Gemini, CapCut e ChatGPT facevano parte di un flusso di lavoro progettato per automatizzare la creazione di contenuti.
In pratica, ciò significava cercare argomenti di tendenza, copiare i riassunti, incollarli negli strumenti video e generare contenuti basati sull'IA visivi e sottotitoli in pochi minuti.
Ha dichiarato a The Bureau Investigates: "Se ci sono proteste e cose del genere nel Regno Unito, quei video li prendo da Twitter o TikTok.
"Tutte queste cose sono copiate e incollate... Le prendo da lì e le metto su Facebook."
Ha inoltre affermato di aver appreso le tecniche di monetizzazione attraverso tutorial su YouTube e consulenze a pagamento da altri creatori. I sistemi di monetizzazione di Meta, che premiano i contenuti ad alto coinvolgimento tramite inserzioni pubblicitarie e bonus, facevano parte della sua strategia di guadagno.
Questo modello riflette un cambiamento più ampio negli ecosistemi dei contenuti digitali, dove il coinvolgimento, piuttosto che l'intento o l'accuratezza, determina la visibilità e la ricompensa.
Sam Stockwell, ricercatore senior presso il Centro per le tecnologie emergenti e la sicurezza, ha descritto questo fenomeno come un'economia "ombra" basata sull'influenza esterna.
“Questo modello privilegia le entrate passive rispetto all'ideologia politica, trasformando i contenuti divisivi in una merce redditizia.
"Sfruttando il modo in cui gli algoritmi dei social media danno priorità alle metriche di coinvolgimento più elevate, questi creatori si stanno rendendo conto che le narrazioni xenofobe o anti-establishment sono le vie più efficaci per diventare virali e, di conseguenza, per guadagnare denaro."
Il risultato è un sistema in cui la disinformazione non richiede un impegno ideologico. Richiede solo attenzione.
Impatto politico
I contenuti pubblicati da Britain Today si sono intrecciati direttamente con il dibattito politico reale nel Regno Unito, in particolare su temi come l'immigrazione, l'islamofobia e figure pubbliche come il sindaco di Londra Sadiq Khan.
Alcuni post hanno utilizzato filmati autentici di Khan che parlava dei pregiudizi subiti dai musulmani britannici, ma li hanno ricontestualizzati con didascalie che accusavano il governo di sostenere le organizzazioni musulmane "mentre [i musulmani] stuprano donne e bambini".
Altri post descrivevano gli assembramenti religiosi pubblici, come un evento iftar a Trafalgar Square, come un "evento di colonizzazione".
Un portavoce di Sadiq Khan ha commentato i risultati dell'indagine definendo il caso un'ulteriore prova dell'esistenza di un'“economia dell'indignazione” online.
Hanno affermato: "Questo esempio raccapricciante è l'ennesima prova di un'economia dell'indignazione in cui le persone traggono profitto dalle narrazioni velenose che diffondono online, comprese quelle che prendono di mira i londinesi musulmani.
"Le aziende dei social media devono fare molto di più per fermare la diffusione di menzogne e odio sulle loro piattaforme e impedire che coloro che le creano e diffondono vengano ricompensati economicamente."
La preoccupazione politica va oltre i singoli casi.
Emily Darlington, membro della commissione parlamentare per la scienza, l'innovazione e la tecnologia, ha messo in guardia contro la vulnerabilità sistemica, affermando che "esiste chiaramente un mercato per i contenuti d'odio nel Regno Unito".
L'autore dei contenuti islamofobi generati dall'intelligenza artificiale ha affermato di non comprendere appieno la natura dei contenuti che stava diffondendo:
“Non parlo un inglese corretto e quindi non capisco cosa hanno scritto e cosa non hanno scritto.”
“Ma ormai quel che è fatto è fatto. È un bene che tu me l'abbia detto. Ti sono grato.”
Ha dichiarato a The Bureau Investigates che avrebbe cancellato i post e che in futuro avrebbe evitato contenuti simili; tuttavia, molti dei video offensivi sono rimasti online fino all'intervento di Meta.
Ciò che questo caso rivela in definitiva non è solo un fallimento della moderazione, ma un cambiamento strutturale nel modo in cui l'influenza online opera oggi.
Gli strumenti di intelligenza artificiale hanno abbassato così tanto la barriera d'ingresso che i contenuti possono essere prodotti, tradotti e monetizzati senza alcuna comprensione, intenzione o persino padronanza della lingua.
In combinazione con i sistemi di monetizzazione basati su algoritmi, ciò ha creato un canale globale per contenuti che "fanno leva sull'indignazione a scopo di lucro".
In questo nuovo ecosistema, l'ideologia è facoltativa. La viralità no.
Caricamento in corso ...