"Ciò che è iniziato come una molestia si è presto trasformato in un'attività redditizia."
Archita Phukan è diventata virale quasi da un giorno all'altro: filmati audaci, un'estetica glamour e persino una foto con la star del cinema per adulti Kendra Lust.
Sembrava solo un'altra persona sicura di sé Influencer di Instagram inseguendo la fama.
Ma ecco il colpo di scena inquietante: lei non era reale.
Il suo profilo Babydoll Archi era semplicemente un personaggio deepfake costruito utilizzando intelligenza artificiale, foto modificate e un'identità rubata.
Il caso ha messo in luce la crescente crisi dell'India, dovuta all'intersezione tra intelligenza artificiale, pornografia online e abusi digitali incontrollati.
Qual è il caso Archita Phukan?
Il profilo Instagram "Babydoll Archi" è apparso per la prima volta nell'agosto 2020. Mostrava una giovane donna sicura di sé che pubblicava video di danza alla moda, selfie e contenuti audaci.
Il numero dei suoi follower è aumentato, complice l'ossessione dei social media per i video di trasformazione e l'estetica da "cattiva".
Il successo è arrivato alle stelle quando Archita ha fatto il playback di un reel sulle note di 'Dame Un Grrr'.
L'account ha ora oltre 1.4 milioni di follower ed è verificato.
La situazione degenerò quando Archita pubblicò una foto insieme alla star americana del cinema per adulti Kendra Lust.
In tutta l'India si diffuse la voce che una donna assamese fosse entrata a far parte dell'industria pornografica americana. Le pagine di meme in Assam ebbero un successo strepitoso. L'intrigo non fece che crescere. Era lei la prossima star virale del porno in India?
Ma la verità era molto più oscura.
L'intero personaggio era stato creato tramite intelligenza artificiale dall'ex fidanzato della vera Archita Phukan, Pratim Bora, un ingegnere meccanico di Tinsukia, Assam.
Utilizzando una singola immagine di lei, Bora ha creato un'identità deepfake come parte di un sinistro vendetta tracciare.
Ha utilizzato strumenti come OpenAI, Midjourney e altri software di intelligenza artificiale per generare contenuti realistici e seducenti. Ha alterato foto, ha sincronizzato le canzoni, ha montato video di viaggio e ha persino aggiunto materiale pornografico sintetico, il tutto all'insaputa o senza il consenso della vittima.
Sizal Agarwal, IPS, SSP responsabile di Dibrugarh, ha affermato:
"Ciò che è iniziato come una molestia si è presto trasformato in un'attività redditizia."
L'account, che cambiò nome da Babydoll Archi ad Amira Ishtara, cominciò a monetizzare rapidamente.
Secondo quanto riferito, Bora ha guadagnato oltre 10 lakh di rupie (8,600 sterline) tramite una piattaforma di abbonamento chiamata ActualFans, dove venivano ospitati contenuti per adulti generati dall'intelligenza artificiale di "Babydoll Archi".
Agarwal ha aggiunto: "Abbiamo rintracciato il numero dell'account Instagram e lo abbiamo collegato al nome di Pratim. Quando abbiamo chiesto alla famiglia se sapessero chi fosse, ci hanno detto che era un conoscente della vittima.
"Lui ha iniziato per molestarla, ma non appena ha cominciato a guadagnare soldi, è diventato avido e ha continuato a gestire l'account."
Bora è stato arrestato dopo che la vittima ha scoperto l'account ed è stata sporta denuncia.
La polizia ha sequestrato schede SIM, un laptop, un tablet e altri dispositivi digitali. Le indagini suggeriscono che Bora abbia utilizzato diversi ID Gmail e account social falsi per diffondere il contenuto e nascondere la sua identità.
Ma la cosa ancora più inquietante era quanto l'inganno fosse diventato credibile.
I commenti di Kendra Lust sui post di Archita, probabilmente modificati, hanno alimentato ulteriormente l'illusione.
Internet, veloce a reagire ma lento a verificare, l'ha accettato senza fare domande. E la donna al centro di tutto si è ritrovata a raccogliere i pezzi di una vita che non aveva scelto di vivere.
Il problema della pornografia in India
Il caso Archita Phukan è profondamente intrecciato con un’altra questione che l’India deve ancora affrontare adeguatamente: l’ondata di pornografia e il suo tabù culturale.
Sebbene la pornografia in sé non sia esplicitamente illegale in India, la sua produzione, distribuzione e trasmissione sono regolamentate, spesso in modo non uniforme.
Eppure i contenuti, sia reali che falsi, inondano lo spazio digitale.
Dai sextape trapelati ai video privati, fino al materiale generato dall'intelligenza artificiale, si diffonde incontrollato su app, forum e piattaforme social.
L'India è tra i maggiori consumatori di materiale pornografico a livello mondiale. Eppure, il sesso rimane un argomento tabù.
La psicologa Shreya Kaul ha affermato: "È un tabù, è disapprovato, è definito osceno.
“C'è uno scontro di ideologie, come se l'attività sessuale e la vita sessuale di una persona fossero direttamente legate alla sua moralità, alla sua cultura e alla sua posizione nella società.”
Questo silenzio culturale ha lasciato un vuoto.
In assenza di un'educazione sessuale completa, molti giovani si rivolgono alla pornografia come principale fonte di informazione. Ma ciò che consumano è ben lontano dalla realtà.
La pornografia è sceneggiata, stilizzata e mercificata. Non insegna nulla sul consenso, l'intimità o la connessione emotiva.
Kaul ha aggiunto: "Che lo approvino o lo consumino come forma di ribellione, gratificazione o curiosità, la maggior parte delle persone continuerà a guardarlo, anche coloro che lo denunciano pubblicamente".
Nel caso di Archita Phukan, la reazione online è stata rapida e sfacciata.
La sezione commenti su Instagram era piena di richieste di più "contenuti espliciti", link pornografici e commenti degradanti.
In India la sessualità, in particolare quella femminile, è ancora controllata attraverso la vergogna.
Quando qualcuno, anche un deepfake, rompe gli schemi, la società è pronta a punirlo, deriderlo o fantasticare.
La falsa identità divenne un parco giochi fantastico e la vera donna ne subì il trauma.
Deepfake: una minaccia digitale all'identità
Cosa rende deepfakes Ciò che è particolarmente pericoloso è la loro credibilità.
A differenza delle banali modifiche fotografiche o dei rudimentali lavori di Photoshop, i contenuti generati dall'intelligenza artificiale possono ora imitare gesti, voci, espressioni facciali e persino movimenti oculari con una precisione allarmante.
Questo ha visto molti Bollywood le celebrità ne sono vittime.
Faisal Kawoosa, di Techarc, ha spiegato: "Il deepfake e l'intelligenza artificiale in generale diventano ogni giorno più sofisticati.
"Noi tutti, in quanto utenti digitali, dobbiamo prestare molta attenzione al modo in cui condividiamo le nostre informazioni, come foto e video, anche nelle nostre cerchie personali."
Ciò che un tempo richiedeva un team di grafici esperti ora può essere fatto da un adolescente con uno smartphone e una connessione a internet. Ecco quanto sono diventati accessibili e avanzati questi strumenti.
Per le donne, in particolare quelle presenti sui social media, il rischio è maggiore.
Un selfie casuale può essere copiato, modificato e riutilizzato in materiale pornografico in pochi minuti. E una volta pubblicato online, il danno è irreversibile.
Kawoosa ha aggiunto: "Un'intervista a una celebrità su YouTube può essere sfruttata per creare un deepfake. È qui che dobbiamo dotarci di sistemi migliori".
Le implicazioni vanno oltre la reputazione. Le vittime subiscono conseguenze reali, dalle molestie al cyberbullismo, fino a problemi di salute mentale e isolamento sociale. E in molti casi non esiste alcuna possibilità di ricorso legale.
Leggi informatiche dell'India
L'India esistente leggi informatiche, redatte più di due decenni fa, non sono mai state concepite per gestire la portata e la complessità degli abusi digitali odierni.
Sebbene alcune sezioni dell'IT Act affrontino la diffamazione informatica e i contenuti osceni, non sono adatte a contrastare i deepfake o la pornografia generata dall'intelligenza artificiale.
Gli esperti sostengono che la responsabilità della piattaforma sia fondamentale.
Le aziende di social media spesso evitano la responsabilità sostenendo di essere semplici intermediari. Ma il caso Archita Phukan dimostra che le piattaforme svolgono un ruolo centrale nell'amplificazione.
Kawoosa ha affermato: "Innanzitutto, dobbiamo far sì che tutte le piattaforme siano tenute a rendere conto delle proprie azioni e colmare la lacuna che consente loro di sottrarsi alle proprie responsabilità".
Prabhu Ram, vicepresidente dell'Industry Research Group di CMR, ritiene che l'India abbia bisogno di una riforma legislativa urgente:
Il caso del deepfake di Archita Phukan è un duro promemoria di quanto agghiacciantemente l'intelligenza artificiale possa essere trasformata in un'arma.
Per contrastare efficacemente la crescente minaccia dei deepfake, è necessario emanare leggi chiare per criminalizzare l'uso dannoso, imporre un'etichettatura trasparente dei contenuti generati dall'intelligenza artificiale e responsabilizzare le piattaforme in materia di rilevamento e rimozione.
Ram ha inoltre chiesto meccanismi di protezione delle vittime, investimenti in strumenti di rilevamento dei deepfake e cooperazione internazionale per contrastare la natura globale di tali minacce.
Il divario tra silenzio e vergogna
Il caso Archita Phukan è un segnale d'allarme. Ci dice che chiunque, che si tratti di tua sorella, del tuo partner o di un tuo amico, può essere vittima di sfruttamento digitale. Bastano pochi clic.
Internet non è più uno spazio sicuro per l'espressione. È sempre più uno spazio di sfruttamento, e la società, le forze dell'ordine e il governo stanno ancora cercando di recuperare terreno.
Agarwal ha affermato: "Questo caso ha portato alla luce un fatto molto importante.
"Dobbiamo usare il cervello quando vediamo contenuti online e accertarci che le informazioni siano vere e verificate oppure no."
Finché l'India non aggiornerà le sue leggi, non istruirà i giovani e non chiederà conto alle piattaforme, l'onere di proteggersi in un mondo digitale truccato a loro sfavore continuerà a ricadere sui singoli individui, soprattutto sulle donne.
La storia di Archita Phukan non è solo l'ennesima controversia sui deepfake: è una questione di diritti umani nell'era digitale.
Rivela come la vendetta personale, combinata con la potente tecnologia e il voyeurismo sociale, possa rovinare la vita.
Ciò che è successo a lei potrebbe succedere a chiunque.
L'intelligenza artificiale ha democratizzato la creazione di contenuti, ma anche la loro distorsione. E il confine tra fantasia e realtà non è mai stato così sottile.
Se l'India vuole proteggere i suoi cittadini, deve agire ora.
Riformare le leggi. Educare gli utenti. Pretendere trasparenza. E, soprattutto, ascoltare le vittime, non solo quando diventano virali, ma prima che il danno diventi irreparabile.
Perché nell'era delle illusioni, la verità non è più scontata. Bisogna lottare per ottenerla.
Caricamento in corso ...