“L’intelligenza artificiale sta ora potenziando l’abuso sui minori online.”
Il governo del Regno Unito ha annunciato quattro nuove leggi per contrastare le immagini pedopornografiche generate dall'intelligenza artificiale (IA).
I funzionari affermano che queste misure renderanno il Regno Unito il primo paese a criminalizzare il possesso, la creazione o la distribuzione di strumenti di intelligenza artificiale progettati per produrre materiale di abuso sessuale sui minori (CSAM). I trasgressori rischiano fino a cinque anni di carcere.
Anche possedere manuali per pedofili generati dall'IA, che insegnano agli individui come sfruttare l'IA per abusi sessuali, diventerà illegale. Chi verrà scoperto dovrà affrontare una pena massima di tre anni di carcere.
Il ministro dell'Interno Yvette Cooper ha affermato: "L'intelligenza artificiale sta ora sottoponendo gli abusi sui minori online a steroidi".
Ha avvertito che la tecnologia sta “industrializzando la scala” dello sfruttamento sessuale dei minori e ha aggiunto che ulteriori misure “potrebbero dover andare oltre”.
Altre leggi criminalizzeranno la gestione di siti web in cui i pedofili condividono materiale pedopornografico o forniscono consigli su come adescare bambini. Ciò comporterà una pena massima di 10 anni.
La Border Force acquisirà il potere di ordinare alle persone sospettate di rappresentare un rischio sessuale per i bambini di sbloccare i loro dispositivi digitali per l'ispezione al momento dell'ingresso nel Regno Unito. I trasgressori potrebbero rischiare fino a tre anni di prigione, a seconda della gravità delle immagini.
I contenuti CSAM generati dall'intelligenza artificiale possono apparire estremamente realistici, spesso combinando volti di bambini reali con elementi generati dal computer.
In alcuni casi vengono utilizzate le voci di veri bambini, rendendo nuovamente vittime innocenti sopravvissuti.
Queste immagini false vengono utilizzate anche a scopo di ricatto, costringendo le vittime a ulteriori abusi.
Secondo la National Crime Agency (NCA), ogni mese si verificano 800 arresti per minacce di abusi sui minori online.
Si stima che nel Regno Unito 840,000 adulti rappresentino un pericolo per i bambini sia online che offline, pari all'1.6% della popolazione adulta.
Cooper ha continuato: "I criminali usano l'intelligenza artificiale per adescare o ricattare i bambini, distorcendo le immagini e trascinandoli in ulteriori abusi.
“Stanno accadendo le cose più orribili e la situazione sta diventando sempre più sadica.
"La tecnologia non si ferma e la nostra risposta non può fermarsi se vogliamo garantire la sicurezza dei bambini".
Alcuni esperti ritengono che il governo potrebbe andare oltre. La professoressa Clare McGlynn, esperta di leggi sugli abusi online, ha affermato che i cambiamenti erano "ben accetti", ma hanno lasciato "lacune significative".
Ha esortato il governo a vietare le app di “nudificazione” e ad affrontare la “normalizzazione dell’attività sessuale con ragazze dall’aspetto giovane” nella pornografia mainstream.
Ha avvertito che tali contenuti, pur coinvolgendo attori adulti, imitano l'abuso sessuale sui minori e restano legali nel Regno Unito, nonostante i divieti vigenti in altri Paesi.
L'Internet Watch Foundation (IWF) ha segnalato un aumento del materiale pedopornografico generato dall'intelligenza artificiale.
Nel 2024, le segnalazioni confermate sono aumentate del 380%, con 245 casi rispetto ai 51 del 2023. Ogni segnalazione può contenere migliaia di immagini.
Uno studio dell'IWF del 2023 ha rilevato che, nell'arco di un mese, sono state scoperte 3,512 immagini di abusi sessuali su minori tramite AI su un singolo sito scuro sito web ufficiale.
Il numero di immagini di categoria A, le più gravi, è aumentato del 10% rispetto all'anno precedente.
Derek Ray-Hill, amministratore delegato ad interim dell'IWF, ha affermato: "La disponibilità di questi contenuti di intelligenza artificiale alimenta ulteriormente la violenza sessuale contro i bambini.
“Incoraggia gli abusatori e rende i bambini veri meno sicuri”.
Ha accolto con favore l'annuncio del governo, definendolo un "punto di partenza fondamentale".
Lynn Perry, amministratore delegato di Barnardo's, ha sostenuto le misure:
“La legislazione deve tenere il passo con la tecnologia per prevenire questi crimini orribili”.
Ha esortato le aziende tecnologiche a introdurre misure di sicurezza più efficaci e ha chiesto all'Ofcom di garantire che l'Online Safety Act venga applicato in modo efficace.
Le nuove leggi saranno introdotte nel prossimo disegno di legge sulla criminalità e la polizia e dovrebbero raggiungere il Parlamento nelle prossime settimane.