In che modo Meta affronta le truffe pubblicitarie delle celebrità?

Meta, la società proprietaria di Facebook e Instagram, è pronta a introdurre la tecnologia di riconoscimento facciale per cercare di contrastare i truffatori che utilizzano fraudolentemente le celebrità nelle pubblicità.

Tra le vittime di queste truffe, che solitamente promuovono schemi di investimento e criptovalute, ci sono anche Elon Musk e l'esperto di finanza Martin Lewis.

Il signor Lewis ha affermato in precedenza di ricevere ogni giorno “innumerevoli” segnalazioni secondo cui il suo nome e il suo volto vengono utilizzati in tali truffe e di esserne rimasto “male”.

Meta utilizza già un sistema di revisione degli annunci che sfrutta l'intelligenza artificiale (IA) per rilevare falsi endorsement da parte di celebrità.

Diamo un'occhiata a cosa sta facendo per contrastare le truffe pubblicitarie sulle celebrità e ai problemi che Meta deve affrontare.

Cosa si sta facendo?

Meta ha dichiarato che sta testando nuovamente il servizio nell'ambito di una stretta contro le truffe che coinvolgono le celebrità.

L'azienda ha affermato: "Sappiamo che la sicurezza è importante e questo include la possibilità di controllare i propri account sui social media e proteggersi dalle truffe.

"Ecco perché stiamo testando l'uso della tecnologia di riconoscimento facciale per aiutare a proteggere le persone dalle pubblicità che inducono le celebrità a commettere reati e consentire un recupero più rapido dell'account.

"Ci auguriamo che condividendo il nostro approccio, possiamo contribuire a rafforzare le difese del nostro settore contro i truffatori online.

"I truffatori spesso cercano di utilizzare immagini di personaggi pubblici, come creatori di contenuti o celebrità, per indurre le persone a interagire con annunci pubblicitari che portano a siti Web truffaldini, dove viene chiesto loro di condividere informazioni personali o inviare denaro.

"Questo schema, comunemente chiamato 'celeb-bait', viola le nostre politiche ed è dannoso per le persone che utilizzano i nostri prodotti.

"Certo, le celebrità sono presenti in molte pubblicità legittime. Ma poiché le pubblicità celeb-bait sono progettate per sembrare reali, non sono sempre facili da rilevare."

Descrivendo nel dettaglio le nuove modifiche, Meta ha aggiunto:

"Il nostro sistema di revisione degli annunci si basa principalmente sulla tecnologia automatizzata per esaminare i milioni di annunci pubblicati ogni giorno sulle piattaforme Meta.

"Utilizziamo classificatori basati sull'apprendimento automatico per esaminare ogni annuncio pubblicato sulle nostre piattaforme per individuare eventuali violazioni delle nostre norme pubblicitarie, comprese le truffe.

"Questo processo automatizzato include l'analisi dei diversi componenti di un annuncio, come il testo, l'immagine o il video.

"Adesso stiamo testando un nuovo modo per individuare le truffe che prendono di mira le celebrità.

"Se i nostri sistemi sospettano che un annuncio possa essere una truffa contenente l'immagine di un personaggio pubblico a rischio di essere preso di mira, proveremo a utilizzare la tecnologia di riconoscimento facciale per confrontare i volti nell'annuncio con le immagini del profilo Facebook e Instagram del personaggio pubblico.

"Se confermiamo una corrispondenza e stabiliamo che l'annuncio è una truffa, lo bloccheremo."

"Eliminiamo immediatamente tutti i dati facciali generati dagli annunci per questo confronto una tantum, indipendentemente dal fatto che il nostro sistema trovi una corrispondenza, e non li utilizziamo per nessun altro scopo".

David Agranovich, direttore della divisione Global Threat Disruption presso Meta, ha affermato:

"Questo processo viene eseguito in tempo reale ed è più rapido e molto più accurato delle revisioni umane manuali, quindi ci consente di applicare le nostre politiche di applicazione più rapidamente e di proteggere le persone sulle nostre app da truffe e celebrità".

Deepfakes

Il problema delle truffe ai danni delle celebrità è un problema che Meta affronta da tempo.

È diventato così grande negli anni 2010 che il signor Lewis ha intentato un'azione legale contro Facebook. Tuttavia, ha finito per abbandonare il caso quando il gigante della tecnologia ha accettato di introdurre un pulsante in modo che le persone potessero segnalare le pubblicità truffaldine.

Oltre a introdurre il pulsante, Facebook ha accettato di donare 3 milioni di sterline a Citizens Advice.

Ma queste truffe sono diventate più complesse e molto più realistiche a causa dei cosiddetti deepfake tecnologia, in cui un'immagine realistica generata al computer o un video vengono utilizzati per far sembrare che la celebrità stia sostenendo un prodotto o un servizio.

Meta è stata sottoposta a pressioni affinché prendesse provvedimenti contro la crescente minaccia di queste pubblicità truffaldine.

Il signor Lewis ha esortato il governo a conferire all'ente regolatore britannico Ofcom maggiori poteri per contrastare le pubblicità truffaldine dopo che una falsa intervista con la cancelliera Rachel Reeves è stata utilizzata per indurre le persone a fornire i propri dati bancari.

Meta ha riconosciuto:

"I truffatori sono implacabili e sviluppano continuamente le loro tattiche per cercare di eludere il rilevamento".

"Ci auguriamo che condividendo il nostro approccio, possiamo contribuire a rafforzare le difese del nostro settore contro i truffatori online".

Controversia sul riconoscimento facciale

Sebbene le nuove misure includano il riconoscimento facciale, il suo utilizzo diffuso è controverso.

Facebook lo utilizzava già in precedenza, ma lo ha abbandonato nel 2021 per problemi di privacy, accuratezza e parzialità.

Ora dice che i selfie video saranno criptati e archiviati in modo sicuro, e non saranno mostrati pubblicamente. I dati facciali generati nel confronto saranno eliminati dopo il controllo.

Le recenti iniziative di Meta per contrastare le truffe pubblicitarie che coinvolgono le celebrità evidenziano l'impegno della piattaforma nel migliorare la sicurezza e la trasparenza online.

Concentrandosi su rigorosi processi di verifica e monitoraggio dell'identità, Meta mira a limitare lo sfruttamento delle immagini di personaggi pubblici in annunci pubblicitari fraudolenti che ingannano gli utenti.

Il lancio globale previsto per dicembre 2024 segna un passo significativo verso la risoluzione di questo problema su larga scala, sebbene i vincoli normativi implichino che alcune regioni come il Regno Unito, l'UE, la Corea del Sud e gli stati americani del Texas e dell'Illinois non potranno ancora sperimentare la piena portata di queste protezioni.

Gli sforzi costanti di Meta, uniti alle sperimentazioni internazionali, saranno fondamentali nel definire il futuro degli standard pubblicitari online e dell'affidabilità delle sue piattaforme.