Negli ultimi nove mesi, Meta ha consentito la pubblicazione di decine di inserzioni a pagamento contenenti materiale pedopornografico generato tramite intelligenza artificiale e immagini di minori accompagnate da frasi sessualmente suggestive. Lo rivela un'indagine condotta dal Tech Transparency Project (TTP), i cui ricercatori hanno individuato più di 50 annunci offensivi nella libreria pubblicitaria di Meta, raggiungendo potenzialmente migliaia di utenti negli Stati Uniti, nel Regno Unito e in oltre una dozzina di paesi europei.
Annunci con immagini esplicite di bambini pubblicati su Facebook e Instagram
Secondo i dati raccolti dal TTP, gli annunci sono stati diffusi su Facebook, Instagram, Messenger e Threads. Alcuni di essi promuovevano applicazioni chiamate "nudify" o "undressing", progettate per spogliare digitalmente le persone nelle foto. Katie Paul, direttrice del TTP, ha sottolineato che si tratta di contenuti non pubblicati da terzi, ma di inserzioni che Meta ha esaminato, approvato e lasciato attive, incassando i relativi introiti pubblicitari. Meta ha rimosso gli annunci solo dopo la segnalazione di WIRED, ma per mesi sono rimasti visibili nella libreria pubblicitaria, spesso senza essere rilevati dai sistemi automatici della piattaforma.
Sponsored Protocol
Un video annuncio mostrava il volto di un bambino inserito in scene sessuali
Un esempio riportato dai ricercatori riguarda un video la cui miniatura mostrava un bambino seduto per terra con la scritta "Realizzare fantasie profonde con Generation AI", che al clic riproduceva clip di adulti in atti sessuali e poi aggiungeva il volto del bambino. Un altro annuncio, pubblicato ripetutamente, mostrava una bambina sdraiata con le gambe aperte in posizione sessuale e la frase "Posso mostrarti di più". Il TTP ha segnalato i ritrovamenti al National Center for Missing and Exploited Children (NCMEC) tramite la sua CyberTipline, come previsto per la segnalazione di materiale pedopornografico online.
Sponsored Protocol
Meta ha rimosso gli annunci ma i sistemi AI non hanno bloccato molti casi
Dopo le domande di WIRED, Meta ha eliminato le inserzioni dalla propria libreria pubblicitaria. Un portavoce dell'azienda ha dichiarato che la maggior parte degli annunci aveva una portata minima e che molti erano stati disabilitati prima della condivisione da parte di WIRED. Ha inoltre fatto riferimento a nuove tecnologie AI introdotte di recente per individuare e bloccare gli annunci in violazione al momento del caricamento. Tuttavia, i ricercatori del TTP hanno scoperto circa 30 annunci aggiuntivi nelle ore precedenti alla pubblicazione dell'articolo, molti dei quali erano ancora attivi e mostrati agli utenti. Ciò solleva dubbi sull'efficacia dei sistemi di revisione, che secondo le policy di Meta dovrebbero controllare ogni inserzione prima della messa online.
Annunci pagati da società cinesi e collegati a un'app di deepfake sessuali
Gli annunci individuati erano stati per lo più pubblicati da account con zero o pochissimi follower, e in alcuni casi l'inserzionista dichiarato era la società cinese Meet Social, storicamente uno dei rivenditori pubblicitari di Meta in Cina. Alcuni annunci rimandavano a un'app chiamata MaskAI, presente sull'App Store di Apple, che una volta scaricata mostrava esclusivamente contenuti pornografici generati con AI, inclusa la possibilità di applicare il volto di una persona a scene sessuali. Dopo il contatto di WIRED, Apple ha rimosso MaskAI dall'App Store per violazione delle proprie policy. Il caso riaccende il dibattito sull'adeguatezza dei controlli di Meta e sull'uso dell'intelligenza artificiale per generare contenuti illegali, come già evidenziato in precedenti articoli sugli agenti AI che mentono per raggiungere i propri obiettivi. La vicenda segue di poche settimane un'inchiesta della BBC che aveva scoperto annunci su Instagram che promuovevano la vendita di materiale pedopornografico in India.
Sponsored Protocol
Le domande sulla responsabilità di Meta nella moderazione degli annunci
La scoperta di annunci identici che Meta aveva già rimosso per violazioni simili solleva interrogativi sulla serietà dell'azienda nel contrastare lo sfruttamento minorile nella pubblicità. La mancanza di strumenti per segnalare contenuti illeciti direttamente dalla libreria pubblicitaria aggrava il problema. Meta dichiara di aver rimosso oltre 36 milioni di contenuti di sfruttamento sessuale minorile l'anno scorso e di aver intrapreso azioni legali contro gli sviluppatori di app nudify, ma episodi come questo dimostrano che le falle permangono. La vicenda richiede un intervento più incisivo da parte delle autorità di regolamentazione e una maggiore trasparenza nelle procedure di revisione pubblicitaria, per proteggere i minori da contenuti così gravi.
Sponsored Protocol
Fonte: https://www.wired.com/story/meta-ran-ads-that-contained-ai-generated-child-sexual-abuse-imagery
