Il Meta Oversight Board ha pubblicato raccomandazioni urgenti per migliorare la protezione degli utenti comuni contro i deepfake sessuali generati dall'intelligenza artificiale. Attualmente, il sistema di Meta favorisce le figure pubbliche, lasciando le persone normali senza strumenti efficaci per rimuovere contenuti non consensuali. Il Board chiede modifiche concrete alle policy di Adult Sexual Exploitation, inclusa l'aggiunta esplicita delle impersonazioni generate dall'AI come violazione automatica, senza bisogno di prova del consenso.
Segnalazioni complicate per le persone comuni
Il problema emerge da un caso specifico: un utente ha segnalato ripetutamente un video su Instagram che mostrava una donna mentre si sistemava il vestito, con la biancheria intima visibile in alcuni fotogrammi. Il video era stato generato con AI e la persona reale aveva già chiuso il suo account. Due segnalazioni iniziali sono state ignorate da Meta, e anche l'appello successivo non ha portato alla rimozione. Solo dopo l'intervento del Board, Meta ha limitato il post ai soli adulti, ma inizialmente non lo ha rimosso. Questo caso dimostra quanto sia difficile per chi non ha visibilità mediatica ottenere giustizia.
Sponsored Protocol
Le raccomandazioni chiave del Board
Il Board propone tre misure principali. Primo: aggiungere le impersonazioni AI-generated nella policy di sfruttamento sessuale degli adulti, considerandole non consensuali per default. Secondo: permettere agli utenti di designare account fidati come amici o familiari che possano segnalare violazioni per conto loro. Terzo: creare una categoria separata per le impersonazioni sessuali AI nei moduli di segnalazione e appello, distinta da molestie e nudità. Attualmente solo gli utenti di Texas e Florida hanno accesso a un modulo specializzato per i deepfake intimi; il Board vuole estenderlo a tutti globalmente, perché il problema è mondiale.
Sponsored Protocol
Un sistema che penalizza i non famosi
Meta ha giustificato la mancata rimozione affermando che non c'erano indicazioni che la persona nel video fosse reale. Secondo le regole attuali, solo l'autosegnalazione della vittima, forze dell'ordine, media o partner fidati costituiscono prova di non-consenso. Ma per una persona comune è difficile coinvolgere polizia o giornali. Il Board sottolinea che questo approccio favorisce le celebrità e lascia indifesi i cittadini normali, con un impatto sproporzionato su donne e ragazze. La proliferazione di deepfake sessuali causa danni reputazionali e psicologici gravi, e il Board definisce l'attuale incapacità di Meta di applicare le regole coerentemente come incoerente e ingiustificabile.
Non è la prima volta che il Board critica Meta sulla moderazione dei contenuti AI. A marzo 2025, aveva già raccomandato di separare le policy per i contenuti AI da quelle sulla disinformazione, dopo un caso di un video fake su Haifa. Ora, con l'avanzare della tecnologia, la pressione aumenta. Meta è tenuta a rispondere alle raccomandazioni, ma non è obbligata a implementarle. Tuttavia, il Board monitorerà eventuali azioni. Per il caso specifico, il Board ha annullato la decisione di Meta e richiesto la rimozione del video.
Sponsored Protocol
Per approfondire il tema della sicurezza nell'AI, leggi l'articolo su OpenAI Patch the Planet per la sicurezza del codice open source. Un'iniziativa simile che mira a proteggere l'ecosistema digitale. Scopri anche come le infrastrutture energetiche per l'AI stanno evolvendo con Microsoft e Chevron. Per informazioni generali sui deepfake, consulta Wikipedia.
