Le autorità di San Francisco hanno ordinato ad Apple e Google di rimuovere tredici applicazioni che consentono di creare deepfake sessuali non consensuali. Il procuratore cittadino David Chiu ha inviato lettere di diffida a entrambe le società, chiedendo l'immediata rimozione di otto app dall'App Store e cinque dal Google Play Store. Le app, che si presentano come strumenti di face-swapping o editing fotografico, in realtà permettono di generare immagini intime senza il consenso delle vittime. Secondo l'ufficio del procuratore, queste applicazioni violano le leggi della California che vietano la creazione di pornografia deepfake.
Le app incriminate si fingono strumenti di face-swapping ma generano contenuti osceni
Le tredici app investigate dal City Attorney's Office si presentano ufficialmente come tool per lo scambio di volti o il ritocco fotografico. Tuttavia, una volta installate, offrono la possibilità di creare immagini sessualmente esplicite di persone reali senza il loro permesso. Una delle app, con oltre un milione di download, mostra sul proprio sito una dozzina di stili di generazione AI, tra cui bikini queen curvy, calm busty e cinematic intimacy, molti dei quali raffigurano donne sessualizzate. Un'altra app promette video gratuiti e senza censura. Il procuratore Chiu ha sottolineato che Apple e Google stanno traendo profitto da questa tecnologia nociva, trattenendo una percentuale sugli acquisti in-app.
Sponsored Protocol
La California vieta i servizi che facilitano la pornografia deepfake
Le lettere legali inviate da Chiu citano le leggi statali che proibiscono il supporto a servizi che creano deepfake pornografici. Secondo l'ufficio del procuratore, entrambe le società hanno guadagnato milioni di dollari in commissioni da queste app. Il fatto che alcune delle più grandi aziende tecnologiche del mondo stiano facilitando questo fenomeno deve finire, ha dichiarato Chiu. Le app utilizzano pagamenti in-app, sui quali Apple e Google trattengono una commissione, rendendole complici secondo la legge californiana. Questo intervento arriva dopo che il Tech Transparency Project (TTP) aveva già segnalato decine di app nudify sull'App Store, e un'indagine di aprile aveva mostrato che gli stessi suggerimenti di ricerca di Apple indirizzavano gli utenti verso di esse.
Sponsored Protocol
Apple e Google rispondono alle accuse con policy già esistenti
Mentre Google ha dichiarato di agire contro le app che violano le sue policy, Apple non ha rilasciato commenti prima della pubblicazione. In passato, Apple aveva affermato che le app nudify violano le sue linee guida di revisione e che le rimuove proattivamente. Tuttavia, la persistenza di queste applicazioni solleva dubbi sull'efficacia dei controlli. Un portavoce di Google ha precisato che l'azienda prende provvedimenti contro le app segnalate. La vicenda è simile ad altre controversie sulla sicurezza delle piattaforme: come riportato in un recente articolo, il 54% delle aziende ha già subito incidenti di sicurezza con agenti AI. Le misure di protezione devono quindi estendersi anche alle app consumer. Secondo quanto riportato da Wired, la notizia ha riacceso il dibattito sulla responsabilità delle piattaforme nel controllo dei contenuti generati dall'intelligenza artificiale. Le possibili sanzioni per Apple e Google potrebbero includere multe salate e obblighi di revisione delle policy di approvazione delle app.
Sponsored Protocol
