Il procuratore distrettuale di San Francisco ha inviato lettere di diffida ad Apple e Google chiedendo la rimozione immediata di tredici applicazioni basate su intelligenza artificiale in grado di generare immagini di nudo non consensuali tramite face-swap. Secondo quanto riportato da WIRED, le missive sono state recapitate giovedì scorso e riguardano otto app presenti sull'App Store di Apple e cinque sul Play Store di Google.
Le applicazioni incriminate si presentano ufficialmente come strumenti per lo scambio di volti, ma vengono sistematicamente utilizzate per "spogliare" foto di persone reali senza il loro consenso. L'ufficio del procuratore chiede a entrambe le società di interrompere ogni rapporto commerciale con gli sviluppatori e di cessare la trattenuta di una percentuale sui pagamenti in-app, sostenendo che in questo modo stanno di fatto favorendo e traendo profitto dalla vendita di immagini deepfake esplicite. Il procuratore ha definito la pratica "illegale, dannosa e del tutto inaccettabile", stimando che Apple e Google abbiano incassato milioni di dollari in commissioni da queste app.
Sponsored Protocol
Il quadro normativo e le reazioni delle big tech
Entrambe le aziende dispongono di linee guida per sviluppatori che vietano contenuti pornografici e hanno già rimosso in passato lotti di app per nudify dopo essere state segnalate da ricercatori. Un portavoce di Google ha confermato a WIRED che la società ha cancellato "centinaia" di applicazioni con funzionalità di nudificazione per violazione delle policy, incluse le cinque nominate nelle lettere. A giugno, era emerso che Apple aveva già inasprite il linguaggio delle sue linee guida dell'App Store sulla responsabilità degli sviluppatori per contenuti pornografici.
Sponsored Protocol
Il caso evidenzia una preoccupante diffusione di strumenti di AI generativa utilizzati per fini illeciti. Non è la prima volta che i giganti tecnologici vengono chiamati in causa per la presenza di app deepfake nei loro store. Un precedente rapporto ha mostrato che il 54% delle aziende ha già subito incidenti di sicurezza con agenti AI, sottolineando la vulnerabilità dei sistemi a usi impropri.
Le implicazioni legali e sociali della diffusione dei deepfake
La richiesta del procuratore di San Francisco potrebbe fare giurisprudenza e spingere le piattaforme ad adottare misure più drastiche contro le app di nudificazione. Secondo esperti legali, se Apple e Google dovessero ignorare l'intimazione, potrebbero essere ritenute corresponsabili dei danni causati. La tecnologia deepfake, se da un lato apre possibilità creative, dall'altro rappresenta una minaccia concreta per la privacy e la dignità delle persone, come documentato in approfondimenti accademici e normativi.
Sponsored Protocol
Le aziende hanno ora tempo limitato per rispondere. Nel frattempo, associazioni per i diritti digitali chiedono regole più stringenti a livello federale per prevenire abusi. L'episodio segna un punto di svolta nella lotta contro i contenuti generati dall'AI non consensuali, con le big tech chiamate a una maggiore responsabilità.
Fonte: https://www.macrumors.com/2026/07/17/demand-to-pull-nudify-apps
