Il procuratore di San Francisco ha inviato una lettera di diffida formale ad Apple e Google, chiedendo di rimuovere tredici applicazioni che utilizzano l'intelligenza artificiale per creare immagini nude non consensuali. Secondo le stime ufficiali, le due aziende avrebbero guadagnato milioni di dollari grazie alle commissioni applicate su questi software, noti come app AI nudify. La misura rappresenta un importante passo avanti nella regolamentazione delle piattaforme digitali e nella protezione della privacy degli utenti.
Le tredici app incriminate e il meccanismo di guadagno
Le applicazioni oggetto della diffida sono state identificate come strumenti in grado di spogliare digitalmente le persone partendo da una foto normale. Sfruttando modelli di deep learning, queste app generano immagini realistiche senza il consenso del soggetto. Il procuratore stima che Apple e Google abbiano incassato decine di migliaia di dollari da ciascuna app, per un totale complessivo di milioni. Le piattaforme trattengono una percentuale su ogni acquisto in-app o abbonamento, traendo profitto direttamente dalla diffusione di contenuti dannosi.
Sponsored Protocol
La responsabilità legale delle piattaforme
La lettera di diffida sottolinea che Apple e Google non possono ignorare il danno causato da queste applicazioni. Il procuratore sostiene che le aziende abbiano violato le leggi sulla protezione dei consumatori e sulla privacy, non agendo tempestivamente per rimuovere i software. In passato, casi simili hanno portato a cause legali e sanzioni, ma questa è la prima volta che un procuratore chiede esplicitamente la restituzione dei profitti. L'azione legale potrebbe creare un precedente importante per il controllo delle app negli store digitali.
Un aspetto interessante riguarda il costo crescente dei software basati su intelligenza artificiale. Come evidenziato nel nostro articolo sui costi dei software AI, il pricing a consumo sta spingendo i budget IT verso l'alto. Questo fenomeno si riflette anche nel mercato delle app, dove le commissioni elevate incentivano la creazione di strumenti controversi come le app nudify. Leggi maggiori dettagli sull'aumento dei costi AI.
Sponsored Protocol
L'impatto sulle vittime e le misure di sicurezza
Le vittime di queste app subiscono gravi violazioni della privacy, con conseguenze psicologiche e professionali. Le immagini generate possono essere utilizzate per cyberbullismo, estorsione o revenge porn. Il procuratore ha evidenziato che molte vittime sono minorenni, aggravando ulteriormente la situazione. Apple e Google hanno affermato di disporre di linee guida che vietano contenuti non consensuali, ma evidentemente i controlli non sono sufficienti. La diffida chiede anche l'adozione di misure più rigide per prevenire future violazioni.
L'intelligenza artificiale generativa sta rivoluzionando molti settori, come dimostrato dall'introduzione di avatar personalizzati nei video aziendali tramite Google Vids. Tuttavia, la stessa tecnologia può essere usata in modo distorto. Scopri come Google sta innovando con Gemini Omni. È essenziale che le aziende tecnologiche bilancino innovazione e responsabilità.
Sponsored Protocol
Prospettive future e regolamentazione
L'azione del procuratore di San Francisco si inserisce in un contesto più ampio di regolamentazione delle piattaforme digitali. L'Europa, ad esempio, con l'AI Act sta imponendo regole stringenti per l'uso dell'intelligenza artificiale. Negli Stati Uniti, invece, manca ancora una legge federale organica. Questa diffida potrebbe accelerare il dibattito e spingere il Congresso a legiferare. Per maggiori informazioni sulla tecnologia deepfake, consulta la pagina di Wikipedia dedicata: Deepfake su Wikipedia.
In conclusione, Apple e Google si trovano di fronte a una scelta cruciale: difendere il proprio modello di business o proteggere i diritti degli utenti. La risposta alla diffida sarà seguita con attenzione da osservatori, regolatori e attivisti. Il caso dimostra che il profitto non può mai essere anteposto alla dignità delle persone.
