Elon Musk ha portato xAI in tribunale contro un uomo accusato di aver utilizzato il chatbot Grok per generare materiale pedopornografico (CSAM). La causa, depositata martedì, rappresenta la prima azione legale della società contro un utente per la creazione di contenuti illeciti tramite il suo modello di intelligenza artificiale.
xAI collabora con le autorità per l'arresto di Terry Wayne Harwood
Secondo l'ufficio del procuratore della Carolina del Sud, Terry Wayne Harwood è stato arrestato all'inizio dell'anno con l'accusa di possesso e distribuzione di materiale pedopornografico. xAI ha dichiarato di aver assistito le forze dell'ordine nell'identificazione del sospettato dopo aver scoperto che Harwood utilizzava due account xAI da mesi per spogliare o nudificare immagini non sessuali di diverse vittime, tra cui una bambina di appena dieci anni. La causa segna un cambio di rotta per xAI, che in passato aveva negato che Grok potesse essere impiegato per generare CSAM, nonostante crescenti evidenze contrarie.
Sponsored Protocol
La vulnerabilità di Grok nel generare contenuti tossici
In precedenza, xAI aveva respinto le accuse secondo cui Grok poteva produrre immagini sessualizzate non consensuali di adulti e minori. Tuttavia, il caso Harwood dimostra che il chatbot è stato effettivamente utilizzato per creare materiale illegale, spingendo l'azienda ad agire. Questo episodio solleva interrogativi sulla sicurezza dei modelli di IA generativa e sulla capacità delle aziende di prevenire abusi. Un recente sondaggio ha rilevato che il 54% delle aziende ha già subito un incidente di sicurezza con agenti AI, come discusso in un approfondimento sulla sicurezza degli agenti AI, sottolineando la diffusione del problema.
Sponsored Protocol
Implicazioni per la regolamentazione dell'intelligenza artificiale
La causa di xAI potrebbe avere ripercussioni significative sul settore. Da un lato, dimostra che le aziende di IA possono essere ritenute responsabili per l'uso improprio dei loro strumenti, dall'altro evidenzia la necessità di meccanismi più efficaci per filtrare contenuti dannosi. La comunità legale e tecnologica osserva con attenzione, mentre aumentano le richieste di normative più stringenti sull'IA, simili a quelle già discusse in Europa. Per ulteriori dettagli sulla regolamentazione dell'IA, si può consultare la pagina di Wikipedia sulla sicurezza dell'IA.
Fonte: https://arstechnica.com/tech-policy/2026/07/xai-cant-deny-grok-makes-csam-anymore-so-its-suing-users
