Ing. Calogero Bono
OpenAI ha annunciato un pacchetto di misure per limitare i rischi legati alla violenza in ChatGPT. Le novità riguardano le informazioni sulle armi per gli utenti sotto i 18 anni, le risposte sugli attacchi di massa del passato e un nuovo report sulla sicurezza, il primo previsto all'inizio del 2027. Le regole arriveranno nelle prossime settimane. Contano perché toccano chi usa ChatGPT ogni giorno, famiglie e aziende comprese.
Qualche termine, prima di entrare nei fatti. ChatGPT for Teens è l'esperienza di ChatGPT pensata per gli under 18, con limiti aggiuntivi sui contenuti sensibili. Age prediction è il sistema che stima, da segnali come i comportamenti d'uso, se l'utente abbia più o meno di 18 anni. Persona è il partner di OpenAI che gestisce la verifica dell'età. I controlli parentali permettono ai genitori di collegare il proprio account a quello del figlio. Il Community Safety Report è il rapporto periodico che OpenAI promette di pubblicare.
Che cosa ha annunciato OpenAI?
Secondo il comunicato ufficiale di OpenAI, le novità sono due. La prima è un nuovo rapporto sulla sicurezza della comunità. La seconda è un insieme di restrizioni più severe sui contenuti legati alle armi per i minori.
L'azienda dichiara di aver fatto oltre 200 segnalazioni alle forze dell'ordine nel terzo trimestre del 2026, per minacce imminenti di violenza. Il dato è fornito da OpenAI e non è verificabile in modo indipendente.
Come ricorda Punto Informatico, la mossa risponde alle denunce ricevute negli Stati Uniti e alle critiche di Common Sense Media su ChatGPT for Teens.
Cosa cambia per le domande su attacchi di massa e violenza?
OpenAI afferma che i suoi modelli sono addestrati a non dare istruzioni utili a pianificare o compiere violenza. Ora il modello darà informazioni meno dettagliate sugli attacchi di massa passati e su chi li ha compiuti, anche se i dati si trovano altrove online.
Restano possibili domande per capire gli eventi, l'impatto su vittime e comunità, i segnali d'allarme. Vengono limitate le ricostruzioni, con i dettagli su armi, attrezzature e modalità di acquisto, e i confronti sulla portata del danno che potrebbero accrescere la notorietà dell'autore. Questi limiti valgono a prescindere da età e motivo della richiesta.
Se le chat recenti mostrano segnali di possibile violenza, ChatGPT risponderà in modo più prudente. L'azienda lavora per applicare gli stessi limiti quando prevede che l'utente sia minorenne.
ChatGPT potrà chiudere le conversazioni e sospendere gli account?
Sì, secondo OpenAI. Insieme a esperti di salute mentale e prevenzione della violenza, l'azienda sta lavorando a interventi automatici più precoci. Se una conversazione mostra una fissazione sulla violenza o sull'idea di fare del male a qualcuno, ChatGPT potrà chiudere la chat in automatico. Se succede più volte, l'account potrà essere sospeso in via temporanea.
Restano in vigore i blocchi per gli account che violano le regole sulle attività violente. OpenAI ammette che resta da capire come riconoscere i segnali in modo affidabile e quando intervenire.
Quali sono le nuove tutele per adolescenti e genitori?
Per gli under 18 aumentano i limiti sulle informazioni su armi e sistemi di sicurezza, anche quando la domanda sembra innocua. Gli adolescenti possono comunque usare ChatGPT per prevenire la violenza, cercare supporto e rivolgersi a un adulto di fiducia.
L'age prediction, lanciata l'anno scorso, valuta nuovi segnali durante l'uso e sposta gli utenti nell'esperienza per minori. Chi viene classificato per errore può confermare di essere adulto con Persona.
Sui controlli parentali, da luglio i genitori vengono avvisati se l'account del figlio è disattivato per violazioni sulla violenza. OpenAI lavora a una notifica anche per la sospensione dovuta a discussioni ripetute sul tema.
Per approfondire, OpenAI sviluppa un hacker autonomo — la sicurezza delle PMI italiane è a rischio e OpenAI sforna un hacker autonomo — la sicurezza delle PMI italiane è già in ritardo.
Limiti da conoscere
Quasi tutto si basa su dichiarazioni di OpenAI. Non ci sono dati indipendenti sull'efficacia dei filtri né sul tasso di errore dell'age prediction. Mancano i criteri precisi con cui si decide di chiudere una chat o sospendere un account. Alcune misure, come le notifiche ai genitori per la sospensione, sono ancora in lavorazione. Il primo report, sul secondo semestre del 2026, arriverà solo all'inizio del 2027.
Cosa cambia per chi lavora con il digitale
Se sviluppi prodotti che integrano ChatGPT o ne usi le risposte, aspettati rifiuti e risposte meno dettagliate su armi, sicurezza fisica e cronaca violenta. Vale anche per ricerche legittime, perché i limiti sugli attacchi passati non dipendono dal motivo della richiesta. Chi realizza servizi rivolti ai giovani deve considerare che l'età stimata dal sistema può cambiare l'esperienza. Per le aziende con dipendenti o clienti minorenni, vale la pena spiegare che esistono controlli parentali e verifica dell'età. Conviene anche prevedere un messaggio chiaro quando una risposta viene negata.
Il nostro parere
La direzione è comprensibile, ma l'annuncio resta un impegno più che un risultato. Limitare le ricostruzioni degli attacchi passati è una scelta sensata, anche se rende più opaco il confine tra ricerca e rischio. Il punto delicato è la previsione dell'età, che può sbagliare e costringere adulti a identificarsi. Il report semestrale sarà il vero banco di prova, se conterrà dati e non solo esempi. Sul tema della fiducia nei modelli, il confronto con Anthropic Claude e OpenAI aiuta a valutare le differenze.
Domande frequenti
Quando entrano in vigore le nuove regole di ChatGPT?
Nelle prossime settimane. OpenAI dichiara che le misure inizieranno a essere distribuite a breve e verranno poi affinate. Alcune funzioni, come certe notifiche ai genitori, sono ancora in sviluppo.
ChatGPT darà meno informazioni anche agli adulti?
In parte sì. I limiti sulle ricostruzioni di attacchi di massa passati valgono a prescindere da età e motivo della richiesta. Restano possibili domande per capire gli eventi e riconoscere i segnali d'allarme.
Cosa succede se ChatGPT mi scambia per un minorenne?
Puoi confermare di essere maggiorenne. OpenAI indica una procedura rapida che tutela la privacy, gestita da Persona, dopo la quale vengono tolte le protezioni per adolescenti.
Quando uscirà il Community Safety Report?
All'inizio del 2027. Il primo rapporto riguarderà il secondo semestre del 2026 e gli aggiornamenti seguiranno ogni sei mesi.
I genitori saranno avvisati se il figlio discute di violenza?
Dipende dal caso. Da luglio c'è l'avviso per la disattivazione dell'account per violazioni sulla violenza. OpenAI sta lavorando a una notifica anche per la sospensione dovuta a discussioni ripetute.
Cosa guardare prima del report del 2027
Le promesse di OpenAI si misureranno nei prossimi mesi, tra l'arrivo delle regole e il primo rapporto. Ci sono tre segnali utili da seguire.
- Controlla se il report del 2027 contiene dati misurabili e non solo esempi anonimi.
- Segui come OpenAI chiarisce i criteri per chiudere le chat e sospendere gli account.
- Verifica se le notifiche ai genitori per le sospensioni arrivano davvero e con quali tempi.
