OpenAI ha annunciato una novità importante per la sicurezza degli adolescenti che utilizzano ChatGPT. D'ora in poi, i genitori con un account collegato riceveranno una notifica se il figlio viene espulso dalla piattaforma per aver violato le policy relative ad atti di violenza. Questa mossa arriva dopo il tragico incidente di Tumbler Ridge, in Canada, dove un sospettato di una sparatoria di massa aveva usato ChatGPT e la società non aveva avvisato le autorità.
Come funziona la nuova notifica per i genitori
Quando un account teenager viene disattivato per violazione delle norme su atti di violenza, il genitore riceve un avviso con la dicitura "aggiornamento importante". Cliccando su "Scopri di più", può leggere il messaggio dettagliato che spiega la causa della disattivazione. OpenAI ha sviluppato questa funzionalità in collaborazione con Moonshot, azienda specializzata nel monitoraggio della violenza online. Vidhya Ramalingam, fondatrice di Moonshot, ha dichiarato: "Notificare un genitore quando sorge una seria preoccupazione, con una via per ottenere più contesto, è un primo passo fondamentale per dare alle famiglie la possibilità di intervenire precocemente e cercare aiuto."
Sponsored Protocol
Dai controlli parentali alla notifica di violenza: un'estensione necessaria
Già l'anno scorso OpenAI aveva introdotto i controlli parentali, permettendo ai genitori di collegare il proprio account a quello del figlio per limitare gli orari di utilizzo e ridurre i contenuti sensibili. Inoltre, il chatbot era già in grado di rilevare segni di autolesionismo. Ora la protezione si estende ai pericoli verso gli altri. In un contesto in cui l'intelligenza artificiale viene utilizzata sempre più diffusamente, come evidenziato nell'articolo su la Cina che accelera sull'AI, è cruciale che le piattaforme adottino misure di sicurezza robuste. Anche Google ha recentemente modificato le quote di utilizzo di Gemini per migliorare la gestione delle risorse, come spiegato in questo articolo.
Sponsored Protocol
Nuove funzionalità per lo studio e il benessere digitale
Oltre alla notifica, OpenAI ha introdotto la modalità Studio direttamente dai controlli parentali. Questa modalità fa sì che ChatGPT fornisca suggerimenti prima di rispondere, aiutando gli studenti a imparare. Inoltre, per i teenager che passano molto tempo su ChatGPT, verranno mostrati promemoria di pausa più frequenti, per favorire abitudini digitali più sane. Queste innovazioni dimostrano l'impegno di OpenAI nel bilanciare l'utilità dell'AI con la sicurezza, un tema caldo nel dibattito globale come riportato da fonti autorevoli come Engadget.
Fonte: https://www.engadget.com/2218076/openai-notify-parents-teen-banned-chatgpt-violence
