Meta ha introdotto una nuova funzionalità di sicurezza per gli utenti minorenni, rafforzando il sistema di supervisione parentale esistente. Da oggi, quando un adolescente interagisce con Meta AI e il contenuto della chat suggerisce pensieri di autolesionismo o suicidio, la piattaforma invia una notifica proattiva ai genitori o tutori del ragazzo. L'iniziativa segue l'attivazione, avvenuta qualche mese fa, della possibilità per i genitori di visualizzare gli argomenti delle conversazioni AI dei propri figli. Meta punta a dimostrare che i suoi ambienti digitali possono essere sicuri per i più giovani, un messaggio rivolto tanto alle famiglie quanto ai regolatori.
Un sistema AI dedicato identifica le conversazioni a rischio
Meta ha sviluppato un modello di intelligenza artificiale specifico per riconoscere i discorsi che indicano un potenziale pericolo. Prima che una notifica venga inoltrata, un revisore umano esamina manualmente tutte le chat segnalate dall'AI. L'obiettivo è evitare falsi allarmi che potrebbero generare inutile panico. Tuttavia, la società ha precisato che in caso di ambiguità sarà data priorità alla prudenza: se il revisore umano rileva un dubbio, la notifica verrà comunque inviata. La funzionalità è già attiva negli Stati Uniti, Regno Unito, Australia e Canada per i genitori che utilizzano la supervisione parentale di Instagram. Entro la fine dell'anno sarà estesa a tutti gli utenti che hanno attivato tale controllo, in tutto il mondo.
Sponsored Protocol
Meta integra anche l'invio di risorse e consigli ai genitori
Oltre alla notifica, Meta fornisce ai genitori risorse e suggerimenti su come affrontare la situazione. La piattaforma indirizza già il minore verso linee di crisi e lo incoraggia a parlare con un adulto. Questa nuova misura aggiunge un ulteriore livello di supporto, coinvolgendo direttamente i tutori. Meta ha inoltre annunciato lo sviluppo di una funzionalità che, in futuro, permetterà di contattare i servizi di emergenza se una conversazione con Meta AI suggerisce un rischio imminente di suicidio, sia per minorenni che per adulti. A maggio, OpenAI ha lanciato una funzione simile chiamata "Trusted Contact for ChatGPT", che consente agli utenti di designare un contatto fidato da avvisare in caso di pericolo.
Sponsored Protocol
Un altro aggiornamento riguarda le impostazioni di "Contenuti limitati" su Instagram: se un genitore ha attivato questa opzione per filtrare contenuti sensibili (come immagini mature o riferimenti all'autolesionismo), anche le interazioni con Meta AI del figlio saranno più limitate. Inoltre, per approfondire il tema della sicurezza dei minori sulle piattaforme social, si può leggere l'articolo su Meta che avvisa i genitori quando i teen parlano di suicidio con il chatbot AI. Contestualmente, OpenAI ha sviluppato GPT-Red, un LLM super-hacker per testare la sicurezza. Per un contesto più ampio sulle sfide della moderazione dei contenuti, si veda anche l'articolo sullo smaltimento dei router in Australia.
Sponsored Protocol
Per ulteriori informazioni sulle linee guida di Meta, consultare la pagina ufficiale sulla sicurezza degli adolescenti.
Fonte: https://www.engadget.com/2216412/meta-ai-alert-parents-if-teens-discuss-self-harm
