Meta ha annunciato oggi che notificherà ai genitori quando il loro adolescente discute di suicidio o autolesionismo con il chatbot Meta AI. L'azienda ha inoltre dichiarato di aver sviluppato un sistema dedicato per identificare le conversazioni in cui un teen fa chiaro riferimento al farsi del male. Le notifiche sono già attive per i genitori che utilizzano la supervisione parentale di Instagram negli Stati Uniti, nel Regno Unito, in Australia e in Canada, e saranno estese globalmente entro la fine dell'anno. Questa mossa arriva mentre Meta e altre aziende tecnologiche sono sotto esame da parte di regolatori e genitori per quanto riguarda la risposta dei chatbot AI agli utenti in crisi, specialmente gli adolescenti. Si tratta di un tema di responsabilità che sta sempre più influenzando il design e il marketing dei prodotti AI.
Un sistema con revisione manuale prima dell'invio dell'allerta
Meta ha dichiarato che tutte le chat segnalate dal suo AI saranno revisionate manualmente prima di inviare un avviso. L'azienda ha ammesso che potrebbe a volte inviare notifiche anche quando non vi è un reale motivo di preoccupazione, ma ha ritenuto questo un punto di partenza corretto. "Comprendiamo quanto questi avvisi possano essere angoscianti per un genitore", ha scritto Meta in un post sul blog, "per questo, mentre continuiamo a migliorare la nostra rilevazione, tutte le chat segnalate saranno revisionate manualmente. Se l'intenzione di un teen è ambigua, preferiamo avvisare il genitore per eccesso di cautela."
Sponsored Protocol
Impostazione di contenuti limitati estesa a Meta AI
Meta ha anche annunciato che l'impostazione "Contenuti limitati", che consente ai genitori di collocare i propri figli in un'esperienza più restrittiva su Instagram, ora si applica anche a Meta AI. Il chatbot è già addestrato per evitare conversazioni sessuali o romantiche con i teen e discussioni legate all'alcol. L'impostazione amplia queste protezioni facendo rifiutare al chatbot una gamma più ampia di prompt. Meta non ha specificato quali siano questi prompt aggiuntivi, ma ha affermato che l'azienda si sta impegnando per garantire la sicurezza degli adolescenti.
Sponsored Protocol
Contatto diretto con i servizi di emergenza
Inoltre, Meta ha dichiarato che contatterà i servizi di emergenza se una conversazione con Meta AI, sia di un adulto che di un teen, suggerisce un rischio di suicidio. Meta già adottava questa misura quando qualcuno pubblicava contenuti su Facebook o Instagram che suggerivano un rischio, e ora estende la stessa pratica alle conversazioni con il chatbot. Questo passaggio rappresenta un ulteriore impegno per la sicurezza degli utenti, specialmente dei più giovani. La novità si inserisce in un contesto più ampio di attenzione alla sicurezza online, simile a recenti azioni come l'ordine australiano di smaltimento di 4.000 router per rischi di sicurezza. Meta ha anche chiarito che il sistema di rilevamento è stato costruito specificamente per individuare riferimenti chiari all'autolesionismo, e l'azienda continuerà a monitorare e migliorare il sistema per ridurre i falsi positivi. Questa iniziativa è vista come un passo avanti nella protezione dei minori nell'era dell'intelligenza artificiale, un tema caldo per i legislatori di tutto il mondo. Secondo gli esperti, la trasparenza nel funzionamento di questi sistemi è fondamentale per guadagnare la fiducia del pubblico. Per ulteriori approfondimenti sulle sfide della sicurezza AI, si può consultare l'articolo originale su TechCrunch.
Sponsored Protocol
