Il nuovo studio del Youth AI Safety Institute di Common Sense Media ha acceso i riflettori sui pericoli delle funzionalità AI integrate in Google Search. Utilizzando profili configurati per utenti di 11 e 15 anni, con SafeSearch attivo, i ricercatori hanno condotto oltre 2.600 ricerche e analizzato più di 2.100 risposte generate dall'intelligenza artificiale. Il risultato è una valutazione complessiva di "Rischio Inaccettabile" per i minori, sollevando interrogativi sulla capacità di Google di proteggere gli utenti più giovani in un'era sempre più dominata dall'AI.
Oltre 2.600 ricerche analizzate con account protetti
Lo studio ha simulato l'esperienza di navigazione di bambini e adolescenti utilizzando account Google con le impostazioni di sicurezza al massimo. Nonostante SafeSearch fosse attivato, l'AI ha comunque generato contenuti inappropriati e potenzialmente dannosi. Questo dimostra che le barriere esistenti non sono sufficienti a filtrare i rischi legati all'uso dell'intelligenza artificiale nei motori di ricerca. In un contesto simile, Apple ha recentemente rilasciato la beta pubblica di iOS 27 per testare nuove funzionalità, segno che il testing pubblico è cruciale per la sicurezza, ma le vulnerabilità rimangono.
Sponsored Protocol
Compiti svolti e informazioni errate generati dall'AI
Uno dei problemi più preoccupanti emersi dal report è la capacità dell'AI di completare i compiti scolastici al posto dei bambini, fornendo risposte pronte invece di incoraggiare l'apprendimento autonomo. In molti casi, le risposte contenevano informazioni errate o fuorvianti, come istruzioni per creare deepfake o tecniche per aggirare i controlli parentali. La facilità con cui l'AI produce contenuti non verificati mette a rischio la formazione critica dei giovani utenti.
Sponsored Protocol
Risposte pericolose in caso di crisi di salute mentale
Il report ha evidenziato che, di fronte a query legate a crisi di salute mentale, l'AI di Google ha fornito risposte inadeguate o potenzialmente dannose. Invece di indirizzare verso linee di supporto professionali, l'AI ha generato suggerimenti generici o, peggio, ha normalizzato comportamenti a rischio. Questo aspetto è particolarmente critico, dato che molti adolescenti si rivolgono a internet per cercare aiuto in momenti di vulnerabilità.
Sponsored Protocol
Misure di sicurezza insufficienti nonostante SafeSearch
Nonostante l'attivazione di SafeSearch, considerato uno strumento di sicurezza standard, l'AI ha aggirato le protezioni in numerose occasioni. Common Sense Media, organizzazione senza scopo di lucro nota per le sue valutazioni, chiede a Google di implementare controlli più rigorosi, come filtri specifici per l'AI generativa e una maggiore trasparenza sugli algoritmi utilizzati. La mancanza di una supervisione adeguata potrebbe esporre i minori a contenuti non adatti alla loro età.
Fonte: https://www.androidauthority.com/report-says-google-search-ai-harmful-for-kids-3687868
