Il dibattito sulla sicurezza dell'intelligenza artificiale per i minori si arricchisce di un nuovo capitolo. Il Youth AI Safety Institute di Common Sense Media ha recentemente pubblicato un rapporto in cui definisce le funzionalità AI Overviews e AI Mode di Google Search come un rischio inaccettabile per i bambini. L'organizzazione no-profit ha sollevato preoccupazioni riguardo a potenziali esposizioni a contenuti inappropriati e a una mancanza di garanzie adeguate. Tuttavia, Google ha prontamente risposto, respingendo categoricamente le accuse.
Le affermazioni del rapporto di Common Sense Media
Il rapporto, condotto dallo Youth AI Safety Institute, ha analizzato le caratteristiche AI integrate nella Ricerca Google, concentrandosi su AI Overviews, che fornisce riepiloghi generati dall'AI, e AI Mode, una modalità conversazionale più avanzata. Secondo lo studio, questi strumenti potrebbero esporre i bambini a contenuti dannosi, come disinformazione o materiale non adatto all'età. Common Sense Media ha chiesto misure più severe per proteggere i giovani utenti, etichettando le funzionalità come rischio inaccettabile.
Sponsored Protocol
La risposta di Google punto per punto
Un portavoce di Google ha contattato Android Authority per fornire una dichiarazione ufficiale. L'azienda ha negato fermamente le conclusioni del rapporto, affermando che le sue AI sono progettate con la sicurezza al primo posto. Google sostiene che AI Overviews e AI Mode rispettano rigorose politiche sui contenuti, inclusi filtri per prevenire la visualizzazione di materiale inappropriato. L'azienda ha anche sottolineato che le valutazioni del rapporto non riflettono l'effettiva implementazione delle protezioni esistenti.
Google ha inoltre evidenziato che la Ricerca Google include già strumenti di controllo parentale e impostazioni di sicurezza per gli account dei minori. Le funzionalità AI vengono costantemente testate per garantire che rispettino gli standard più elevati. Il portavoce ha concluso che l'azienda continuerà a collaborare con esperti di sicurezza per migliorare ulteriormente le salvaguardie.
Sponsored Protocol
Le implicazioni per la sicurezza dei minori online
Questa controversia arriva in un momento in cui l'AI generativa sta diventando sempre più pervasiva. Mentre Google difende i suoi strumenti, altri attori del settore sollevano interrogativi simili. Ad esempio, OpenAI ha recentemente sviluppato un super-hacker AI per testare la sicurezza dei modelli, evidenziando la complessità della sicurezza AI. Anche Apple sta affrontando questioni legali antitrust che potrebbero influenzare le pratiche di sicurezza delle piattaforme. È chiaro che i regolatori e le organizzazioni indipendenti stanno prestando maggiore attenzione all'impatto dell'AI sui minori.
Sponsored Protocol
Secondo Wikipedia, la sicurezza dell'AI è un campo di ricerca interdisciplinare che mira a garantire che i sistemi di intelligenza artificiale operino in modo sicuro e etico. Le preoccupazioni sollevate da Common Sense Media richiedono un dialogo continuo tra aziende tecnologiche, enti di regolamentazione e la società civile per bilanciare innovazione e protezione dei minori.
Google rimane ferma nella sua posizione, ma la pressione pubblica potrebbe spingere l'azienda a implementare ulteriori trasparenze e controlli. Nel frattempo, genitori e educatori dovrebbero rimanere vigili sull'uso dell'AI da parte dei bambini e sfruttare gli strumenti di controllo offerti dalle piattaforme.
Fonte: https://www.androidauthority.com/google-denies-search-ai-tools-harmful-to-kids-3687921
