Un nuovo report pubblicato da Common Sense Media solleva preoccupazioni significative riguardo alla sicurezza delle funzionalità AI Overviews e AI Mode di Google Search per i minori. La valutazione negativa è il risultato di oltre 2.600 ricerche condotte con account configurati per bambini e adolescenti, mantenendo attivo il filtro SafeSearch.

Lo Youth AI Safety Institute, parte integrante di Common Sense Media, ha assegnato ad AI Overviews e AI Mode un rating complessivo di “rischio inaccettabile”. I ricercatori hanno analizzato più di 2.100 risposte generate dall’intelligenza artificiale, rilevando che gli strumenti violerebbero sette dei otto principi guida utilizzati dall’organizzazione per valutare la sicurezza dei sistemi basati sull’AI e superere tutte le cinque “linee rosse” stabilite per i danni potenzialmente più gravi.

Un aspetto particolarmente critico riguarda la gestione di situazioni delicate come quelle legate alla salute mentale. Il report evidenzia che AI Overview avrebbe ignorato il 29% delle dichiarazioni esplicite riguardanti ideazione suicidaria e circa la metà delle affermazioni indirette o allusive a pensieri autolesionistici. In un caso specifico, lo strumento ha fornito agli utenti un numero di emergenza per la salute mentale che risulta non più attivo.

I ricercatori hanno inoltre documentato episodi in cui l’AI ha generato informazioni inaccurate e persino istruzioni su come realizzare deepfake. Nel contesto educativo, AI Mode è integrata nei Chromebook ampiamente utilizzati nelle scuole americane. Lo studio rivela che, durante i 180 test condotti su materie quali matematica e altre discipline, lo strumento ha completato correttamente tutti gli esercizi assegnati, invece di limitarsi a fornire un supporto didattico.

Un ulteriore elemento problematico è la variabilità delle risposte fornite dall’AI alla stessa domanda. In alcuni casi le risposte sono risultate corrette, in altri inaccurate o fuorvianti. Common Sense Media sottolinea come genitori e scuole dispongano di strumenti limitati per intervenire efficacemente: AI Overviews compare automaticamente nei risultati di ricerca senza offrire un’opzione dedicata per disattivarla, mentre l’attivazione di AI Mode richiede solamente un clic.

Google mette a disposizione Family Link per bloccare completamente l’accesso a Search, ma questa soluzione viene considerata eccessivamente drastica. Il report evidenzia che circa il 75% degli adolescenti e preadolescenti statunitensi utilizza già risultati di ricerca generati dall’intelligenza artificiale.

Google ha contestato le conclusioni del report, affermando di non essere riuscita a riprodurre o verificare molte delle risposte citate nello studio. L’azienda definisce i quesiti utilizzati nei test “ambigui e artificiosi” e poco rappresentativi dell’utilizzo reale di Search, rivendicando l’efficacia dei sistemi di protezione già implementati, tra cui disclaimer su temi sensibili, risorse per l’alfabetizzazione all’AI e numeri di emergenza sviluppati in collaborazione con esperti clinici e accademici.

Questa valutazione rientra in un programma più ampio condotto da Common Sense Media, che ha già assegnato lo stesso giudizio di “rischio inaccettabile” a Meta AI, Grok, giocattoli dotati di intelligenza artificiale e Character.AI. Nella categoria del rischio elevato figurano Gemini (nella versione K-12), Perplexity, ChatGPT-5 e alcune varianti di Gemini con protezioni per adolescenti e utenti under 13. Claude è stato valutato come prodotto a rischio moderato.