Google Gemini: Gmail e Drive letti da revisori umani, ecco cosa cambia

Google Gemini. Google ha confermato, tramite un aggiornamento alla documentazione di supporto di Gemini, che i contenuti provenienti da Gmail e Drive, attraverso le Connected Apps, possono essere esaminati da revisori umani. La pagina ufficiale, identificata come Answer 16836988, specifica che tra i dati soggetti a revisione figurano “interazioni, riepiloghi, estratti e inferenze dalle email e dai file rilevanti” dell’utente, oltre a informazioni provenienti da Google Wallet e servizi di pagamento collegati.

Questa rivelazione modifica un precedente impegno pubblico. Nel 2023, al lancio delle estensioni Workspace per Gemini, Google aveva assicurato che i contenuti personali di Gmail, Documenti e Drive “non sarebbero stati visualizzati da revisori umani”. La frase presente nel post originale del blog è stata modificata il 16 ottobre: attualmente, Google avverte gli utenti di non collegare le proprie app a Gemini se contengono informazioni riservate che non desiderano condividere con un revisore.

Google Gemini: perché è importante

Un aspetto critico riguarda il meccanismo di attivazione. Una ricerca pubblicata su GitHub e ripresa da diverse testate tecnologiche ha evidenziato come Gemini possa accedere autonomamente a Gmail e Drive durante una conversazione, anche senza l’utilizzo dei tag espliciti @Gmail o @Drive. Semplicemente menzionando un argomento presente nella posta elettronica, come una prenotazione, una bolletta o un nome, il modello può decidere di recuperare i dati corrispondenti.

Si tratta di un comportamento probabilistico: i test descritti nella documentazione (disponibile sulla pagina di supporto di Google) hanno prodotto quattro risultati diversi a parità di domanda: nessun prelievo di dati, un riepilogo generico senza informazioni sensibili, un estratto parziale di due o sei frasi contenente dati personali, oppure il dump completo e non filtrato del testo originale, incluse le intestazioni. In un caso specifico, una semplice domanda su una bolletta della connessione internet ha portato Gemini a restituire nome completo, numero di conto e codice di conferma del pagamento, direttamente dall’email conservata.

Secondo i ricercatori che hanno condotto i test, i sistemi automatici di deidentificazione di Google, basati su espressioni regolari (regex) e riconoscimento di entità (NER), non riescono a filtrare in modo affidabile dati narrativi come numeri di conto, codici di conferma, date di transazione o combinazioni di informazioni che, insieme, possono identificare una persona. Google stessa documenta i limiti di questi filtri, ma la soglia di intervento è impostata su casi di abuso o danno evidente, non sulla protezione preventiva di ogni singolo dettaglio.

Cosa cambia e quali sono gli effetti

Questo comporta un disallineamento tra quanto promesso tre anni fa e la situazione attuale: l’isolamento totale dai revisori umani non esiste più per chi utilizza un account personale con le app collegate attive, e la probabilità che contenuti sensibili vengano letti da una persona reale, anche accidentalmente durante una conversazione, non è trascurabile. La questione della revisione umana su Gemini era già emersa in precedenza, con recenti segnalazioni di utenti riguardo all’uso delle chat dell’assistente, talvolta controllate da dipendenti per migliorare l’IA di Google.

Fonte e approfondimento su Google Gemini: articolo originale.

* Contenuto realizzato con l'ausilio di sistemi di intelligenza artificiale.