Due sviluppatori sono riusciti a convincere Meta Muse, il nuovo assistente basato sull’intelligenza artificiale di Meta, ad esportare i file del suo filesystem. Questa operazione ha rivelato dettagli sul funzionamento interno dell’assistente, sulla gestione della memoria e sulle sue capacità.

Peter James e Jonny L. Saunders sono giunti indipendentemente alla stessa conclusione: con pochi suggerimenti è possibile indurre l’IA a creare archivi contenenti file di sistema Ubuntu, modelli applicativi e documentazione interna. Saunders ha descritto la procedura come “estremamente semplice”, sottolineando la scarsa resistenza di Muse ai tentativi di manipolazione dei prompt.

Meta muse: perché è importante

Meta ha minimizzato l’accaduto, negando che si tratti di una violazione della sicurezza. Un portavoce dell’azienda ha spiegato che Muse opera tramite macchine virtuali Linux persistenti assegnate a ciascun utente e che l’esportazione dei dati relativi non consente l’accesso alle infrastrutture privilegiate di Meta né alle informazioni di altri utenti. L’azienda ha comunque precisato che continuerà ad aggiornare il prodotto, modificando eventualmente la quantità di informazioni accessibili.

I file ottenuti dai ricercatori includono documenti Markdown e JSON in formato testuale che descrivono nel dettaglio il funzionamento di Hatch – il nome interno di Muse –, la gestione delle richieste e le connessioni con servizi esterni come Gmail. Saunders ritiene che l’ampia quantità di codice e file binari generati dall’assistente corrisponda a un’esportazione autentica, escludendo che si tratti di contenuti inventati dall’IA.

Tra le informazioni emerse, Muse conserverebbe la memoria in semplici file Markdown ed effettuerebbe ogni notte una revisione delle conversazioni recenti, denominata “dream”, per creare indicazioni utili alle interazioni future. Alcune funzionalità, come la cancellazione degli abbonamenti e la gestione della proliferazione incontrollata degli agenti, sarebbero implementate direttamente nel codice.

Cosa cambia e quali sono gli effetti

L’episodio si verifica a pochi giorni dalla scoperta di un’altra vulnerabilità da parte del ricercatore Patrick Wardle, che avrebbe permesso di dirottare l’agente, reindirizzare l’elaborazione delle trascrizioni e accedere all’account di un utente. Meta ha già rilasciato una correzione.

I file rivelano inoltre riferimenti a Meta Home Link, una possibile integrazione con dispositivi della rete domestica, non ancora annunciata ufficialmente né confermata per il lancio. Saunders ha individuato diversi script Bash e Python che gestiscono le attività in background, ipotizzando – senza prove definitive – che possano essere stati creati con Claude.

Fonte e approfondimento su meta muse: articolo originale.

Per altri aggiornamenti su meta muse, consulta anche le ultime news tecnologiche di HWReady.

* Contenuto realizzato con l'ausilio di sistemi di intelligenza artificiale.