Anthropic: Cathedral accede a stipendi e dati HR, ma non ai modelli AI

Anthropic ha confermato che i ricercatori della startup di sicurezza Cathedral hanno ottenuto accesso a una porzione dei suoi sistemi commerciali, delle risorse umane e informatici. L’accesso è stato reso possibile sfruttando vulnerabilità presenti in applicazioni aziendali di terze parti.

Secondo quanto riportato da Cathedral, i propri agenti AI hanno individuato percorsi che hanno permesso l’accesso a trascrizioni di riunioni interne, informazioni relative agli stipendi dei dipendenti, offerte di lavoro e messaggi interni scambiati tramite Slack. Anthropic precisa che i ricercatori non hanno avuto accesso alle richieste inviate dai clienti ai modelli, alle risposte generate, al codice sorgente o ai pesi dei sistemi AI.

Anthropic: perché è importante

Le informazioni presenti nei sistemi compromessi comprendevano contatti commerciali di alcuni clienti e partner, oltre a dati di base degli account utente. Cathedral ha condotto l’attività nell’ambito del programma per ricercatori esterni di Anthropic, dedicato alla segnalazione di vulnerabilità. Il caso rappresenta quindi una ricerca sulla sicurezza, con valutazioni divergenti tra le due aziende sull’esecuzione.

Anthropic sottolinea che presentare la vicenda come un attacco diretto a Claude potrebbe confondere il bersaglio effettivo con il prodotto più noto dell’azienda. L’accesso è avvenuto tramite software amministrativi e commerciali esterni utilizzati da Anthropic, i cui fornitori non sono stati identificati pubblicamente. Questa mancanza di informazioni limita la possibilità di ricostruire completamente la catena tecnica dell’accesso e valutare quali altre organizzazioni potrebbero utilizzare le stesse applicazioni vulnerabili.

Anthropic afferma che i propri strumenti di monitoraggio hanno rilevato una parte delle attività prima della segnalazione da parte di Cathedral, interrompendo l’accesso nello stesso giorno. Le applicazioni coinvolte sono state disabilitate e riattivate solo dopo la conferma dei fornitori circa la correzione delle vulnerabilità. L’azienda ha effettuato due interventi distinti: contenere l’accesso e risolvere le falle software che lo avevano reso possibile.

Secondo Anthropic, non sono emerse prove che soggetti diversi da Cathedral abbiano sfruttato le stesse vulnerabilità. Questa affermazione riflette le evidenze disponibili all’azienda, senza costituire una garanzia assoluta sull’assenza di altri accessi non rilevati. Anche l’esclusione dell’accesso alle conversazioni dei clienti e ai componenti dei modelli AI è attribuita alla ricostruzione fornita da Anthropic.

Il confronto tra le due aziende si è concentrato sul rispetto delle regole del programma per ricercatori esterni. Anthropic contesta a Cathedral di non aver comunicato integralmente le attività svolte nei propri sistemi e ritiene che le implicazioni per la sicurezza nazionale siano state sovrastimate. La startup, nella propria ricostruzione, sostiene invece di aver limitato al minimo l’accesso ai dati, seguendo le pratiche standard della ricerca sulla sicurezza.

Cosa cambia e quali sono gli effetti

Cathedral, fondata da ex membri del DOGE, sviluppa strumenti di cybersicurezza basati sull’intelligenza artificiale per clienti governativi e aziende. Il suo ruolo commerciale suggerisce cautela nell’interpretare il risultato come una dimostrazione generale della superiorità degli agenti AI sulle difese informatiche.

L’accesso descritto mette soprattutto sotto esame la protezione delle applicazioni esterne collegate ai dati aziendali. Anthropic sottolinea che proteggere i modelli AI non esaurisce la sicurezza di un laboratorio, evidenziando come documenti interni, trascrizioni e comunicazioni restino informazioni sensibili anche in assenza di accessi al codice o ai pesi dei modelli.

Il caso dimostra l’importanza di valutare gli incidenti distinguendo i dati effettivamente esposti dalle conseguenze più ampie rivendicate da chi ha condotto il test.

Fonte e approfondimento su Anthropic: articolo originale.

* Contenuto realizzato con l'ausilio di sistemi di intelligenza artificiale.