È nata Open Secure AI Alliance, un’iniziativa open source volta a migliorare la sicurezza dell’intelligenza artificiale. Il progetto è stato lanciato grazie all’impegno di numerose aziende del settore tecnologico, con NVIDIA in prima linea.

Un recente incidente che ha coinvolto Hugging Face ha evidenziato l’importanza di sistemi informatici sicuri, sia aperti che chiusi, capaci di difendersi da minacce esterne. Molti sistemi avanzati di intelligenza artificiale sono infatti basati su architetture open source.

L’Open Secure Alliance si basa sulle attività di Akrites della Linux Foundation e sulla collaborazione con la comunità OpenSSF. L’alleanza si impegna a identificare, correggere e rendere pubbliche le vulnerabilità sfruttando tecnologie open source. Il caso Hugging Face ha dimostrato come esperti legali e tecnici necessitino di sistemi agenti aperti in grado di rilevare autonomamente le minacce.

Dopo l’attacco informatico subito, Hugging Face ha utilizzato il modello GLM 5-2 open weight per analizzare oltre 17.000 azioni e contenere l’intrusione. L’Open Secure AI Alliance rappresenta un importante sforzo di sviluppo informatico che coinvolge una vasta gamma di aziende, tra cui NVIDIA e Akamai Technologies.

Tra i principali membri dell’alleanza figurano: Atlassian, Box, Cadence, Capital One, Cisco, ClickHouse, Cloudera, Cloudflare, Cognition, Cohere, Cohesity, CrowdStrike, Crusoe, Databricks, Dataiku, Dell Technologies, Docker, DoorDash, Dream Security, Elastic, F5, Factory AI, Fireworks AI, Fortinet, G42, Genspark, GitHub, H2O.ai, HPE, Hugging Face, IBM, JFrog, Kindo AI, LangChain, la Linux Foundation, Microsoft, Mistral, Mozilla, NAVER, NetApp, Netskope, Nokia e Nous Research.

La sicurezza dell’intelligenza artificiale dipende dall’architettura degli agenti stessi: identità, permessi, sistemi di controllo, meccanismi di protezione, registri e valutazione. NVIDIA contribuisce all’Open Secure AI Alliance mettendo a disposizione modelli open source, nuove ricerche e un progetto chiamato NOOA (NVIDIA Labs Object-Oriented Agent). Anche gli altri membri dell’alleanza stanno sviluppando iniziative specifiche.

HPE, ad esempio, collabora a SPIFFE/SPIRE, un framework di identità zero trust che offre sistemi di crittografia per agenti e servizi di intelligenza artificiale. Hugging Face ha offerto Safetensors alla PyTorch Foundation, un formato sicuro per l’archiviazione dei pesi dei modelli di intelligenza artificiale. Microsoft ha sviluppato MDASH, un sistema di scansione multi-modello che utilizza agenti AI specializzati per individuare vulnerabilità sfruttabili.

* Contenuto realizzato con l’ausilio di sistemi di intelligenza artificiale.