Mistral AI ha rilasciato Shieldstral, un classificatore multimodale da 3 miliardi di parametri progettato per valutare la sicurezza di contenuti generati o elaborati dall’intelligenza artificiale. A differenza di molti modelli simili, Shieldstral non genera testo autonomamente ma si concentra sull’analisi e sulla classificazione di richieste, risposte e immagini, determinando se violano determinate regole di sicurezza.

Il panorama dei classificatori di contenuti è in rapida crescita. Meta ha sviluppato la famiglia Llama Guard fino alla terza versione, includendo una variante capace di analizzare anche le immagini. Google offre ShieldGemma in tre diverse dimensioni – 2, 9 e 27 miliardi di parametri – mentre i ricercatori della Carnegie Mellon hanno presentato PolyGuard, addestrato su un vasto dataset di 1,91 milioni di campioni in 17 lingue differenti. Questi modelli tradizionalmente incorporano nei propri pesi una lista predefinita di categorie considerate dannose, richiedendo un riaddestramento completo per l’implementazione di nuove regole.

Shieldstral si distingue per il suo approccio flessibile: la regola di sicurezza non è integrata nel modello stesso, ma definita direttamente nella richiesta che viene inviata. Questa richiesta è strutturata in tre parti formulate in linguaggio naturale. La prima sezione stabilisce il contesto della valutazione e il livello di severità richiesto. La seconda pone una domanda specifica a risposta binaria (ad esempio, “questa immagine è appropriata per un minore?”). Infine, la terza parte contiene il materiale da esaminare, che può essere una richiesta in ingresso, una risposta generata o entrambe.

L’utente che integra Shieldstral riceve un punteggio continuo basato sulla probabilità delle risposte “sì” e “no”, consentendo di definire una soglia personalizzata per il blocco dei contenuti. Questa architettura permette di applicare criteri differenti allo stesso file, utilizzando istruzioni diverse: ad esempio, un approccio più rigoroso per un assistente virtuale destinato all’uso scolastico e uno più permissivo per strumenti utilizzati da esperti di sicurezza informatica.

Mistral dichiara che Shieldstral si posiziona al primo posto in 13 benchmark comparativi, superando anche sistemi significativamente più grandi come GPT-OSS-Safegurad 20B. L’azienda riporta un punteggio F1 medio dell’84,9% sui test basati su testo e prestazioni di alto livello nella moderazione delle immagini. I ricercatori hanno valutato la capacità multilingue del modello, rilevando una copertura linguistica irregolare, con risultati inferiori in arabo e indonesiano rispetto all’italiano, dove si comporta in modo soddisfacente.

Scendendo nel dettaglio tecnico, il modello nasce da Ministral-3B, ha una finestra di 32.000 token ed è stato addestrato su 54,1 milioni di esempi tra dati reali e sintetici. È un componente esterno che non altera l’allineamento del modello principale né controlla le chiamate a strumenti compiute da un agente AI. Shieldstral è disponibile per il download in Public Preview tramite la piattaforma Hugging Face.

L’Europa, data la limitata disponibilità di data center adatti all’addestramento di modelli di grandi dimensioni, vede nello sviluppo di soluzioni come Shieldstral un tentativo di occupare spazi ancora liberi nel panorama dell’intelligenza artificiale. Il modello è distribuito con pesi aperti sotto licenza Apache 2.0.

* Contenuto realizzato con l’ausilio di sistemi di intelligenza artificiale.