Fastweb e Vodafone potenziano il supercomputer AI con GPU NVIDIA B300 e integrano NeMo

La NeXXt AI Factory, iniziativa di Fastweb e Vodafone, si rinnova con l’aggiunta di GPU NVIDIA B300 e un ampliamento del supporto software per training, post-training, inferenza e agenti di intelligenza artificiale.

Fastweb + Vodafone prevede di espandere nelle prossime settimane il supercomputer NVIDIA in gestione dal 2024, integrando sistemi NVIDIA B300 in configurazione NVL8, ovvero server che presentano otto GPU interconnesse. Parallelamente, l’operatore ha incorporato nella propria piattaforma quattro componenti software NVIDIA dedicati all’inferenza, alla misurazione delle prestazioni e all’addestramento dei modelli.

NVIDIA B300: perché è importante

L’offerta è indirizzata a imprese e Pubbliche Amministrazioni. Il progetto nasce dalla NeXXt AI Factory, presentata a luglio 2024 presso il data center Aruba di Ponte San Pietro (Bergamo). Il sistema si basa sull’architettura NVIDIA DGX SuperPOD e attualmente dispone di 31 nodi DGX H100, per un totale di 248 GPU H100. A questi verranno aggiunti i nuovi sistemi B300 (l’azienda non ha reso noto l’incremento di potenza computazionale che apporteranno né le tempistiche).

Cosa cambia e quali sono gli effetti

Oltre all’evoluzione hardware, un elemento significativo dell’annuncio riguarda lo stack software, che ora include: Fastweb + Vodafone sta inoltre valutando la distillazione, una tecnica per trasferire le capacità di un modello ampio a uno più compatto ed economico da utilizzare in produzione. L’azienda sottolinea che sia MIIA, il modello linguistico italiano sviluppato da Fastweb, sia ROSS, l’assistente basato su agenti AI creato dallo spinoff NextMindLab, sono costruiti su modelli open source. Questo aspetto è considerato rilevante poiché le licenze e la provenienza dei modelli di partenza influenzano il livello effettivo di controllo.

Fonte e approfondimento su NVIDIA B300: articolo originale.

* Contenuto realizzato con l'ausilio di sistemi di intelligenza artificiale.