gputaskman: il Task Manager per GPU di Microsoft monitora VRAM e modelli AI

Scott Hanselman, dirigente e sviluppatore di Microsoft, ha creato gputaskman, un progetto open source dedicato al monitoraggio delle attività della GPU. L’applicazione è disponibile per Windows, Linux e macOS e visualizza consumi di memoria video, processi attivi, frequenze e temperature, con funzionalità specifiche per l’analisi dei modelli di intelligenza artificiale.

Il Task Manager di Windows è uno strumento ampiamente utilizzato per controllare le risorse hardware del PC e identificare i processi che richiedono più memoria o potenza. Tuttavia, quando si tratta di GPU, le informazioni disponibili sono meno dettagliate rispetto a quelle relative alla CPU. Per colmare questa lacuna, Scott Hanselman, vicepresidente e Member of Technical Staff presso Microsoft, ha sviluppato gputaskman, un progetto open source progettato per fornire una panoramica approfondita di ciò che accade all’interno della GPU.

gputaskman: perché è importante

Il nome richiama intenzionalmente il Task Manager di Windows, ma l’applicazione si concentra sulle attività di elaborazione grafica e accelerazione hardware. Il programma è disponibile per Windows, Linux e macOS e presenta le informazioni tramite un’interfaccia testuale in una finestra del terminale. L’idea alla base del progetto nasce da un’esigenza personale di Hanselman, che ha spiegato sui social network: “Succedono molte cose nella mia GPU. Sto creando un Task Manager per GPU per capire dove finisce la memoria della mia scheda grafica”.

gputaskman permette di osservare diversi parametri, tra cui l’utilizzo della GPU, le frequenze operative, il consumo di VRAM e le temperature. La caratteristica più interessante è la possibilità di visualizzare le risorse utilizzate dai singoli processi, anziché limitarsi a mostrare un valore complessivo relativo alla scheda video.

L’interfaccia è organizzata in tre sezioni principali. Quella superiore raccoglie i dati di monitoraggio della GPU, con grafici che mostrano in tempo reale l’andamento del carico di lavoro, della memoria video impiegata e della temperatura. La parte centrale elenca i processi che stanno sfruttando la GPU, indicando per ciascuno informazioni come il runtime, il consumo di VRAM e l’utilizzo della memoria di paging. Selezionando uno dei processi, la sezione inferiore mostra ulteriori dettagli relativi all’applicazione. Questa organizzazione consente di individuare più facilmente quali programmi stanno occupando la memoria video.

Negli esempi pubblicati da Hanselman compare un sistema dotato di GeForce RTX 4080 Super nel quale il processo che utilizza più VRAM è Desktop Window Manager, il componente di Windows responsabile della composizione e visualizzazione degli elementi dell’interfaccia grafica. Nell’elenco compaiono anche applicazioni dedicate all’intelligenza artificiale e altri processi normalmente presenti in Windows.

Cosa cambia e quali sono gli effetti

Particolare attenzione è stata riservata ai carichi di lavoro legati all’intelligenza artificiale e ai modelli linguistici di grandi dimensioni (LLM). gputaskman integra, infatti, un Model Inspector che permette di ottenere informazioni sui modelli AI utilizzati dai processi attivi. Quando viene selezionato, ad esempio, il processo llama-server.exe, il programma può mostrare quale modello linguistico è in esecuzione e fornire una suddivisione delle risorse impiegate. Tra i dati disponibili figurano architettura, quantizzazione, pesi del modello, numero di parametri, numero di livelli e memoria destinata alla KV cache, una struttura utilizzata durante la generazione del testo per conservare informazioni intermedie e ridurre la necessità di ripetere alcuni calcoli. Nell’esempio condiviso dallo sviluppatore compare Qwen3-0.6B, un modello con circa 600 milioni di parametri. La possibilità di distinguere il consumo legato ai pesi da quello della KV cache è particolarmente utile per chi esegue modelli AI in locale e vuole capire come viene distribuita la memoria video disponibile.

Rispetto al Task Manager di Windows, che offre già alcune informazioni sull’attività della GPU e sui processi che la utilizzano, gputaskman punta quindi a un livello di dettaglio superiore. Il suo approccio può risultare interessante soprattutto per gli utenti più esperti, per chi lavora con applicazioni grafiche impegnative e per chi utilizza contemporaneamente diversi strumenti basati sull’accelerazione GPU.

Il progetto è distribuito con licenza MIT, una licenza open source permissiva che consente di utilizzare, modificare e ridistribuire il software nel rispetto delle relative condizioni. Il codice sorgente e le informazioni tecniche sono disponibili su GitHub, mentre Hanselman ha pubblicato anche pacchetti eseguibili per Windows. Oltre a rappresentare uno strumento autonomo per il monitoraggio, gputaskman evidenzia una lacuna degli strumenti integrati in Windows. Rispondendo ad alcuni commenti sui social, Hanselman ha lasciato intendere che in futuro Windows potrebbe integrare funzionalità di monitoraggio della GPU più estese.

Fonte e approfondimento su gputaskman: articolo originale.

* Contenuto realizzato con l'ausilio di sistemi di intelligenza artificiale.