Flint di Recursive: l’AI locale per programmazione su portatile

Recursive ha presentato Flint, un modello progettato per la programmazione che può essere eseguito su un computer portatile standard ed è disponibile gratuitamente. L’azienda attribuisce un ruolo significativo alla propria Eureka Machine nello sviluppo del sistema, sottolineando però che il processo si è svolto sotto supervisione umana.

Flint è stato costruito da zero in meno di quattro mesi grazie all’utilizzo della Eureka Machine, il sistema automatizzato per la ricerca sviluppato da Recursive. Il modello è disponibile su Hugging Face con licenza Apache 2.0, che ne consente l’uso e la modifica.

Flint: perché è importante

Il progetto mira a portare nel mondo reale l’idea di un’intelligenza artificiale in grado di contribuire alla creazione di altri sistemi AI. Recursive descrive Eureka come un assistente di ricerca automatizzato guidato da persone, che propone esperimenti e utilizza i risultati per definire le successive fasi del processo.

L’esecuzione locale offre vantaggi pratici per gli sviluppatori: Flint può funzionare anche offline, mantiene i programmi sul computer dell’utente ed evita i costi associati all’elaborazione di grandi quantità di testo sui servizi cloud. Tuttavia, richiede risorse hardware compatibili e, secondo la stessa Recursive, necessita di istruzioni più dettagliate rispetto agli assistenti AI a pagamento.

Flint utilizza un’architettura mixture-of-experts che attiva solo una parte dei suoi 40 miliardi di parametri (2,5 miliardi nello specifico) per ogni richiesta. Questa configurazione riduce il carico computazionale e rende possibile l’esecuzione su un portatile comune, almeno secondo quanto affermato da Recursive.

Il confronto con Muse Spark Open di Meta evidenzia le differenze in termini di scala: il modello open source destinato ai Mac conta 816 miliardi di parametri e richiede almeno un terabyte di memoria. Nei test condotti dall’azienda, Flint ha generato circa 131 token al secondo su un MacBook Pro con chip Apple M4 Pro, superando i 58-69 token al secondo ottenuti da modelli simili come Gemma 4 di Google e Nemotron 3.5 Lightning di Nvidia sulla stessa macchina. Su Nvidia RTX Spark avrebbe superato i 150 token al secondo.

Sul benchmark SWE-Bench Verified, che valuta la capacità di correggere problemi software reali, Recursive afferma che Flint ha ottenuto risultati superiori a tutti gli altri modelli con meno di 50 miliardi di parametri. Nella media calcolata su sei prove, solo Qwen3.8 27B di Alibaba avrebbe registrato un punteggio più alto. I risultati completi e le condizioni di esecuzione non sono stati dettagliati, pertanto i confronti vanno considerati come indicazioni preliminari.

Cosa cambia e quali sono gli effetti

Recursive attribuisce a Eureka contributi che spaziano dal pre-addestramento all’ottimizzazione e all’inferenza, citando una struttura più sparsa, l’addestramento a bassa precisione (che ha ridotto le dimensioni di Flint del 71% con una minima perdita di qualità) e kernel personalizzati per accelerare i calcoli.

La startup, guidata da Richard Socher, già responsabile scientifico di Salesforce, è uscita dalla fase riservata a maggio con 650 milioni di dollari raccolti e una valutazione di 4,65 miliardi. A giugno ha inoltre siglato un accordo con Amazon Web Services per un impegno di 410 milioni di dollari in capacità di calcolo.

Recursive considera Flint un primo passo verso sistemi capaci di svolgere sessioni di ricerca più lunghe con meno interventi umani, auspicando che ogni modello migliori Eureka e acceleri lo sviluppo del successivo, mantenendo la supervisione umana e la possibilità di interrompere il processo. Al momento, Flint dimostra soprattutto che l’azienda è riuscita a portare sul mercato un modello locale dalle dimensioni relativamente contenute; il raggiungimento di una vera auto-miglioria ricorsiva resta ancora un obiettivo futuro.

Fonte e approfondimento su Flint: articolo originale.

* Contenuto realizzato con l'ausilio di sistemi di intelligenza artificiale.