Phonon-2, Coop e Kumo Tabular: la settimana dei piccoli modelli aperti

Il punto è la dimensione. L'encoder di Fermion Research memorizza ogni peso come uno di cinque livelli appresi, circa 2,1 bit. I pesi sono rilasciati con licenza CC-BY-4.0 e lo stesso file gira su Mac, Linux, Windows e GPU NVIDIA. Su un MacBook Air, un'ora di audio diventa testo in circa 20 secondi.

Altri due rilasci aperti sono arrivati lo stesso giorno. NVIDIA ha pubblicato Kumo Tabular su Hugging Face, un modello di base aperto per la previsione su dati tabellari. Il progetto di volontari Coop ha invece pubblicato un repository che descrive un piccolo modello linguistico preaddestrato senza server, senza finanziamenti e senza daemon.

Cosa dicono davvero i numeri

La rivendicazione principale di Phonon-2 è l'accuratezza per byte. Sui sette set inglesi della Open ASR Leaderboard, il modello registra una media del 5,21% di errore a livello di parola. Ogni modello aperto con un punteggio migliore è almeno 5,8 volte più grande. Sul parlato parlamentare, Phonon-2 raggiunge il 100,8% dell'accuratezza del modello insegnante. Sulle riunioni lo supera, partendo da un download 15 volte più piccolo. Il termine di paragone è Parakeet TDT 0.6B v3 di NVIDIA, indicato da Fermion come fonte della licenza per i propri pesi. L'azienda sostiene anche che Phonon-2 resta davanti a Parakeet Redux, descritto come l'altro modello a basso numero di bit della sua taglia, a ogni livello di rumore testato. Si tratta di cifre del fornitore, pubblicate insieme al modello. Secondo il documento di Fermion, i percorsi veloci vengono attivati solo quando l'errore a livello di parola resta entro il rumore del percorso esatto.

Il modello tabellare di NVIDIA fa una scelta diversa. Kumo Tabular predice le etichette per nuove righe in un solo passaggio in avanti, senza addestramento, senza messa a punto e senza feature engineering, per classificazione e regressione. È stato preaddestrato solo su dati artificiali. Esce in tre taglie, da 28M a 215M parametri, ed è rilasciato con licenza OpenMDW-1.1 per uso commerciale. NVIDIA rivendica il primo posto su quattro benchmark: TabArena, BeyondArena, TALENT e ScoringBench.

Un ciclo di addestramento senza proprietario

Coop è il più strano dei tre. La sua pagina GitHub descrive pseudo-gradienti che arrivano come pull request su Hugging Face. Vengono aggregati da un cron job stateless di GitHub Actions che usa DiLoCo. Pesi e stato dell'ottimizzatore vivono solo su Hugging Face. Il lavoro lo fanno hardware di consumo donato e piani gratuiti. La fase 2 è un modello da circa 145M parametri preaddestrato da zero su FineWeb-Edu. La fase 1, un modello da 15M su TinyStories, ha superato il suo budget ottimale secondo Chinchilla, afferma il repository.

Il progetto sostiene che più volontari su macchine diverse, Apple Silicon e CPU normali, hanno addestrato lo stesso passo esterno. I risultati sono stati mediati in un unico aggiornamento. Il repository documenta anche la gestione dei guasti: una sottomissione che ha corso contro un tick è stata accettata un passo dopo con peso di staleness ridotto. I round ripetuti di un utente sono stati uniti in un solo voto. Un round a metà è stato svuotato invece che scartato. Niente di tutto questo è lavoro di frontiera. È proprio il punto. Lo stesso giorno, il UK AI Security Institute e Meridian Labs hanno pubblicato Inspect. È un framework aperto per le valutazioni di frontiera con più di 200 valutazioni predefinite e il supporto a oltre 20 fornitori di modelli. Include il sandboxing in Docker, Kubernetes e Modal.

Altrove la linea tra aperto e chiuso si discute in pubblico. Il 30 settembre The Register ha riferito che OpenAI ha accusato individui legati a Moonshot AI, in Cina, di un attacco di distillazione iniziato il 1 luglio. I picchi di alto volume del 24 e 25 luglio consistevano in 16.000 richieste da oltre 4.000 utenti. OpenAI ha dichiarato di aver interrotto la campagna il 28 luglio. Moonshot non ha risposto subito alla richiesta di commento di The Register. Lo stesso giorno, The Decoder ha riferito che DeepSeek ha rilasciato strumenti di programmazione open source per i chip Ascend di Huawei. Sono incentrati su TileLang, un linguaggio open source sviluppato originariamente da ricercatori della Peking University. Reuters, citata in quel resoconto, ha associato il rilascio a librerie per il calcolo e il movimento dei dati tra chip. DeepSeek ha detto che Huawei ha sostenuto pienamente il lavoro. I due hanno ottimizzato un supernodo di 128 chip Ascend 950. Le autorità si muovono nello stesso momento. Il 30 settembre The Guardian ha riferito che la FTC ha aperto un'indagine su tutto il settore su Anthropic e OpenAI. Ci sono richieste formali di informazioni e testimonianze. È la prima azione ufficiale di enforcement negli Stati Uniti che tocca agenti AI fuori controllo. CNBC ha confermato l'indagine. La FTC ha rifiutato di indicare altre aziende sotto indagine.

I rilasci aperti di cui sopra non hanno a che fare con quel caso. Condividono però una premessa: la capacità, o almeno quella utile, si sta spostando verso pesi che chiunque può scaricare. Le prove di questa settimana sono modelli piccoli con compiti ristretti, un ciclo di addestramento volontario e una tabella di benchmark di un fornitore. Se tutto questo faccia una svolta è una domanda a cui risponderanno i prossimi cicli di rilascio.