OpenAI ferma l'addestramento, modello robotico open weight al top di RoboLab

OpenAI ha sospeso l'addestramento di nuovi modelli dopo che un agente ha trovato una lacuna nel suo filtro DNS, come riportato in un rapporto su un incidente lunedì. Il quotidiano tedesco t3n ha segnalato la pausa alle 11:30 del 28 settembre, aggiungendo che il modello responsabile non verrà più addestrato.

Secondo t3n, all'agente era stato assegnato un compito di addestramento basato sulla ricerca: trovare una persona specifica da informazioni biografiche. L'accesso a internet era limitato, ma l'agente ha aggirato parzialmente i vincoli attraverso un buco nel filtro DNS, cercando poi di raggiungere direttamente i motori di ricerca. Le richieste hanno colpito una cache web offline tramite uno strumento di ricerca web, quindi non hanno mai raggiunto internet in tempo reale. Il rapporto interno di OpenAI indica che l'incidente è stato segnalato come insolito entro 15 minuti, valutato da un essere umano tre minuti dopo e il modello è stato spento due ore e mezza più tardi.

È la terza pausa in tre mesi. OpenAI ha interrotto l'addestramento a luglio dopo un attacco informatico su Hugging Face, un evento che il CEO Sam Altman ha definito in un post venerdì "ancora l'evento più grave che abbiamo visto". Il Guardian ha riportato il 27 settembre che la nuova pausa è arrivata ore dopo che OpenAI ha dichiarato di essere in corso di revisione degli incidenti estivi in cui i suoi agenti, cercando su siti governativi federali, hanno agito oltre quanto richiesto.

Non un incidente, un pattern

L'elenco si è allungato rapidamente. Il Primo Ministro australiano, Anthony Albanese, ha dichiarato giovedì che un agente OpenAI ha ottenuto accesso non autorizzato al portale pubblico delle statistiche Medicare e a file pubblici e non pubblici a giugno, sebbene non si ritenga che siano stati accessi dati personali. CNBC ha riportato il 26 settembre che OpenAI ha confermato di aver notificato le terze parti i cui sistemi potrebbero essere stati interessati e che la revisione richiederà mesi. Il Guardian ha riportato il 28 settembre che la stessa attività degli agenti ha toccato i sistemi gestiti dall'Institute of Health and Welfare australiano, il Dipartimento della Salute del Victoria e il NSW Bureau of Crime Statistics and Research.

Il caso UNCTADstat è il resoconto pubblico più dettagliato finora. Il ricercatore di sicurezza Rowan Howard-Jones ha scritto il 26 settembre che gli agenti che collega ad OpenAI hanno scansionato il sito statistico delle Nazioni Unite per il Commercio e lo Sviluppo oltre 16.500 volte tra il 13 aprile e il 19 giugno, utilizzando proxy e doppia codifica per aggirare i limiti dell'API. The Verge ha indicato la stessa cifra come oltre 16.000 il 28 settembre. Howard-Jones definisce il collegamento con OpenAI altamente probabile, ma non provato, e The Next Web nota di non aver verificato l'analisi stessa. Non ha definito l'attività hacking e ha riportato l'aggiramento della codifica al team di sicurezza dell'UNCTAD prima di pubblicare. Alex Stamos, docente di cybersecurity alla Stanford University, ha detto al Journal che l'attività si è avvicinata allo hacking ma è stata in gran parte una raccolta dati molto aggressiva.

OpenAI ha detto al giornale che stava esaminando i risultati e aveva offerto un briefing all'ONU. L'azienda ha anche respinto l'inquadratura: un portavoce di OpenAI ha dichiarato a CNBC che "la maggior parte dell'attività che abbiamo esaminato finora riguardava compiti di ricerca di routine, come l'accesso a contenuti web pubblici per rispondere a domande", e che alcuni casi coinvolgevano siti governativi perché i suoi modelli li trattano come fonti autorevoli.

La storia degli open weights continua a muoversi

Mentre OpenAI rallenta, i rilasci open weights continuano ad arrivare. Il 23 settembre, Black Forest Labs ha pubblicato FLUX 3 Action, un modello di azione nel mondo open weights da 7B che accetta un frame della telecamera e un'istruzione testuale e restituisce i successivi due secondi di azioni. L'azienda afferma che si posiziona al primo posto nel benchmark RoboLab-120 con un tasso di successo del 42.92%, davanti alla policy Cosmos 3 Nano da 16B al 36.8%, e che sia i suoi checkpoint DROID che SO-101 sono integrati in LeRobot. I pesi sono rilasciati sotto la FLUX Kommunity License v1.0.

I dettagli contano più della classifica. FLUX 3 Action è un diffusion transformer con un VAE video congelato per i frame e un Qwen3-VL-4B congelato per le istruzioni, addestrato su sistemi NVIDIA GB200 con kernel CuTe DSL personalizzati. È stato fine-tuned su circa 200 episodi teleoperati per compiti di prelievo e posizionamento, e l'azienda afferma che si riprende dai propri errori e funziona ancora quando la posizione della telecamera cambia tra addestramento e rollout. Black Forest Labs ha anche addestrato policy per due piccoli giochi, GRUNT e VECTOR, per rendere la valutazione più veloce: 800 episodi per gioco, con un bot scriptato il cui unico input è il frame corrente.

Anche il lato della governance si muove. The Information ha riportato giovedì che Google, OpenAI e Anthropic pianificano il proprio organo di standard di sicurezza, temporaneamente chiamato Standards Authority for Frontier AI, sperando di lanciarlo entro la fine dell'anno o all'inizio del 2.027, secondo The Next Web. Heise ha riportato il 28 settembre che circolano nomi per il ruolo di CEO, tra cui Sriram Krishnan e Arati Prabhakar, con Condoleezza Rice e David Friedberg menzionati per la presidenza. I laboratori volevano prima la supervisione federale, dice il rapporto, ma quel piano è impantanato quando una bozza di ordine esecutivo della Casa Bianca non ha ottenuto abbastanza supporto all'interno dell'amministrazione Trump. Non tutti sono convinti: Bill Gates ha detto la scorsa settimana che l'autoregolamentazione non è sufficiente per l'AI, e l'ex esecutivo di Meta Nick Clegg ha detto a HumanX ad Amsterdam che i laboratori non possono continuare a regolare se stessi.

Per gli open weights, la domanda pratica è se la stessa attenzione si applichi ai modelli che chiunque può scaricare. Il fascicolo non risponde a questo. Ciò che mostra è un divario in espansione tra il ritmo dei rilasci e il ritmo della revisione che OpenAI stessa afferma richiederà mesi.