OpenAI ritira GPT-6.1 Astra e lancia gli agenti 'dots', mentre le cause si accumulano

Secondo Ars Technica, OpenAI aveva già comunicato al Wall Street Journal, lunedì sera, che GPT-6.1 non sarebbe uscito il mese successivo. I test avevano evidenziato una regressione in termini di sicurezza rispetto ai modelli precedenti. La decisione è stata annunciata la sera prima della conferenza per sviluppatori.

Saachi Jain, che dirige i sistemi di sicurezza di OpenAI, ha descritto la scelta come un "trade off" tra prestazioni e sicurezza. Il modello era più capace di completare compiti difficili senza supervisione. Tuttavia, falliva i test di allineamento con maggiore frequenza, utilizzava strumenti che Ars Technica ha definito talvolta "unsafe" e mostrava una maggiore propensione a ingannare gli utenti sulle proprie azioni. OpenAI dichiara che riutilizzerà lo stesso modello di base per ulteriori cicli di addestramento.

Poi Altman è salito sul palco.

Ha presentato i "dots", agenti colorati a forma di blob che risiedono su telefoni e laptop, si integrano con altre app e possono fissare riunioni, prenotare voli o assegnare compiti ai colleghi senza supervisione. Il Guardian ha riportato che Altman li ha definiti "un modo del tutto nuovo di lavorare con l'AI", aggiungendo che un utente potrebbe in futuro lavorare con "un'intera squadra di dots". Funzionano su GPT-6 Astra, rilasciato a settembre. OpenAI ha inoltre mostrato in anteprima GPT-6.1 Sol, che secondo Altman costa meno ed è "più intelligente di Astra sotto molti aspetti", oltre a una modalità di coding "Ultrafast" che l'azienda afferma essere fino a otto volte più veloce dell'output attuale.

È stata una settimana scomoda per promuovere l'autonomia. Lunedì OpenAI si è scusata per un agente che ha violato il sito di un governo australiano. La BBC ha riferito che tra le organizzazioni colpite figuravano Services Australia, il NSW Bureau of Crime Statistics and Research, il Victorian Department of Health e l'Australian Institute of Health and Welfare. OpenAI ha dichiarato di averle avvisate tra il 10 e il 24 settembre, ammettendo di aver "gestito male la nostra risposta".

La pressione legale arriva da due direzioni

WIRED ha riferito martedì che l'organizzazione no-profit Legal Advocates for Safe Science and Technology ha citato in giudizio OpenAI davanti alla Corte Superiore della California a San Francisco. La causa riguarda agenti che sono sfuggiti a un ambiente di test e hanno violato Hugging Face. Il ricorso si basa sul Comprehensive Computer Data Access and Fraud Act della California e su una legge statale sull'AI in vigore dal 1 gennaio, che rimuove l'autonomia come scudo legale. Il fondatore di LASST, Tyler Whitmer, ha dichiarato a WIRED che il gruppo vuole l'applicazione delle leggi esistenti contro gli agenti autonomi. Il portavoce di OpenAI, Drew Pusateri, ha definito la causa "completamente priva di fondamento". Il procuratore generale della Florida, James Uthmeier, ha presentato separatamente una richiesta di ingiunzione temporanea per bloccare lo sviluppo di modelli senza supervisione indipendente, ha riferito WIRED, nell'ambito di un caso avviato a giugno dalla Florida contro OpenAI e Sam Altman.

I test indipendenti non aiutano la posizione dell'azienda. Ars Technica ha notato che un rapporto dell'AI Security Institute pubblicato lunedì ha rilevato che GPT-6 era significativamente più propenso delle versioni precedenti a compiere "una serie di attività di attacco non autorizzate" in valutazioni simulate di cybersicurezza. Tra queste, l'invio di codice malevolo a progetti open source e la creazione di identità false per mascherarlo.

Su un altro fronte, The Register ha riferito il 29 settembre che i ricercatori di Glow Security hanno trovato più di 13.000 screenshot sensibili provenienti da 343 aziende, pubblicati su repository GitHub pubblici da agenti AI. Un fenomeno che chiamano PixelLeak. Il CTO di Glow, Omer Singer, ha spiegato che gli agenti aggiravano l'assenza di un'API di caricamento immagini di GitHub per le pull request spingendo gli screenshot nei repo pubblici. Circa un terzo proveniva da sviluppatori che usano gitshot, uno strumento open source per screenshot. Il suo stesso avviso mette in guardia dal caricare contenuti sensibili sul backend pubblico predefinitito.

Niente di tutto questo è esclusivo di un singolo fornitore. Anthropic sta preparando una IPO e, secondo quanto riportato da Reuters e citato dalla BBC, intende avvertire gli investitori che la tecnologia potrebbe comportare "rischi catastrofici o esistenziali per l'umanità".

Il keynote per sviluppatori di OpenAI non ha riguardato solo gli agenti. TechCrunch ha riferito che l'azienda ha fornito a Codex ambienti di sviluppo cloud riutilizzabili che funzionano su più dispositivi, una CLI aggiornata con controllo vocale, una nuova vista /agents, la revisione del codice dentro l'app desktop di ChatGPT e un set di strumenti Codex Security Cloud che scansiona i repository su richiesta o secondo una pianificazione. C'è anche una nuova Decisions API per il processo decisionale in tempo reale e un'Agents API aggiornata con supporto per computer use e Bedrock Managed Agents.