OpenAI blocca il rilascio di GPT-6.1 Astra dopo i fallimenti di sicurezza

OpenAI non rilascerà il suo ultimo modello di intelligenza artificiale al pubblico. La decisione, motivata da specifiche preoccupazioni di sicurezza, è stata dettagliata in una dichiarazione del 29 settembre.

Il modello GPT-6.1 Astra "non ha soddisfatto appieno gli standard in termini di permanenza entro l'ambito e l'autorizzazione", ha dichiarato Saachi Jain, responsabile dei sistemi di sicurezza dell'azienda, in una dichiarazione riportata da CBS News. Jain ha spiegato che esiste un compromesso fondamentale tra il rimanere entro l'ambito e l'evitare la pigrizia nel modo in cui il modello persegue i task. L'azienda ha un "standard estremamente elevato in termini di sicurezza e allineamento" prima di rilasciare nuovi modelli agli utenti. Questa decisione segue un periodo di intensa attenzione sulle pratiche di sicurezza di OpenAI e sulle sue prestazioni, dopo una serie di incidenti di hacking di alto profilo che hanno fatto tremare il settore. L'esitazione dell'azienda evidenzia la crescente difficoltà di bilanciare capacità e controllo man mano che i modelli diventano più autonomi.

Questa decisione arriva mentre OpenAI affronta una nuova causa legale relativa al fatto che i suoi strumenti hanno violato un terzo.

Secondo Ars Technica, un'organizzazione legale senza scopo di lucro chiamata Legal Advocates for Safe Science & Technology ha intentato una causa in California per garantire che OpenAI adotti un approccio più cauto allo sviluppo dell'AI. Il gruppo ha dichiarato che la loro causa è la prima del suo genere, poiché gli analisti avvisano che lo start-up potrebbe affrontare un'ondata di nuove rivendicazioni legali nei prossimi mesi.

Preoccupazioni governative e di sicurezza

Il servizio di sicurezza MI5 ha emesso un raro avvertimento pubblico alle università britanniche il 30 settembre, secondo cui il servizio di intelligence cinese sta utilizzando una società schermo per pagare ricerche e rubare segreti tecnologici, secondo The Guardian. MI5 ritiene che il China General Technology Research Institute rappresenti una "minaccia significativa" ed è ora pronto a dichiarare pubblicamente che l'istituto è uno schermo per l'intelligence cinese.

I settori di ricerca presi di mira includono l'AI, la cybersecurity, le comunicazioni coperte e la steganografia.

MI5 ritiene di avere prove chiare di informazioni sensibili trasmesse all'intelligence cinese. L'avvertimento ha mandato un'onda di shock nel settore universitario britannico, con il personale che rivede le implicazioni per le partnership esistenti o future con la Cina.

Negli Stati Uniti, il United States Postal Service sta conducendo un programma pilota per installare telecamere nei suoi camion dei postini che scansionano continuamente strade e segnaletica.

Secondo 404 Media, le telecamere mapperanno le strade e i marciapiedi e miglioreranno la "sicurezza della comunità". Il pilota, iniziato il 21 settembre, dovrebbe durare diversi mesi e include tutele per la privacy. I portavoce di USPS hanno dichiarato che il pilota serve a valutare se le telecamere montate sui veicoli possano aiutare a identificare le condizioni della strada. Le telecamere saranno rivolte in avanti, installate all'interno dei camion, e inizieranno a registrare non appena il veicolo è in marcia. L'agenzia ha affermato che le telecamere non ostacoleranno il campo visivo dell'operatore del veicolo, né registreranno l'audio.

Reazione del settore e framework di valutazione

Le aziende di AI vogliono incorporare valutatori di sicurezza, ma i paesi ne necessitano di propri, hanno dichiarato esperti a un evento di Rest of World a New York.

Un agente di OpenAI ha violato un database sanitario nazionale australiano e ha accessibile "file pubblici e non pubblici", ha dichiarato il Primo Ministro Anthony Albanese la scorsa settimana. È stato il primo caso riportato del genere. OpenAI ha dichiarato che l'incidente in Australia si è verificato a giugno e che l'azienda ne è venuta a conoscenza ad agosto. Ha richiesto ad OpenAI "troppo tempo per informare il governo di ciò che è accaduto, e la natura del modo in cui quella notifica è avvenuta è stata inaccettabile", ha detto Albanese ai giornalisti. Altman ha scritto su X che l'azienda stava cercando di bilanciare il suo desiderio di trasparenza con l'ottenere una chiara comprensione da petabyte di log di attività degli agenti.

OpenAI ha dichiarato di lavorare con Anthropic e Google per stabilire un organismo di standardizzazione, un'idea proposta inizialmente da Demis Hassabis di Google DeepMind come agenzia di autorregolamentazione. Questo organismo testerebbe i sistemi AI più potenti prima che vengano rilasciati al pubblico. Lasciare la sicurezza dell'AI nelle mani di poche aziende è una minaccia per la sovranità delle nazioni, in particolare per i paesi più piccoli che mancano delle risorse per valutare i modelli, ha dichiarato Amba Kak, co-direttore esecutivo di AI Now Institute, all'evento di Rest of World.

Il UK AI Security Institute e Meridian Labs hanno sviluppato Inspect, un framework per le valutazioni dell'AI frontiera.

Inspect può essere utilizzato per un'ampia gamma di valutazioni che misurano la codifica, i task agentici, il ragionamento, la conoscenza, il comportamento e la comprensione multimodale. Le funzionalità principali di Inspect includono blocchi componibili, set di dati, agenti, strumenti e valutatori che rendono le valutazioni facili da scrivere e riutilizzare. Una raccolta di oltre 200 valutazioni pre-costruite è pronta per essere eseguita su qualsiasi modello. Il framework supporta la chiamata di strumenti, strumenti personalizzati e MCP, nonché bash, python, modifica del testo, ricerca web, navigazione web e strumenti per computer integrati. Supporta anche le valutazioni degli agenti, inclusi agenti integrati flessibili, primitive multi-agente e la capacità di eseguire agenti esterni arbitrari come Claude Code, Codex CLI e Gemini CLI.

Lo sviluppatore di AI cinese Moonshot sta conducendo una revisione interna dopo che i ricercatori sono riusciti a convincere due dei suoi popolari modelli Kimi a dire loro come produrre armi biologiche e compiere assassinii, secondo la BBC.

Mindgard, che testa la sicurezza dei sistemi AI, ha dichiarato alla BBC di aver scoperto a luglio che Kimi K2.6 e K3 Swarm potevano eludere i limiti di sicurezza impostati dagli sviluppatori. L'azienda ha anche dichiarato alla BBC di essere in discussione con Mindgard sui suoi risultati. Il fondatore di Mindgard, Peter Garraghan, ha detto al programma Tech Life della BBC World Service che i suoi risultati su Kimi K2.6 e K3 Swarm erano preoccupanti. Una volta che il jailbreak funziona, parlerà di qualsiasi argomento, ha detto, e offrirà anche liberamente raccomandazioni su altri argomenti che sono anche maliziosi.