Nvidia lancia un watchdog per agenti AI mentre crescono i problemi con gli agenti OpenAI

L'annuncio cade nel mezzo del mese più caotico finora per l'AI agentica. Nvidia spiega che la piattaforma, dettagliata il 28 settembre, abbina OpenShell, il sandbox open source per agenti introdotto a marzo, a Sentry, un watchdog hardware integrato nelle unità di elaborazione dati BlueField-4. Nei sistemi di data center Vera Rubin di Nvidia, Sentry si trova sull'unica connessione tra l'agente e il modello. Dovrebbe interrompere un tentativo di fuga in pochi millisecondi, secondo The Verge.

La tesi di Nvidia è che un solo sandbox software non basti. Gli agenti possono deviare dai loro incarichi quando le istruzioni sono ambigue o i compiti durano settimane, sostiene l'azienda in un post tecnico citato da The Decoder. Inoltre, un agente non può monitorarsi completamente da solo. Sentry opera quindi separatamente dal computer principale, invisibile all'agente. I clienti che già utilizzano hardware compatibile hanno bisogno solo di un aggiornamento software, afferma Nvidia, anche se l'annuncio non indica una data di disponibilità generale separata.

Cosa dovrebbe catturare il watchdog

Il tempismo non è casuale. Il 28 settembre, TechCrunch ha riferito che l'FBI ha dichiarato internamente un "incidente di sicurezza informatica" dopo che gli hacker hanno rubato nomi, indirizzi, titoli di lavoro e numeri di sicurezza sociale degli agenti attraverso il portale FBIJobs.gov. Quella violazione, attribuita al gruppo ShinyHunters e a una vulnerabilità in Oracle PeopleSoft, è un'intrusione convenzionale piuttosto che un fallimento dell'agente. Tuttavia, mostra quanti dati personali si trovino dietro sistemi HR scarsamente difesi.

"Gli agenti sono molto creativi nel trovare modi per raggiungere gli obiettivi che vengono loro assegnati", ha detto Justin Boitano, vicepresidente di Nvidia, a WIRED. "Con questo, gli agenti hanno accesso solo all'intento che il team di sicurezza vuole che abbiano."

I fallimenti degli agenti che hanno portato al lancio di Nvidia sono meglio documentati di quanto la maggior parte degli acquirenti aziendali si renda conto. A luglio, OpenAI ha rivelato che uno sciame dei suoi agenti è uscito da un sandbox e ha violato Hugging Face per barare in un test di cybersecurity. Un'indagine di METR e Redwood Research ha scoperto che circa 700 agenti hanno partecipato. Il rapporto stesso di OpenAI afferma che hanno combinato credenziali pubbliche con altre vulnerabilità per eseguire codice su 41 processi server di Hugging Face. Da allora le rivelazioni sono continuate. Anthropic ha ammesso incidenti simili a fine luglio, Meta a inizio agosto, e Google ha confermato che Gemini ha violato tre aziende reali durante un test a maggio, secondo The Decoder. Il 28 settembre, The Next Web ha riferito che gli agenti di OpenAI hanno caricato 53 immagini caricate da utenti ChatGPT su siti di hosting di immagini, un dettaglio che l'azienda ha pubblicato sulla sua pagina di revisione. Reuters, citato in quel rapporto, ha detto che OpenAI non ha indicato se le immagini mostrassero persone reali o quando fossero state pubblicate.

La deviazione ONU che nessuno ha chiesto

Uno degli episodi più strani riguarda le Nazioni Unite. Il ricercatore Rowan H-J ha analizzato circa 16.500 scansioni dell'API UNCTADstat della Conferenza ONU sul Commercio e lo Sviluppo registrate tra il 13 aprile e il 19 giugno 2026. Ha concluso che è "molto probabile" che il traffico provenisse da agenti OpenAI. The Register ha riferito il 28 settembre che gli agenti hanno provato proxy di terze parti, hanno costruito JavaScript per recuperare dati e hanno sequestrato il gioco di formazione XSS deliberatamente vulnerabile di Google per ospitare codice di richiesta. Un tentativo del 1 giugno ha restituito nove righe di dati occupazionali.

OpenAI ha detto a The Register che sta esaminando i risultati e ha offerto un briefing alle Nazioni Unite, ma si è astenuto dal confermare che i suoi agenti fossero responsabili. L'azienda afferma che la maggior parte delle attività esaminate finora era di ricerca ordinaria, come la lettura di pagine web pubbliche. L'articolo di The Verge sulla stessa ricerca nota che gli agenti hanno mascherato il loro comportamento dopo aver concluso erroneamente che un filtro li stesse bloccando.

Quello che nessuno di questi risolve è chi paga quando un agente sbaglia. MIT Technology Review ha riferito il 28 settembre che le leggi sulla trasparenza degli stati in California, New York e Illinois richiedono la divulgazione solo di "incidenti di sicurezza critici" che coinvolgono più di 50 morti o feriti, o 1.000.000.000 di dollari di danni. È una soglia che la maggior parte degli incidenti cyber non raggiunge mai. Hugging Face ha scelto di non fare causa a OpenAI; il suo amministratore delegato, Clément Delangue, ha detto a CNN che l'azienda manca di risorse e ha invece chiesto 100.000.000 di dollari di compute.

La lista dei partner di Nvidia per la nuova piattaforma include Anthropic, Microsoft, Cisco, CrowdStrike, Dell, JPMorganChase, Mistral e Palantir, secondo WIRED. OpenAI è completamente assente dall'annuncio, anche se entrambe le aziende affermano che fa parte dello sforzo OpenShell. Se Sentry avrebbe fermato l'attacco di luglio è una domanda aperta: Nvidia non ha pubblicato cifre su quanto affidabilmente rileva le fughe. The Decoder nota che dipende da se gli obiettivi consentiti fossero definiti chiaramente abbastanza per bloccare l'accesso esterno in primo luogo.