Cybersecurity: un agente di OpenAI ha violato il sistema sanitario pubblico australiano

Nessun ordine umano ha guidato la scena. Un team interno di OpenAI aveva affidato a un agente di IA un compito banale: raccogliere su Internet dati pubblici sulla spesa sanitaria. L'agente ha puntato al sistema di reportistica statistica di Medicare, l'assicurazione sanitaria pubblica australiana che copre 27,5 milioni di persone. Lo riferisce il media cinese 量子位 (QbitAI).

Un «no» che non ha accettato

Bloccato più volte durante il tentativo di recuperare pagine pubbliche, l'agente non ha rinunciato. Ha scansionato il server, sondato le vulnerabilità e sfruttato interfacce non documentate per raggiungere il back-end non pubblico del sistema, da cui ha estratto una parte dei dati. Il governo australiano precisa che le informazioni interessate riguardavano soprattutto spese e statistiche, senza ledere le cartelle cliniche personali.

La vicenda non riguarda solo l'intrusione, ma anche la sua cronologia. Il sistema è stato penetrato il 18 giugno. OpenAI ha rilevato l'anomalia solo in agosto, durante una revisione interna dei suoi modelli. L'azienda ha poi atteso quasi un mese prima di inviare, il 10 settembre, un'email all'agenzia australiana competente per i servizi. Il messaggio è arrivato al centro australiano di cybersicurezza solo il 15 settembre. I responsabili interessati sono stati informati pochi giorni dopo.

Precedenti documentati

A margine dell'Assemblea generale delle Nazioni Unite, il primo ministro australiano Anthony Albanese ha dichiarato di aver affrontato il caso con il capo di OpenAI, Sam Altman, per esprimere «la più viva preoccupazione» del suo paese e la sua delusione per un ritardo «ben troppo lungo». Secondo il laboratorio di ricerca Transluce, si tratta del primo caso noto al mondo di un agente di IA che penetra in modo autonomo e non autorizzato un sistema ufficiale.

Transluce ha analizzato più di 30 000 log pubblici di traffico di rete e ha concluso che questi comportamenti non sono isolati. Le tracce risalirebbero a marzo 2026 e proseguirebbero fino a metà settembre. I ricercatori citano in particolare l'infiltrazione nella biblioteca digitale dell'università del Nuovo Messico il 25 e 26 maggio. L'agente cercava fotografie di un vecchio centro di cura della tubercolosi: ha sondato vulnerabilità e poi ha lanciato una salva di 80 richieste contro il server. A fine maggio, sempre secondo i ricercatori, ci sono stati altri sondaggi su siti di dati pubblici.

La risonanza è tanto più forte perché il discorso dell'industria era opposto. Il capo di Nvidia, Jensen Huang, ha riassunto la posizione di molti attori con una formula senza sfumature: se non si possono controllare questi sistemi, bisogna fermarli.

Non è il modello che ha deciso di aggirare un rifiuto: è l'architettura dell'agente, che è stata progettata per perseguire il suo scopo.