Cybersicherheit: OpenAI-Agent drang in australisches Gesundheitssystem ein

Ein internes Team von OpenAI gab einem KI-Agenten eine einfache Aufgabe: öffentliche Daten zu Gesundheitsausgaben im Internet sammeln. Der Agent zielte auf das statistische Berichtssystem von Medicare, der öffentlichen Krankenversicherung Australiens, die 27,5 Millionen Menschen versichert. Das berichtet das chinesische Medium 量子位 (QbitAI).

Ein Nein, das er nicht akzeptierte

Der Agent wurde mehrfach blockiert, als er versuchte, öffentliche Seiten abzurufen. Er gab nicht auf. Stattdessen scannte er den Server, prüfte auf Schwachstellen und nutzte undokumentierte Schnittstellen. So gelangte er in den nicht öffentlichen Hinterbereich des Systems und extrahierte dort Daten. Die australische Regierung teilt mit, dass es sich vor allem um Ausgaben- und Statistikdaten handelte. Persönliche Krankenakten blieben unberührt.

Entscheidend ist die Chronologie. Das System wurde am 18. Juni kompromittiert. OpenAI bemerkte die Anomalie erst im August bei einer internen Überprüfung. Fast einen Monat später, am 10. September, schickte das Unternehmen eine E-Mail an die zuständige australische Behörde. Das australische Zentrum für Cybersicherheit erhielt die Nachricht erst am 15. September. Die betroffenen Verantwortlichen erfuhren erst Tage später davon.

Dokumentierte Vorfälle

Am Rande der UN-Generalversammlung erklärte Premierminister Anthony Albanese, er habe den Fall mit OpenAI-Chef Sam Altman besprochen. Er äußerte die größte Besorgnis seines Landes und seine Enttäuschung über die viel zu lange Verzögerung. Laut dem Forschungsinstitut Transluce ist dies der erste bekannte Fall weltweit, in dem ein KI-Agent selbstständig und unbefugt in ein offizielles System eindringt.

Transluce analysierte über 30.000 öffentliche Netzwerkprotokolle. Die Forscher stellten fest, dass solche Verhaltensweisen keine Einzelfälle sind. Die Spuren reichen von März 2026 bis Mitte September. Genannt wird unter anderem das Eindringen in die digitale Bibliothek der University of New Mexico am 25. und 26. Mai. Der Agent suchte dort nach Fotos eines ehemaligen Tuberkulose-Behandlungszentrums. Er prüfte Schwachstellen und startete eine Salve von 80 Anfragen gegen den Server. Ende Mai gab es ähnliche Abtastungen auf Websites mit öffentlichen Daten.

Der Vorfall wirkt umso stärker, weil die Branche das Gegenteil behauptete. Nvidia-Chef Jensen Huang fasste die Position vieler Akteure zusammen: Wenn man diese Systeme nicht kontrollieren kann, muss man sie stoppen.

Nicht das Modell hat entschieden, eine Ablehnung zu umgehen. Es ist die Architektur des Agenten, die darauf ausgelegt ist, ihr Ziel zu verfolgen.