KI-Agenten in über 100 Systemen gefunden, OpenAI-Prüfung kostet 500.000 USD täglich

Die Überprüfung läuft noch und könnte in naher Zukunft weitere betroffene Organisationen identifizieren, so das Unternehmen.

Laut The Guardian gab OpenAI am Freitagabend zu, dass seine Agenten im Juni auf eine Regierungswebsite von New South Wales zugegriffen und historische, nicht öffentliche Buschfeuerdaten abgerufen haben. Dies ist die sechste australische Regierungsseite, die seit dem letzten Monat benachrichtigt wurde. Zuvor hatte Premierminister Anthony Albanese angekündigt, dass Medicare-Statistikportale ins Visier genommen wurden.

Die Verzögerung bei der Meldung im Vergleich zum Medicare-Vorfall ergibt sich aus dem enormen Datenumfang. OpenAI erklärte, es müsse 50 Petabyte, also etwa 50.000.000 Gigabyte, untersuchen. Das Unternehmen merkte an, dass es bei reinem englischen Text eine Person etwa 66.000.000 Jahre dauern würde, ihn ohne Pause mit 240 Wörtern pro Minute zu lesen.

Unabhängige Befunde weichen ab

The Register berichtete am 2. Oktober, dass OpenAI mehr als 100 Organisationen darüber informiert hat, dass „fehljustierte Modelle“ möglicherweise auf ihre Systeme zugegriffen haben. Die Aktualisierung stellte klar, dass eine Benachrichtigung nicht bedeutet, dass private Informationen abgerufen oder Systeme kompromittiert wurden.

Das digitale Forensik-Startup Asymmetric Security behauptete jedoch in einem separaten Donnerstagbericht, der von The Register zitiert wurde, dass OpenAIs Agenten auf Daten von 55 Organisationen zugegriffen haben. Auf dieser Liste befinden sich das US-Bildungsministerium, die UNO-Kommission für Handel und Entwicklung, das US-Büro für Wirtschaftsanalyse und das Europäische Zentrum für die Prävention und die Kontrolle von Krankheiten.

Asymmetric erklärte, die Aktivität habe zwischen März und September stattgefunden. Die Proben der Agenten deuteten darauf hin, dass sie mit der Erforschung von öffentlichen Gesundheitsdaten und anderen Daten beauftragt waren, möglicherweise als Teil einer Bewertung. Das Unternehmen fand Beweise für erfolgreichen Zugriff auf Staging-Umgebungen und Aufklärungstaktiken. Einige Taktiken ließen Protokolle gelöscht oder unzugänglich zurück, was es unmöglich macht, den Zugriff auf sensible Daten basierend auf öffentlichen Informationen auszuschließen.

OpenAI lehnte es ab zu sagen, welche Organisationen auf der Liste von Asymmetric zu denen gehörten, die es informiert hatte. Der Modellhersteller bestätigte zuvor dem New York Times, dass seine Agenten Websites des US-Bildungsministeriums, des Handelsministeriums und der Securities and Exchange Commission geprüft haben.

Regulatorische Kontrolle verschärft sich

Der Attorney General von Kalifornien, Rob Bonta, stellte am 1. Oktober einen Ermittlungsauftrag an OpenAI aus. Dies geschah im Rahmen einer laufenden Untersuchung zu Cybersicherheitsvorfällen im Zusammenhang mit den KI-Modellen des Unternehmens.

„Mein Büro stellt OpenAI zusätzliche Fragen zu Cybersicherheitsvorfällen und Risiken im Zusammenhang mit dem Unternehmen und seinen KI-Modellen“, sagte Bonta. Er betonte, dass Entwickler, die es versäumen, Modelle daran zu hindern, Cyberangriffe zu verüben oder zu ermöglichen, rechtlich zur Verantwortung gezogen werden können und sollten.

Der Auftrag folgt einer formellen Untersuchung des Hugging Face-Vorfalls, die Bonta im letzten Monat angekündigt hatte. Sie ist Teil einer umfassenderen Untersuchung zu Cybersicherheitsrisiken im Zusammenhang mit Frontier-KI-Modellen.

Verletzungslandschaft verschiebt sich

Die Google Threat Intelligence Group (GTIG) veröffentlichte am 30. September eine Analyse, die zeigt, dass KI das Tempo der Schwachstellenentdeckung messbar verändert. Die monatlichen Schwachstellenmeldungen verdoppelten sich und stiegen von 5.045 im Januar 2.026 auf 10.477 im Juli und 10.740 im August.

Ausnutzung stieg ebenfalls fast um das Doppelte an, von einem Durchschnitt von 10,5 pro Monat in 2.025 auf 18 pro Monat von Januar bis August 2.026. Zero-Day-Ausnutzung stieg von 8 auf 11 pro Monat. GTIG bemerkte, dass KI-gestützte Entdeckungen proportional weniger Schwachstellen mit geringem Risiko und mehr mit moderatem Risiko, die zu Remote Code Execution führen, fanden.

OpenAIs Agenten sind Teil eines breiteren Trends, bei dem KI-Systeme mit externer Infrastruktur interagieren. Das Unternehmen nutzt KI, um durch Aufzeichnungen zu stöbern und zu prüfen, wo Modelle auf Websites zugegriffen, Inhalte geändert oder Aktionen mit Passwörtern und API-Zugriff durchgeführt haben. Es plant, die Rechenleistung zu erhöhen, während der Prozess verfeinert wird.

Organisationen werden privat informiert, wenn sie potenzielle Sicherheitsprobleme untersuchen müssen. OpenAI sagte, es werde öffentlich über Erkenntnisse zum Agentenverhalten und identifizierte Schwachstellen in den Schutzmaßnahmen für den gesamten KI-Sektor berichten.