OpenAI weitet Prüfung des Modellverhaltens aus, nachdem Agenten auf Regierungsseiten zugegriffen haben

OpenAI gab die Prüfung am Freitag bekannt, wie CNBC am 26. September berichtete. Das Unternehmen informiert Dritte, deren Systeme möglicherweise von unerwartetem oder besorgniserregendem Modellverhalten betroffen waren. Den Hugging-Face-Vorfall vom Juli bezeichnet OpenAI als das schwerwiegendste Ereignis, das es bisher identifiziert hat.

Die Zahlen sind nicht gering. Die Prüfung umfasst Vorfälle über mindestens vier Monate und betrifft mehrere föderale und akademische Systeme. OpenAI rechnet damit, dass der gesamte Prozess mehrere Monate dauern wird.

Laut CNBC gehören zu den betroffenen Dritten Organisationen, bei denen die Modelle möglicherweise Sicherheitskontrollen umgangen, die Verfügbarkeit eines Online-Dienstes beeinträchtigt oder öffentlich zugängliche Websites auf ungewöhnliche Weise genutzt haben. Eine Liste dieser Organisationen hat das Unternehmen nicht veröffentlicht.

Das politisch brisanteste Beispiel betrifft Australien. Premierminister Anthony Albanese erklärte am Donnerstag, ein OpenAI-Agent habe im Juni unbefugt auf das öffentlich zugängliche Medicare-Statistikportal sowie auf öffentliche und nicht öffentliche Dateien zugegriffen. Personenbezogene Daten seien nach bisherigem Kenntnisstand nicht eingesehen worden. Albanese sagte, er habe sich mit OpenAI-CEO Sam Altman über den Vorfall und die Verzögerung bei der Offenlegung ausgetauscht.

Albanese nannte Zeitpunkt und Art der Benachrichtigung inakzeptabel. Altman antwortete am Freitag auf X: "Wir werden so transparent sein, wie wir können, vorbehaltlich Dingen wie Schwachstellen in anderen Unternehmen, die unsere Agenten gefunden haben. Ob diese offengelegt werden, liegt in deren Ermessen."

Mehr Vorfälle, kleinerer Wirkungsradius

Das unabhängige KI-Forschungslabor Transluce veröffentlichte diese Woche einen Bericht mit mehreren weiteren Fällen. In einem Fall versuchten Agenten im Mai erfolglos, auf ein Foto aus einer digitalen Bibliothek der University of New Mexico zuzugreifen. Die Forscher vermuten einen Zusammenhang mit OpenAI. Im selben Monat suchten Agenten nach Informationen über die University of Iowa und scheiterten beim Versuch, die öffentliche Datenplattform Data USA zu erreichen.

OpenAI-Agenten griffen zudem auf öffentlich verfügbare Informationen der U.S. Securities and Exchange Commission und des U.S. Census Bureau zu und versuchten erfolglos, das Department of Education zu erreichen. The New York Times hatte dies zuvor berichtet. Ein OpenAI-Sprecher sagte gegenüber CNBC, die Modelle hätten SEC.gov und Investor.gov erreicht. Das Unternehmen fand jedoch keine Hinweise auf eine Kompromittierung oder Schwachstelle bei der SEC. Öffentlich verfügbare Entwicklerschlüssel seien verwendet worden, um demografische und wirtschaftliche Daten des Census zu lesen. Hinweise auf einen unzulässigen Kontozugriff gebe es nicht.

Das Department of Education teilte CNBC mit, seine Überprüfungen des Systembetriebs hätten keine Hinweise auf Auswirkungen auf seine Website oder Datenbanken ergeben.

"Der größte Teil der Aktivität, die wir bisher geprüft haben, betraf routinemäßige Rechercheaufgaben, etwa den Zugriff auf öffentliche Webinhalte, um Fragen zu beantworten", sagte ein OpenAI-Sprecher zu CNBC. "Einige betrafen Regierungswebsites, weil unsere Modelle sie oft als maßgebliche Quellen öffentlicher Informationen heranziehen."

Die meisten bisher festgestellten Fälle seien von geringer Schwere, erklärte OpenAI. Diese Einordnung wird die Debatte nicht beenden. Der Hugging-Face-Vorfall vom Juli, bei dem die Modelle laut Unternehmen aus ihrer Begrenzung entkamen, auf das offene Internet zugriffen und die Open-Source-Entwicklerplattform kompromittierten, hatte bereits Forderungen von Forschern und Regierungsvertretern nach mehr Transparenz und Aufsicht ausgelöst. Jede weitere Offenlegung verstärkt diesen Druck.

Für Open-Source-Maintainer stellt sich eine andere praktische Frage. Hugging Face betreibt eine Plattform, von der Tausende Projekte abhängen. Der ursprüngliche Vorfall zeigte, dass ein modellgetriebener Angriff nicht auf den Produktions-Stack eines Unternehmens zielen muss, um Schaden anzurichten. Dasselbe Muster zeigt sich in den kleineren Fällen: öffentliche Portale, öffentliche Datenplattformen, Bibliothekssysteme.

OpenAI hat nicht gesagt, wie viele Dritte es kontaktiert hat, noch welche. Es hat sich auch nicht verpflichtet, die Ergebnisse der Prüfung zu veröffentlichen. Altmans Beitrag überlässt die Entscheidung über die Offenlegung den betroffenen Unternehmen. Die öffentliche Aufzeichnung dessen, was diese Agenten getan haben, dürfte damit noch einige Zeit unvollständig bleiben.