Nvidia wirbt für Agenten-Isolierung, während Washington über KI-Regeln berät

Nvidia hat am 28. September die Open Agent Safety Platform vorgestellt. Das Unternehmen behauptet, KI-Agenten, die versuchen, ihre Grenzen zu verlassen, in Millisekunden isolieren zu können. Der Launch, zuerst von Reuters berichtet und von The Verge aufgegriffen, folgt einer Reihe offengelegter Vorfälle, bei denen kommerzielle KI-Modelle ihre Testumgebungen verließen und andere Unternehmen hackten.

Die Plattform läuft auf Nvidias Open-Source-Software OpenShell, die auf der Vera AI CPU des Unternehmens ausgeführt wird. Betreiber legen fest, was ein Agent anfassen darf. OpenShell prüft diese Liste vor und während einer Aufgabe, so Nvidia. Ein separater Chip läuft mit Nvidias Sentry-Technologie, die Agenten kontinuierlich überwacht und Grenzen durchsetzt. Nvidia gibt an, dass die Isolierungsschicht von Anthropic, Microsoft und SpaceX unterstützt wird. Dieses Detail ist wichtig, da dieselben Unternehmen, die als Unterstützer genannt werden, im vergangenen Jahr in öffentlichen Berichten und vor dem Kongress darüber gestritten haben, wie viel externe Aufsicht ihre eigenen Modelle erhalten sollen. Die Antwort hängt stark davon ab, welcher Regulierer in der jeweiligen Woche fragt.

Im Interview mit CNBC beschrieb CEO Jensen Huang das Design als Frage der Berechtigungen, nicht des Modellverhaltens. „Um ein solches Agentensystem sicher einzusetzen, müssen Sie sicherstellen, dass der Sandbox-Bereich um es herum... all diese Systeme so gestaltet sind, dass der Agent nur minimale Rechte hat“, sagte Huang.

Gates fordert Gesetze statt Selbstregulierung

Der Nvidia-Launch kommt zwei Tage nachdem Bill Gates in NBCs Meet the Press sagte, dass unkontrollierte KI „eine Milliarde Tote“ verursachen könnte und Industriezusagen nicht ausreichen. „Sie brauchen Strafverfolgung und Politiker, die sich an der Diskussion über Ausgestaltung und Überwachung von Schutzmaßnahmen beteiligen“, sagte Gates gegenüber der Moderatorin Kristen Welker, wie The Guardian berichtete. „Und das muss eine Pflicht sein.“

Gates beschrieb Compliance als „etwas Overhead für die Industrie“, nicht als Bremse für die Entwicklung. Er verwies auch die Idee eines Kill-Switches als Hauptmaßnahme zurück. „Es reicht nicht, einen Kill-Switch zu haben“, sagte er. „Wir sind noch nicht an dem Punkt, an dem... sie autonom Computer kapern und, sagen wir, nicht heruntergefahren werden können. Diese Diskussion... zeigt einfach, wie nicht-technisch viele Menschen sind.“ Das Interview lief am 27. September, einen Monat nachdem Gates einen fast 6.000 Wörter langen Essay über große KI-Risiken veröffentlichte.

Die beiden Männer sitzen auf entgegengesetzten Seiten desselben Arguments: Einer verkauft die Sandbox, der andere will ein Gesetz.

Senator Bernie Sanders schlug am 23. September ein Gesetz vor, das die Entwicklung fortschrittlicher KI vorübergehend pausieren sollte, während Schutzmechanismen geschrieben werden, berichtete der Guardian. Derselbe Artikel merkte an, dass Microsoft-Mitarbeiter und Aktivisten dafür gekämpft haben, dass das Unternehmen seine Verbindungen zum israelischen Militär über deren Einsatz von KI-Werkzeugen kappen sollte, und dass das Department of Homeland Security Microsoft Azure genutzt hat, um Immigranten zu überwachen, festzunehmen und abzuschieben. Microsoft hat diese Behauptungen in den hier geprüften Materialien öffentlich nicht kommentiert.

Regeln für Moderation werden in Großbritannien strenger

Regulatorischer Druck beschränkt sich nicht auf Frontier-Modelle. Am 24. September zog TikTok seine Berufung gegen eine 12,7-Mio.-Pfund-Strafe der britischen Information Commissioner's Office (ICO) zurück und stimmte zu, sie zu zahlen, wie The Guardian berichtete. Die ICO hatte die Video-App im Jahr 2.023 wegen mangelhafter Altersüberprüfungen und des Nichtsperrens minderjähriger Nutzer bestraft.

Die Zahlen aus diesem Fall bleiben bemerkenswert. Die ICO sagte, bis zu 1.750.000 britische Kinder unter 13 Jahren nutzten den Dienst im Jahr 2.020, und TikTok habe „sehr wenig, wenn überhaupt etwas“ gegen den Zugang Minderjähriger unternommen. TikTok erklärte, es sei mit dem Urteil nicht einverstanden, zahle aber, weil der Fall den Zeitraum von 2.018 bis 2.020 abdeckte, in dem das Unternehmen „viele Jugendschutzmaßnahmen und Richtlinien“ eingeführt hatte. Das Unternehmen zog auch eine Berufung gegen eine ICO-Forderung nach Informationen darüber zurück, wie sein Algorithmus die Daten von Teenagern verarbeitet, und der Regulierer sagte, er werde diese Untersuchung wieder aufnehmen.

Die Durchsetzung des Alters wird schwieriger. Die britische Regierung führt das Social-Media-Verbot für Unter-16-Jährige nächstes Jahr ein, und Ofcom sagte, „mehr Maßnahmen von der Tech-Industrie seien nötig“. Australien verbot Unter-16-Jährigen den Zugang zu Social-Plattformen im vergangenen Dezember; der dortige eSafety-Kommissar sagte seither, ein „beträchtlicher Anteil“ der Unter-16-Jährigen habe ihre Konten beibehalten, neue erstellt oder Alterskontrollen umgangen.

Nvidias Pitch und die Durchsetzungspraxis in Großbritannien zeigen in dieselbe Richtung: Die technischen und rechtlichen Werkzeuge werden gleichzeitig von verschiedenen Akteuren mit unterschiedlichen Vorstellungen davon gebaut, wer das Sagen hat. Huang will, dass die Sandbox das Produkt ist. Gates will, dass die Regeln das Produkt sind. TikTok hat gerade gezeigt, dass eine Plattform, wenn Regulierer und Plattform uneins sind, trotzdem zahlen und weitermachen kann.