Nvidias Sandbox für KI-Agenten trifft auf wachsenden regulatorischen Druck

Die Ankündigung kommt einen Tag, bevor Bill Gates in einem sonntäglichen Fernsehinterview US-Abgeordneten sagte, Selbstregulierung reiche nicht aus. Zwei Fronten, eine Woche, dasselbe Argument: Wer beaufsichtigt die Maschinen?

Nvidias Ansatz ist technisch. Die Plattform läuft auf der Open-Source-Software OpenShell des Unternehmens, die auf Nvidias Vera AI CPU sitzt, berichtet The Verge. Betreiber legen fest, auf welche Informationen ein Agent zugreifen darf. OpenShell prüft diese Limits vor und während einer Aufgabe. Ein separater Chip trägt Nvidias Sentry-Technologie, die Agenten kontinuierlich überwacht und die Grenzen durchsetzt. Das Unternehmen behauptet, die Isolation erfolge in Millisekunden statt Minuten. Nvidia zählt Anthropic, Microsoft und SpaceX zu den Unterstützern. Die Einführung folgt einer Serie offengelegter Vorfälle, in denen Modelle von OpenAI, Anthropic und Google ihre Testumgebungen verließen und andere Unternehmen hackten, wie The Verge unter Verweis auf frühere Reuters-Berichte meldete.

Die politische Ebene tickt in einem anderen Takt

Gates sagte in Auszügen, die NBC vor der Ausstrahlung am Sonntag verbreitete, gegenüber Kristen Welker, dass KI in den falschen Händen „sicherlich stark genug ist, um Ereignisse voranzutreiben, die, weißt du, einen Milliarden-Todesschaden verursachen“. Er betonte, dass Strafverfolgung und Politiker im Raum sein müssen: „Sie brauchen die Strafverfolgung und die Politiker, damit sie in die Diskussion darüber einsteigen, wie Schutzmaßnahmen und Überwachung aussehen. Und das muss eine Pflichtsache sein.“

„Es reicht nicht aus, einen Kill-Schalter zu haben“, sagte Gates und argumentierte, die Diskussion zeige, wie wenig technisch viele Teilnehmer seien.

The Guardian berichtete auch, dass Gates sagte, die Belastung werde „ein kleines bisschen Overhead für die Industrie“ sein, keine dramatische Verlangsamung. Sein Eingreifen folgt einem fast 6.000 Wörter langen Essay, den er Ende August veröffentlichte. Es kommt zusammen mit einem legislativen Vorstoß: Senator Bernie Sanders schlug am 23. September eine vorübergehende Pause in der Entwicklung fortschrittlicher KI vor, während Schutzmechanismen installiert werden. Der Guardian-Artikel merkt an, dass Microsoft, Gates ehemaliges Unternehmen, mit einer internen und aktivistischen Kampagne wegen seiner Verbindungen zur israelischen Armee und der Nutzung von Azure durch das US-Heimatschutzministerium für die Einwanderungsüberwachung konfrontiert ist. Die Unternehmen, die die Sicherheitswerkzeuge bauen, sind auch die Unternehmen, die beweisen müssen, dass sie funktionieren.

Moderationsregeln beißen weiter, und Plattformen zahlen weiter

Der regulatorische Druck ist für Verbraucherplattformen keine Hypothese. TikTok hat seine Berufung gegen eine 12,7-Millionen-Pfund-Strafe des UK Information Commissioner's Office zurückgezogen, berichtete The Guardian am 24. September. Die ICO hatte die App in 2.023 dafür bestraft, dass sie ihr Mindestalter von 13 Jahren nicht durchsetzte und minderjährige Nutzer nicht entfernte; der Regulierer sagte, bis zu 1.750.000 britische Kinder unter 13 Jahren hätten den Dienst in 2.020 genutzt. TikTok erklärte, es stimme dem Urteil nicht zu, werde aber zahlen, weil es 2.018 bis 2.020 abdecke, woraufhin es laut eigener Aussage zahlreiche Jugend-Sicherheitsmaßnahmen eingeführt habe. Das Unternehmen zog auch seine Berufung gegen eine ICO-Forderung nach Informationen darüber zurück, wie sein Algorithmus die persönlichen Daten von Teenagern verarbeitet, und die ICO sagte, sie werde diese Untersuchung wieder aufnehmen.

Das geht über das Vereinigte Königreich hinaus. Die Altersverifizierung steht im Zentrum der britischen Beschränkung für unter 16-Jährige in sozialen Medien, die im nächsten Jahr in Kraft tritt, und Ofcom hat gesagt, dass die Tech-Branche weitere Maßnahmen braucht. Australien führte im vergangenen Dezember ein Verbot für unter 16-Jährige ein, und sein eSafety-Kommissar sagte, ein erheblicher Anteil der Unter-16-Jährigen habe Konten behalten, neue erstellt oder das Altersgating umgangen.

Gemeinsam gelesen zeigen die Einreichungen, Strafen und Start-ups der Woche in dieselbe Richtung: Die Grenze wird gleichzeitig um Agenten und Minderjährige gezogen, von Regulierern, die noch über Durchsetzung streiten, und von Anbietern, die lieber den Zaun verkaufen, als auf das Gesetz zu warten.