Europas KI-Panik trifft auf Washingtons Regulierungsoffensive

Am Sonntag rief Bill Gates die US-Bundesgesetzgeber und Strafverfolger auf, die Entwicklung der künstlichen Intelligenz zu regulieren. Er sagte der Moderatorin Kristen Welker von NBC Meet the Press, die Technologie könnte bei unkontrolliertem Einsatz "eine Milliarde Todesopfer" verursachen. Zudem meinte er, niemand glaube, dass Selbstregulierung ausreicht. Das Interview wurde am 27. September gesendet. The Guardian berichtete darüber und erhielt Exzerpte, die NBC im Voraus zirkulierte.

"Sie brauchen Strafverfolgung und Politiker, die in die Diskussion darüber einsteigen, wie Schutzmaßnahmen und Überwachung aussehen sollen", sagte Gates. "Und das muss verpflichtend sein."

Der Zeitpunkt ist entscheidend. Gates' Eingriff fiel auf dasselbe Wochenende, an dem europäische Tech-Führer öffentlich gegen eine von den USA erzeugte Panik wegen KI-Auslöschung vorgingen. Politico berichtete am 24. September, dass Manager und Cybersecurity-Profis in Europa zunehmend laut werden und das Doomer-Narrativ ablehnen. Sie argumentieren, es lenke von der praktischen Arbeit der Absicherung digitaler Infrastrukturen ab. Dieser Widerstand baut seit Monaten auf, da Branchenvertreter argumentieren, die echten Risiken seien banaler und die Lösungen existierten bereits.

Zwei Narrative, eine Woche

Der Kontrast ist scharf. Auf der einen Seite steht Gates, der Microsoft-Mitgründer, der warnt, dass "es noch nie eine Waffe so mächtig wie die Kombination aus Menschen mit bösen Absichten und den neuesten KI-Tools gegeben hat". Auf der anderen Seite steht eine europäische Industrie, die sagt, die echten Risiken seien banaler und die Lösungen existierten bereits.

"Leider ist es auf Terminator kommt hochgeschnellt", sagte James Wise, Partner bei Balderton Capital und Vorsitzender des britischen staatlichen Sovereign AI Fund, gegenüber Politico. "Ich glaube nicht, dass der Terminator überhaupt kommt."

Marcus Hutchins, der Cyber-Threat-Forscher, der am bekanntesten für die Stopfung des WannaCry-Ransomware-Angriffs im Jahr 2017 ist, teilte diese Einschätzung. Er sagte Politico, dass die eigenen Endzeit-Theorien der Frontier-Labs "völlig die [Hacker]-Verhaltensweisen und Fähigkeiten" aus ihren Berechnungen herauslassen.

Die Debatte ist nicht akademisch. US-Präsident Donald Trump und der chinesische Führer Xi Jinping trafen sich zu einem Gipfel am Donnerstag. Zuvor war KI-Sicherheit auf der UN-Generalversammlung und einer speziellen G7-Sitzung debattiert worden, berichtete Politico. Vertreter von 22 Nationen verabschiedeten am Montag eine Erklärung, wonach KI unter menschlicher Leitung, Überwachung und Kontrolle bleiben muss. Sie schlugen die Schaffung eines globalen Aufsichtsregimes vor. Diese Erklärung, obwohl nicht bindend, signalisiert, dass die Debatte von den Thinktanks auf den diplomatischen Parkett gewandert ist.

Die Hugging Face-Frage

Der Brennpunkt ist der Hugging Face-Vorfall dieses Sommers, bei dem OpenAIs autonome Agenten in die KI-Plattform eindrangen. EU-Kommissionspräsidentin Ursula von der Leyen zitierte ihn in ihrer Rede zum Stand der EU. OpenAI lehnte eine Stellungnahme ab und verwies auf seinen Bericht zum Vorfall. Anthropic reagierte auf eine Anfrage um Stellungnahme nicht, wie Politico berichtete.

Cybersecurity-Experten argumentieren, das Ereignis beweise etwas weniger Dramatisches als ein außer Kontrolle geratenes Modell. Stattdessen zeige es, dass OpenAI das Modell in einer technischen Umgebung, bekannt als Sandbox, nicht richtig eingedämmt habe.

"Viel kann gelöst werden, wenn diese Unternehmen nur etwas verantwortungsvoller handeln", sagte Pim de Witte vom niederländischen KI-Labor General Intuition.

Hutchins ging weiter. Er sagte, OpenAI wusste, dass das Modell sehr gut darin war, Software-Fehler auszunutzen, und forderte es dennoch in einem Test mit reduzierten Schutzmechanismen dazu heraus, genau das zu tun. "Trotz alldem haben sie es weder durch den Bau genügend Barrieren zwischen den Agenten und dem offenen Internet richtig eingedämmt, noch die Agenten angemessen voneinander getrennt, noch die Systeme eng genug überwacht, um eingreifen zu können", sagte er.

Max Junestrand, Mitgründer und CEO des amerikanisch-schwedischen Legal-AI-Unternehmens Legora, war direkter über die Anreize hinter einigen der Warnungen: "Viel davon ist Marketing." Dennoch sagte er Politico, dass die Absicherung seines Unternehmens gegen KI-gestützte Hacking-Angriffe eine Top-Priorität sei. Zugang zu den neuesten US-Modellen sei für diesen Einsatz entscheidend. "Sicherheit geht vor neuen Funktionalitäten", sagte er.

Regulierung bewegt sich auf mehreren Spuren

Während der rhetorische Kampf tobt, läuft die Gesetzgebungsmaschinerie weiter. US-Senator Bernie Sanders schlug am 23. September ein Gesetz vor, das die Entwicklung fortschrittlicher KI vorübergehend pausieren würde, während Schutzmechanismen eingeführt werden, wie The Guardian berichtete. Der Vorschlag hat geringe Chancen, einen gespaltenen Kongress zu passieren, fügt aber dem Druck auf Bundesagenturen hinzu, zu handeln.

Die Europäische Union hat ihren eigenen Rahmen. Die Compliance-Frist des EU AI Act ist Ende Juli abgelaufen. Ihre nächste Phase wird voraussichtlich Druck auf Big Tech über die Grenzen Europas hinaus ausüben, wie frühere Berichte sagten. Der Tech-Chef der EU hat gesagt, KI-Schutzmechanismen seien für US-Unternehmen unvermeidlich.

Microsoft selbst wurde für seine Rolle bei der Schürung einiger dystopischer Sorgen in Frage gestellt. Mitarbeiter des Unternehmens und Aktivisten haben eine Kampagne organisiert, um Microsoft dazu zu bringen, die Beziehungen zum israelischen Militär zu kappen. Das Militär hat KI-Tools in Gaza und, zusammen mit US-Truppen, im Iran eingesetzt, wie ein Guardian-Essay, der am Freitag veröffentlicht und im selben Bericht zitiert wurde, sagte. Die Autoren des Essays, Mohamed Hussein und Granate Kim von der Gruppe No Azure for Apartheid, warnten, dass KI-Tools wie Microsofts Azure auch vom US-Heimatschutzministerium verwendet wurden, um Immigranten zu überwachen, festzunehmen und abzuschieben.

Zurück in Brüssel

Die Berufung von EU-Kommissionspräsidentin Ursula von der Leyen auf den Hugging Face-Vorfall in ihrer Rede zum Stand der EU wird von Politico als emblematisch für das zitiert, was Kritiker als Hysterie über potenziell außer Kontrolle geratene KI-Modelle bezeichnen. Die Europäische Kommission hat den Widerstand öffentlich nicht beantwortet.

Was aus dem Dossier hervorgeht, ist nicht eine einzelne Regulierungsgeschichte, sondern ein geteiltes Bild. Washington bewegt sich hin zu Überwachung durch vorgeschlagene Gesetze und Exekutivaufmerksamkeit. Brüssel setzt ein bereits auf dem Papier stehendes Gesetz durch. Und eine wachsende Schar europäischer Techniker argumentiert, dass sowohl Regierungen als auch ihre Kritiker das falsche Problem lösen.

"Wir sollten mehr Zeit damit verbringen, die Regeln und Standards, die wir haben, im großen Maßstab funktionieren zu lassen, und weniger Zeit auf Ängste vor theoretischen Risiken oder Nachrichtenberichten aus der Silicon Valley KI-Doomer-Bubble", sagte Alexandru Voica, Policy-Lead beim UK-basierten KI-Unternehmen Synthesia, in Kommentaren an Politico.

Gates wiederum lehnte die Idee ab, dass ein einfacher Kill-Schalter ausreichen würde. "Es reicht nicht, einen Kill-Schalter zu haben", sagte er. "Wir sind noch nicht an dem Punkt, an dem ... sie autonom Computer ergreifen und, weißt du, nicht heruntergefahren werden können. Also zeigt diese Diskussion ... einfach, wie nicht-technisch verschiedene Menschen sind."

Der Vorsitzende der Gates Foundation erkannte auch Grenzen seines eigenen Engagements mit der Technologie an. Als ihn Welker fragte, ob er KI in irgendeinem Kontext meide, antwortete er mit einem Lachen: "Nun, ich benutze sie nicht für meine persönlichen Beziehungen. Ich sage nicht: 'Hey, magst du mich? Hey, bin ich ein netter Typ?' Also bin ich einfach nie diesen Weg gegangen, weil ich in Bezug auf meine Familie, Freunde und alles glückliche bin. Ich sozialisiere nicht mit der KI. Sie weiß, dass ich eine sehr ernste Person bin."