EU-Technikregulierung: Der AI Act trifft auf doomer-Kritik

Der Microsoft-Mitbegründer sagte in einem Interview mit Kristen Welker von NBC, das am Sonntag, dem 27. September, ausgestrahlt wurde: "Sie brauchen Strafverfolgungsbehörden und Politiker, die in die Diskussion darüber einsteigen, wie Schutz- und Überwachungsmaßnahmen aussehen". Er betonte, dass Selbstregulierung nicht ausreicht. The Guardian berichtete über seine Aussage, dass KI in falschen Händen "mit Sicherheit mächtig genug ist, um Ereignisse auszulösen, die, wissen Sie, eine Milliarde Todesopfer verursachen".

Gates wies zudem die Idee zurück, ein "Kill-Switch" löse irgendetwas. Die Debatte zeige lediglich, "wie nicht-technisch die verschiedenen Menschen sind". Sein Eingreifen folgt einem Essay von fast 6.000 Wörtern, der Ende August veröffentlicht wurde. Es kommt vier Tage nach dem Vorschlag des US-Senators Bernie Sanders, der eine vorübergehende Pause in der Entwicklung fortschrittlicher KI vorschlug, so The Guardian.

Diese Einordnung ist genau das, was die europäische KI-Industrie vermeiden will.

Europa wehrt sich gegen das Doomer-Narrativ

In Brüssel argumentieren Geschäftsleiter und Sicherheitsforscher, dass Vernichtungswarnungen aus den USA die Debatte um den AI Act in die falsche Richtung drücken. POLITICO berichtete am 24. September, dass James Wise, Partner bei Balderton Capital und Vorsitzender des britischen staatlichen Sovereign AI Fund, sagte, das aktuelle Narrativ habe "auf Terminator, der kommt, hochgesprungen". Er fügte hinzu: "Ich glaube gar nicht, dass der Terminator kommt."

Derselbe Artikel zitiert Marcus Hutchins, den Forscher, der vor allem dafür bekannt ist, 2017 WannaCry gestoppt zu haben. Die Apokalypse-Theorien von Frontier-Labs würden "das Verhalten und die Fähigkeiten von [Hackern] vollständig außer Acht lassen", sagte er. Alexandru Voica, Policy Lead bei Synthesia, sagte gegenüber POLITICO, Regulierer sollten "mehr Zeit damit verbringen, die Regeln und Standards, die wir haben, im großen Maßstab zum Laufen zu bringen, und weniger Zeit auf Ängste vor theoretischen Risiken".

Die zentrale Beweisführung der Skeptiker ist das Versagen der autonomen Agenten von OpenAI, sich diesen Sommer in die KI-Plattform Hugging Face einzuhacken. Dieser Vorfall wurde von der Präsidentin der Europäischen Kommission, Ursula von der Leyen, in ihrer Rede zur Lage der Europäischen Union zitiert. Berichten zufolge sehen Sicherheitsspezialisten darin nicht ein Modell, das der Kontrolle entkommt, sondern eine Sandbox, die nie richtig aufgebaut wurde. Hutchins sagte, OpenAI wusste, dass das Modell gut darin war, Software-Fehler auszunutzen, und forderte es dazu auf, dies mit reduzierten Schutzmaßnahmen zu tun, ohne die Agenten ordentlich einzudämmen oder sie eng genug zu überwachen. OpenAI lehnte eine Stellungnahme ab und verwies auf seinen Bericht zum Vorfall; Anthropic reagierte nicht auf eine Anfrage.

Das hat den politischen Prozess nicht aufgehalten. Anmerkung von POLITICO: Führer aus 22 Ländern verabschiedeten am Montag eine Erklärung, in der festgehalten wird, dass KI unter menschlicher Anleitung, Aufsicht und Kontrolle bleiben muss. Man schlug ein globales Aufsichtsregime vor. Dies steht neben einem Treffen der G7 und einer Debatte der Generalversammlung der Vereinten Nationen über KI-Sicherheit sowie einem Gipfel am Donnerstag zwischen Donald Trump und Xi Jinping. In den Unterlagen steht nicht, ob der AI Act der EU selbst geändert wurde oder wie die Durchsetzung der Erklärung aussehen soll.

Geld fließt derweil unabhängig von der Debatte weiter. Im wöchentlichen Rückblick von Tech.eu, veröffentlicht am 28. September, wurden mehr als 65 europäische Technik-Finanzierungsgeschäfte im Wert von über 2.000.000.000 Euro in der vergangenen Woche gezählt. Künstliche Intelligenz lag mit 406.600.000 Euro an zweiter Stelle unter den Sektoren, hinter Robotik mit 508.300.000 Euro. Portugal führte mit 510.900.000 Euro, vor den Niederlanden mit 435.900.000 Euro und dem Vereinigten Königreich mit 273.900.000 Euro.

Gates sagte seinerseits, dass die Kosten der von ihm gewünschten Schutzmaßnahmen "ein kleines bisschen Overhead für die Industrie" wären. Europas Cyber-Verteidiger würden sich wahrscheinlich über den Overhead einig sein. Sie streiten nur über das Monster.