Falscher KI-Protest auf TikTok. Polen bekommt eine Aufsichtsbehörde

Das Material sah aus wie die Reportage eines Fernsehreporters: eine Straße, Transparente, Passanten, ein Nachrichtenband mit dem Logo eines Senders. Der Protest fand jedoch nie statt, und der Sender produzierte eine solche Aufnahme nie. Eine Analyse mit dem Werkzeug Hive Moderation ergab eine Wahrscheinlichkeit von 75,4 Prozent, dass das gesamte Material von künstlicher Intelligenz erzeugt wurde.

Derselbe Film erschien auf TikTok über mehrere Dutzend Konten, in Versionen, die sich in kleinen Details unterschieden. Die meistgesehene Veröffentlichung kam auf mehr als 204.000 Aufrufe. Ein Einzelfall war das nicht. Der Analysedienst Euronews beschrieb nahezu identische Materialien aus Portugal, Frankreich, Deutschland, Irland, Italien und Großbritannien. In der portugiesischen Version war das Gesicht eines Journalisten des Senders RTP zu sehen; der Sender erklärte, diese Person habe nie für ihn gearbeitet.

Warum das funktioniert

Die Wirkung solcher Materialien liegt nicht in der technischen Qualität. Wer genau hinsieht, erkennt die Synthese an Kleinigkeiten. Sie liegt im Kontext. Das Logo eines bekannten Senders, das Nachrichtenband, die vertraute Farbgebung und das Tempo des Schnitts erzeugen Glaubwürdigkeit, bevor sich der Betrachter überhaupt nach der Quelle fragt. Die algorithmische Verbreitung belohnt zusätzlich Inhalte, die Emotionen auslösen. Ein falscher Protest liefert davon besonders viel.

Polnische Vorschriften treten in Kraft

Die regulatorische Antwort kam im Juli 2026. Der Präsident unterzeichnete das Gesetz über Systeme künstlicher Intelligenz, das die EU-Verordnung über KI umsetzt. Das Gesetz schafft eine neue Marktaufsichtsbehörde: die Kommission für Entwicklung und Sicherheit künstlicher Intelligenz (KRiBSI). Sie nimmt Beschwerden an, erteilt Genehmigungen für Hochrisikosysteme und verhängt Sanktionen.

Die Vorschriften sehen auch sogenannte regulatorische Sandkästen vor, also kontrollierte Umgebungen, in denen Unternehmen KI-Systeme unter Aufsicht der Behörde testen können, ohne die vollen formalen Auflagen. Der erste solche Mechanismus soll sehr schnell starten. Das soll polnische Unternehmen dazu ermutigen, eigene Modelle und Werkzeuge zu entwickeln. Die EU-Verordnung über KI gilt seit dem 1. August 2024, doch die meisten Pflichten für Hochrisikosysteme und Modelle mit allgemeinem Verwendungszweck wurden auf weitere Jahre verteilt.

Eine Lücke, die das Gesetz nicht schließt

Auch die beste institutionelle Aufsicht löst das Problem nicht, auf das der falsche Protest hinweist: den Zeitpunkt der Veröffentlichung. Das Material gewinnt in wenigen Stunden Reichweite, die Überprüfung dauert Tage. In diesem Fenster wirken weder Strafen noch Klagen noch Kennzeichnungspflichten. Es zählt allein, wie schnell Redaktionen und Faktenprüfer arbeiten.

Deshalb ist die wichtigste Schlussfolgerung für den polnischen Markt praktisch. Die Erkennung von Deepfakes muss zur festen Routine in den Newsrooms werden, nicht zum gelegentlichen Projekt. Das ist auch eine Herausforderung für lokale Medien, die keine Fact-Checking-Teams haben. Ihre Beiträge sind in lokalen Angelegenheiten am glaubwürdigsten und werden zugleich zum leichtesten Ziel für Fälschungen, die sich als lokale Presse ausgeben.