Desinformationsnetzwerke: Von Southport bis Spamouflage

Der Clip zeigte einen Jungen in einem schwarzen T-Shirt, der scheinbar in einer Blutlache lag. Eine Kamera schoss von oben, ein Mann schrie Anweisungen. Männer mit Kippa und Männer in grünen Uniformen, die an die IDF erinnerten, standen herum. Ein verifizierter X-Nutzer teilte es mit der Beschriftung: „Video, das zeigt, wie Israel versucht, gefälschtes Material von Toten zu erstellen“. Laut Guardian handelte es sich bei dem Material um eine Behind-the-Scenes-Aufnahme aus Empty Place, einem palästinensischen Kurzfilm über das Vakuum, das von Palästinensern hinterlassen wurde, die der israelischen Besatzung flohen. Es scheint, dass es auf TikTok begann und zu X migrierte, wo der ursprüngliche TikTok-Post nicht mehr verfügbar ist, aber die umgenutzte Version weiter zirkulierte und Aufrufe sammelte. Der Nutzer hinter dem Post mit 2m Aufrufen gab später zu, dass der Clip möglicherweise aus dem Zusammenhang gerissen wurde.

Diese Geschichte ist weniger für das, was sie über ein einzelnes Video aussagt, wichtig, sondern für das, was sie über die Lieferkette aussagt. Ein echtes Videomaterial, beraubt des Kontexts, wird zu Beweismaterial für eine Behauptung, die es nie stützen sollte. Die Korrektur, wenn sie überhaupt kommt, kommt spät und verbreitet sich schlecht.

Netzwerke statt einzelner Poster

Innerhalb weniger Tage nach dem Angriff am 7. Oktober wurde X mit ähnlichem Material überflutet. Ein zweites Video, das ebenfalls auf TikTok seinen Ursprung hatte und dort nicht mehr verfügbar ist, erzielte 2m Aufrufe auf X und behauptete, hochrangige israelische Generale zu zeigen, die von Hamas-Kämpfern gefangen genommen wurden. In Wirklichkeit, laut Guardian, war es Tage zuvor vom offiziellen YouTube-Kanal des staatlichen Sicherheitsdienstes Aserbaidschans veröffentlicht worden und zeigte festgenommene ehemalige Führer der abtrünnigen Regierung von Berg-Karabach. Ein manipulieretes Dokument, das nahelegte, Joe Biden habe 8.000.000.000 Dollar Unterstützung an Israel gegeben, wurde 400.000 Mal auf X angesehen; es war eine bearbeitete Version seines Juli-Memos, das 400m Dollar Hilfe für die Ukraine ankündigte. Das Weiße Haus bestätigte NBC, dass das Dokument gefälscht war. Der gemeinsame Faden ist keine einzige Ideologie, sondern eine Methode: echtes Material nehmen, neu beschriften und die Verbreitung der Plattform den Rest erledigen lassen.

Russland ist seit langem ein Schuldiger bei der Verbreitung von Desinformation auf X und scheint den israelisch-palästinensischen Konflikt ausgenutzt zu haben, berichtete der Guardian. Am Montag nach dem Angriff twitterte der ehemalige russische Präsident Dmitry Medwedew, stellvertretender Vorsitzender des russischen Sicherheitsrats: „Nun, NATO-Freunde, ihr habt es wirklich geschafft, oder? Die Waffen, die dem Nazi-Regime in der Ukraine übergeben wurden, werden jetzt aktiv gegen Israel eingesetzt.“ Separat postete ein X-Konto, das mit der Wagner-Söldnergruppe verbunden war, ein Video, das scheinbar Hamas zeigte, die der Ukraine für Waffen dankte, die sie gegen Israel einsetzen wollte. Es erzielte mehr als 300.000 Aufrufe und wurde von rechtsextremen US-Konten amplifiziert.

Die ukrainische Seite widersprach. Der ukrainische Geheimdienst beschuldigte Russland, „Trophäen“-Westwaffen, die auf ukrainischen Schlachtfeldern erbeutet wurden, mit Hamas zu teilen, um die Unterstützung für Kiew zu untergraben. Im Februar hatte der Inspekteur des Pentagon berichtet, dass es bis dato keine Beweise dafür gab, dass Waffen und Hilfe für die Ukraine an Dritte weitergeleitet wurden. Eliot Higgins, Gründer der investigativen Plattform Bellingcat, wies auf ein gefälschtes Video hin, das angeblich von der BBC stammte und eine Bellingcat-Ermittlung zu ukrainischem Waffenhandel mit Hamas behauptete. Higgins sagte, es werde von russischen Social-Media-Nutzern geschoben, fügte aber hinzu, dass unklar sei, ob dies eine russische Regierungskampagne oder ein grassroots-Versuch war. Diese Einschränkung ist es wert, beachtet zu werden. Zuschreibung ist der schwierigste Teil dieser Arbeit, und die lautesten Behauptungen kommen oft mit den dünnsten Beweisen.

Wenn der gefälschte Name ein Trending Topic wird

Die Unruhen im Vereinigten Königreich im August 2.024 zeigten, was passiert, wenn ein Netzwerk eine Geschichte bekommt, die zu einer bestehenden Unzufriedenheit passt. Nach dem Messerangriff in Southport im Juli, bei dem drei junge Mädchen getötet wurden, erschien innerhalb weniger Stunden falsche Information über den Namen, die Religion und den Migrationsstatus des Angreifers. „Bezugnehmend auf einen LinkedIn-Post, ein X-Post benannte den Täter fälschlicherweise als „Ali al-Shakati“, gerüchteweise ein Migrant muslimischen Glaubens. Bis 15 Uhr am nächsten Tag hatte der falsche Name allein auf X über 30.000 Erwähnungen“, sagte Hannah Rose, Analystin für Hass und Extremismus beim Institute for Strategic Dialogue, CNBC per E-Mail. Andere Posts behaupteten, der Angreifer stehe auf einer Überwachungsliste der Geheimdienste, sei 2023 mit einem kleinen Boot angekommen und sei den lokalen psychiatrischen Diensten bekannt, so die Analyse des ISD. Die Polizei widerlegte die Behauptungen am Tag nach ihrem Auftauchen und sagte, der Verdächtige sei in Großbritannien geboren. Zu diesem Zeitpunkt hatte das Narrativ Traktion.

Rechtsextreme Gruppen organisierten Anti-Migrations- und Anti-Islam-Proteste, einschließlich einer Demonstration anlässlich der geplanten Trauerfeier für die Mädchen. Die Demonstrationen eskalierten zu tagelangen Unruhen, mit Angriffen auf Moscheen, Migrationszentren und Hotels, in denen Asylbewerber untergebracht waren. Joe Ondrak, Forschungs- und Tech-Lead für das UK beim Tech-Unternehmen Logically, sagte CNBC, die falschen Behauptungen seien „Katzenminze“ für Gruppen, die bereits darauf vorbereitet seien, zu reagieren. „Es ist nicht so, dass diese falsche Behauptung herauskommt und dann, wissen Sie, von allen geglaubt wird“, sagte er. Die Berichte dienten stattdessen als „eine Art, vorbestehende Vorurteile, Vorbehalte und Spekulationen zu rationalisieren und zu verstärken, bevor eine Art etablierte Wahrheit herauskommen konnte“.

Der Algorithmus versagte nicht nur daran, es zu stoppen. In mindestens einem Fall empfahl er es.

Plattformmechanismen amplifizierten die Lüge auf Arten, die leicht übersehen werden, wenn man nur darauf schaut, wer sie gepostet hat. Rose sagte CNBC, dass Konten mit Hunderttausenden von Followern und bezahlten blauen Häkchen die falschen Informationen teilten, die dann von Algorithmen geschoben wurden. Auf TikTok, wenn Nutzer „Southport“ suchten, empfahl der Abschnitt „Andere haben gesucht“, der ähnliche Inhalte empfiehlt, den falschen Namen des Angreifers, einschließlich acht Stunden, nachdem die Polizei bestätigt hatte, dass er falsch war. Die Analyse des ISD fand ähnliches Verhalten auf X, wo der falsche Name als Trending Topic auftrat. Die falschen Behauptungen bewegten sich auch auf Telegram, das Ondrak als Konsolidierung von Narrativen beschrieb und mehr Menschen „härteren Überzeugungen“ aussetzte, einschließlich Kanäle, die als Anti-Impf-Kanäle begannen und von rechtsextremen Figuren übernommen wurden. Telegram sagte CNBC, es habe abgestritten, bei der Verbreitung von Fehlinformationen zu helfen, und sagte, seine Moderatoren überwachten die Situation und entfernten Kanäle und Posts, die zu Gewalt aufriefen.

Einige Konten, die zur Teilnahme an den Protesten aufriefen, konnten laut der Analyse von Logically der extremen Rechten zugeordnet werden, einschließlich einiger, die mit der verbotenen Gruppe National Action verbunden waren, die 2.016 unter dem Terrorismus Act des UK als terroristische Organisation benannt wurde. Das Online Safety Act des UK sollte Hassrede angehen, trat aber erst Anfang des folgenden Jahres in Kraft und reicht für einige Formen der Desinformation möglicherweise nicht aus. Am Mittwoch nach dem Höhepunkt der Unruhen schrieb der Medienregulator Ofcom an Social-Media-Plattformen und sagte, sie sollten nicht auf das Inkrafttreten des neuen Gesetzes warten. Zu diesem Zeitpunkt hatten Tausende von Antirassismus-Protestierenden in Städten und Gemeinden im gesamten UK demonstriert und die Anti-Immigrations-Demonstrationen an Zahl übertroffen.

Die größte bekannte Operation

Nicht jedes Netzwerk wird improvisiert um ein Breaking-News-Ereignis. CNN berichtete im November 2.023, dass die chinesische Regierung die weltweit größte bekannte Online-Desinformationsoperation aufgebaut hatte und sie nutzte, um US-Bürger, Politiker und Unternehmen zu belästigen, dabei Ziele mit Gewalt bedrohend. Die Berichterstattung basierte auf einer Überprüfung von Gerichtsdokumenten und öffentlichen Offenlegungen von Social-Media-Unternehmen. Opfer beschrieben eine Lawine von Zehntausenden Social-Media-Posts, die sie Verräter, Hunde und rassistische und homophobe Beleidigungen nannten. Einige hatten mit Strafverfolgungsbehörden, einschließlich des FBI, gesprochen, mit wenig Ergebnis. Tech- und Social-Media-Unternehmen hatten Tausende von Konten geschlossen, aber neue erschienen praktisch jeden Tag.

Das Netzwerk wird unter Namen wie „Spamouflage“ und „Dragonbridge“ verfolgt. Seine Hunderttausende von Konten, verteilt über jede große Social-Media-Plattform, belästigen Amerikaner, die die Kommunistische Partei Chinas kritisieren, versuchen, US-Politiker zu diskreditieren, amerikanische Unternehmen, die den Interessen Chinas widersprechen, herabzusetzen und Online-Unterhaltungen zu kapern, die die KPCh negativ darstellen könnten. Private Forscher haben es seit seiner Entdeckung vor mehr als vier Jahren verfolgt, aber erst in den letzten Monaten kamen Bundesstaatsanwälte und Meta öffentlich zu dem Schluss, dass die Operation Verbindungen zur chinesischen Polizei hatte. Meta sagte im August, es habe im zweiten Quartal 2.023 allein einen Cluster von fast 8.000 Konten entfernt, die der Gruppe zugeschrieben wurden. Google, das YouTube besitzt, sagte CNN, es habe in den letzten Jahren mehr als 100.000 verbundene Konten geschlossen. X hat Hunderttausende von China „staatlich gestützten“ oder „staatlich verbundenen“ Konten blockiert, laut Unternehmensblogs.

Die Skala ist der Punkt. Geringe Betriebskosten bedeuten, dass die Netzwerke Takedowns absorbieren und neu aufbauen können. „Wir könnten denken, dass dies auf bestimmte Chatrooms oder diese Plattform oder jene beschränkt ist, aber es expandiert in allen Richtungen“, sagte Rep. Mike Gallagher, Vorsitzender des House Select Committee on the CCP, CNN. „Und es ist nur eine Frage der Zeit, bevor es diesem durchschnittlichen amerikanischen Bürger passiert, der nicht denkt, dass es sein Problem ist.“ Das US-Außenministerium hat die Taktiken als Teil eines breiteren milliardenschweren Bemühens beschrieben, die globale Informationsumgebung zu formen und Kritiker Peking zum Schweigen zu bringen, ein Bemühen, das es sagt, unter Präsident Xi Jinping expandiert sei.

Was das Publikum sagt, dass es will

Öffentliche Besorgnis ist keine Nischenposition. Eine von Unesco beauftragte Ipsos-Umfrage unter 8.000 Menschen in 16 Ländern, die 2.024 nationale Wahlen abhalten sollten, mit insgesamt 2.500.000.000 Wählern, ergab, dass 85% sich Sorgen über den Einfluss von Online-Desinformation machten und 87% sagten, sie habe bereits eine große Auswirkung auf das nationale politische Leben gehabt. Social Media war die Hauptnachrichtenquelle für 56% der Internetnutzer, vor Fernsehen mit 44% und Medienseiten mit 29%, obwohl das Vertrauen darin niedriger war: 50% gegenüber 66% für Fernsehen, 63% für Radio und 57% für Medien-Websites und Apps. In allen 16 Ländern sagten 68%, Social Media sei der Ort, an dem Fake News am weitesten verbreitet ist, vor Messaging-Apps mit 38%.

Audrey Azoulay, Generalsekretärin der Unesco, sagte Reportern, dass Fehlinformation und Hassrede online, beschleunigt und amplifiziert von Plattformen, „erhebliche Risiken für den sozialen Zusammenhalt, Frieden und Stabilität“ darstellten. Regulierung sei dringend nötig „um den Zugang zu Informationen zu schützen ... während gleichzeitig die Meinungsfreiheit und Menschenrechte geschützt werden“, sagte sie und präsentierte einen Governance-Blaustruck. Unesco sagte, mehr als 50 Länder regulierten bereits Social Media, aber oft nicht im Einklang mit internationalen Normen für Meinungsfreiheit und Menschenrechte, und dass mindestens eine große Plattform dem 194-Mitglieder-Gremium gesagt habe, sie bevorzuge einen konsistenten globalen Rahmen gegenüber einem Flickenteppich nationaler Systeme. Die Organisation plant eine Weltkonferenz der Regulatoren in 2.024.

Der politische Kampf ist nicht entschieden, und ein Teil davon widerspricht den Geschäftsmodellen der Plattformen selbst. Senator Sheldon Whitehouse hat sich für die Aufhebung von Section 230 des Communications Decency Act ausgesprochen und seinen Ersatz durch eine engere Version, die die „Offenlegung von Desinformations-Gebern“ erzwingen würde, und schrieb, dass die Bedrohung durch rechtliche Haftung „Facebook und andere Unternehmen eher dazu bringen könnte, Maßnahmen zu ergreifen, die die Verbreitung von Fehlinformationen stoppen, auch wenn sie auch das User-Engagement reduzieren, da das Nicht-Handeln eigene finanzielle Risiken mit sich bringt“. Kritiker dieses Ansatzes argumentieren, dass viel Desinformation am Ende durch den First Amendment geschützt wäre. Beide Seiten argumentieren über dasselbe: Wer trägt die Kosten, wenn eine Lüge schneller reist als die Korrektur.

Was die Fälle teilen, ist eine Arbeitsteilung. Jemand produziert die falsche Behauptung, oft durch Umnutzen echten Materials. Jemand mit Reichweite postet es. Algorithmen entscheiden, wie weit es geht. Regulatoren kommen nach der Tat, wenn überhaupt. Und die Menschen, die am wahrscheinlichsten ins Visier genommen werden, von Southport-Bewohnern bis zu chinesischen Dissidenten in den USA, sind diejenigen mit dem geringsten Hebel über all das.