Jak działają sieci dezinformacyjne w internecie: cztery przypadki, jeden scenariusz

Wideo pokazywało młodego chłopca w czarnej koszulce leżącego w kałuży krwi. Nad nim kamera, a obok mężczyzna krzyczący z instrukcjami. Wokół stali ludzie w kipach oraz żołnierze w zielonych mundurach przypominających stroje IDF. Post udostępniony na X przez zweryfikowanego użytkownika z podpisem „Wideo pokazujące, jak Izrael próbuje stworzyć fałszywe nagrania ze śmierci” osiągnął około 2m wyświetleń, według The Guardian. Fragment pochodził z ujęć zza kulis palestyńskiego krótkometrażowego filmu Empty Place. Najpierw pojawił się na TikToku, a potem trafił na X. Użytkownik za postem później przyznał, że fragment mógł zostać użyty w oderwaniu od kontekstu.

Ten pojedynczy przypadek, opisany przez The Guardian w październiku 2 023, jest przydatnym przykładem, ponieważ każdy jego etap jest udokumentowany.

Sieci dezinformacyjne nie są jednorodne. To zestaw powtarzalnych mechanizmów: znaleźć surowy materiał, który można przereaglować, przepchnąć go przez konta mające zasięg, pozwolić algorytmom platformy na dystrybucję i polegać na tym, że korekty przychodzą późno i słabo się rozchodzą. Materiał za tą analizą obejmuje cztery różne operacje, w czterech krajach, działające na podstawie czterech różnych zestawów motywacji. Mechanizmy nakładają się na siebie bardziej niż polityka.

Ponownie użyte nagrania, nowe etykiety

Inne wideo, również pochodzące z TikToka i obecnie niedostępne, twierdziło, że pokazuje ujętych przez Hamas izraelskich generałów. Zdobyło 2m wyświetleń na X. Oryginalnie opublikowane przez oficjalny kanał YouTube służby bezpieczeństwa Azerbejdżanu, pokazywało aresztowanych byłych liderów odłączonego rządu Nagorno-Karabachu. Podrobiony dokument sugerujący, że Joe Biden przekazał 8 000 000 000 dolarów pomocy Izraelowi, został wyświetlony 400 000 razy na X. Była to edytowana wersja notatki Bidena z lipca, ogłaszającej 400m pomocy dla Ukrainy. Nie ma takiego dokumentu na stronie Białego Domu ani w mediach społecznościowych. Biały Dom potwierdził NBC, że dokument jest fałszywy.

Żaden z tych przypadków nie wymagał zaawansowanych umiejętności technicznych. Wymagał odbiorcy przygotowanego na przyjęcie twierdzenia i platformy, która je rozpowszechni.

Rosja od dawna jest sprawcą rozpowszechniania dezinformacji na X i wydaje się, że skorzystała z konfliktu. W poniedziałek były prezydent Rosji Dmitrij Miedwiediew, zastępca przewodniczącego Rady Bezpieczeństwa Rosji, napisał na X: „No, koledzy z NATO, naprawdę się postaraliście, co? Broń przekazana reżimowi nazistowskiemu w Ukrainie jest teraz aktywnie używana przeciwko Izraelowi”. Wideo rzekomo pokazujące, jak Hamas dziękuje Ukrainie za sprzedaż broni, zostało opublikowane na koncie X powiązanym z grupą najemniczą Wagnera, wyświetlone ponad 300 000 razy i wzmacniane przez skrajnie prawicowe konta z USA. W lutym inspektor generalny Pentagonu poinformował, że do tej pory nie ma dowodów na przekierowanie broni i pomocy dla Ukrainy do stron trzecich. Ukraińskie służby wywiadowcze oskarżyły w tym tygodniu Rosję o umieszczanie „trofeów” w postaci zachodniej broni zdobytej na ukraińskich polach bitewnych w Hamasie, aby podważyć poparcie dla Kijowa. Eliot Higgins z Bellingcat wskazał na fałszywe wideo BBC twierdzące, że pokazuje śledztwo Bellingcatu w sprawie przemytu broni z Ukrainy do Hamasu, rozpowszechniane przez rosyjskich użytkowników mediów społecznościowych, choć powiedział, że nie jest jasne, czy to kampania państwowa, czy wysiłek oddolny.

Gdy kłamstwo wychodzi poza ekran

W lipcu 2 024 trzy młode dziewczyny zginęły w ataku nożem w Southport w Wielkiej Brytanii. W ciągu kilku godzin fałszywe informacje o imieniu, religii i statusie migracyjnym sprawcy zyskały znaczną popularność, wywołując dni gwałtownych zamieszek w całym kraju. Hannah Rose, analityczka nienawiści i ekstremizmu w Institute for Strategic Dialogue, powiedziała CNBC, że post na X fałszywie nazwał sprawcę „Ali al-Shakati”, rzekomo migrantem wyznania muzułmańskiego, i że do godziny 15 następnego dnia fałszywe imię miało ponad 30 000 wzmianek na samym X.

Inne fałszywe twierdzenia mówiły, że sprawca był na liście obserwacyjnej służb wywiadowczych, przyjechał do Wielkiej Brytanii na małej łodzi w 2 023 i był znany lokalnym służbom zdrowia psychicznego, zgodnie z analizą ISD. Policja obaliła te twierdzenia dzień po ich pojawieniu się, mówiąc, że podejrzany urodził się w Wielkiej Brytanii. Do tego czasu narracja zyskała impet.

Joe Ondrak, lider badań i technologii dla Wielkiej Brytanii w Logically, powiedział CNBC, że fałszywe raporty działały jako „sposób na racjonalizację i wzmocnienie istniejących uprzedzeń, uprzedzeń i spekulacji, zanim jakakolwiek ustalona prawda mogła się pojawić”. Określił ten materiał jako „kocią miętę” dla grup antyimigracyjnych: „To jest dokładnie to, co trzeba powiedzieć, aby wywołać znacznie gniewniejszą reakcję, niż prawdopodobnie byłaby, gdyby dezinformacja nie była rozpowszechniana”.

Strona dystrybucji jest równie ważna jak twierdzenie. Rose powiedziała, że konta setki tysięcy obserwujących i płatne niebieskie znaczniki na X udostępniały fałszywe informacje, które algorytmy platformy następnie popychały do innych użytkowników. Gdy użytkownicy wyszukiwali „Southport” na TikToku, fałszywe imię sprawcy było promowane przez samą platformę w sekcji „Inni szukali”, w tym osiem godzin po tym, jak policja potwierdziła, że informacje są nieprawidłowe. ISD odkryło podobne zachowanie algorytmiczne na X, gdzie nieprawidłowe imię trendowało. Twierdzenia dotarły również do Telegrama, który, według Ondraka, konsoliduje narracje i naraża więcej osób na „bardziej radykalne przekonania”. Telegram zaprzeczył, że pomaga w rozpowszechnianiu dezinformacji, mówiąc, że moderatorzy monitorowali sytuację i usuwali kanały i posty nawołujące do przemocy, które nie są dozwolone zgodnie z jego warunkami usługi. Niektóre konta nawołujące do udziału w protestach sięgały do skrajnej prawicy, według Logically, w tym niektóre powiązane z zakazaną grupą National Action, określoną jako organizacja terrorystyczna w 2 016 na mocy brytyjskiego Terrorism Act.

Największa znana operacja

Skala zmienia obraz. Przegląd CNN dokumentów sądowych i publicznych ujawnień przez firmy mediów społecznościowych wykazał, że rząd Chin zbudował największą znaną globalnie operację dezinformacyjną online i używa jej do nękania rezydentów USA, polityków i firm, czasem grożąc ofiarom przemocą. Sieć, znana jako „Spamouflage” lub „Dragonbridge”, działa przez setki tysięcy kont na każdej głównej platformie mediów społecznościowych. Departament Stanu USA opisuje taktyki jako część szerszego wysiłku wart miliardy dolarów, mającego na celu kształtowanie globalnego środowiska informacyjnego i uciszenie krytyków Pekinu, wysiłku, który, jak mówi, rozszerzył się pod prezydentem Xi Jinpingem.

Ofiary opisały grad dziesiątek tysięcy postów nazywających ich zdrajcami, psami oraz rasistowskimi i homofobicznymi obelgami. Niektóre zgłosiły się do organów ścigania, w tym FBI, ale niewiele zrobiono, podała CNN. Platformy zamknęły tysiące kont celujących w te ofiary, ale nowe pojawiają się codziennie szybciej, niż są usuwane. Meta powiedziała w sierpniu, że usunęła skupisko około 8 000 kont przypisanych do grupy tylko w drugim kwartale 2 023. Google powiedziała CNN, że w ostatnich latach zamknęło ponad 100 000 powiązanych kont. X zablokowało setki tysięcy kont „sponsorowanych przez państwo” lub „powiązanych z państwem” Chin, według blogów firmowych.

Badacze prywatni śledzili sieć od jej odkrycia ponad cztery lata temu. Dopiero w ostatnich miesiącach prokuratorzy federalni i Meta publicznie stwierdzili, że operacja ma powiązania z chińską policją. Reprezentant Mike Gallagher, przewodniczący Specjalnej Komisji Izby Reprezentantów ds. CCP, powiedział CNN: „Może myśleć, że to jest ograniczone do pewnych czatów, tej lub tamtej platformy, ale rozszerza się na każdym froncie. I to tylko kwestia czasu, zanim to dotknie zwykłego obywatela amerykańskiego, który teraz nie uważa, że to jest jego problem”.

Chen Pokong, aktywista z Nowego Jorku, widział, jak trollowie zakłócają antykomunistyczne wydarzenie na Zoom, które zorganizował w styczniu 2 021. Wyśmiewali uczestników i grozili, że jedna ofiara „zmierzy się z tragiczną śmiercią”. Jego podejrzenia o tym, kto stoi za tym, utwierdziły się, gdy Departament Sprawiedliwości oskarżył wcześniej w tym roku ponad 30 chińskich urzędników w ramach szeroko zakrojonej operacji dezinformacyjnej celującej w dysydentów w USA, w tym osoby z tego spotkania na Zoom.

Czego mówią odbiorcy

Troska publiczna nie jest marginalna. Badanie Ipsos zlecone przez Unesco, obejmujące 8 000 osób w 16 krajach, które miały odbyć wybory krajowe, z łącznie 2 500 000 000 wyborcami, wykazało, że 85% martwiło się wpływem dezinformacji online, a 87% stwierdziło, że już miała poważny wpływ na krajowe życie polityczne. 56% użytkowników internetu czerpało wiadomości głównie z mediów społecznościowych, więcej niż z telewizji (44%) lub stron medialnych (29%). Zaufanie do mediów społecznościowych wynosiło 50%, w porównaniu z 66% dla telewizji, 63% dla radia i 57% dla stron i aplikacji medialnych. W wszystkich 16 krajach 68% stwierdziło, że media społecznościowe to miejsce, gdzie fake newsy są najpowszechniejsze, przed aplikacjami do komunikacji (38%).

Audrey Azoulay, dyrektorka generalna Unesco, powiedziała reporterom, że fałszywe informacje i mowa nienawiści online, przyspieszane i wzmacniane przez platformy, stanowią „poważne ryzyko dla spójności społecznej, pokoju i stabilności”. Regulacja była pilnie potrzebna, powiedziała, „aby chronić dostęp do informacji ... jednocześnie chroniąc wolność wypowiedzi i prawa człowieka”. Plan Unesco opiera się na siedmiu zasadach, zaczerpniętych z tego, co nazywa bezprecedensową konsultacją ponad 10 000 wniosków z 134 krajów w ciągu 18 miesięcy. Guilherme Canela de Souza Godoi, szef sekcji Unesco ds. wolności wypowiedzi, powiedział, że ponad 50 krajów już reguluje media społecznościowe, często niezgodnie z międzynarodowymi normami wolności wypowiedzi i praw człowieka. Unesco planuje Światową Konferencję Regulatorów w 2 024.

Regulacja ma swój własny argument. Senator Sheldon Whitehouse wezwał do zniesienia Sekcji 230 Communications Decency Act i zastąpienia ją węższą wersją, która wymusiłaby „ujawnienie finansujących dezinformację”, według Reclaim The Net. Whitehouse argumentuje, że ryzyko odpowiedzialności prawnej może zmusić firmy do działania przeciwko dezinformacji, nawet kosztem zaangażowania. Krytycy odpowiadają, że większość dezinformacji zakończyłaby się jako chroniona wypowiedź.

Żadna z tych debat nie zmienia operacyjnej arytmetyki. Raportowanie The Guardian na temat X zauważa, że Musk rozwiązał Radę Zaufania i Bezpieczeństwa platformy po przejęciu w 2 022; firma powiedziała, że planuje przeorganizować zespół, ale plany pozostają niejasne. X wprowadził Community Notes, program crowdsourced moderacji, który kładzie dużo ciężaru na użytkownikach, a nie na zatrudnionych moderatorach. Zjednoczeni Naukowcy Obywatele, cytując Center for Countering Digital Hate, raportowali, że X „nadal hostuje około 86% zestawu 300 nienawistnych postów po tygodniu od ich zgłoszenia”. Badaczka Abbie Richards odkryła, że tweety zaprzeczające zmianom klimatycznym wzrosły ze średnio 30 000 tygodniowo między grudniem 2 021 a lipcem 2 022 do około 110 000 tygodniowo po lipcu 2 022.

Wzorzec we wszystkich czterech przypadkach jest ten sam. Twierdzenie jest wytwarzane lub ponownie używane, zasiane przez konta o zasięgu, popychane w górę przez systemy nastawione na zaangażowanie i korygowane po wyrządzeniu szkody. Korekta, jak pokazał przypadek Southport, może przyjść w ciągu dnia. Zamieszki i tak się wydarzyły.