在线虚假信息网络的运作逻辑：四个案例，一套剧本

视频显示一名身穿黑色T恤的男孩躺在血泊中。上方有一台摄像机，旁边一名男子正在喊叫指令。周围是戴着基帕帽的人和身穿类似以色列国防军绿色制服的人。经X平台认证用户转发，配文为“视频显示以色列试图制造虚假死亡画面”，据《卫报》报道，观看量约2m。这段剪辑来自巴勒斯坦短片《空荡荡的地方》。它似乎起源于TikTok，随后传播到X。发帖用户后来承认该片段可能被断章取义使用。

《卫报》在2023年10月报道了这一案例。它之所以值得研究，是因为其每个阶段都有记录。

虚假信息网络不是单一事物。它是一套可重复的机制：寻找可被重新语境化的原始素材，通过拥有传播力的账号推送，依赖平台算法进行分发，并依靠更正来得晚且传播效果差这一事实。支撑本分析的档案涵盖了四个不同国家的四项独立行动，基于四种不同的动机。机制的重叠比政治立场的重叠更多。

回收的素材，重新贴标签

另一段视频同样起源于TikTok，现已不可用，声称显示高级以色列将军被哈马斯俘虏。它在X上获得了2m次观看。该视频最初由阿塞拜疆国家安全局官方YouTube频道发布，画面是被捕的纳戈尔诺-卡拉巴赫分离主义政府前领导人。一份声称乔·拜登向以色列提供80亿援助的伪造文件在X上被观看了40万次。这是拜登7月备忘录（宣布向乌克兰提供400m援助）的编辑版本。白宫网站和社交媒体上没有这份文件。白宫向NBC确认该文件是假的。

这些都不需要高技术含量。它们需要的是准备好相信这一说法的受众，以及愿意传播它的平台。

俄罗斯长期以来是X上散布虚假信息的主要责任方，并似乎利用了这场冲突。周一，俄罗斯前总统、俄安全会议副主席德米特里·梅德韦杰夫发推称：“北约伙伴们，你们真的做到了，不是吗？交给乌克兰纳粹政权的武器现在正被积极用于对抗以色列。”一段看似显示哈马斯感谢乌克兰武器销售的视频由一个与瓦格纳雇佣兵集团相关的X账号发布，观看量超过30万，并被美国极右翼账号放大。2月，五角大楼监察长报告称，目前没有证据显示对乌克兰的武器和援助被转移给第三方。乌克兰情报部门本周指控俄罗斯将缴获自乌克兰战场的西方“战利品”武器交给哈马斯，以削弱对基辅的支持。Bellingcat的Eliot Higgins标记了一段假BBC视频，声称展示Bellingcat对乌克兰向哈马斯走私武器的调查，由俄罗斯社交媒体用户推送，但他表示不清楚这是国家行动还是草根努力。

当谎言离开屏幕

2024年7月，英国索思波特发生持刀袭击，三名年轻女孩遇难。几小时内，关于袭击者姓名、宗教和移民身份的虚假信息迅速传播，引发全国多天的暴力骚乱。战略对话研究所的仇恨与极端主义分析师Hannah Rose告诉CNBC，X上一条帖子错误地将肇事者称为“Ali al-Shakati”，据传是穆斯林移民，到第二天下午3点，这个错误名字仅在X上就有超过3万条提及。

据ISD分析，其他虚假说法称袭击者在情报部门的观察名单上，2023年乘小船来到英国，且当地心理健康服务机构认识他。警察在谣言出现后的第二天辟谣，称嫌疑人出生在英国。但此时叙事已经形成势头。

Logically英国研究与技术主管Joe Ondrak告诉CNBC，虚假报道充当了“合理化并强化既有偏见、偏见和猜测的方式，在任何既定真相传播之前”。他形容这些材料是反移民团体的“猫薄荷”：“如果没有虚假信息的传播，这真的是能引发比原本可能更强烈愤怒反应的完美说法。”

分发端与说法本身同样重要。Rose说，拥有数十万粉丝的账号以及X上付费的蓝色认证标志分享了虚假信息，平台算法随后将其推送给其他用户。当用户在TikTok搜索“Southport”时，平台在“其他人也在搜”栏目中推荐了错误的袭击者姓名，甚至在警察确认信息有误八小时后仍在推荐。ISD发现X上有类似的算法行为，错误名字登上了趋势榜。这些说法也传到了Telegram，Ondrak说该平台整合叙事并向更多人展示“更极端的信仰”。Telegram否认帮助传播错误信息，称版主正在监控局势并删除煽动暴力的频道和帖子，这违反了其服务条款。据Logically称，一些号召参与抗议的账号可追溯至极右翼，包括一些与2016年被英国《恐怖主义法》列为恐怖组织的National Action相关的账号。

已知规模最大的行动

规模改变了局面。CNN对法庭文件及社交媒体公司公开披露信息的审查发现，中国政府建立了全球已知最大的在线虚假信息行动，并以此骚扰美国居民、政客和企业，有时甚至以暴力威胁目标。这个被称为“Spamouflage”或“Dragonbridge”的网络在各大主要社交媒体平台上运行着数十万个账号。美国国务院将这些手段描述为更广泛的数十亿美元行动的一部分，旨在塑造全球信息环境并压制北京批评者，该行动在习近平总统任期内有所扩大。

受害者描述了数万条帖子的轰炸，称他们为叛徒、狗，并使用种族主义和恐同侮辱。一些人向执法部门（包括FBI）报案，但据CNN报道，几乎没有采取任何行动。平台已关闭数千个针对这些受害者的账号，但新账号每天出现，速度超过了封禁速度。Meta表示，仅在2023年第二季度，就已删除了归因于该集团的近8000个账号集群。Google告诉CNN，近年来已关闭了超过10万个相关账号。据公司博客，X已封锁了数十万个“国家支持”或“国家关联”的中国账号。

自四年前发现该网络以来，私人研究人员一直在追踪它。直到最近几个月，联邦检察官和Meta才公开得出结论，认为该行动与中国警方有联系。众议院中国问题特别委员会主席Mike Gallagher议员告诉CNN：“我们可能认为这仅限于某些聊天室，或这个平台或那个平台，但它正在全面扩展。在那个认为这不是自己问题的普通美国公民身上发生这件事，只是时间问题。”

纽约活动家Chen Pokong在2021年1月组织的一场反共产主义Zoom活动中遭遇了网络水军的干扰。他们嘲笑参与者，并威胁其中一名受害者会“死得很惨”。当他看到司法部今年早些时候起诉了30多名中国官员，指控其参与针对美国异见人士（包括那场Zoom会议中的人）的广泛虚假信息网络时，他对幕后黑手的怀疑得到了证实。

受众怎么说

公众担忧并非边缘现象。Unesco委托Ipsos对16个即将举行全国选举国家的8000人进行了调查，总选民人数达25亿。结果显示，85%的人担忧在线虚假信息的影响，87%表示这已经对国家政治生活产生了重大影响。56%的互联网用户主要从社交媒体获取新闻，多于电视（44%）或媒体网站（29%）。社交媒体的信任度为50%，而电视为66%，广播为63%，媒体网站和应用为57%。在所有16个国家中，68%的人表示社交媒体是假新闻最泛滥的地方，高于即时通讯应用的38%。

Unesco总干事Audrey Azoulay告诉记者，在线虚假信息和仇恨言论在平台的加速和放大下，对“社会凝聚力、和平与稳定”构成了“重大风险”。她说，迫切需要监管，“以保护信息获取……同时保护言论自由和人权”。Unesco的蓝图基于七项原则，源自其称为前所未有的咨询过程，历时18个月，收集了来自134个国家的超过10000份意见。Unesco表达自由部门主管Guilherme Canela de Souza Godoi说，超过50个国家已经对社交媒体进行监管，往往不符合国际言论自由和人权规范。Unesco计划在2024年举行世界监管机构大会。

监管有其自身的论点。参议员Sheldon Whitehouse呼吁废除《通信规范法》第230条，并用一个更窄的版本取而代之，该版本将强制“披露虚假信息资助者”，据Reclaim The Net报道。Whitehouse认为，责任风险可能促使公司即使在牺牲参与度的情况下也采取行动对抗错误信息。批评者反驳说，大多数虚假信息最终会被视为受保护的言论。

这些辩论中的任何一个都不改变操作层面的算术。《卫报》对X的报道指出，Musk在2022年收购后解散了平台的信任与安全委员会；公司表示计划重组该团队，但计划仍不明确。X推出了社区笔记，这是一个众包审核计划，将大部分责任推给用户而非受雇版主。引用数字仇恨对抗中心的数据，关心科学家联盟报告称，X在“我们报告后一周，仍托管了300个仇恨帖子中近86%”。研究人员Abbie Richards发现，气候否认推文从2021年12月至2022年7月间的每周平均3万条，上升到2022年7月后的每周近11万条。

所有四个案例的模式都是相同的。一个说法被制造或回收，通过拥有传播力的账号播种，由为参与度而调整的系统向上排名，并在损害发生后才被更正。正如索思波特案例所示，更正可以在一天内到达。但骚乱还是发生了。