网络虚假信息网络如何运作，以及为何它们总能获胜

《卫报》2023年10月11日报道的这条帖子，是理解网络虚假信息运作机制的切入点。它们不靠凭空编造素材，而是将真实影像嵌入虚假框架，剩下的交给平台算法。

同一篇《卫报》梳理还记录了10月7日星期六哈马斯袭击以色列后数日的其他案例。一段视频最初发布在阿塞拜疆国家安全部门官方YouTube频道，画面是纳戈尔诺-卡拉巴赫分离政府前领导人被捕。这段视频被转载至X后，被描述为以色列将军被俘的画面，观看量达2m。一份被篡改的白宫备忘录被传为乔·拜登向以色列提供$8bn，观看量400,000次。据《卫报》，这是其7月宣布向乌克兰提供$400m援助备忘录的编辑版本，白宫已向NBC确认该文件系伪造。

四个环节，而非单一因素

这批报道指向一种反复出现的结构。第一是原材料：真实的图像、视频、文件或新闻事件。第二是框架：一句配文、一个名字、一个国籍、一种宗教。第三是分发：大号、付费认证，以及将虚假框架推给原本未关注此事用户的推荐系统。第四是滞后：更正发布时，叙事往往已固化。

2024年7月的南港案清晰展示了这种滞后。一起致三名幼女死亡的持刀袭击发生后数小时内，关于袭击者姓名、宗教和移民身份的虚假说法迅速传播。战略对话研究所仇恨与极端主义分析师汉娜·罗斯对CNBC表示，X上一条帖子将行凶者误称为“Ali al-Shakati”，传言其为穆斯林移民。截至次日15时，该假名字仅在X上就被提及超过30,000次。警方在谣言出现次日辟谣，称嫌疑人出生于英国，但叙事已获势头。极右翼团体随后组织反移民和反伊斯兰抗议，局势升级为持续数日的骚乱，并演变为针对清真寺、移民中心及安置寻求庇护者酒店的袭击。

罗斯还描述了平台机制如何放大这一假名字，而不仅仅是承载它。她指出，当用户在TikTok搜索“Southport”时，“其他人还搜索了”板块推广了袭击者的假名字，甚至在警方确认信息有误8小时后仍如此。战略对话研究所的分析发现，X上的算法运作方式类似，错误名字曾登上热门话题。

为何虚假框架传播迅速

Logically英国研究与技术负责人乔·翁德拉克对CNBC表示，南港案的虚假说法对已被多年反移民言论动员的受众而言如同“猫薄荷”。他说：“并非虚假说法一发布，所有人就都相信了。”这些报道的作用是“在任何既定真相传播之前，为既有的偏见和猜测提供合理化解释并加以强化”。

这种机制不限于特定国家或冲突。《卫报》2023年10月的汇总指出，俄罗斯长期是X上散布虚假信息的惯犯，似乎正利用以色列与哈马斯的冲突。俄罗斯前总统、俄安全会议副主席德米特里·梅德韦杰夫发推称，交给乌克兰的北约武器正被用于对付以色列。一段看似显示哈马斯感谢乌克兰提供武器的视频，由一个与瓦格纳雇佣军集团有关联的X账号发布，观看量超过300,000次，并被美国的极右账号放大。Bellingcat的艾略特·希金斯指出一段假的BBC视频，声称是Bellingcat对乌克兰向哈马斯走私武器的调查，由俄罗斯社交媒体用户推送；希金斯说不清这是俄罗斯政府的行动还是草根行为。

规模在这里很关键。CNN在2023年11月13日发表的一篇梳理发现，中国政府建立了世界上已知最大的网络虚假信息行动，并用它骚扰美国居民、政客和企业，有时以暴力威胁目标。这个被称为“Spamouflage”或“Dragonbridge”的网络在主要平台上有数十万个账号。Meta在2023年8月说，仅当年第二季度它就下架了归属于该组织的一批近8,000个账号。谷歌对CNN说，近年来它关闭了超过100,000个相关账号，X则封禁了数十万个中国“国家支持”或“与国家有关联”的账号。美国国务院把这些手法描述为一项耗资数十亿美元、旨在塑造世界信息环境并让批评北京的人闭嘴的更广泛努力的一部分。

审核的缺口

平台不是被动的管道，这批报道中有几处试图把这一点讲具体。《卫报》报道，埃隆·马斯克在2022年收购后解散了X的信任与安全委员会，过去一年里他开除了两名信任与安全负责人，公司称有计划重组该团队，但计划仍不清楚。X推出了Community Notes，这是一个众包审核项目，基本上把更正事实的责任推给用户，而不是受雇的内容审核员。2023年10月10日星期二，欧盟委员会致信马斯克，就X上有关哈马斯袭击的虚假信息提出警告，包括假新闻和“被改换用途的旧图像”。

独立研究追踪了走向。忧思科学家联盟在2023年9月20日撰文，引用反数字仇恨中心的发现：X“在我们举报一周后，仍保留着300条仇恨帖子中的近86%”。研究员阿比·理查兹发现，2021年12月至2022年7月间，否认气候变化的推文平均每周30,000条，2022年7月之后几乎增至每周110,000条。南加州大学一名研究员发现，在马斯克掌权的最初六个月里，仇恨用户的日均仇恨言论几乎翻倍。忧思科学家联盟的文章还引用广告收入下降约60%。

这都不是没有争议的领域。同一篇文章指出，X上大多数气候虚假信息来自相对少数用户：在COP27之前和期间，仅16个账号的推文和引用推文就累积了507,000个点赞和转发。少数坚定的账号可以制造出群众运动的表象，而这正是网络模式难以监管的原因。

公众说自己想要什么

据《卫报》2023年11月7日报道，联合国教科文组织委托益普索对16个将在2024年举行全国选举的国家的8,000人做了调查，发现85%的人担心网络虚假信息的影响，87%的人说它已经对国家政治生活产生了重大影响。社交媒体是56%网民的主要新闻来源，高于电视的44%和媒体网站的29%，尽管对社交媒体新闻的信任度为50%，而电视为66%。在所有16个国家中，68%的人说社交媒体是假新闻最普遍的地方。

联合国教科文组织总干事奥德蕾·阿祖莱对记者说，平台加速和放大的网络虚假信息和仇恨言论“对社会凝聚力、和平与稳定构成重大风险”，迫切需要监管，“以保护信息获取……同时保护言论自由和人权”。联合国教科文组织说，其治理蓝图汇集了134个国家在18个月里提交的超过10,000份意见，已有50多个国家在监管社交媒体，而且往往不符合国际言论自由和人权规范。

监管也不是现成的答案。参议员谢尔登·怀特豪斯主张废除《通信规范法》第230条，代之以一个更窄的版本，迫使“披露虚假信息出资者”，据Reclaim The Net对他书章节和推特长帖的整理。怀特豪斯认为，“法律责任的风险，例如，可能让Facebook和其他公司更愿意采取措施阻止错误信息传播，即使这些措施也会降低用户参与度，因为不作为会带来自身的财务风险。”正如Reclaim The Net指出的，这一做法的批评者怀疑，大多数虚假信息只会变成受第一修正案保护的言论。

英国提供了一个现成的测试。它有一部旨在打击仇恨言论的《在线安全法》，但CNBC报道说，该法要到明年年初才生效，而且可能不足以防范某些形式的虚假信息。2024年8月7日星期三，英国媒体监管机构Ofcom致信社交媒体平台，说它们不应等到新法生效才行动。

Amnesty Tech副主任帕特·德布伦对《卫报》说，Meta和X这样的平台根据国际人权标准负有明确责任，这些责任在危机和冲突时期更加重大。他说：“社交媒体公司有责任识别并有效应对风险，采取有效措施限制有害内容的传播。”他还说，大型科技公司在这样的紧急情况下“太经常”没有站出来。