虚假信息网络内幕：从萨瑟波特到Spamouflage

画面中，一名穿黑色T恤的男孩似乎躺在血泊里，头顶上方架着摄像机，一名男子在大喊指令。周围站着戴基帕帽的男子，以及身穿类似以色列国防军绿色制服的人。一名经过认证的X用户分享该片段，配文称：“视频显示以色列试图制造死亡假画面。”据《卫报》报道，这段画面来自巴勒斯坦短片《Empty Place》，讲述巴勒斯坦人逃离以色列占领后留下的真空地带。视频似乎始于TikTok，随后迁移到X。原TikTok帖子已不可用，但重新剪辑的版本继续传播并积累观看量。发布该2m观看帖子的用户后来承认，该片段可能被断章取义。

这个故事的重要性不在于它揭示了某个视频的内容，而在于它暴露了供应链。一段真实画面，剥离语境后，变成了支持其从未打算支持的声明的证据。如果纠正出现，往往为时已晚，且传播效果不佳。

网络，而非孤立发帖者

10月7日袭击后几天内，X平台被类似材料淹没。第二段视频同样源自TikTok，现已不可用，在X上获得2m观看，声称显示哈马斯武装分子抓获的高级以色列将军。实际上，据《卫报》报道，该视频几天前由阿塞拜疆国家安全局官方YouTube频道发布，画面中是被逮捕的纳戈尔诺-卡拉巴赫分离政府前领导人。一份伪造文件暗示乔·拜登向以色列提供了80亿援助，在X上被观看40万次；这是他7月宣布向乌克兰提供400援助备忘录的编辑版本。白宫向NBC确认该文件是假的。共同点不是单一意识形态，而是方法：获取真实材料，重新标记，让平台分发机制完成其余工作。

据《卫报》报道，俄罗斯长期以来一直是X平台上传播虚假信息的主要责任方，并似乎利用了以色列-巴勒斯坦冲突。袭击后的周一，前俄罗斯总统、俄罗斯安全委员会副主席德米特里·梅德韦杰夫发推称：“北约伙伴们，你们真的做到了，不是吗？交给乌克兰纳粹政权的武器现在正被积极用于对抗以色列。”另外，一个与瓦格纳雇佣兵集团相关的X账号发布了一段视频，似乎显示哈马斯感谢乌克兰提供计划用于对抗以色列的武器。该视频获得30万多次观看，并被美国极右翼账号放大。

乌克兰方面进行了反驳。乌克兰情报机构指控俄罗斯将从乌克兰战场缴获的“战利品”西方武器交给哈马斯，以破坏对基辅的支持。2月份，五角大楼监察长报告称，目前没有证据表明武器和援助被转交给第三方。调查机构Bellingcat创始人艾略特·希金斯指出，一段假冒BBC的视频声称包含Bellingcat对乌克兰向哈马斯走私武器的调查。希金斯说，这是由俄罗斯社交媒体用户推动的，但他补充说，不清楚这是俄罗斯政府行动还是草根努力。这一保留意见值得保留。归因是这项工作中最难的部分，最响亮的声明往往伴随着最薄的证据。

当虚假名称成为热门话题

2024年8月英国骚乱展示了当网络获得符合现有不满情绪的故事时会发生什么。7月在萨瑟波特，三名年轻女孩在刀袭中遇害后，关于袭击者姓名、宗教和移民地位的虚假信息在几小时内出现。“参考LinkedIn上的一帖，X上的一帖错误地将肇事者命名为‘Ali al-Shakati’，据传是一名穆斯林移民。截至次日下午3点，仅X平台上该虚假姓名就有超过3万提及，”战略对话研究所（ISD）的仇恨与极端主义分析师汉娜·罗斯通过邮件告诉CNBC。根据ISD的分析，其他帖子声称袭击者在情报部门监视名单上，2023年乘小船抵达，且当地心理健康服务机构对其有所知悉。警方在谣言出现后的第二天辟谣，称嫌疑人出生在英国。但那时叙事已获动力。

极右翼团体组织了反移民和反伊斯兰抗议，包括在计划举行的女孩守夜活动上的示威。示威升级为持续数天的骚乱，包括对清真寺、移民中心和收容寻求庇护者酒店的袭击。科技公司Logically负责英国研究和技术的乔·翁德拉克告诉CNBC，这些虚假声明是对已经准备反应的团体而言的“猫薄荷”。“这不是说这个虚假声明传出去，然后你知道，被每个人相信，”他说。这些报告反而充当了“在既定真相出现之前，理化和强化既有偏见、偏见和推测的一种方式”。

算法不仅未能阻止它。至少在一个案例中，它推荐了它。

平台机制以容易忽略的方式放大了谎言，如果你只看谁发布了它。罗斯告诉CNBC，拥有数十万粉丝并付费购买蓝色认证徽章的账号分享了虚假信息，随后被算法推动。在TikTok上，当用户搜索“Southport”时，推荐类似内容的“其他人搜索”板块推广了袭击者的虚假姓名，甚至在警方确认其错误后八小时仍在推荐。ISD的分析在X上发现了类似行为，错误姓名作为热门话题出现。虚假声明还转移到Telegram，翁德拉克将其描述为整合叙事并向更多人展示“更极端的信念”，包括一些起初反疫苗后被极右翼人物利用的频道。Telegram告诉CNBC，它否认帮助传播错误信息，称其审核人员正在监控局势并移除呼吁暴力的频道和帖子。

根据Logically的分析，一些呼吁参与抗议的账号可追溯到极右翼，包括一些与2016年根据英国《恐怖主义法》被列为恐怖组织的被禁止团体National Action相关的账号。英国《在线安全法》旨在处理仇恨言论，但直到次年年初才生效，对于某些形式的虚假信息可能不够。在骚乱最严重的周三之后，媒体监管机构Ofcom致信社交媒体平台，表示不应等待新法生效。到那时，数千名反种族主义抗议者已在英国各城市和城镇集会，人数超过反移民示威。

已知最大规模行动

并非每个网络都是围绕突发新闻事件临时组建的。CNN在2023年11月报道，中国政府建立了全球已知最大的在线虚假信息行动，并以此骚扰美国居民、政客和企业，有时以暴力威胁目标。报道基于对法院文件和社交媒体公司公开披露的审查。受害者描述了数万条社交媒体帖子的轰炸，称他们为叛徒、狗，并使用种族主义和恐同辱骂。有些人曾与执法部门，包括FBI，交谈，但收效甚微。科技和社交媒体公司关闭了数千个账号，但新账号几乎每天出现。

该网络以“Spamouflage”和“Dragonbridge”等名称被追踪。其数十万账号分布在所有主要社交媒体平台，骚扰批评中国共产党的美国人，试图抹黑美国政客，贬低与中国利益相悖的美国公司，并劫持可能对中国形象产生负面影响的在线对话。私人研究人员在其被发现四年多以来一直在追踪它，但直到最近几个月，联邦检察官和Meta才公开得出结论，该行动与中国警方有关。Meta表示，8月仅2023年第二季度就关闭了近8000个归因于该集团的账号集群。拥有YouTube的Google告诉CNN，近年来已关闭超过10万相关账号。根据公司博客，X已封锁数十万个中国“国家支持”或“国家关联”账号。

规模是关键。低运营成本意味着网络可以吸收下架并重建。“我们可能认为这局限于某些聊天室，或这个平台或那个平台，但它正在全面扩张，”众议院中国特别委员会主席迈克·加拉格尔众议员告诉CNN。“这只是时间问题，就会发生在那些不认为这是自己问题的普通美国公民身上。”美国国务院将这些战术描述为更广泛的数十亿美元行动的一部分，旨在塑造全球信息环境并使北京的批评者噤声，该行动据称在习近平总统任内扩大。

受众说他们想要什么

公众关切并非小众立场。Unesco委托Ipsos对16个将在2024年举行全国选举的国家进行的一项涉及8000人的调查发现，85%的人担心在线虚假信息的影响，87%的人表示它已经对国家政治生活产生了重大影响。社交媒体是56%互联网用户的主要新闻来源，超过44%的电视和29%的媒体网站，尽管对其信任度较低：50%对比电视的66%、广播的63%和媒体网站及应用的57%。在所有16个国家中，68%的人表示社交媒体是假新闻最普遍的地方，超过38%的即时通讯应用。

Unesco总干事奥德蕾·阿祖莱告诉记者，在线虚假信息和仇恨言论，在平台的加速和放大下，对“社会凝聚力、和平与稳定构成重大风险”。她提出了一份治理蓝图，称迫切需要监管“以保护信息获取……同时保护言论自由和人权”。Unesco表示，超过50个国家已经在监管社交媒体，但往往不符合国际言论自由和人权规范，且至少一个主要平台告诉这个194成员的组织，它更倾向于一致的全局框架而非国家制度的拼凑。该组织计划在2024年举行监管机构世界大会。

政策斗争尚未结束，其中一些与平台自身的商业模式背道而驰。参议员谢尔顿·怀特豪斯主张废除《通信规范法》第230条，并用更窄的版本取代它，强制“披露虚假信息资助者”，他写道，法律责任的威胁“可能使Facebook和其他公司更有可能采取阻止错误信息传播的措施，即使这也减少了用户参与度，因为不作为也会带来自身的财务风险”。该方法的批评者认为，许多虚假信息最终将由第一修正案保护。双方都在争论同一件事：当谎言比纠正传播得更快时，谁承担成本。

这些案例共有的是分工。有人制造虚假声明，通常通过重新利用真实材料。有人有影响力发布它。算法决定它走多远。监管者在事后到达，如果有的话。而那些最有可能成为目标的人，从萨瑟波特居民到美国的华裔异议人士，是对这一切杠杆最少的人。