从绍斯波特骚乱到黑公关：虚假信息网络如何运作

2024年7月29日，英格兰西北部绍斯波特的一节舞蹈课上，三名儿童遇害。几小时内，关于袭击者姓名、宗教和移民身份的谣言便在社交媒体上蔓延。据CNBC引用的战略对话研究所（ISD）研究员汉娜·罗斯（Hannah Rose）所述，截至次日下午3点，仅X平台上对其中一个虚假姓名的提及量就超过了3万次。

这是现代虚假信息网络的典型构造：真实事件、快速传播的虚假叙事、算法放大以及线下后果。警方在谣言出现次日便辟谣，指出嫌疑人出生于英国。但那时，虚假叙事已站稳脚跟。

虚假信息网络究竟是什么

这一术语涵盖范围很广。一端是松散关联的账号，它们蜂拥而至，追逐突发新闻；另一端是将操纵作为服务出售的商业机构，通常被称为“黑公关”。

BuzzFeed News梳理了平台下架记录和安全公司的调查，发现自2011年以来，至少有27个网络信息行动被部分或全部归因于公关或营销公司。其中19个发生在2019年。这项梳理是与台湾调查新闻网站《报导者》合作完成的。

Facebook网络安全政策负责人纳撒尼尔·格莱彻（Nathaniel Gleicher）对BuzzFeed News表示，“欺骗的职业化”是一个日益增长的威胁。他说：“欺骗和影响力行动这一更宽泛的概念已存在一段时间，但在过去几年里，我们看到……一些公司成长起来，基本上把商业模式建立在欺骗之上。”

一个例子是以色列公司阿基米德集团（Archimedes Group）。它建立了由数百个Facebook页面、账号和群组构成的网络。其网站承诺“使用一切工具，利用一切可用的优势，按照客户的意愿改变现实”。在马里，它运营一个假事实核查页面，声称由当地学生运营。在突尼斯，它运营一个名为“停止虚假信息和谎言”的页面。在尼日利亚，它为同一位政客、前副总统阿提库·阿布巴卡尔（Atiku Abubakar）同时运营支持和反对的页面。

流水线：抓取、改写、发布、放大

32岁、住在台湾台中的彭冠钦（Peng Kuan Chin）向《报导者》展示了他的系统如何运作。服务器抓取网络上的中文文章和帖子，将词语和句子重新组织成新文本，然后发布到他控制的多个网站。数千个虚假社交媒体账号将这些内容推送到信息流、通讯应用和搜索结果中。

“我开发这个是为了操纵舆论，”彭冠钦对《报导者》说。自动化和人工智能“能比人快得多地迅速制造流量和曝光”。

他的客户是亚洲的公司、品牌、政党和候选人。他说：“客户有钱，我不在乎他们买什么。”

并非每个行动都依赖定制软件。在乌克兰，公关公司Pragmatico雇用数十名年轻、熟悉数字技术的人，用虚假Facebook账号发布关于客户的正面评论。在波兰，Cat@Net运营着一批虚假Twitter账号，操作者是居家工作的残疾员工。该机构雇用他们，是因为可以支付低于市场的报酬，同时他们还领取政府补贴。Investigate Europe的报道还发现，Cat@Net为波兰最知名的公关机构之一Art-Media工作。Art-Media否认与Cat@Net合作。

前中央情报局官员、《真或假：中情局分析师识别假新闻指南》的作者辛迪·奥蒂斯（Cindy Otis）对BuzzFeed News说，俄罗斯和伊朗等民族国家开展的信息行动，为“出于经济动机的个人和团体”进入这一领域提供了“一本行动手册”。

绍斯波特叙事如何传播

绍斯波特案不需要付费承包商。它需要一个平台、一批受众，以及一个契合部分受众既有信念的故事。

Logically英国研究与技术负责人乔·翁德拉克（Joe Ondrak）对CNBC说，这些虚假说法对反移民团体来说是“猫薄荷”。他说：“这确实正是能激起比没有传播虚假信息时更愤怒反应的那种话。”

翁德拉克还指出，这些报道起到了“一种作用，在任何确立的真相传出来之前，为既有的偏见、成见和猜测提供合理化和强化”。

放大完成了大部分工作。罗斯说，拥有数十万粉丝和付费蓝标的账号分享了虚假信息，平台算法随后将其推送给其他用户。她说：“例如，当你在TikTok上搜索‘Southport’时，在推荐相似内容的‘其他人搜索过’栏目里，袭击者的虚假姓名被平台自己推广，包括在警方确认这一信息不实8小时之后。”

战略对话研究所的分析发现，算法在X上以类似方式运作，错误姓名成为热门话题。虚假说法也传到Telegram。翁德拉克说，Telegram整合叙事，让更多人接触到“更强硬的信念”。Telegram对CNBC表示，它没有帮助传播错误信息，称审核人员正在监控局势，并删除呼吁暴力的频道和帖子。

数字变得很大。英国下议院科学、创新与技术委员会2025年7月的一份报告称，2024年7月29日至8月9日期间，关于绍斯波特袭击者的虚假或没有根据的说法在X上获得1.55亿次曝光。报告指出，在整个社交媒体上，虚假姓名被看到42万次，潜在触达17亿人。它被算法工具直接推广，出现在X的“英国热门话题”和TikTok的“其他人搜索过”功能中。

当网络离开屏幕

极右团体组织了反移民和反伊斯兰抗议，包括在被杀女孩计划举行的守夜活动上示威。骚乱升级为持续数天的暴乱。清真寺、移民中心和安置寻求庇护者的酒店遭到袭击。

根据Logically的分析，至少部分呼吁参加抗议的账号可以追溯到极右翼，其中一些与“国家行动”（National Action）有关联。这是一个被禁的右翼极端组织，2016年根据英国《恐怖主义法》被列为恐怖组织。翁德拉克还指出，许多此前传播关于这次袭击的虚假信息的团体已经开始收回说法，称那是骗局。

X所有者埃隆·马斯克（Elon Musk）在骚乱期间发声，就暴力示威发表争议性言论。英国法院事务大臣呼吁他“负责任地行事”。TikTok和X没有立即回应CNBC的置评请求。

在最严重暴力发生后的那个周三，数千名反种族主义抗议者在英国各地的城市和城镇集会，人数远远超过最近的反移民抗议。

规则手册的问题

英国有《在线安全法》，但它覆盖这类内容的能力存在争议。该法于2023年10月获得御准。要求社交媒体公司保护用户免受非法内容侵害的条款于2025年3月17日生效。

在4月29日科学、创新与技术委员会的听证会上，DSIT和商业贸易部大臣琼斯女男爵（Baroness Jones of Whitchurch）说，错误信息和虚假信息受该法覆盖。Ofcom在线安全战略交付主任马克·邦廷（Mark Bunting）说，前政府把可能对成年人有害的合法材料从该法范围中移除，包括某些形式的错误信息。他补充说，有“一个小小的限定”：该法引入了意图造成伤害的虚假通信罪，前提是公司有合理理由推断出意图。

委员会主席奇·翁乌拉（Chi Onwurah）指出，意图很难证明。她说，即使准则讨论了错误信息，Ofcom也没有对此采取行动的义务。“这似乎是一个关键问题，”她说。

DSIT安全与在线危害主任塔莉莎·罗兰（Talitha Rowland）对委员会说，“错误信息和虚假信息不是一件事”。它可能是非法的、外国干预、煽动仇恨或暴力的内容，也可能是低于违法门槛但仍对儿童有害的内容。

到7月，委员会的报告说得更直白。报告指出，该法未能处理对“合法但有害内容”的算法放大，使公众容易再次遭遇上一个夏天的情况。翁乌拉说：“很明显，《在线安全法》根本不够格。”委员会敦促政府为未来监管采纳五项原则，从保护言论自由到让平台对其上线的内容负责。

还有一个新情况：用来传播这些材料的工具正在变化。安德鲁·奥洛夫斯基（Andrew Orlowski）在UnHerd上写道，马斯克于2025年10月推出的Grokipedia使用人工智能抓取和转换内容，几乎没有人工监督。关于0.1版本的早期报告注意到，人工智能生成的虚假内容和贬损段落是“以准确之名”加入的。奥洛夫斯基认为，大型语言模型“是会幻觉的统计词语补全引擎，而这些幻觉是普遍存在的”。