追踪虚假信息网络：新指南提出四步法，应对频发的骚乱事件

Exposing the Invisible 项目发布了这份指南。它指出，虚假信息正日益以“网络基础设施”的形式组织起来，旨在进行协同操纵和欺骗。指南引导读者掌握一套四步方法，用于跨语言、跨语境地发现、绘制和追踪此类网络。

其核心论点在于区分事实核查与网络调查。事实核查验证的是单个对象：一张照片、一段视频或一则新闻。网络追踪则关注围绕该对象的环境：网站、账号及放大路径。指南将此称为从文本到语境的转变。虽然这种做法更耗时，但能更好地识别出单条帖子作者之外的行为者。

四个步骤，以及为何需要循环

为了便于阅读，指南按顺序列出了四个步骤，但随后提醒读者，实际调查是递归的。指南写道：“许多步骤是递归的，因此有必要以非顺序的方式从一个步骤移动到下一个。”每个步骤包含三个小节，在指南中用不同颜色的色条标出。

指南还指出一个容易让普通读者困惑的术语问题。并非所有卷入虚假信息行动的人都知道自己是其中一部分。指南表示，当参与者不知情时，专家使用“错误信息”（misinformation）而非“虚假信息”（disinformation）。在公开场合混淆这一区分，可能会将普通用户误标为行动人员。

指南引用了 Shorenstein Center on Media, Politics and Public Policy 的《Media Manipulation Casebook》中的定义。该定义将媒体操纵描述为一个过程：行为者利用“信息生态系统中的特定条件或特征”来吸引关注，并通过欺骗性、创造性或不公平的手段影响公共话语。指南还提到，欧盟引入了缩写 FIMI，指代外国信息操纵与干预，并将其描述为战略性、协同性和有意为之的行为。

马其顿青少年、意大利网站、AI 生成的新闻

并非每个网络都有政治赞助方。指南指出经济动机，包括通过广告变现，并提到 2016 年美国大选期间，由马其顿一个小镇上的一群青少年运营的网站网络。它还提到了作者在意大利参与的一个案件，该案导致在意大利南部一个很小的城镇发现了一个网站网络。

指南列出的其他例子包括：Buzzfeed News 关于意大利最大的另类媒体网络之一如何在 Facebook 上散布反移民错误信息的报道；以及 Poynter Institute 关于一个冒充事实核查机构的网站如何在巴西发布假新闻的研究。在生成式 AI 方面，指南引用了 NewsGuard 揭露的一个由 125 个不可靠的 AI 生成新闻网站组成的网络。此外，指南还提到了俄罗斯的“巨魔农场”行动，以及其所称的知名亲中国或亲印度虚假信息网络。

指南引用了 Whitney Phillips 和 Ryan M. Milner 在《You Are Here: A Field Guide for Navigating Polarized Speech, Conspiracy Theories, and Our Polluted Media Landscape》中的观点。他们写道，“被污染的信息从来不会凭空出现”，研究者应当对自己发现的内容进行三角验证。所引段落列出了此类污染的三种可能根源：经济、人际和意识形态。

“第一项任务是在网络地图上三角定位我们各自‘你在这里’的标记（……）低头看看脚下的根系，有助于我们追溯被污染的信息来自哪里、又是如何到达那里的。”

为何网络视角至关重要

网络层面分析的实际价值在具体事件之后清晰可见。据 CNBC 报道，2024 年 7 月，英国小镇 Southport 有三名年轻女孩被杀。几小时内，关于袭击者姓名、宗教和移民身份的虚假说法便传开了。Institute for Strategic Dialogue 的仇恨与极端主义分析师 Hannah Rose 告诉 CNBC，X 上一条帖子错误地将作案者命名为“Ali al-Shakati”。到第二天下午 3 点，这个假名字仅在 X 上就有 3 万次提及。

警方在说法出现后的第二天予以辟谣，称嫌疑人出生在英国，但 CNBC 报道称该叙事已迅速发酵。极右团体组织了反移民和反伊斯兰抗议，随后升级为持续多日的骚乱，清真寺、移民中心和安置寻求庇护者的酒店遭到袭击。Rose 说，当用户在 TikTok 上搜索“Southport”时，平台自身在“Others Searched For”栏目中推广了袭击者的假名字，甚至在警方确认其错误八小时后依然如此。

Logically 英国研究与技术负责人 Joe Ondrak 告诉 CNBC，这类虚假说法在既定事实出现之前，充当了为既有偏见和成见寻找理由的途径。Telegram 向 CNBC 否认自己在帮助传播错误信息，称其版主正在监控局势，并删除呼吁暴力的频道和帖子。

其他有记录的行动规模更大、更持久。CNN 对法院文件和社交媒体公司公开披露信息的审查发现，中国政府建立了其描述的世界上已知最大的在线虚假信息行动，并利用它骚扰美国居民、政界人士和企业。CNN 报道称，Meta 表示仅在 2023 年第二季度就下架了归属于该组织的近 8000 个账号；谷歌告诉 CNN，近年来已关闭超过 10 万个相关账号；X 则封禁了数十万个中国官方支持或与官方有关联的账号。

美国国务院告诉 CNN，这些手法是一项耗资数十亿美元的更大行动的一部分，目的是塑造世界信息环境，并让批评北京的人噤声。该网络被称为“Spamouflage”或“Dragonbridge”。

地区性的激增遵循同样的模式。Balkan Insight 报道称，2023 年 10 月以色列与哈马斯冲突期间，虚假说法在巴尔干地区传播。其中包括毫无根据的说法，称以色列故意轰炸了加沙的圣波菲里乌斯东正教教堂，该说法后来被 AP 和 AFP 等事实核查机构辟谣。在科索沃，10 月 20 日流传的一张经过操纵的图片暗示马德里竞技球迷展示了巴勒斯坦旗帜；据 Balkan Insight 报道，仔细查看后发现它是用 AI 技术数字合成的。

指南的收尾案例更简单。加州大学河滨分校和南加州大学的教育学者发表在《New Media & Society》期刊上的一项研究发现，黑人和拉丁裔青少年报告的数字素养技能，例如识别网上虚假信息的能力，显著高于他们的白人同龄人，尤其是在涉及种族和族裔的内容上。该研究第一作者、加州大学河滨分校教育学院助理教授 Avriel Epps 说，这些技能在许多情况下来自应对网络种族主义的亲身经历，而非学校教学。

这一发现与斯坦福历史教育集团（现为 Digital Inquiry Group）2021 年的一项研究相悖。后者发现黑人学生在分析现实数字媒体方面得分显著低于其他种族-族裔群体。加州大学河滨分校的这项研究指出，早先的研究没有考察与种族或种族主义相关的反应。