事实查核 | 是谁在「利用人工智能操纵叙事」？——史丹福大学报告揭示的「涉疆谣言」真相

独家揭秘：美国如何利用人工智能操纵叙事

一分钟完读：

近日，央视旗下自媒体品牌「玉渊谭天」制作了一期风靡互联网的节目——《独家揭秘：美国如何利用人工智能操纵叙事》。该节目援引「美国史丹福大学近期发布的一份报告」，揭露美国在西方主流社交媒体上建立「大量虚假帐户」，制造谎言，操控国际舆论。

亚洲事实查核实验室分析后认为，史丹福大学的研究报告重点在于揭露两百多个违规的AI帐户可以针对中东和中亚地区用户，进行亲西方宣传。但其中并不能证明央视所指的「涉疆」事务是「谣言」或「虚假叙事」。

亚洲事实查核实验室分析后认为，史丹福大学的研究报告重点在于揭露两百多个违规的AI帐户可以针对中东和中亚地区用户，进行亲西方宣传。但其中并不能证明央视所指的「涉疆」事务是「谣言」或「虚假叙事」。

深度分析：

近日，央视旗下自媒体品牌「玉渊谭天」制作了一期被中国各大官媒和门户网站广泛转载的节目——《独家揭秘：美国如何利用人工智能操纵叙事》。该节目援引「美国史丹福大学近期发布的一份报告」，揭露「美国在西方主流社交媒体上建立「大量虚假帐户」，制造谎言，操控国际舆论。

视频作者自称心中「一直以来有个放不下的问题」——这些「离谱的谎言」为甚么能有人相信，随著叙述，随即出现新疆成千上万人被强迫劳动的「谣言」视频画面。

于是，作者针对史丹福大学互联网观察站（Stanford Internet Observatory）网络政策研究中心于2022年8月发布的这份报告，对三名中国教授进行了采访，揭发了美国军方和情报机构利用AI科技和心理学在社交媒体上制造和传播「谣言」的行径——「AI人脸、性格侧写、虚假网站……可以说是无所不用其极」。

作者不仅揭露了美国「入侵人脑」的「阴谋」，寄望人们具有「独立的判断能力和理性的思维」，更是号召在新兴领域建立「真正公正合理的规则和秩序」。

「玉渊谭天」引述的报告题名为「未曾听见的声音：近五年亲西方和平演变行动评估」（Unheard Voice: Evaluating five years of pro-Western covert influence operations），亚洲事实查核实验室在查阅、分析报告后发现，这份报告所分析的两百馀个违规AI帐户被怀疑主要针对中东和中亚地区用户进行亲西方宣传，用户主要集中在阿富汗、伊朗等国家，少量用户分布在哈萨克史丹等中亚国家。帐户语言为阿拉伯语和突厥语等，没有汉语或英语帐户。

报告内容中，共三处内容提及「新疆」或者「维吾尔」：其中一处是图片说明；一处有提到关于AI帐户发布新疆「种族灭绝」和「再教育营」的信息；另一处乃是一般性举例时提到新疆。

史丹福的报告中并没有论证或者质疑这些涉疆的虚假帐号所传播的信息本身是假消息，但「玉渊谭天」在视频节目中，则试图建立「假帐号必定传播假信息」的论述，明显对读者形成误导。

该报告称，这些帐户中，Twitter帐户有146个；Facebook个人帐户39个，页面16个，组群26个；Instagram帐户26个，这些帐户使用欺骗性策略在中东和中亚宣传亲西方的言论。「不断推进宣传美国及其盟友的利益，同时反对包括俄罗斯、中国和伊朗在内的国家。」

尤其是在今年2月俄罗斯入侵乌克兰后，这些帐户发布大量对俄罗斯的严厉批评，有时会转发美国之音、自由欧洲等媒体的相关报道。这些帐户被判定违规并被删除是因为它们被平台识别出是通过AI技术生成面孔的虚假角色，或冒充独立媒体的虚假帐户。

值得一提的是，该报告项目组还发布了另一篇「玉渊谭天」没有提到的报告「一个话题、两个网络：中国在推特上就新疆问题带节奏的两股势力评估（One Topic, Two Networks: Evaluating Two Chinese Influence Operations on Twitter Related to Xinjiang）」，其中详细揭示了中国政府如何操纵成千上万个虚假帐户传播虚假叙事，否认其新疆暴行。

这份发表于2021年12月的报告，统计了中国政府近年来在Twitter上建立的三十多万个帐户，并按时间和内容进行了分类。其中，于2021年被Twitter发现并封禁的涉疆“虚假叙事」帐户有2128个。报告强调了联合国、国际特赦组织（Amnesty International）等组织以及纽约时报、华尔街日报、CNN、路透社等多家主流媒体关于新疆人权问题的调查结论，揭示了这些帐户有组织地试图用宣传手段粉饰事实，引导国际舆论。

史丹福大学「互联网观察站」是一个跨学科的研究、教学和政策参与项目，重点关注社交媒体上信息技术的滥用行为。从2019年至今，该研究项目已经发布了34个对社交媒体平台删除的违规帐户进行分析的研究报告。

结论：

亚洲事实查核实验室认为，史丹福大学一系列报告研究着重于技术分析，研究技术手段在社交媒体的信息传播中发挥作用的方式和效果，解析任何可能有政治背景的宣传、舆论干预行为，报告本身并没有明确的「政治站队」倾向。

读者如能细续这两份报告，能够发现其中首先揭示了无论中国或美国，都建立大量与政府关系密切的虚假帐号意图影响舆论；但更深一层检视，这些帐号传播的信息，仍有真、假的不同。特别在牵涉新疆的事务上，史丹福大学一系列研究成果不仅没有否认在新疆发生的监视、镇压、强制劳动等事实，反而是印证了这些事实的存在以及中国政府是如何试图掩盖的。

相关链接：

玉渊谭天
玉渊谭天，《独家揭秘：美国如何利用人工智能操纵叙事》
斯坦福大学报告，未曾听见的声音：近五年亲西方和平演变行动评估
斯坦福大学报告，一个话题、两个网络：中国在推特上就新疆问题带节奏的两股势力评估

（亚洲事实查核实验室是针对当今复杂媒体环境以及新兴传播生态而成立的新单位，我们本于新闻专业，提供正确的查核报告及深度报道，期待读者对公共议题获得多元而全面的认识。）