2024大选年，一场“彻头彻尾的虚假信息灾难“？
与此同时，虚假叙事和阴谋论已演变成一种日益严峻的全球威胁。
毫无依据的选举舞弊指控损害了人们对民主的信任。外国影响力活动经常针对两极分化的国内挑战而展开。人工智能助长了虚假信息的猖獗，扭曲了人们对现实的理解。而大型社交媒体公司还削减了防护措施并缩小了选举内容团队的规模。
“几乎所有民主政体都处于压力之下，这与技术无关，”智库布鲁斯金学会的高级研究员达雷尔·M·韦斯特说。“再加上虚假信息的影响，只会让许多麻烦趁虚而入。”
他说，这堪称一场“彻头彻尾的虚假信息灾难”。
潜在的代价是巨大的。
从大规模移民到气候破坏，从经济不平等到战争，“冷战”后盛行全球的民主制度正面临世界范围内日益严峻的挑战。许多国家在妥善应对这些考验时遭遇的困境削弱了人们对自由多元社会的信心，民粹主义者和强人领袖因而有了民意基础。
以俄罗斯和中国为首的专制国家往往通过赞助虚假信息宣传运动，利用政治不满情绪来推动破坏民主治理和领导的叙事。这些努力若取得成效，各地的选举可能就会对近来专制领袖崛起的趋势起到加速作用。
台湾副总统、执政的民进党总统候选人赖清德本月在台北的一场竞选活动中向支持者挥手致意。台湾正试图抵御中国的不实信息宣传。ANN WANG/REUTERS
支持克里姆林宫的莫斯科智库外交与国防政策委员会的负责人费奥多尔·A·卢基亚诺夫最近宣称，2024年“可能是西方自由派精英丧失对世界秩序控制的一年”。
技术政策公司Anchor Change创始人、曾在Facebook担任公共政策总监的凯蒂·哈巴斯表示，许多国家的政治体制以及20国集团等政府间组织可能将迎来剧变。虚假信息不仅存在于社交媒体，也通过印刷物、广播和电视和口头传播，可能将破坏政治进程的稳定。
“到2025年，世界将变得非常不同，”她说。
咄咄逼人的国家行动
去年，“巴基斯坦正义运动”支持者在伊斯兰堡参与力挺总理伊姆兰·汗的抗议集会。巴基斯坦选举将于2月进行。SAIYNA BASHIR FOR THE NEW YORK TIMES
在竞选活动中，虚假信息的最大来源之一是那些专制政府，它们试图诋毁民主作为全球治理模式的声誉。
近几个月来，研究人员和美国政府都认为俄罗斯、中国和伊朗有可能试图采取影响行动，干扰其他国家的选举，包括今年的美国总统选举。数字安全公司“记录未来”的分析师布莱恩·利斯顿说，这些国家认为，未来一年是“在世界舞台上让我们难堪、利用社会分歧、破坏民主进程的真正机会”。该公司最近曾报道美国竞选面临的潜在威胁。
该公司还调查了Meta去年首次发现的俄罗斯影响力行动，该行动被称为“分身”，似乎冒充国际新闻机构，创建虚假账户，在美国和欧洲传播俄罗斯的宣传。“分身”似乎使用了广泛可用的人工智能工具，创建了专门报道美国政治的新闻媒体，名为“选举观察”和“我的骄傲”等。
散布在世界各地的虚假叙述往往由侨民社区分享的，或由国家支持的特工精心策划。专家预测，选举舞弊的说法将继续演变并产生影响，就像在2022年的美国和巴西，以及在2023年的阿根廷一样。
两极分化和极端主义的循环
日益两极化和好斗的政治环境正在滋生仇恨言论和错误信息，从而将选民进一步推向孤岛。在强化用户偏见的社交媒体算法帮助下，少数有动机的极端声音往往会淹没温和的大多数。
“我们正在重新定义关于言论的社会规范，以及如何让人们对自己的言论负责，无论是在线上还是线下，”哈巴思说。“关于如何在这个国家做到这一点，有很多不同的观点，更不用说全球了。”
在印度，总理曾就人工智能的误导性内容发出警告，该国大选定于春季举行。DEEPAK SHARMA/ASSOCIATED PRESS
一些最极端的声音会在Telegram、BitChute和Truth social等另类社交媒体平台上寻找彼此。监测威胁和误导信息的公司皮拉称，事先采取措施制止选民舞弊的呼吁最近在这些平台上成为潮流——从历史上看，这种舞弊在统计上是微不足道的。
皮拉在一个案例研究中发现，“这些说法的流行和接受程度只会越来越高”，甚至直接影响到选举政策和立法。
“这些阴谋正在政治精英中生根，他们正在利用这些叙事来赢得公众的好感，同时降低了他们本应维护的制度的透明度、制衡和平衡，”该公司的研究人员写道。
人工智能的风险与收益
根据芝加哥大学和斯坦福大学的一份报告，人工智能“为民主治理带来了希望”。关注政治的聊天机器人可以让选民了解关键问题，并更好地将选民与民选官员联系起来。
这项技术也可能成为虚假信息的载体。虚假的人工智能图像已经被用来传播阴谋论，例如有人毫无根据地断言，有一个用非白人移民来取代欧洲白人的全球阴谋。
欧洲议会选举将于6月举行，与此同时，欧盟将出台一项新的法律，旨在遏制具有腐蚀性的网络内容。FREDERICK FLORIN/AGENCE FRANCE-PRESSE — GETTY IMAGES
在公共政策研究所布伦南司法中心负责选举和政府项目的劳伦斯·诺顿还说，人工智能可以模仿大量来自选举办公室的材料，并将其广泛传播。或者，它可能会在最后阶段制造“10月惊奇”，就像今年秋天斯洛伐克紧张的选举期间发布的带有人工智能干预迹象的音频那样。
“一段时间以来威胁着我们民主的所有事情，都有可能因为人工智能而变得更糟，”诺登在11月参加一个在线小组讨论时说。(在活动期间，组织者引入了一个人工智能操纵的“诺登”，以强调这项技术的能力。)
一些专家担心，人工智能工具的存在本身就可能削弱人们对信息的信任，使政治行为者能够抹去真实的内容。其他人则表示，目前的担忧被夸大了。智库美国外交关系委员会高级副会长詹姆斯·林赛说，人工智能“只是众多威胁之一”。
“我不会忽视所有散布错误信息或虚假信息的老派方式，”他说。
大型科技公司缩减保护措施
联合国教科文组织的调查显示，在计划于2024年举行大选的国家，虚假信息已成为绝大多数人关注的主要问题。社交媒体公司限制有害内容的努力曾在2016年美国总统大选后升级，然而最近已经逐渐减弱，甚至完全逆转。
倡导组织“自由新闻”最近的报告显示，去年，Meta、YouTube和前身为Twitter的平台X缩减或重组了负责检查危险或不准确材料的团队。有些平台还提供了一些新功能，比如私人单向广播，这些功能特别难以监控。
自由新闻的高级法律顾问诺拉·贝纳维德兹说，这些公司在新的一年开始时“带宽很少，书面问责制很弱，而全球数十亿人在这些平台获取信息”——这不是维护民主的理想选择。
TikTok等较新的平台很可能会开始在政治内容中发挥更大的作用。新闻通讯初创公司Substack上月表示，不会在其平台上禁止纳粹符号和极端主义言论，并希望2024年的选举季成为“Substack选举”。政界人士正计划在Twitch上进行直播活动，该平台还将主持人工智能生成的拜登总统和特朗普前总统之间的辩论。
拥有Facebook、Instagram和WhatsApp的Meta在去年11月的一篇博客文章中表示，它“有能力在我们的平台上保护明年选举的公正性”。(上个月，公司任命的一个监督委员会对Meta的自动化工具及其对两个与以色列—哈马斯冲突有关视频的处理提出了质疑。)
YouTube上个月写道，其“专注选举的团队一直在不停地工作，以确保我们有正确的原则和系统。”该平台今年夏天表示，将停止删除虚假的选民欺诈叙述。（YouTube表示，它希望选民听到辩论各方的意见，但它指出，“这不是传播有害错误信息或宣传仇恨言论的免费通行证”。）
亿万富翁埃隆·马斯克于2022年底接管X后，此类内容在X上激增。几个月后，亚历山德拉·波肯离开了负责该平台信任和安全运营的职位。波肯后来加入了内容审核公司WebPurify。她说，许多社交媒体公司严重依赖于不可靠的人工智能内容审核工具，让精简后的人力团队处于不断灭火的状态。
“选举诚信是一项巨大的努力，确实需要一个积极主动的战略，需要很多人力、很多智慧和作战室，”她说。