欧洲议会选举已经开始。这是一次重大的民主活动，但也可能因网络虚假信息而蒙上阴影。

专家警告说，人工智能可能会加剧假新闻的传播，从而扰乱欧盟和其他许多国家今年进行的选举。欧洲的风险尤其大，因为俄罗斯入侵乌克兰的战争仍在进行，而欧洲一直在对抗俄罗斯的宣传。

专家们最担心的事情是什么？

从葡萄牙到芬兰，从爱尔兰到塞浦路斯，欧盟27个国家的约3.6亿人将在周四至周日举行的选举中选出720名欧洲议会议员。在投票前的几个月里，专家们注意到在各成员国中传播的假新闻和反欧盟虚假信息的数量和质量都在上升。

人们最担心的是，由于新的人工智能工具可以轻松创建误导性或虚假内容，欺骗选民将比以往更加容易。有些网络恶意行为来自欧盟内部，有些来自其他国家。尽管很难找到直接归因于此类攻击的确凿证据，但俄罗斯受到广泛的指责，中国有时也受到批评。

欧盟外交政策负责人博雷尔周一警告说：“俄罗斯以国家行为在欧盟信息空间散播欺骗性内容，这对我们习惯于进行民主辩论的方式构成了威胁，尤其是在选举期间。”

他说，俄罗斯的“信息操纵”活动正在利用越来越多的社交媒体渗透“和廉价的人工智能辅助操作”。他说，机器人正被用来对批评俄罗斯总统普京的欧洲政治领导人进行抹黑。

虚假信息传播事件发生了吗？

与选举有关的虚假信息例子比比皆是。

去年7月，在西班牙全国大选前两天，有人注册了一个虚假网站，与首都马德里当局运营的官方网站如出一辙。该网站发布了一篇文章，谎称已解散的巴斯克激进分离主义组织埃塔可能会袭击投票站。

10月，在波兰议会选举前两天，警方因虚假的炸弹威胁信息突袭了一个投票站。当时，与当局认为来自俄罗斯干预“信息圈”的社交媒体账户声称那里有一个设备发生了爆炸。

11月，就在斯洛伐克议会选举的前几天，人工智能生成的录音冒充一名候选人讨论操纵选举的计划，在社交媒体上传播来开，事实核查人员忙不迭地揭露其虚假性。

就在上周，波兰国家通讯社登载了一篇虚假报道，称总理图斯克将从7月1日开始动员20万人。当局将这起明显的黑客攻击事件归咎于俄罗斯。几分钟后，波兰通讯社删除了这篇报道，并发表声明说它不是消息来源。

“这确实令人担忧，而且与从其他来源制造虚假信息的行为有些不同。”研究虚假信息的非营利组织欧盟虚假信息实验室（EU DisinfoLab）执行主任阿拉菲利普（Alexandre Alaphilippe）说，“它特别突出了新闻生产的网络安全问题，而新闻媒体应被视为关键基础设施。”

虚假信息的目标是什么？

专家和权威人士表示，俄罗斯虚假信息的目的是破坏民主，阻止欧盟各国选民前往投票站投票。

欧盟委员会副主席尤洛娃（Vera Jourova）在4月警告议会说：“我们的民主不能被视为理所当然，克里姆林宫将继续利用虚假信息、恶意干扰、腐败和专制主义游戏规则中的任何肮脏伎俩来分裂欧洲。”

与此同时，图斯克谴责俄罗斯“在欧洲大选前夕采取破坏稳定的战略”。

人工智能开发公司Logically的高级政府事务经理伯恩（Sophie Murphy Byrne）说：“在更广泛的层面上，虚假信息活动的目标还不是仅仅是破坏选举。”她在上周的一次在线简报会上说：“这往往是一种持续性活动，旨在迎合阴谋论心态，削弱社会信任。”

欧盟专家和分析人士说，编造这些故事的目的还包括煽动公众对欧洲政治精英的不满，试图在家庭价值观、性别或性取向等问题上分裂社会，制造对气候变化的怀疑，以及削弱西方对乌克兰的支持。

目前发生了什么变化？

五年前，也就是上一次欧盟大选时，大多数网络虚假信息都是由“巨魔农场”菲利炮制出来的。这些机构雇人轮班工作，用有时很笨拙的英语撰写操纵性的帖子，或重新利用旧的视频片段。当时，虚假新闻更容易被发现。

现在，专家们对生成式人工智能的兴起敲响了警钟，他们认为这种技术有可能在全球范围内加速选举虚假信息的传播。恶意行为者可以使用支持易用平台（如OpenAI的ChatGPT）的同类技术来创建外观真实的深度伪造图像、视频和音频。任何拥有智能手机和坏心眼的人都有可能制造出虚假但令人信服的内容，用来愚弄选民。

非营利研究机构AI Forensics的研究主管罗马诺 (Salvatore Romano) 说，生成式人工智能系统现在可以用来自动生成逼真的图像和视频，并推送给社交媒体用户。

AI Forensics最近发现了一个亲俄网站，称其利用了Meta公司未能控制欧盟政治广告的漏洞。

罗马诺说，这些机构编造的内容现在与真实内容“毫无区别”，虚假信息观察专家需要更长的时间才能识破。

欧盟当局正在采取什么措施？

欧盟正在利用一项新法律——《数字服务法》进行反击。这项内容广泛的法律要求各平台遏制传播虚假信息的风险，并可以巨额罚款追究平台的责任。

欧盟利用这项法律要求微软提供有关其必应人工智能聊天机器人Copilot所带来风险的信息，包括对“可能误导选民的自动操纵服务”的担忧。

新法律还被用来调查Facebook和Instagram所有者Meta集团，认为该集团在保护用户免受虚假信息宣传方面做得不够。

欧盟通过了一项范围广泛的人工智能法，其中包括要求对深度伪造进行标注，但该法来不及在这场选举前生效。

社交媒体公司如何应对？

大多数科技公司都在宣扬他们为保护欧盟“选举完整性”而采取的措施。

Facebook、Instagram和WhatsApp的所有者Meta集团表示将建立一个选举运营中心，以识别潜在的网络威胁。它还拥有数千名内容审查员，使用欧盟24种官方语言工作，并正在收紧针对人工智能生成内容的政策，包括对违反其标准的人工智能生成内容进行标记和“降级”。

Meta集团全球事务总裁克莱格（Nick Clegg）表示，没有迹象表明人工智能生成工具被系统性地用于破坏选举。

TikTok表示将在该视频分享应用程序中设立事实核查中心。YouTube的所有者谷歌公司表示，它正在与事实核查组织合作，并将利用人工智能来“大规模打击滥用行为”。

马斯克拥有的社交媒体平台 “X”（前推特）却反其道而行之。“哦，你是说破坏选举诚信的‘选举诚信’团队？是的，他们走了。”他在9月份的一篇帖子中说。X的选举诚信团队任务是防止在该平台上出现选举干扰和操纵，去年9月，马斯克缩减了该团队的人员。