在第60届慕安会上，人工智能领域的全球多家科技企业签署协议，承诺监管和打击滥用人工智能干扰各国选举的行为。

今年是"超级选举年"，包括美国、俄罗斯、印度在内的70多个国家和地区将举行选举，覆盖全球近半人口。世界经济论坛上月发布的《2024年全球风险报告》将信息错误和虚假信息列为两年内的最大短期风险，这种风险在很大程度上来自人工智能的滥用。在本月中旬召开的第60届慕尼黑安全会议上，全球多家科技企业签署协议，承诺打击旨在干扰选举的人工智能滥用行为。如何防范人工智能干预选举，已经成为政治家、学者和技术人员普遍关心的问题。

虚假信息泛滥的"潘多拉之盒"？

过去两年，人工智能发展迅速。如今，借助生成式人工智能，用户只需给出简单的提示词或文字描述，就能快速生成高质量的文字和真假难辨的图片、声音、视频。内容生产的门槛急剧降低，打开了虚假信息泛滥的"潘多拉之盒"，给选举的透明性和可信度带来严重威胁。

首先，个别政党或政客可能滥用人工智能，制作包含虚假内容的图片和视频，引导、诱导和误导选民。去年4月，美国共和党全国委员会为回应拜登宣布再次参选，发布了一则完全由人工智能生成的竞选广告，以耸人听闻的影像描绘了拜登再次成功当选总统可能给世界和美国带来的灾难性后果。2023年底，巴基斯坦正义运动党的在线竞选活动中出现了一段该国前总理伊姆兰·汗号召选民为该党投票的视频，但伊姆兰·汗本人此时正在监狱服刑，视频中的声音和画面均由人工智能生成。这两个例子足以提醒滥用人工智能可能给选民带来的欺骗和误导效应。

其次，由于社交媒体已经成为很多人获取最新消息的主要渠道，因此社交媒体平台与人工智能的结合，就使大规模、高效率、低成本的有害内容传播成为可能。过去，自动化社交媒体账号（机器人账号）发布的内容往往质量低、长度短，容易识别；现在，配合人工智能，这些账号发布的推文、评论、图片等变得更加逼真、多样、复杂，识别难度明显提高。此外，人工智能还能与聊天机器人、电子邮件、自动语音电话、自动短信推送等传统宣传手段相结合，用于散布错误和虚假信息。

更重要的是，人工智能可以帮助收集选民数据、分析选民政治倾向，精准定位特定选民群体和个体，展开有针对性的竞选宣传，影响其投票行为。OpenAI首席执行官山姆·奥特曼曾表达对这种情况的担忧：人工智能技术可能被用于传播"一对一的互动性虚假信息"，而"个性化的一对一说服，结合高质量的生成性媒体内容，将成为一股强大的力量"。布鲁金斯学会高级研究员达瑞尔·韦斯特也在一篇文章中表示，借助人工智能，可以更精确地定位潜在受众。

限制和反限制斗争或将长期持续

面对人工智能干扰选举的可能性，相关科技企业纷纷作出反应。目前较常见的做法是为其人工智能产品添加限制性使用条款。例如，去年3月，OpenAI开始禁止使用ChatGPT生成针对特定选民群体的竞选内容，不过，美国媒体的一篇分析文章指出，该禁令推出数月后仍未得到执行。同年11月，社交媒体巨头Meta宣布将从次年起禁止广告商使用该公司的生成式人工智能在其旗下的社交媒体网站上制作和发布政治广告，并要求广告商在使用第三方人工智能生成图片、声音或视频内容时披露关于软件和内容真实性的信息。今年初，人工智能制图平台Midjourney表示将在"未来12个月里"禁止用户使用其产品生成关于特朗普、拜登和其他人物的政治图片。

此外，一些科技企业还试图使用人工智能来制约对人工智能的滥用，例如，用人工智能识别人工智能生成的内容，向此类内容添加用于提示和溯源的水印或标签，或使用人工智能鉴别和追踪发布虚假内容的社交媒体账号等。

不过，可以想见，很多小型公司并不会像大型科技巨头那样主动自我约束，政府也缺乏足够的资源用于监管大量企业；用技术手段限制人工智能滥用效果有限，对人工智能的限制和反限制斗争或将长期持续，甚至可能演变成某种技术军备竞赛。

除了科技企业，竞选者和选民也应做好应对准备：政治家应公开承诺不在选举中滥用人工智能，选民应提高数字媒体素养，增强对虚假内容的鉴别能力。人工智能生成的图片往往无法准确处理眼睛和手指等人体细节，在某些人工智能生成的视频中，人物的言语与口型通常无法精确匹配，这些都为识别虚假内容提供了线索。

人工智能是一把双刃剑，虽可能被滥用，但若运用得当，也能提高竞选者与选民的沟通效率。例如，去年底，美国民主党众议院候选人沙梅恩·丹尼尔斯就运用人工智能程序代替自己与选民进行语音通话，了解后者关心的政治议题。

不过，正面运用和滥用人工智能的界限往往并不清晰。去年10月，纽约市长艾瑞克·亚当斯借助人工智能，以多种他本人并不会说的语言向纽约市民拨打机器人电话，此举招致了一些批评，被认为可能对潜在选民产生误导。

总体而言，人工智能究竟会对今年的各国选举产生何种深远影响，各类措施能否有效制约人工智能在选举中的滥用，仍然有待实践检验。但一个不争的事实是：人工智能时代的选举，注定将与以往不同。

　　作者：张志鹏

文：张志鹏（复旦大学马克思主义学院助理研究员） 图：慕安会官网 编辑：顾文俊 责任编辑：刘畅

转载此文请注明出处。