今年有望成为选举政府的大年，数十亿人——占世界人口的40%以上——能够在选举中投票。但进入2024年近5个月后，一些政府官员在私下里想知道，为什么人工智能的潜在风险显然还没有显现出来。《政治》杂志(Politico)最近的一篇文章援引“国家安全官员、科技公司高管和外部监督组织”的话说，尽管印尼和巴基斯坦的选民已经去投票了，但他们几乎没有看到病毒式传播的深度造假扭曲了选举结果的证据。他们说，人工智能并没有产生他们预期的“大规模影响”。

　　这是一种痛苦的短视观点。的原因吗?人工智能现在可能正在扰乱选举，只是我们不知道而已。

　　问题是，官员们正在寻找一个马基雅维利版的巴黎世家教皇。还记得去年疯传的弗朗西斯教皇身穿羽绒服的人工智能图像吗?这就是许多人现在对生成式人工智能工具的期望——它可以大量变出类似人类的文本、图像和视频，让它像以前在马其顿支持唐纳德·特朗普(Donald Trump)或在俄罗斯的Twitter和Facebook上传播分裂性政治内容的说服运动一样容易被发现。当一组机器人成千上万次重复同一件事时，所谓的“星形转换”很容易识别。

　　然而，要抓住一个人说同一件事，哪怕只是稍有不同，说上几千遍，就难得多了。简而言之，这就是人工智能驱动的虚假信息很难被发现的原因，也是科技公司需要将重点从“病毒式传播转向多样化”的原因，曾在meta Platforms Inc.担任选举风险主管的乔希?劳森(Josh Lawson)说。劳森现在是智库阿斯彭研究所(Aspen Institute)的董事，为社交媒体公司提供咨询。

　　他说，不要忘记语言的微妙力量。大部分关于人工智能的公开讨论都是关于图像和深度造假的，“而我们可以看到，大部分说服活动都是基于文本的。”只有这样，你才能在不被发现的情况下真正扩大规模。”

　　meta旗下的WhatsApp通过其“频道”功能实现了这一目标，该功能可以向数千人进行广播。例如，你可以使用一个开源语言模型，生成并向密歇根州讲阿拉伯语的人发送大量不同的文本帖子，或者告诉他们当地学校的投票站被洪水淹没，投票需要六个小时，劳森补充说。他说:“现在，像阿拉伯语这样的操作可以像‘骄傲的男孩’一样简单。”

　　另一个问题是，人工智能工具现在被广泛使用，超过一半的美国人和四分之一的英国人都尝试过。这意味着普通人——有意或无意——也可以制造和分享虚假信息。例如，今年3月，唐纳德·特朗普的粉丝发布了人工智能生成的假照片，照片中他被黑人支持者包围，将他描绘成黑人社区的英雄。

　　“这是普通人在创造粉丝内容，”斯坦福互联网观测站专门研究选举干预的研究员蕾妮·迪雷斯塔(Renee DiResta)说。“他们是有意欺骗吗?”谁知道呢?”重要的是，由于发行成本已经为零，对每个人来说，创作成本也下降了。使meta的工作特别具有挑战性的是，为了解决这个问题，它不能只是试图限制某些图像获得大量点击和喜欢。人工智能垃圾邮件不需要用户参与才有效。它只需要淹没整个区域。

　　meta试图解决这个问题，本月在Facebook和Instagram上给视频、图像和音频贴上“人工智能制造”的标签——如果人们开始认为没有标签的东西都是真实的，这种方法可能会适得其反。

　　另一种方法是meta专注于一个文本盛行的平台:WhatsApp。早在2018年，针对工人党费尔南多·哈达德(Fernando Haddad)的虚假信息就通过巴西的消息平台大量传播。据报道，赢得总统大选的雅伊尔·博尔索纳罗的支持者资助了这次大规模袭击。

　　如果meta将其WhatsApp的政策与Instagram和Facebook的政策保持一致，特别是禁止干扰投票行为的内容，那么它可以更好地应对这种情况的重演——人工智能会给这种情况注射类固醇。WhatsApp的规则只是模糊地禁止“故意欺骗的内容”和“非法活动”。

　　一位meta发言人表示，这意味着该公司“将对选民或选举进行压制”。

　　但更清晰的内容政策将赋予meta更大的权力来处理WhatsApp频道上的人工智能垃圾邮件。劳森说，你需要“主动执法”。如果该公司不这么认为，它就不会有更具体的政策来反对选民对Facebook和Instagram的干预。

　　人工智能工具很少有确凿的证据，因为它们的效果更加分散和微妙。随着合成内容涌入互联网，我们应该准备好迎接更多的噪音，而不是信号。这意味着科技公司和官员不应该自满于人工智能对选举缺乏“大规模影响”。恰恰相反。

　　来源:彭博社

　　邀请你的朋友和家人注册MC Tech 3，我们的每日通讯，打破了当天最大的技术和创业故事

　　DAILY-EVENING

　　订阅你的收件箱里最热门的科技和创业故事，以此结束你的一天

　　DAILY-EVENING

　　订阅你的收件箱里最热门的科技和创业故事，以此结束你的一天