拜登的人工智能主管布鲁斯·里德对此表示担忧关于音频深度造假。

　　据Politico报道，他说“语音克隆”是唯一让他夜不能寐的事情。

　　声音克洛由于易于访问，Ning平台很容易被滥用。

　　NEW LOOK注册获取今日市场、科技和商业领域最重要新闻的内幕消息——每日提供。阅读预览广告

　　能够令人信服地再现人声的人工智能技术正成为议员们关注的一个关键问题。

　　“语音克隆是一件让我夜不能寐的事情，”白宫副幕僚长布鲁斯·里德告诉Politico。里德负责领导拜登政府的人工智能战略，他称这项技术“好得可怕”，尽管它仍然很新。

　　“社会还没有意识到完美假声的概念会在多大程度上颠覆我们的生活。如果不能确定对方的声音是真的还是假的，没有人会接电话，”他告诉Politico。

　　例如，电话诈骗者已经在利用先进的语音克隆技术使他们的骗局更可信。

　　广告广告

　　今年3月，美国联邦贸易委员会表示，诈骗者正在依靠人工智能技术“加强”他们的家庭紧急骗局——使用语音克隆程序让人们相信他们的家人处于困境中。

　　今年4月，亚利桑那州的一位母亲接到了一个骗子的电话，他用语音克隆软件假装绑架了她的女儿。这完全是她的声音。这是她的变化，”她当时对当地一家新闻媒体说。根据安全软件McAfee的一份报告，诈骗者只需要三到四秒钟的声音就能创造出一个有85%匹配度的令人信服的克隆。

　　与此同时，纽约市市长埃里克·亚当斯(Eric Adams)表示，人工智能生成的他自己声音的克隆，帮助他与该市更广泛的人口建立了联系。

　　自去年以来，他一直在用一些他不会说的语言给居民打电话，包括普通话、西班牙语和意第绪语。亚当斯说，自动语音电话帮助他接触到了该市更多的非英语居民。人们甚至在街上拦住他，问他会不会说普通话。一些学者和隐私专家表示，亚当的倡议仍然具有欺骗性，或者至少指出了一个事实，即政界人士需要为如何使用人工智能制定更明确的基本规则。

　　广告广告

　　许多这样的平台都容易被滥用。它们是可访问的，并且使用它们非常简单。

　　亚当斯依靠的是ElevenLabs的语音克隆平台，该平台免费使用，根据其网站，只需不到一分钟的个人音频就可以生成“高质量”的克隆。在今年1月推出测试版后不久，ElevenLabs发表声明称，它注意到越来越多的“语音克隆滥用案例”。

　　ElevenLabs当时没有提供案件的具体细节，但Vice报道称，通过该软件生成的乔·罗根、本·夏皮罗和艾玛·沃特森发表种族主义、暴力和跨性别言论的深度伪造音频片段已被上传到图像板网站4chan上。