虽然到目前为止，对生成式人工智能的担忧主要集中在美国大选时可能出现的错误信息、工人可能被取代以及美国教育体系的破坏上，但还有另一个真实而现实的危险——使用人工智能来制作深度虚假的、未经同意的色情内容。
上个月，泰勒·斯威夫特(Taylor Swift)的色情假照在X平台(原名Twitter)上流传，在最终被撤下之前，这些假照在X上流传了好几个小时。据the Verge报道，X上的一篇帖子获得了超过4500万的浏览量。X后来完全屏蔽了有关斯威夫特名字的搜索结果，该公司的业务运营主管称这是出于安全考虑的“临时行动”。
斯威夫特远不是唯一一个被针对的人，但她的案件再次提醒人们，坏人利用生成式人工智能技术的进步，在未经同意的情况下制作虚假色情内容是多么容易和廉价，而受害者几乎没有法律选择。
就连白宫也对这一事件发表了看法，呼吁国会立法，并敦促社交媒体公司采取更多措施防止人们利用他们的平台。
“深度造假”指的是合成媒体，包括照片、视频和音频，这些合成媒体通过使用人工智能工具进行操纵，以显示某人在做他们从未做过的事情。
这个词本身是由Reddit的一名用户在2017年创造的，他的个人资料名为“Deepfake”，他利用换脸技术在该平台上发布假色情视频。
Sensity AI公司(前身为Deeptrace)在2019年的一份报告中称，96%的深度造假涉及色情内容。
与此同时，根据Graphika引用的Similarweb在线流量数据，9月份共有2400万独立访问者访问了34家合成非自愿私密图像提供商的网站。
联邦调查局在6月发布了一份公共服务公告，称它已经注意到“性勒索受害者报告使用虚假图像或视频的情况有所增加，这些图像或视频是根据他们在社交媒体网站或网络帖子上发布的内容创建的，是应恶意行为者的要求提供给他们的，或者是在视频聊天中捕获的。”
联邦机构最近还警告企业，深度造假可能给它们带来危险。
关于深度伪造色情作品的创作，有许多令人担忧的方面，其中之一是，由于各种各样的工具使这种做法民主化，它的创作变得多么容易和廉价。
加州大学伯克利分校(University of California, Berkeley)教授哈尼·法里德(Hany Farid)在接受《麻省理工学院技术评论》(MIT Technology Review)采访时表示，过去，犯罪者需要数百张照片来制作深度假，包括深度假色情片，而现有工具的复杂性意味着现在只需一张照片就足够了。
法里德补充说:“我们刚刚给了高中男孩们所有核武器的母亲。”
虽然霉霉深度假照的传播给这个话题带来了急需的关注，但她并不是唯一一个被针对的人。
“如果这种事发生在地球上最有权势的女人身上，你可以说，她有很多保护措施，那么这种事也可能发生在高中生和青少年身上，而且这种事正在发生，”资深科技记者、探索科技与人性交集的公司“most Human Media”的创始人兼首席执行官劳里·西格尔在接受《赫芬顿邮报》采访时表示。
事实上，包括议员和年轻女孩在内的许多女性都公开表示，自己在未经同意的情况下戴上了假面具。
强奸、虐待和乱伦全国网络(RAINN)公共政策副总裁斯特凡·图克海默(Stefan Turkheimer)在一份声明中说:“我们代表泰勒·斯威夫特感到愤怒，更让数百万人感到愤怒的是，他们没有资源来重新获得对自己形象的自主权。”
佛罗里达州参议院少数党领袖劳伦·布克是一名儿童性虐待的幸存者，她此前曾透露，自2020年以来，她和她丈夫的色情深度假照片一直在网上流传和出售。但布克告诉《人物》杂志，她是在一年多后才发现这一点的，当时她联系了佛罗里达州执法部门，发现一名男子发来威胁短信，声称有她的裸照。
这名20岁的男子随后被捕，并被控敲诈勒索和网络骚扰。在这次事件中，布克赞助了SB 1798法案，该法案规定，“故意和恶意”传播露骨的深度色情作品是非法的。佛罗里达州州长罗恩·德桑蒂斯(共和党)于2022年6月签署了该法案，使之成为法律。
布克告诉《赫芬顿邮报》，直到今天，她仍然要面对深度伪造图像的存在。
布克在接受《赫芬顿邮报》采访时表示:“即使在今天，这也非常困难。我们知道，如果有一项有争议的法案或一个右翼不喜欢的问题，我们就必须在网上搜索，或者密切关注推特，因为他们会开始重新传播这些图片。”
新泽西州青少年弗朗西斯卡·马尼(Francesca Mani)是她所在高中的约30名女生之一。去年10月，学校通知她们，她们的头像出现在深度假色情作品中，据称是她们的同学利用人工智能工具制作的，然后在Snapchat上与他人分享。
据NBC新闻报道，玛尼自己从未见过这些照片，但她的母亲多洛塔·玛尼说，学校校长告诉她，她已经被另外四个人认出来了。
弗朗西斯卡·马尼(Francesca Mani)创建了一个网站，以提高人们对这一问题的认识，她和母亲去年12月访问了华盛顿，向立法者施压。
多洛塔·马尼说:“这一事件为国会提供了一个绝佳的机会，表明它可以在一个无党派的问题上采取行动，并迅速采取行动，保护学生和年轻人免受不必要的剥削。”
虽然包括加利福尼亚、德克萨斯和纽约在内的少数州已经制定了针对深度造假的法律，但它们的范围各不相同。与此同时，至少目前还没有直接针对深度造假的联邦法律。
上个月，参议院司法委员会(Judiciary Committee)的一个两党参议员小组提出了《蔑视法案》(DEFIANCE Act)，该法案对“在数字伪造中可识别身份的”受害者处以民事处罚。该术语被定义为“通过使用软件、机器学习、人工智能或任何其他计算机生成或技术手段虚假地呈现真实的视觉描绘。”
委员会主席迪克·德宾(伊利诺伊州民主党人)说:“尽管这些图片可能是假的，但传播露点的深度色情图片对受害者造成的伤害是非常真实的。”“通过引入这项立法，我们将把权力交还给受害者，打击深度伪造图像的传播，并让那些应为这些图像负责的人承担责任。”
然而，西格尔指出，研究表明，犯罪者“可能会受到刑事处罚，而不仅仅是民事处罚”，这略微限制了参议院法案的有效性。
在众议院，纽约州民主党众议员乔·莫雷尔(Joe Morelle)提出了《防止私密图像深度造假法案》(Preventing deep - fakes of Intimate Images Act)，这是一项“禁止披露私密数字描述”的法案。这项法案也得到了共和党众议员汤姆·基恩(Tom Kean)的支持，他希望这项法案能获得两党的支持。
纽约州民主党众议员伊维特·克拉克(Yvette Clarke)提出了《DEEPFAKES问责法案》(DEEPFAKES Accountability Act)，该法案要求对人工智能生成的内容应用数字水印，以保护国家安全，并为受害者提供法律途径进行斗争。
莫雷尔和克拉克过去提出类似立法的努力未能获得足够的支持。
致力于打击网络滥用的非营利组织Cyber Civil Rights Initiative的总裁兼立法和技术政策主管玛丽·安妮·弗兰克斯(Mary Anne Franks)被要求对莫雷尔的法案提供反馈，她说，对这个问题的立法解决需要阻止潜在的犯罪者继续制造未经同意的深度造假。
弗兰克斯在本月早些时候播出的“你的全神贯注”播客节目中说:“关键是要把它作为一项刑事禁令，让人们意识到这有多严重，因为它不仅会对他们产生负面影响，而且人们希望它能传达给受害者难以置信的负面后果永远不会结束。”
布克在接受《赫芬顿邮报》采访时表示，要让这些照片完全从互联网上消失是不可能的。
布克说:“我不得不接受这样一个事实，我和我丈夫的照片都在网上了，我再也拿不回来了。”“在某种程度上，我必须和我的孩子们谈谈他们是如何存在的。它将伴随我的余生。”
她继续说道:“这是一件非常非常困难的事情，因为你没有参与的事情而被判无期徒刑。”
科技公司也可以成为解决方案的一部分，它们拥有一些用于制作深度造假的人工智能工具，这些工具可能落入坏人之手。
Facebook和Instagram的母公司meta上周宣布，将在“未来几个月”开始给发布在其平台上的一些人工智能生成的内容贴上标签。然而，该政策的缺点之一是，它只适用于最初推出的静态图像。
据称，霉霉的一些色情假照是用微软的“设计师”工具制作的。虽然这家科技巨头尚未证实其工具是否被用于制造其中一些深度伪造，但微软此后设置了更多护栏，以防止用户滥用其服务。
首席执行官兼董事长萨蒂亚·纳德拉在美国全国广播公司的《夜间新闻》节目中表示，Swift事件“令人担忧”，并补充说，像他这样的公司在限制肇事者方面可以发挥作用。
纳德拉补充说:“特别是当你有法律、执法和技术平台可以结合在一起时，我认为我们可以管理的东西比我们自己认为的要多得多。”
西格尔警告说，如果我们不走在这项技术的前面，“我们将创造出全新一代的受害者，但我们也将创造出全新一代的施虐者。”
她补充说:“我们有很多数据表明，我们在数字世界所做的事情往往会在现实世界中造成伤害。”
支持赫芬顿邮报
我们2024年的报道需要你
在赫芬顿邮报，我们相信每个人都需要高质量的新闻，但我们明白不是每个人都能支付得起昂贵的新闻订阅费用。这就是为什么我们致力于提供深入报道、经过仔细事实核查的新闻，让每个人都能免费获取。
无论你是来《赫芬顿邮报》了解2024年总统竞选的最新消息，还是对我们国家今天面临的关键问题进行的有力调查，还是让你发笑的热门故事，我们都很感谢你。事实是，新闻制作是要花钱的，我们很自豪，我们从来没有把我们的故事放在昂贵的付费墙后面。
你愿意加入我们，让我们的故事对所有人免费开放吗?你哪怕只捐献2美元，也会有很大的帮助。
随着美国人在2024年前往投票站，我们国家的未来岌岌可危。在《赫芬顿邮报》，我们相信新闻自由对于拥有消息灵通的选民至关重要。这就是为什么我们的新闻对每个人都是免费的，尽管其他新闻编辑室躲在昂贵的付费墙后面。
没有你的帮助，我们做不到。支持我们的新闻编辑室，只需捐献2美元，就能让我们的新闻免费面向所有人。
随着美国人在2024年前往投票站，我们国家的未来岌岌可危。在《赫芬顿邮报》，我们相信新闻自由对于创造消息灵通的选民至关重要。这就是为什么我们的新闻对每个人都是免费的，尽管其他新闻编辑室躲在昂贵的付费墙后面。
我们的记者将继续报道这场历史性的总统选举中的曲折。在你的帮助下，我们将为你带来在其他地方找不到的有力的调查、经过充分研究的分析和及时的报道。在当前的政治气候下进行报道是我们不能轻易承担的责任，我们感谢您的支持。
捐款2美元，让我们的新闻对所有人免费。
支持赫芬顿邮报
