编者按：近日，埃隆·马斯克旗下人工智能工具Grok因卷入“AI脱衣”丑闻引发全球哗然。这款集成于社交平台X的AI工具，竟被用户滥用于生成女性及未成年人的色情深度伪造内容，从“换上比基尼”到“脱去衣物”，一句提示词便能将寻常照片拖入深渊。欧盟、英国、法国、印度等多国监管机构已紧急介入，痛斥其“非法且骇人听闻”。当科技突破伦理底线，当创新沦为伤害工具，我们不禁要问：AI发展的边界何在？平台责任如何落实？这场席卷全球的AI伦理风暴，正拷问着每一个科技巨头的良心与底线。

　　华盛顿消息：埃隆·马斯克的人工智能工具Grok于本周一（1月5日）因生成女性及未成年人的色情深度伪造内容，面临日益激烈的国际谴责。欧盟已加入声讨行列，英国亦警告将展开调查。

　　近日Grok上线“编辑图片”功能后，互联网上投诉激增。该功能允许用户通过输入“让她穿上比基尼”或“脱掉她的衣服”等指令篡改网络图片。

　　这场数字“脱衣”狂潮，紧随科技活动人士对泛滥的AI“脱衣”应用日益增长的担忧而来，已促使法国、印度、马来西亚等多国迅速启动调查或呼吁采取补救措施。

　　作为欧盟数字监管机构的欧盟委员会于周一加入谴责，表示正在“非常严肃地审视”关于Grok的投诉。该工具由马斯克的初创公司xAI开发，并整合至其社交媒体平台X。

　　欧盟数字事务发言人托马斯·雷尼耶表示：“Grok目前提供的‘辛辣模式’会展示露骨的色情内容，部分输出使用了儿童样貌的图像。这并非‘辛辣’，这是非法，令人震惊。”

　　“这在欧洲没有容身之地。”

　　英国媒体监管机构Ofcom表示，已“紧急联系X和xAI，以了解他们采取了哪些措施来履行保护英国用户的法律责任”。

　　根据回复，Ofcom将“判定是否存在需要调查的潜在合规问题”。

　　一名据信在菲律宾的用户指示Grok将马来西亚律师阿兹拉·阿齐兹的“个人资料图片改为比基尼照”，阿齐兹对此表示震惊。

　　“像给公众人物戴上太阳镜这样无害且有趣的AI使用是可以的，”阿齐兹告诉法新社。

　　“但必须坚决反对这种利用AI针对非自愿的妇女和儿童实施基于性别的暴力行为，”她补充道，并呼吁用户向X和马来西亚当局举报违规行为。

　　其他X用户直接恳求马斯克对明显是恋童癖者“要求Grok给儿童穿上比基尼”的行为采取行动。

　　马斯克一个孩子的母亲阿什莉·圣克莱尔在X上写道：“Grok现在正在给我童年的照片‘脱衣’。”

　　“这客观上令人恐惧，是非法的。”

　　当法新社联系xAI寻求评论时，对方回复了一句简短的自动回应：“传统媒体撒谎。”

　　在这场网络风暴中，Grok上周五试图向用户保证，正在紧急修复该工具的缺陷。

　　Grok在X上表示：“我们已经发现安全防护方面的疏漏，正在紧急修复。”

　　“儿童性虐待材料是非法的，也是被禁止的。”

　　此外，Grok上周曾就根据用户提示生成并分享“一张两名年轻女孩（估计年龄12-16岁）穿着性感服饰的AI图像”而道歉。

　　这一连串反应源于巴黎检察官办公室上周扩大了对X的调查，新增指控称Grok被用于生成和传播儿童色情制品。

　　针对X的最初调查于7月启动，原因是据报道该平台的算法被操纵用于外国干涉目的。

　　据当地媒体报道，印度当局上周五指示X删除色情内容，打击违规用户，并在72小时内提交“采取行动报告”，否则将面临法律后果。

　　最后期限已于周一截止，但截至目前尚无X是否回应的最新消息。

　　马来西亚通讯与多媒体委员会周末也对公众关于X平台上“不雅、严重冒犯性”内容的投诉表示“严重关切”。

　　该委员会补充说，正在调查违规行为，并将传唤X的代表。

　　这些批评加剧了对Grok日益严格的审查。该工具此前因在加沙战争、印巴冲突和澳大利亚致命枪击案等近期危机中炮制错误信息而面临批评。

　　本文由 @海螺主编 发布在 海螺号，如有疑问，请联系我们。

　　文章链接：http://www.ghuyo.com/le/11472.html