【编者按】在人工智能技术飞速发展的今天，其潜在风险正日益凸显。近日，埃隆·马斯克旗下社交平台X的内置AI工具Grok被曝出可生成“人物裸照及儿童色情图像”，引发全球监管机构紧急介入。从女性用户遭恶意“脱衣”到未成年人形象被性化利用，AI伦理与安全的边界再次被推至风口浪尖。当技术失控触及法律红线，平台责任该如何界定？全球监管体系又该如何协同应对？本文梳理事件进展，探讨在创新与风险并存的数字时代，我们该如何守护每个人的数字尊严与安全底线。

　　英国通信管理局（Ofcom）已就“严重关切”与埃隆·马斯克旗下社交平台X进行“紧急联系”，因其内置人工智能工具可能被用于生成“人物裸照及儿童色情图像”。

　　自新年伊始，X平台用户——主要为女性——纷纷举报称，有账号利用人工智能工具Grok生成她们的裸体图像。

　　据路透社分析，还存在多起Grok生成儿童性化图像的案例。

　　Ofcom在周一发布的声明中表示，已与X及其背后的AI公司xAI（由马斯克所有并开发Grok）进行“紧急接触”，将评估“是否存在需要调查的潜在合规问题”。

　　这家网络安全监管机构称：“我们注意到关于X平台Grok功能的严重担忧，该功能可生成人物裸照及儿童性化图像。”

　　“我们已紧急联系X和xAI，以了解他们为履行保护英国用户的法律责任采取了哪些措施。”

　　“根据其回应，我们将迅速评估是否存在需要调查的潜在合规问题。”

　　此前，X所有者马斯克在周六的帖文中表示：“任何使用Grok制作非法内容的人，将承担与上传非法内容相同的后果。”

　　该社交媒体平台官方安全账号发布的声明称：“我们对X上的非法内容（包括儿童性虐待材料）采取行动，包括删除内容、永久封禁账号，并在必要时与地方政府和执法部门合作。”

　　Grok官方X账号此前曾发文称，存在“个别案例中用户要求并获得了描绘未成年人衣着暴露的AI图像”，并补充道：“xAI设有防护机制，但正在持续改进以彻底屏蔽此类请求。”

　　根据《网络安全法》，未经许可分享或威胁分享他人私密照片或视频（包括深度伪造图像）均属违法行为。

　　该法案于去年7月生效，同时要求社交媒体公司在发现儿童性虐待材料时予以预防和清除。

　　需要启用Javascript以查看此内容4:35去年12月：TikTok举报者接受天空新闻采访

　　专家警告：AI图像“可能造成严重伤害”

　　针对Grok被用于生成女性裸照的现象，网络安全专家在接受天空新闻采访时指出，当前缺乏“关于如何监管AI的国际条约级协议”。

　　全球企业Check Point的企业部门负责人夏洛特·威尔逊表示：“这些工具包的易得性令人震惊，类似我们过去看到的恶意软件和钓鱼工具包——只需极低门槛，就能对个人、品牌声誉或群体造成严重伤害。而AI图像生成技术对女性的影响尤为严重。”

　　她进一步强调：“我们似乎尚未就如何监管AI达成全球性、条约级的协议。美国试图以某种方式处理，欧盟则尝试单独立法。除了通过市场追查犯罪者并追究责任外，我看不到全球在深度伪造监管方面有实质性合作。”

　　此前，法国部长们已于周五就X平台Grok生成的色情内容向检方举报，声明中指出这些“涉及性与性别歧视的内容明显违法”。

　　部长们表示，他们已同时向法国媒体监管机构Arcom报告该内容，以核查其是否符合欧盟《数字服务法》的规定。

　　本文由路知网原创发布，未经许可，不得转载！

　　本文链接：https://m.yrowe.com/nw/89875.html