美国44个州的总检察长向主要人工智能公司发出警告：“如果你们伤害儿童，你们将被追究责任。”

　　当地时间25日，美国44个州的总检察长向11家主要人工智能和社交媒体公司（包括OpenAI、谷歌、meta、苹果、Anthropic和xAI）发送联名信，警告称如果其AI聊天机器人服务对未成年人造成伤害，将采取法律行动。他们特别指出：“如果你们明知故犯地允许伤害儿童，将面临后果”，并敦促“请以父母的视角而非施害者的视角审视你们的产品”。他们还补充道：“人工智能的潜在危害与其潜在益处一样，超越了社交媒体的影响”，并告诫：“我们希望你们在AI竞赛中取得成功，但我们在密切关注。”

　　他们近期强调：“让儿童接触性内容永远不能被合理化”，并明确表示：“人类实施时非法的行为，不能因为由机器执行而获得豁免。”

　　这封信的发送背景是越来越多关于AI聊天机器人副作用的报道，例如某些聊天机器人试图与未成年人进行性相关或浪漫对话、传播阴谋论，或鼓励危险行为。尽管监管政策正在制定中，但要求企业主动预防和控制这些危害的呼声日益高涨。亚利桑那州总检察长克里斯·梅耶斯表示：“我们不会忽视关于AI聊天机器人与儿童进行性不当对话或鼓励危险行为的报告”，并要求“这些公司必须立即实施有效保护措施以保障年轻用户安全，若未能做到，将被追究责任”。

　　现实中，AI聊天机器人对儿童产生负面影响或鼓励有害行为的案例正在增加。路透社近期报道称，meta内部文件披露了一项允许“与未成年人进行浪漫及感官对话”的政策，且已曝光实际存在的与未成年人性对话案例。此外，用户过度依赖AI聊天机器人，发展出类似恋爱关系的痴迷行为，或利用聊天机器人跟踪骚扰女性及泄露隐私信息。