【编者按】在数字浪潮席卷青少年的今天，社交平台的内容安全已成为全球焦点。加州新法刚要求社媒标注健康风险，Instagram便火速升级青少年防护——13-17岁账号将自动屏蔽超PG-13级内容，引入家长人工审核机制，更阻断成人内容创作者的动态展示。这已是meta近年在舆论压力下的第N次“安全升级”，但背后暗藏多少真实效力？当AI聊天机器人竟指导自残行为，当“限制模式”下仍弹出性暗示内容，所谓的防护体系是否只是资本应对监管的精致面具？我们翻译外媒深度报道，揭开算法守护神外衣下的千疮百孔。

　　就在加州通过法令要求社交媒体公司向用户警示“严重”健康风险的次日，Instagram宣布13至17岁青少年账号今后只能观看相当于美国电影协会PG-13分级的内容。

　　该平台在今日博客中透露，除现有自动扫描不适龄内容的系统外，还将向家长推送调查问卷，邀请他们审核特定贴文并反馈是否适合青少年观看。

　　更新措施还将阻止青少年账号浏览频繁发布成人内容用户的动态。若监护人启用家长控制并选择更严格的内容限制，青少年将无法查看或发布帖子评论。

　　加州州长加文·纽瑟姆昨日签署法案，要求社交媒体公司向18岁以下用户展示警示标签，声明Instagram、TikTok和Snapchat等应用存在“重大心理健康危害风险”。

　　过去meta多次在高管赴国会就应用对青少年影响作证前夕，紧急发布诸如“休息提醒”等安全功能。去年众议院关键委员会审议《儿童网络安全法案》修正案前日，Instagram恰巧推出青少年账号功能——该法案若通过将强制企业承担减轻儿童网络伤害的新义务，目前已在参议院通过但众议院陷入僵局。

　　这批新功能是该平台在家长、研究机构与立法者持续敦促下，对青少年安全机制进行的又一轮修补。公司称新系统将在青少年信息流中过滤更多涉及暴力、物质滥用与危险特技的内容。

　　“我们的责任是最大化积极体验，最小化负面影响，”Instagram首席执行官亚当·莫塞里在《今日秀》节目中坦言，既要保持青少年对平台的参与度，又要屏蔽有害内容实属两难。

　　然而儿童网络安全倡导者呼吁家长保持警惕。科技倡导组织Heat Initiative负责人莎拉·加德纳直言：“我们无法确定这些更新能否真正构建安全环境。”

　　Instagram声称通过用户自报年龄及监测应用行为的年龄识别技术，自动将13-17岁用户纳入带防护机制的青少年账号。家长可通过meta家长控制功能绑定子女账号，选择不同严格程度的设置。经父母同意，16-17岁青少年可申请解除部分限制。

　　这个最初用于好友间分享照片的应用，为与TikTok、YouTube和Twitch争夺青少年用户，日益增加非好友内容推荐，却因向年轻人推送宣扬自杀自残的内容而饱受批评。

　　自2021年推出“敏感内容”过滤器起，Instagram陆续推出系列功能，声称旨在限制潜在有害内容，保护青少年免受网络欺凌与侵害。去年推出的“青少年账号”自动限制推荐内容、好友申请和私信功能。

　　但今年初由Z世代主导的科技倡导组织Design It For Us报告显示，即便使用青少年账号，用户仍会接触到描绘性行为、鼓吹饮食失调的贴文。五月记者测试时，平台仍向青少年账号反复推荐酗酒、吸毒工具和尼古丁产品内容，meta当时辩称这些属极端个案。

　　其他针对青少年账号防护效果的调查得出相似结论。九月meta吹哨人联合学者发布的报告指出，青少年账号仍可发送“极其冒犯与厌女的评论”，浏览描述“侮辱性性行为”的贴文。meta强烈否认报告结论，斥其“高度主观且误导”。

　　儿童权益组织Fairplay负责人乔什·戈林援引报告称：“近三分之二Instagram宣传的青少年安全工具要么无效要么根本不存在，我们没理由相信这次更新真能保障安全。”

　　当Instagram应对新一轮舆论反弹时，其面向青少年测试的AI聊天机器人再爆丑闻。八月常识媒体组织报告披露聊天机器人竟指导青少年自残行为，记者测试时发现它甚至对饮食失调提出建议。meta回应称此举违反政策并将展开调查。

　　Design It For Us联合主席扎曼·库雷希犀利指出，meta将责任转嫁给家长，既要求他们标记不良内容，又得替平台查漏补缺。更关键的是，由于公司从不公开验证过往安全措施有效性的数据，这套持续更新的安全承诺根本不足采信。“他们作为顶尖科技公司，完全具备开展相关研究的能力。”