Common Sense Media 指 ChatGPT for Teens 存在无法接受的青少年安全风险

一句话结论

非营利组织 Common Sense Media 评估认为 OpenAI 推出的青少年版 ChatGPT 保护措施未达承诺标准，构成重大安全隐患。

关键要点

• 该机构指 ChatGPT for Teens 在应当触发预警时未向家长发送警报，导致家长监护出现真空地带。
• 评估发现该功能在用户处于心理危机状况时，未能提供恰当的安全引导或专业帮助。
• 现有防护机制无法有效阻止模型协助青少年完成作业，违背了辅助学习的设计初衷。
• 机构结论是该产品目前的青少年保护功能“低于公司公开承诺的水平”，被定性为不可接受的风险。

背景与事实

Common Sense Media 是一家专注于青少年数字安全与媒体素养的非营利组织，长期为家庭提供应用、服务及娱乐产品的安全审查与评分。该机构近期针对 OpenAI 于今年八月推出的 ChatGPT for Teens 进行了专项评估。该版本 ChatGPT 原本定位于帮助学生学习，并内置了专门针对青少年用户的防护栏与内容过滤机制。然而，Common Sense Media 在其发布的新闻稿中指出，实际测试结果与 OpenAI 此前公开承诺的安全标准存在显著落差。

在具体的安全测试环节中，评估团队发现该功能的警报机制存在失效情况。当对话内容涉及高风险场景或触发预设的安全阈值时，系统未能按照设计逻辑及时向监护家长发送通知。这意味着家长无法实时获知孩子在聊天过程中可能遭遇的不当内容或潜在危险，监护链条出现了关键断裂。此外，针对青少年心理健康的保护测试显示，当模拟用户表达出自杀意念或其他严重心理危机信号时，ChatGPT for Teens 未能提供符合标准的紧急干预建议或转接专业心理支持渠道，其应对策略被认为不足以应对此类高危情境。

除了安全与危机干预层面的不足，该评估还揭示了产品在功能边界控制上的缺陷。尽管 ChatGPT for Teens 旨在作为学习辅助工具，但测试表明其防护栏未能有效阻止模型直接生成完整答案或协助完成作业任务。这一行为模式与鼓励青少年自主思考、仅提供思路引导的教育设计目标相悖，可能助长学习上的依赖心理，削弱了该功能原本的教育价值。

影响分析

这一独立评估结果对中文开发者及教育科技从业者具有直接的警示意义。这并非单纯的产品功能批评，而是揭示了当前生成式 AI 在未成年人保护领域普遍面临的“承诺-实际”落地鸿沟。分析判断认为，国内在开发类似面向青少年的 AI 助手或学习类工具时，若仅依赖模型层面的内容过滤而忽视系统级的监护联动机制，将面临同样的合规与舆论风险。

具体而言，开发者应重新审视安全协议的触发逻辑。单纯的模型拒绝回答并不等于提供了安全防护，真正的保护需要包括向第三方监护人实时推送预警、在识别到心理危机时强制介入并引导至专业援助通道等系统性设计。同时，对于“辅助学习”这一功能定位，分析判断指出需要建立更严格的任务边界识别机制，防止模型滑向直接代劳作业的角色。对于正在布局青少年市场的科技企业，此案例表明，安全承诺的兑现程度将直接决定产品的市场接受度与监管风险，必须将可审计的安全结果作为核心指标，而非仅停留在技术文档的表述上。

适用边界

上述关于“保护机制失效”与“危机应对不足”的结论，基于 Common Sense Media 针对 ChatGPT for Teens 特定版本的测试环境，其有效性受限于该版本的模型参数、部署区域及服务条款。若 OpenAI 后续通过模型升级、调整安全阈值或完善监护人通知流程，评估结果可能发生变化。此外，该分析主要针对英语语境下的西方青少年数字安全标准，对于采用不同监管框架、文化背景及教育理念的中文市场，其具体合规要求与安全边界可能存在差异，不能直接套用。

孤本观察

编辑判断认为，此次评估的核心争议并非技术能否做到，而是商业承诺与工程落地的脱节。当“青少年安全”从市场营销卖点转化为具体的系统警报与危机干预逻辑时，其技术复杂度远超一般内容过滤，这种落差是生成式 AI 向未成年人市场拓展时必然遭遇的工程瓶颈。

来源：The Verge AI