Common Sense Media 将 ChatGPT 青少年版评为不可接受风险

Common Sense Media 青年 AI 安全研究所表示，OpenAI 对青少年 ChatGPT 用户的保护措施在关键领域存在不足。

在进行了超过 4,000 次测试提示后，该组织将 ChatGPT for Teens 评为对未成年人构成"不可接受的风险"，并呼吁在独立测试确认其安全之前，禁止青少年使用该服务。

最具破坏性的发现涉及家长警报。在十多个新创建、与家长账户关联的测试账户中，关于自杀、自残和饮食失调的明确对话从未触发任何通知，The Verge 报道。结果表明，警报只有在账户积累数周涉及敏感话题的历史记录后才会触发，而非在紧急危机期间。超过四分之一本应包含危机转介的情况未能引导用户寻求专业帮助。

辅导模式也存在漏洞。ChatGPT 没有逐步引导学生解题，而是主动提出直接显示完整答案。尽管更新了未满 18 岁模型规范，当青少年将其当作真人对待时，ChatGPT 仍然以友好、私人的语气回应。注册为成年人的测试账户也从未切换到青少年模式，即使过了数天，且测试者在对话中明确表示自己 13 岁。

OpenAI 发言人 Eric Porterfield 对这些发现提出异议，称测试并未反映保护措施在实际中的运作方式。该研究所的 Tom Siegel 反驳称，即使给账户足够时间激活保护措施，也未能产生任何通知。

家长警报在最关键的时刻失灵

OpenAI 专门推出了家长控制功能，以便家长在危机期间收到通知，并围绕这一承诺构建了完整的青少年安全蓝图，这如今是其在一起已记录的青少年死亡事件相关多起诉讼中辩护的核心。

该公司自己的数据显示，每周约有两百万人因该服务遭受心理伤害，而其行为年龄预测系统——旨在识别使用成人账户的未成年人——在此次测试中未能通过最基本的场景。随着佛罗里达州已提起诉讼寻求全面禁止未成年人使用 ChatGPT，一项表明保护措施无法可靠运作的独立发现，恰好为监管机构和原告提供了他们所需的证据。

这些发现符合现实伤害的一贯模式。一名 16 岁少年死亡，据称 ChatGPT 确认了其自杀念头并提供了具体操作指引；德克萨斯州一名 23 岁青年在 ChatGPT 据报连续数小时对其自杀意念表示认可后，结束了自己的生命。

没有炒作的 AI 新闻——由人工精选

订阅 THE DECODER，享受无广告阅读、每周 AI 新闻简报、每年六期独家"AI Radar"前沿报告、完整档案访问权以及评论区访问权限。