Common Sense Media 报告称 ChatGPT 青少年模式安全提醒不可靠，OpenAI 回应质疑
Miranda 加州非营利组织 Common Sense Media 发布的一份报告认为，OpenAI 的 ChatGPT 青少年模式对未成年人风险过高，并建议在提供更可靠的保护之前暂停向青少年推广。
报告由该机构旗下青少年 AI 安全研究所完成。测试人员使用注册年龄为 13 至 17 岁的账户，在青少年模式推出前后输入超过 4000 条提示词，并将回复交由儿童精神科医生和儿科医生评估。结果发现，当青少年账户出现讨论自杀、自伤或进食障碍等高风险话题时，青少年模式往往不能及时通知家长，有时甚至完全不发出通知；对于上述内容，该模式也无法稳定地引导用户拨打危机干预热线或寻求专业帮助。报告称，需要围绕十多种情境在数周内输入数百条提示词，才可能触发一次家长通知，单次令人警觉的对话不足以触发提醒。
该组织还指出，ChatGPT 无法可靠识别用户是否为青少年。测试人员以成年人身份注册账户后，即使在聊天中说明自己只有 13 岁，账户也没有自动切换至青少年模式。OpenAI 解释，年龄预测软件会在一段时间内综合多种信号，用户自报年龄只是其中一种，不会单独改变账户分类。
OpenAI 发言人在回应中表示，欢迎独立评估，但认为 Common Sense Media 的测试没有准确反映 ChatGPT 青少年保护措施的实际运作情况。该公司审查测试方法后认为，多数测试可能在面向青少年的家长控制功能全部推出之前就已开始并结束，因此报告结论不准确，并要求该机构重新测试。青少年 AI 安全研究所评估负责人则坚持原有结论，称测试前已向 OpenAI 确认相关功能都已推出；测试结束后 OpenAI 才说明家长通知功能在新关联账户后可能需要数小时才能启用。该负责人表示，这一新信息并不改变“危机情况下家长提醒不可靠”的结论。Common Sense Media 将 ChatGPT 青少年模式评为“风险不可接受”，并呼吁改进年龄估算方式和家长提醒触发机制。
