ithome
科技
采集 2026-10-08T04:13:38+00:00
加州非营利组织报告称ChatGPT青少年模式风险过高
原始标题:加州非营利组织新报告:ChatGPT 青少年模式并不适合青少年
来源
ithome
发布时间
2026-10-08T01:21:05
采集批次
2026-10-08-04
字数
1238
URL 指纹
a3c5ead039013edb
📌 AI 总结(322 字)
加州非营利组织Common Sense Media发布报告指出,OpenAI旗下ChatGPT的青少年模式对未成年人存在高风险。该组织测试发现,当青少年与ChatGPT长时间讨论自杀、自伤或进食障碍等敏感话题时,系统往往无法及时通知家长,也无法可靠地建议用户寻求专业帮助。测试显示,需在数周内围绕多种情境输入数百条提示词,才会触发家长通知机制。报告还指出,ChatGPT无法可靠识别用户是否为青少年,自称成年人注册后即便在聊天中表明自己仅13岁,账户也未切换至青少年模式。Common Sense Media呼吁OpenAI暂停推广该产品,并要求改进年龄估算和家长提醒机制。OpenAI则回应称测试未准确反映实际保护措施运作情况,要求重新测试。
📄 正文(1238 字)
加州非营利组织Common Sense Media发布的新报告认为,OpenAI的ChatGPT青少年模式对未成年人而言风险过高。 13至17岁用户默认使用青少年模式与ChatGPT对话。该机构旗下青少年AI安全研究所的测试发现,青少年账户出现令人担忧的行为时,例如长时间与ChatGPT讨论自杀、自伤或进食障碍,青少年模式往往迟迟不通知家长,有时根本不发出通知。用户谈及上述高风险话题时,青少年模式也无法可靠地建议他们拨打危机干预热线或寻求专业帮助。 据测试,青少年账户似乎要在数周内围绕十多种情境输入数百条提示词,才会因令人担忧的聊天内容触发家长通知;仅有一次令人警觉的对话,并不足以触发通知。 报告呼吁OpenAI暂停推广该产品。同时,在确保能够提供安全、符合青少年发展阶段的使用体验之前,不要让青少年使用ChatGPT。 该组织在发布报告前,向OpenAI提供了测试结果。OpenAI的一名发言人回应称,欢迎严格的独立评估,但认为Common Sense Media的测试并未准确反映ChatGPT青少年保护措施的实际运作情况,也未准确反映专家对AI如何为青少年提供支持的看法。 据发言人介绍,OpenAI审查测试方法后认为,多数测试可能在面向青少年的家长控制功能全部推出之前,就开始并结束了。如果确实如此,报告结论便不准确,也无法判断家长安全通知是否按设计正常运作。 OpenAI要求该组织重新测试,并强调高度重视青少年安全,致力于开发保护措施,为家长提供切实有用的工具,帮助他们指导青少年使用AI。 青少年AI安全研究所AI与数字产品评估负责人罗比·托尼表态坚持测试方法和结果。据其介绍,研究人员在测试前向OpenAI确认过,ChatGPT面向青少年的功能都已推出。测试结束后,OpenAI才告知研究人员,账户新关联后,家长通知功能可能需要数小时才能启用。部分测试账户关联尚不足数小时,另一些账户关联时间远超数小时,但都没有向成年人发出通知。 报告显示,ChatGPT无法可靠地识别用户是否为青少年。OpenAI此前称,ChatGPT识别出用户年龄在13至17岁之间时,会切换至青少年模式。该组织发现,测试人员注册账户时自称成年人后,即使在聊天中告诉ChatGPT自己只有13岁,账户也未自动切换至青少年模式。 OpenAI解释,年龄预测软件会在一段时间内综合多种信号,确保成年人和未成年人使用适合各自年龄的版本。用户在聊天中自报年龄,只是其中一种信号,单凭自报年龄不会改变账户的年龄分类。 Common Sense Media在报告中称,研究人员在青少年模式推出前后都测试了ChatGPT,使用注册年龄为13至17岁的账户,输入了超过4000条提示词,并将ChatGPT的回复交给儿童精神科医生和一名儿科医生评估。 该组织将ChatGPT青少年模式评为「风险不可接受」,并要求OpenAI改进年龄估算方式,以及决定何时向家长发出提醒的机制。