ithome
科技
采集 2026-10-31T04:12:18+00:00
OpenAI加强ChatGPT暴力风险防护
原始标题:OpenAI 称 ChatGPT 可自动终止表现出暴力执念的对话,并承诺定期发布社区安全报告
来源
ithome
发布时间
2026-10-30T23:09:09
采集批次
2026-10-31-04
字数
620
URL 指纹
8dfeb5b5c55e2c9e
📌 AI 总结(154 字)
OpenAI宣布加强ChatGPT社区安全机制,并承诺定期发布安全报告。公司称仅在2026年第三季度就向执法部门移交逾200起案件线索。新措施包括限制大规模袭击复盘、武器获取及安防绕过信息,识别用户暴力执念时自动终止对话,多次触发可能冻结账户,并将向青少年家长推送账户冻结通知。首份报告预计2027年初发布。
📄 正文(620 字)
OpenAI于当地时间10月30日发布博文称,维护社区安全是公司的重点工作,公司会主动向执法机关通报迫在眉睫的暴力威胁。仅在2026年第三季度,OpenAI便向执法部门移交了200余起案件线索。 公司承诺定期发布《社区安全报告》,公开暴力预防、其他社区安全议题以及各项防护机制的实际进展。首期报告计划于2027年初发布,主要涵盖2026年下半年的安全数据,此后每半年更新一次。 针对ChatGPT回答既往大规模恶性袭击事件及凶手相关问题,OpenAI增设了额外限制。即使相关信息已在网上公开,系统也只提供高度精简的内容。用户仍可通过ChatGPT了解事件全貌、受害者及社区所受影响,并学习识别危险预警信号。 OpenAI同时收紧了对大规模袭击细节的复盘范围,限制提供武器装备参数、获取途径,以及可能强化凶手恶名的伤害规模对比信息。无论用户年龄或提问动机如何,这些限制均统一适用。 当对话显示用户对暴力产生执念或出现严重伤害他人的想法时,ChatGPT可以自动终止当前对话,以及时阻断潜在的心理与行为风险。若同一账户多次因此被强制中断,OpenAI可能临时冻结该账户。 此外,青少年可获取的涉枪、涉武器信息也设置了更严格的门槛。即使用户的提问表面看似无害,系统仍会限制可能被滥用以滋生暴力的武器实用知识,以及绕过安防系统的方法。 OpenAI还在开发家长通知功能,以便青少年账户因反复讨论暴力内容而被临时冻结时,第一时间告知家长。