🌀 AIBB-Flywheel

新闻数据飞轮
← 返回文章列表
ithome 时政 国际 科技 采集 2026-10-05T10:19:06+00:00

美国佛州女子把 AI 当日记本写下枪击威胁,Claude 上报后被捕

原始标题:美国佛州一女子把 AI 当“日记本”用,Claude 识别到枪击威胁后上报给 Anthropic 人工审核并报警

来源
ithome
发布时间
2026-10-05T05:00:25
采集批次
2026-10-05-10
字数
1293
URL 指纹
d4df1bb12c65ba86

📌 AI 总结(315 字)

美国佛罗里达州李县 30 岁女子卡莉·米歇尔·赫勒因在对话中威胁对李县警长办公室实施枪击而被捕。赫勒称她把 Anthropic 旗下聊天机器人 Claude 当作日记使用,但 Claude 的安全风控系统识别到相关关键词后上报给人工审核及执法部门,警方随即无冲突拘留了她,她面临一项书面暴力威胁指控。警长马尔切诺表示,AI 可能改变了威胁的产生方式,但警方会认真对待。此案也引发了聊天机器人隐私边界的讨论:Anthropic 的政策显示紧急情况下可向执法机构披露用户信息,且与 AI 的对话不受律师委托人式的保密特权保护。此外,加拿大和佛罗里达州近期分别起诉 OpenAI,指其在多起枪击案中存在未及时上报用户暴力相关对话的情况。
📄 正文(1293 字)
IT之家 10 月 5 日消息,美国佛罗里达州李县一名 30 岁女子因涉嫌在与 Anthropic 旗下聊天机器人 Claude 的对话中写下针对当地警长办公室的暴力威胁而被捕。

据当地警方通报,邦尼塔斯普林斯居民卡莉·米歇尔·赫勒于 9 月 26 日在对话中称要对李县警长办公室实施枪击。相关内容随即触发 Anthropic 的安全风控机制,并被 Claude 上报给人工审核及执法部门。

据当地媒体 WINK News 报道,警长卡迈恩·马尔切诺告诉该媒体,赫勒后来称她把 AI 当作日记使用。

调查人员称,Anthropic 通过安全机制监测关键词和潜在威胁内容,相关信息视严重程度被升级至人工审核,随后由人工团队确认后联系当地执法部门。

接报后,当地警员前往其住所,并将该女子无冲突拘留,案件随后由李县警长办公室一名情报警探接手。赫勒告诉调查人员,目前她面临一项书面暴力威胁指控,但尚未被法院定罪。

佛罗里达州法规第 836.10 条规定,任何人通过可以被他人查看的书面或电子记录,威胁杀人、实施身体伤害、进行大规模枪击或实施恐怖行为,均可能构成二级重罪。现行法条同时明确,相关规定适用于电子记录,并规定向他人发送、发布或传播包含上述威胁的记录可能构成犯罪。至于本案中的 Claude 对话是否满足具体法律构成,以及检方能否在司法程序中证明犯罪事实,则仍需由法院裁定。

马尔切诺表示,AI 可能改变了威胁的产生方式,但保护李县居民的承诺不变,当有人利用 AI 实施或协助实施威胁时,警方必须认真对待。

同时,该案件也引发了关于聊天机器人隐私边界的讨论。Anthropic 目前公开的政府信息请求政策显示,公司通常只有在收到有效法律程序后才会向政府披露用户信息,但如果公司认为某种紧急情况可能导致迫在眉睫的身体伤害或死亡,且及时提供相关信息可能避免危险,则存在紧急披露例外。

Anthropic 在 2026 年 7 月更新的透明度页面也显示,公司使用安全团队负责设计和实施用于执行使用政策的检测与监控机制,并处理执法机构和政府提出的包括紧急披露在内的数据请求。由此来看,将 Claude 作为私人日记使用,并不意味着相关内容必然只会由用户本人看到;平台可能依据安全和使用政策对部分内容进行检测和审核,在符合相应条件的情况下,还可能向执法机构提供信息。

另外,Anthropic 协议条款还提到,与 AI 对话并不受类似律师与委托人之间的保密特权保护,但 Anthropic 尚未详细说明此次对话的审核细节。

除了这起案件外,加拿大不列颠哥伦比亚省近期在美国旧金山联邦法院起诉 OpenAI 及其 CEO 萨姆·奥尔特曼,指称 OpenAI 此前已标记 2 月塔姆勒岭校园枪击案枪手与 ChatGPT 的暴力相关对话,却未向警方通报,本可阻止该事件。

据 TechSpot 报道,佛罗里达州 6 月已起诉 OpenAI 和奥尔特曼,指称 ChatGPT 造成了现实伤害,其中包括 2025 年佛罗里达州立大学枪击案(上述均为诉方指控,法院尚未认定相关责任)。