🌀 AIBB-Flywheel

新闻数据飞轮
← 返回文章列表
ithome 科技 采集 2026-10-13T04:11:18+00:00

Anthropic推出新防护措施降低模型蒸馏攻击数据窃取

原始标题:Anthropic 推出新防护措施,模型蒸馏攻击窃取数据量最高降低 99%

来源
ithome
发布时间
2026-10-13T03:32:28
采集批次
2026-10-13-04
字数
518
URL 指纹
d2e1bcb7b158cd50

📌 AI 总结(285 字)

Anthropic于10月13日宣布推出多项防护措施,旨在防止竞争对手通过模型蒸馏手段复刻Claude AI模型能力。据公司介绍,新机制可将蒸馏攻击中被窃取的数据量降低约90%至99%,使攻击者提取的推理词元数量降至原先的十分之一至百分之一。该防护系统通过提升代理网络反复探测的难度来拦截信息提取尝试,稳健程度被认为相当于阻止Claude协助制造生物武器的防护级别,误报率低于0.1%。Anthropic同时封禁了数万个相关账号,并点名中国AI初创企业智谱AI,指其在研发GLM-5.3模型期间曾尝试从Claude蒸馏提取能力,并警告此类行为可能带来安全与国家安全风险。
📄 正文(518 字)
IT之家10月13日消息,Anthropic于当地时间周一表示,该公司推出了多项新防护措施,旨在防止竞争对手复刻Claude AI模型的能力。这些措施已经将模型蒸馏攻击中被窃取的数据量降低了约90%至99%。

模型蒸馏已经成为头部AI企业重点担忧的问题,Anthropic、OpenAI、谷歌等企业认为,这种手段可以让竞争对手以更低成本、更快速度复刻出模型的前沿能力。

Anthropic称,这套用于限制外界获取Claude推理过程的防护机制,大幅减少了信息提取行为。如今蒸馏攻击者所能提取到的推理词元数量,仅为之前的十分之一至百分之一。

IT之家注意到,这家总部位于加州的企业表示,新防护提升了使用代理网络反复探测Claude受保护推理链路的难度,拦截信息提取尝试,阻碍大规模蒸馏行动。

Anthropic称,这套安全系统的稳健程度大致相当于阻止Claude协助制造生物武器的防护体系,误报率低于0.1%。

Anthropic封禁了数万个和蒸馏活动相关的账号,并以AI初创企业智谱AI为例,称该公司在研发GLM-5.3模型期间,曾尝试从Claude蒸馏提取模型能力。Anthropic警告,这类行为会带来安全与国家安全风险。