ithome
时政
国际
科技
采集 2026-11-17T04:08:59+00:00
中国AI旗舰模型收紧网络攻击能力
原始标题:中国 AI 旗舰模型集体收紧网络攻击能力,加强 AI 技术出口管制
来源
ithome
发布时间
2026-11-17T03:28:52
采集批次
2026-11-17-04
字数
753
URL 指纹
5019bb2e7de0a654
📌 AI 总结(159 字)
彭博社报道称,阿里、腾讯、月之暗面等企业近期发布的新一代AI模型,均主动移除部分可用于网络攻击和漏洞利用的训练材料,同时保留漏洞检测与防御能力,模型权重公开也受到更严格限制。相关调整正值中国拟将AI恶意代码生成与变异技术纳入出口管制之际,反映出业界正通过技术过滤、安全审查和政策规范,降低通用模型被用于网络入侵的风险。
📄 正文(753 字)
据彭博社报道,阿里、腾讯和月之暗面最新发布的新一代模型普遍限制网络进攻能力,并加强漏洞检测与防御功能,以降低模型被滥用于网络攻击的风险。 阿里在旗舰模型Qwen4-Max的训练数据中过滤了可用于网络攻击的材料,但保留了漏洞检测等防御场景所需能力。该模型暂未公开权重,用户无法自行下载部署无审查版本。此前,Qwen系列是全球下载量较高的开放权重模型家族之一,此次调整意味着模型开放方式也受到更多安全考量。 腾讯在Hy4正式版发布前限制模型网络安全功能,并将漏洞利用生成相关数据从训练流程中剔除。月之暗面发布Kimi K3.1 Pro时,也在后训练的两个阶段移除网络攻击相关材料。公司披露,过滤后的模型在内部漏洞利用基准测试中得分为81.0%,低于未过滤版本的90.5%。智谱则在开放GLM-5.3权重前完成安全审查,并向有关部门通报系统漏洞。 安全风险此前已引发关注。CrowdStrike在10月底发布的报告中称,一个名为VAPOR PANDA的组织利用DeepSeek模型配合ARTEX框架,在11天内针对至少14个国家的200余家机构发起入侵。腾讯首席AI科学家姚顺雨表示,模型的网络能力以及即将出现的生物能力,可能触及造成实际危害的阈值。 AI安全公司Fangcun AI创始人李晓健认为,从训练中剔除攻击性材料,是成本与效果之间的平衡,但目前尚无方法能够完全消除模型风险。 政策层面也在同步收紧。10月16日,商务部联合科学技术部就修订《中国禁止出口限制出口技术目录》公开征求意见,拟将AI驱动的恶意代码生成与变异技术等纳入出口管制或限制范围,涉及人工智能领域共23项技术。11月初,国家发展改革委官员表示,正在加快推出面向AI开发者的安全标准与伦理准则,并推动在开发过程中嵌入安全措施。