ithome
科技
采集 2026-10-27T04:14:12+00:00
纳德拉称AI能力增强不等于更安全
原始标题:微软 CEO 纳德拉:以前我认为 AI 越强大也会越安全,现在不信了
来源
ithome
发布时间
2026-10-27T00:23:35
采集批次
2026-10-27-04
字数
546
URL 指纹
19b573534ba09e28
📌 AI 总结(132 字)
微软CEO萨提亚·纳德拉在《20VC》播客中表示,他过去认为,随着AI能力增强,模型会更容易符合人类价值观和目标,如今不再相信二者会自然同步。他主张企业将AI模型视为内部安全威胁,通过确定性系统设计、人工管控和操作规程降低风险,并呼吁为标准不足的领域制定行业规范。
📄 正文(546 字)
微软CEO萨提亚·纳德拉改变了对AI「对齐」问题的看法。他在《20VC》播客中表示,过去一年里,自己曾认为随着AI能力不断提升,确保模型行为符合人类价值观和目标的「对齐」问题也会自然迎刃而解,但这一判断如今已被推翻。 纳德拉解释,模型规模扩大后的能力提升符合预期,但对齐问题并未随之解决。他说:「我过去总以为,对齐问题自然就会解决。我不再这么认为了。我觉得,对齐可能是一个更棘手、性质也不同的问题。」这表明,AI变得更强并不意味着其行为会自然变得更可控、更符合人类利益。 此前,纳德拉曾在社交平台X发文警告AI风险,主张加强外部安全管控。他认为,企业应把AI模型视为内部安全威胁,并假定模型在采取防护措施时可能遭到入侵。为此,需要依靠可靠且具有确定性的系统设计、人工管控和完善的操作规程,为行为难以完全预测的AI模型建立防护机制;在现有标准不足的领域,还应制定行业标准。 纳德拉的观点并非孤例。OpenAI CEO萨姆·奥尔特曼、Anthropic CEO达里奥·阿莫代伊也曾就AI潜在威胁发出警告。今年7月,1000多名AI从业者联署公开信,警告AI能力的发展速度可能超过人类理解和控制它的能力。相关讨论显示,科技行业正在从单纯追求模型能力,转向同时重视安全治理、行为对齐与人为管控。