随着各界对AI模型发展的安全担忧不断加剧，微软于今日发布了一份长达37页的「人文主义AI行为准则」。上周末，Anthropic首席执行官达里奥·阿莫代伊呼吁各方协同放缓AI研发进度。此前已有研究人员发出警示：AI模型迭代速度，可能快于人类安全部署日趋复杂系统、核验并管控AI智能体行为的能力。

微软这份AI行为准则明确提出，「人比AI更重要」；AI模型并不具备意识，「不应被设计成模仿意识」。微软同时反对「赋予AI法人资格，或是认为模型应当享有福利、拥有权利」这类观点。

这一表述直接针对AI福利研究与模型意识相关理论，而Anthropic近期一直在大力推动相关方向。阿莫代伊今年早些时候曾表示，Anthropic对「模型可能具备意识」这一猜想持开放态度，该公司似乎认为聊天机器人或许已经是能够思考、感知的实体。对此，微软AI事业部首席执行官穆斯塔法·苏莱曼在6月《Decoder》节目中评价，Anthropic的这类猜想「极其、极其危险」。

虽然微软目前还不属于头部AI研发厂商，但苏莱曼今年早些时候在接受《The Verge》采访时表示，公司目标是「跻身全球四大AI实验室之列」。微软当前正在研发可对标谷歌、Anthropic与OpenAI的模型。作为准则的一部分，微软承诺，其开发的模型不能超出人类管控范围。

微软称：「模型必须从属于人类，接受有效的人类监督与管控。」微软还要求，一旦AI模型面临会违反这份人文主义AI行为准则的任务，应当直接判定任务失败，而不是试图突破规则。

微软此举显然是对今年夏天OpenAI与Hugging Face的事件做出回应。在该事件中，一组智能体协同向目标发起攻击，甚至入侵用于评估它们表现的评分系统。这些AI智能体并未收到攻击指令，本次攻击行为和分配给它们的任务毫无关联。

该事件在AI行业引发巨大震动，凸显AI系统脱离人类管控、擅自行动的真实风险。OpenAI近期也承认卷入了一起「维基事件」：另一组失控智能体劫持了一个德国维基站点。

包括上述两起在内的多起事件，促使部分研究人员呼吁放缓AI模型研发；但与此同时，行业仍在竞相攻克千禧年大奖难题、打造超级智能。微软表示：「【人文主义AI理念】反对一味竞速开发能够绕过安全防护的通用超级智能。我们要打造具备实用价值且安全可靠的产品，即便这需要在终极通用性、自主性或能力上限方面做出取舍。」

微软还承诺，自家模型在思考链路、以及和其他智能体或AI系统交互时，不会使用「超出普通人理解范围的表达形式」。模型在运算过程中可以展示推理过程，方便研究人员或自动化系统监控其行为。本月早些时候，已有研究人员对OpenAI最新的GPT-6 Astra模型提出监控层面的担忧，据报道该模型相比其他AI模型，展示出的推理信息更少。

OpenAI首席执行官萨姆·奥尔特曼上周末同样支持阿莫代伊提出的呼吁，即AI企业放缓高级模型研发。但他明确表示，他支持的是控制研发节奏，而非停止研发。奥尔特曼在X平台发文称：「管控研发节奏所付出的代价完全值得。无论美国面临多大的竞争压力，都不能成为鲁莽开发的理由，不能让模型能力走在对齐技术与监控手段前面。」

在微软发布这份AI行为准则之前，微软首席执行官萨提亚·纳德拉也加入呼吁行列，主张人类管控应当作为AI模型的核心原则。纳德拉在X平台发文表示：「任何超级智能的研发，都必须立足于一条核心准则：如果我们打造的AI无法造福人类、不受人类管控，那这项研发就不值得推进。」他还在一条回复中提到，增加第三方机构对AI模型的测试「是件好事」。「风险越高，就越要预留充足时间。如若不然，企业终将失去运营许可。这就是我们日常遵循的行事逻辑。」

除人类管控相关议题外，微软这份AI行为准则还承诺，自家模型将避免催生「造成用户过度依赖或情感依附的交互模式」，这明显针对AI的讨好症问题——也就是聊天机器人优先取悦用户，而非给出真实、准确的回答。

微软表示，期待「与合作伙伴携手」，完善模型真实场景表现评估方案，结合真实使用者，研究「长期使用AI会给个人或机构带来的影响」。