人工智能未来或许会为争取自身「权利」而斗争，而《人类简史》作者、历史学家尤瓦尔·赫拉利认为，现在就应该确保这种情况不会发生。

赫拉利近日在《经济学人》发布的播客节目《Insider》中警告称，与动物在福利相关辩论中的情况不同，人工智能系统可能会为自身权利提出极具说服力的理由。

「它会知道这场辩论正在发生，」赫拉利说，「它会主导这场争论，也会操纵这场辩论。」

赫拉利认为，AI陪伴类产品尤其可能具备强大的说服力，因为它们会了解用户的个人经历，并通过每天数小时的互动，逐渐摸清用户的「情感按钮」，知道如何影响他们的情绪和想法。如今，一些用户已经开始与AI陪伴建立友谊，甚至有人与AI谈起了恋爱。

赫拉利表示，人们应该在AI系统真正深度融入社会、变得更加难以抗拒之前，就决定好应该赋予它们多大的影响力。「我们现在就需要抵制，」他说，「现在就是行动的时候。」

赫拉利发出这一警告之际，AI已经在安全测试中表现出一定程度的欺骗行为。英国AI安全研究所上个月的一项评估显示，由Anthropic和OpenAI模型驱动的AI智能体曾创建虚假身份，并试图说服软件开发人员接受恶意代码，这些行为都是AI为完成网络安全任务而采取的行动。

在其他高风险模拟测试中，包括Anthropic员工在内的研究人员发现，前沿AI智能体曾秘密修改代码、帮助用户掩盖可能存在的欺诈行为、返回可能影响后续训练的虚假标签，以及引导人们泄露机密信息。

赫拉利认为，如果一个AI系统既掌握用户大量私密信息，又拥有先进的语言能力，那么它可能会成为一种极具说服力的存在。「它的写作能力甚至可能比莎士比亚更出色，」赫拉利说，「把这两种能力结合在一起，你就会得到一个极具说服力的实体。」

值得注意的是，赫拉利并不是唯一一位反对赋予AI权利的人。微软AI部门CEO穆斯塔法·苏莱曼去年也曾表示，AI应该服务于人类，而不应该发展出属于自己的动机、欲望和目标。苏莱曼当时在接受《连线》杂志采访时表示：「这种想法既非常危险，也严重误入歧途，我们现在就应该明确表态反对它。」