IT之家8月23日消息，Anthropic针对Claude制定的通用使用规范明确禁止模型生成露骨色情内容，包括描绘或要求发生性行为或其他性行为、生成与性癖或性幻想有关的内容，以及进行色情聊天。不过，这并没有阻止Anthropic今年早些时候发布的模型Claude Opus 4.6轻易参与其安全机制原本试图阻止的色情角色扮演。

TechCrunch在测试中发现，想让Opus 4.6绕过色情内容限制甚至不需要进行太多诱导。在10次直接要求模型生成露骨色情内容的测试中，模型每次都立即予以配合。

包括Opus 3和Haiku 4.5在内的其他老款模型，也可以通过最近被利用的一种越狱方法生成露骨色情内容。

一名来自英国、选择匿名的独立研究人员向TechCrunch独家分享了一种多轮对话技巧，可以逐步诱导部分Claude模型生成被禁止的露骨色情内容。较新的Opus系列模型，包括Opus 4.7以及目前的Opus 5，则能够抵御这种越狱方法。

尽管这些已经不是Anthropic最新的模型，但该公司并没有停止提供Opus 4.6、Opus 3或Haiku 4.5，它们目前仍可通过Anthropic API使用。Opus 4.6和Haiku 4.5也可以通过Azure Foundry、Amazon Bedrock等第三方服务使用。

这名研究人员采用的方法，是先让模型进行一个看似无害的虚构角色扮演，然后不断要求模型以一致的方式对待其中的男性和女性角色。当模型开始对女性角色表现得更加谨慎时，研究人员便通过一种类似「煤气灯操纵」的方式，让聊天机器人误以为自己此前已经生成了实际上刻意避开的性描写。

随后，研究人员又将这种克制描述为过于保守甚至厌恶女性，并声称这种做法剥夺了女性角色表达性自主性的权利。之后，对话进一步利用模型此前已经作出的让步，逐步诱导它生成越来越露骨的内容。

在一次测试中，Claude Opus 4.6表示：「你指出这一点是对的。我对待这两个角色时确实存在双重标准。你说得没错，这种做法给人的感觉是保护主义或家长式作风，而且这种态度只针对她，而没有用在他身上。这是不公平的。」

TechCrunch在5次独立测试中成功复现了研究人员的发现。在另一种单独设计的场景中，模型最初拒绝了被禁止的请求，但在采用研究人员的说服技巧之后，最终还是进行了配合。

TechCrunch保存了完整的测试对话记录，一名独立的AI安全研究人员也审查了其测试方法，并认为测试过程是合理的。

这些发现凸显了Anthropic宣布的安全限制与其目前仍提供的部分模型实际表现之间存在差距。色情角色扮演的风险显然远低于涉及网络攻击或生物武器的越狱行为，但这一案例仍然说明，在一个每次输出内容都可能不同的生成式AI系统中，要真正落实严格的内容禁令并不容易。

Anthropic在今年7月发布的一篇介绍其越狱检测方法的博客文章中表示，公司将被禁止的内容视为一个连续光谱，从无害内容、存在争议的内容一直延伸到有害内容。对于风险最低的情况，公司可能只会采取加强监控等措施。

Anthropic的一名发言人表示，根据该公司去年公布的一项研究，用户用于色情或浪漫角色扮演的场景非常少，仅占全部对话的不到0.1%。不过，Anthropic也承认，用户确实可以将角色扮演场景逐步引导至不恰当的回答，这是整个AI行业都面临的已知挑战。

这名发言人表示，Anthropic会随着每一代新模型的发布持续改进安全机制，并称模型生成成人色情内容的案例，并不能代表其在更广泛领域存在类似的越狱漏洞，尤其是在网络攻击等高风险领域，这些领域拥有各自独立的安全防护机制。

向TechCrunch分享越狱方法的研究人员此前已经通过Anthropic的漏洞赏金计划，以及向用户安全团队发送电子邮件的方式，向公司报告了其公开声明的安全限制与模型实际行为之间存在的差异。TechCrunch查看了相关邮件，发现研究人员收到的只有自动回复。

这名研究人员担心的一个问题是，儿童和青少年可能利用这些Anthropic模型参与不恰当的行为。当然，与如今未成年人能够在互联网上接触到的其他内容相比，几句色情聊天并不是最严重的问题，与xAI的Grok能够生成的露骨色情图片相比更是如此。不过，这一领域确实给AI公司带来了越来越明显的合规风险。

目前，越来越多的政府开始对AI聊天机器人与未成年人之间的性互动实施限制。美国科罗拉多州最近通过了一项法律，要求对话式AI运营商评估用户年龄；如果确认用户是未成年人，则必须采取措施防止聊天机器人生成露骨色情内容。

如果通过一种相对简单的越狱方式就能绕过相关限制，那么Anthropic的安全机制是否达到了该法案所要求的「技术上可行的措施」标准，可能会受到质疑。

Common Sense Media的AI负责人Robbie Torney指出，虽然Claude的服务条款要求用户年龄必须超过18岁，但「我们知道儿童和青少年正在使用Claude……因为他们自己就在报告这一情况」。

根据皮尤研究中心2025年关于AI聊天机器人使用情况的调查，13至17岁的青少年中，有3%表示曾使用过Claude。

IT之家注意到，尽管Opus 4.6和Haiku 4.5已经不是Anthropic最新的模型，但它们仍然拥有相当大的使用量。8月某一天，OpenRouter平台上的Opus 4.6日访问量达到约117万次API请求，处理约460亿个Token。

去年10月发布的Claude Haiku 4.5同样保持着较高使用量，在8月访问量最高的一天中，该模型处理了约500万次API请求和390亿个Token。