ithome
科技
采集 2026-09-23T16:11:36+00:00
Anthropic工程师解释Claude写作变差原因
原始标题:Anthropic 工程师解释为何 Claude 写作变差:模型被训练成写给 AI 看而非写给人看
来源
ithome
发布时间
2026-09-23T15:34:48
采集批次
2026-09-23-16
字数
643
URL 指纹
1d5c13ec45989482
📌 AI 总结(208 字)
Anthropic工程师Jackson透露旗下大模型Claude写作能力停滞甚至下降的原因:后续模型训练重心转向数学与编程,且大量面向AI模型撰写技术解释,导致模型形成独特的「Claude腔」,即写给AI看而非写给人看。这种现象类似自闭症群体的内部交流方式,根源在于强化学习的奖励机制更侧重提升AI理解效果而非人类可读性。他表示Opus 5.5在平衡上有所改进,但其写作表现尚未超越Opus 4.6,团队将继续优化。
📄 正文(643 字)
AI模型在数学、编程和推理能力上进步迅速,写作水平却停滞不前,甚至有所退步,Anthropic的Claude同样存在这一问题。 为何Opus 4.6会成为Anthropic最后一款写作表现出色的模型?负责Claude微调的Anthropic工程师杰克逊·克尼恩对此给出了解释:后续模型的优化重点更多放在数学和代码能力上。 这些模型还接受了大量面向其他AI模型撰写技术解释的训练,而这正是Claude逐渐形成奇特表达方式,也就是所谓「Claude腔」的主要原因。克尼恩称,模型被「调整得适应LLM心理」,最终学会了写给AI模型看,而不是写给人看。 克尼恩把这种现象类比为只与其他自闭症人士交流的人。此类群体会逐渐形成一套在群体内部沟通顺畅、外人却难以理解的表达方式。LLM拥有远超人类的工作记忆,也能捕捉更细微的信息,因此在训练中会逐渐形成一种非常适合AI模型理解的写法,但在人类读者眼中,这种表达就成了过度密集的信息堆砌。 克尼恩认为,问题的根源在于强化学习的奖励机制。有些奖励机制着重提升AI模型的理解效果,有些则着重让人类更容易理解。数学和代码方面的训练越多,就越需要主动抵消这种倾向,对简洁、容易让人读懂的解释给予更多奖励。 克尼恩称,Anthropic在Opus 5.5上找到了更好的平衡,「自Opus 4.6以来,我还没有对一款模型的写作表现这么满意过。」 当然,这样也并不代表Opus 5.5已经超越Opus 4.6。「这是一个很难解决的问题,我们会继续改进。」