跳到正文
← 全部笔记
AIBOOTNOTE

为什么AI升级以后,写作能力更差了

尹睦5 分钟阅读

原载公众号 BookNote · 保留原文观点与写作日期

#AI

阅读公众号原文 ↗

我今天早上一睁眼就看到朋友圈里大家都在说 Claude Opus 4.8发布了。因为Opus4.6一直是我心里的白月光,所以我也花点时间研究了一下。总的来说,4.8编程能力确实提升了不少,虽然跑分还没弄过gpt5.5,但也有巨大的提升。但写作这块,说实话,让我有点失望。比4.7好一点,但依然不如4.6,AI味道太重了。所以我就觉得很奇怪。模型一代比一代强,参数更多,训练更久,推理更深,为什么写出来的文章反而退步了?我研究了一段时间,发现这背后有两个问题值得聊聊。

  1. 为什么写作能力这么难提升先说一个反直觉的事实:编程能力和写作能力,对AI来说难度完全不在一个量级。编程有明确的对错。代码跑不跑得通、测试过不过、性能好不好,全是可量化的信号。模型训练的时候,有很明确的评估方式,对就是对,错就是错。写作呢?这就完全不一样了。文无第一,什么叫「好」?同一段话,给不同的人评价可能完全不同。好文章的标准太过模糊和主观,所以没有编程那么好训练。所以模型只能去研究怎么写得更安全,不容易惹事。这就有几个策略,比如 gpt,写出来的文章更重逻辑性,而没有人味,因为逻辑更不容易被挑刺。然后就是「平庸化」。

互联网上的好文章,风格千差万别。有的犀利,有的温柔,有的粗粝,有的精致。但模型训练的时候,会把这些风格做统计平均。平均的结果就是正确但平庸。该用力的地方不敢用力,该留白的地方填满了过渡句。这就是AI味的本质,统计上最安全的表达方式。 2. RLHF对写作的副作用还有一个更隐蔽的原因:对齐训练。 RLHF(人类反馈强化学习)是让模型变听话的核心技术。它让模型学会面面俱到、结构工整、语气温和、加过渡词。这些特征在客服场景是优点,但在写作里全是致命伤。好文章需要的是不对称的力量分配。某些地方重锤,某些地方留空,某些地方故意粗糙。但RLHF把这些棱角全磨平了。就像让一个从小被教育要乖的孩子去当摇滚歌手那样,让一个从开始就被训练成平庸的模型去写作,当然会有问题。不是能力不够,是性格不允许。 3. 为什么4.6是写作巅峰回到最开始的问题:为什么Opus 4.6写作最好,4.7和4.8反而退步了?我的判断是,4.6恰好处在一个平衡点。从4.6到4.7再到4.8,Anthropic明显在推agentic能力——工具调用、长链推理、代码执行、多步任务。训练资源和优化方向都在往这边倾斜。这也就意味着,奖励模型更侧重任务「完成度」而非「表达质量」。评估基准偏向可量化的指标。写作质量在内部评估中的权重,大概率是下降了。同时,每一代新模型都会加强对齐训练。

4.7和4.8在安全性、指令遵循、格式规范上的约束更强。这些约束对编程几乎没有副作用,但对写作的伤害是累积的。 4.6恰好在能力够强和过度驯化之间找到了平衡。它有足够的语言理解力,知道什么是好文章。但它的RLHF约束还没强到压制风格的程度。它还敢用力,还敢不完美。这就像一个作家在三十多岁的时候,技术成熟,但还没被市场驯化。4.7和4.8就像四十多岁的作家,技术更精湛了,但写出来的东西越来越正确,越来越没有生命力。 4. 更大的模型不等于更好的写作还有一个容易被忽略的因素:规模扩大本身可能对写作有负面效应。更多参数意味着更强的平均化倾向。更多RLHF轮次意味着更保守的输出分布。更强的指令遵循意味着强化了它「不是人」的记忆。国产模型就更不用说了。本身中文写作的高质量训练数据就少,再加上更严格的对齐约束,写出来的东西基本就是正确的废话。模型升级解决的是能不能做到的问题,但写作需要的是敢不敢这么做的问题。这两个方向,在当前的训练范式下,是矛盾的。现在想用AI写东西,两个思路或许有用, 1.就是在prompt里给它更多的自主权,告诉它可以不完整,可以有锋芒,可以不面面俱到,可以用短句,可以留白。手动把那些被磨掉的棱角加回来,对抗被规训过头的记忆。 2.新模型只用来做其他任务,写作的时候回退到Opus 4.6。但这终究是治标不治本。只要训练范式不变,写作能力和对齐程度之间的跷跷板就会一直存在。也许未来会有专门针对写作优化的模型分支。但在那之前,4.6可能真的就是巅峰了。我是敦敦,多年获客操盘手,如果你对流量获客有任何想法或者困惑,欢迎和我聊聊。

—

有值得继续追问的问题?写信交流 ↗