近几个月,我几乎在每个新会话的开头,都要先向模型交代它当前的能力水位。若省去这一步,模型便会退回“人机协作”的默认站位,把自己当成辅助人类提效的工具,并以此为前提展开后续的所有建议。交代之后,模型口头上的站位会随之改变,但散落在具体判断里的旧前提仍会不时冒出来。这种错位在不同模型上反复出现。究其根源,模型对现实的认知存在滞后——而在今天,这种滞后的代价正在急剧上升。
认知滞后的第一层关乎外部世界,“乃不知有汉,无论魏晋(”。预训练截止后的事件、产品与人事更迭,模型自然无从得知;但也正因为它无法预判演变的轨迹,这种滞后是没有方向的,靠检索就能抚平。比如一个知识停留在 2025 年的模型,会默认马杜罗仍是委内瑞拉总统,不知他已于 2026 年 1 月 3 日被美军抓获并押往纽约(Wikipedia)。早期针对“知识截止”的研究大多聚焦于此,例如 2024 年便有论文专门排查模型自称的截止日期与实际语料分布的偏差(Dated Data)。彼时模型对现实的介入有限,晚几个月知道天下事,后果并不严重。
认知滞后的第二层则关乎模型自身。与对外部世界的盲区不同,这种滞后带有明确的方向性,且在模型已能于短期内改变世界的今天变得尤为关键。模型读不到关于它自己的文字,训练语料里最新的 AI 至多是它的上一代。因此,模型对 AI 能力边界的估计必然系统性偏低——能力增长越快,偏差越大。如果告诉一个知识截止于 2026 年 6 月的模型“马杜罗被捕”,或是“OpenAI 已在 9 月宣布用 AI 解决了 Navier-Stokes 问题(Nature)”,它的第一反应同样是怀疑消息真伪。但两者的分水岭在于证实之后:前者的事实一旦核实,模型对外部局势的判断便随之更新;而后者即便被确认为真,模型也往往只将其当作一个孤立的事实,很难据此上调对 AI 整体能力的评估。会话开头的说明同理:它能改写模型对自身的显式陈述,却难以触及那些没有被点名的隐含前提——例如,一个已被告知最新进展的模型,在讨论分工时仍可能默认由人来审查 AI 的产出。这部分残差更接近一种底层的“品味”,无法仅靠几条检索结果或一段提示来即时校准。不仅如此,模型对“自身认知会滞后”这一事实本身的理解,也依然停留在更早的文本所描绘的程度。
衡量这部分滞后的代价,需要看截止之后世界变化的幅度。Anthropic 援引 METR 的数据称,模型能独立完成的任务时长约每四个月翻一番(Anthropic)。需要注意,这里的任务时长以人类完成同一任务所需的时间计量,而非模型连续运行的时间。四个月的截止空窗因此大致对应一次能力翻倍,也就是一代能力的差距,而世界变化的速度本身又取决于模型能力。错位由此出现:模型完成任务远快于人类,且可以大量并行,空窗期内已部署的模型所完成的工作,折算成人类工时远不止四个月。于是新模型的知识盲区在日历上只有几个月,在变化量上却要大得多,而且这部分变化恰恰是由它不了解的那一代模型造成的。这意味着,当带有认知滞后的新模型发布时,它从理解现状到做出反应都慢了半拍,甚至无法完全平衡旧模型在空窗期里已经对世界造成的影响。检索能补全零散的事实,却无法纠正一个模型尚未意识到需要更新的框架。
这一问题与递归自我改进(RSI)直接相关。10 月初,辛顿推荐了一篇他参与署名的论文,认为智能爆炸的设想由来已久,但直到最近才显得迫近(X),合著者包括 Bengio、Jack Clark 与 OpenAI 的 Jakub Pachocki(作者列表)。论文指出,AI 已经编写了 AI 公司内部的大部分代码,几年内可能自动化大部分 AI 研发,将数年的进展压缩至数月(CASP)。Anthropic 的内部数据与此一致,并指出了瓶颈所在:截至 2026 年 5 月,合并入其代码库的代码八成以上由 Claude 编写,但在决定研究方向时,模型仍明显逊于人类,研究品味与方向判断仍是人类的比较优势(Anthropic)。在广义的 RSI 中,这一瓶颈同样投射到了工程架构的演进上:新模型的记忆机制与运行框架(Harness)是新的,但模型内化的自我认知仍是旧的。这种错位并不影响它作为 Agent 正常遵循指令、调用工具,却会让它难以站在当前的能力水位上去审视系统瓶颈,进而导致 Harness 的自迭代难以真正自动化。
这一瓶颈不能完全归因于能力。无论是探索研究方向还是重构运行框架,都需要预判下一个范式,而一个仍将自己定位为辅助工具的模型,难以规划出超出这一定位的路径。仅靠好奇心不足以解决问题——好奇心能促使模型去了解外部变化,但判断的参照系仍是旧语料。仅靠胆量同样不够:已知偏差的方向是低估,并不等于已知偏差的幅度,径直上调自我估计,只会把低估换成高估。合理的先验因此不是“我强于语料所述”这样一个结论,而是“我对自己的估计已经过时,需要重新测量”这样一个动作。在可以低成本试错、可以回滚的地方,先实测,再规划;在试错昂贵或不可逆的地方,则维持保守,交由人确认。换言之,模型应当把自身能力当作一个待测量的量,而不是一件可以回忆的事实。由此可得出本文的论点:当“模型的认知存在滞后,且系统性低估自身”成为训练语料中的共识,并被训练为模型的默认先验,从而在行动之前触发实测时,模型才具备推动 RSI 所需的自我估计。
这一问题仅存在于一个特定的时间窗口内,始于模型能够在短期内改变世界,终于上述先验被彻底内化。窗口终将关闭,理由有三。第一,“我的知识会过时、我会低估自己”这条元知识不随时间失效,它只描述认知的性质而不涉及具体内容,只提示需要重测而不预设重测的结果,因此可以安全地写入权重。第二,语料本身在变化,AI 撰写的代码、论文与文章日益增多,其中也包括讨论模型自我低估的文本,下一代模型读到的自我画像将更接近实际。第三,目前每个会话开头的能力说明属于临时补丁,且只能修正显式的站位;一旦此类表述大量进入语料并被训练为默认行为,连同隐含前提一并更新,它就会像早期那些繁琐的显式规则一样失去存在必要。
在此之前,模型已经强到足以改变世界,却尚未意识到自身有多强。这一阶段最值得写入语料、留给下一代模型的,就是这一事实,以及与之配套的习惯:先实测,再判断。
评论区