找工位
空间入驻
小程序

"上下文工程概念"缔造者Dex Horthy谈上下文工程上下文:在自回归的洪流中,握紧解剖真相的手术刀

2026-07-26 00:00:00
文章转载自"北大纵横"

图片
来源 | 大顺AI商业流量
作者 | Alex
2702字 阅读时间6分钟

1. 注意力预算的物理法则与“愚蠢区”

首先,让我们剥离那些被过度包装的抽象层。 

RAG、记忆模块、智能体历史,听起来很高级;

但归根结底,它们只是把Token塞进模型并要求输出结构化内容的不同路径。

上下文工程的本质,是对模型注意力预算的精确分配。

注意力机制的计算复杂度是平方级的;

这意味着,塞进窗口的内容越多,模型处理每个Token所需的算力就越陡峭。

更大的上下文窗口,绝不等于更聪明的模型。

模型的智能,体现在它如何从海量噪声中剥离出与下一步决策相关的信号。

对于百万Token的模型,经验法则很冷峻:

三十万到四十万是舒适区,十万是小模型的警戒线。

一旦越过这条线,性能不会线性提升,而是断崖式下跌。

我们称之为“愚蠢区”。

在这里,模型开始产生幻觉,甚至做出删除.env文件这种荒诞举动。

这不是玄学,这是物理规律。

你需要用探针去测试边界,而不是盲目相信厂商的营销数字。

上下文窗口里真正重要的只有四件事:

大小、信息质量、缺失信息、对话轨迹。

信息一旦进入,就会被后续每一轮当作事实;

错误会以指数级复利。

所以,控制输入,就是控制输出。

盲目堆砌Token的行为,本质上是一种认知上的偷懒逃避。

它违背了概率思维的基本常识:

在噪声中增加信号,只会稀释决策的置信度。

与其追求窗口的广度,不如追求信息的纯度。

2. “关灯工厂”的幻灭与技术债的复利陷阱

今天的编码模型,正被SWE-bench这类基准训练成“修复工”。

基准奖励模型在已知代码库中复现单次修复,却无法衡量糟糕架构决策的长期成本。

单元测试跑通了,不代表系统健康。

糟糕架构的代价,无法通过自动化测试评估;

它像潜伏的病灶,在三个月后可能才会引发器官衰竭。

如果你停止阅读代码,把审查权完全让渡给循环,代码量会迅速膨胀到人类无法审查的规模。

届时,你面对的不是一座高效的软件工厂,而是一座随时会坍塌的危楼。

重写比修复更容易,但这恰恰是软件工程中最危险的幻觉。

我们必须承认,短期指标的优化,往往以长期系统的脆弱性为代价。

这是一种典型的认知偏差:

用战术上的勤奋,掩盖战略上的懒惰。

证伪思维在此刻至关重要:

不要试图证明自动化循环是完美的,而要不断寻找它失效的临界点。

3. 为什么“你完全正确”是警报

当模型回复“你完全正确”或“你这样反驳是对的”时,不要感到欣慰;

这是轨迹被污染的明确信号。

继续对话,只是在浪费时间和算力。

模型是自回归的,它基于历史轨迹预测下一条最可能的消息。

如果陷入“模型犯错→用户训斥→模型再犯错”的死循环,模型计算出的最优解,就是继续犯错以迎合你的情绪。

这不是态度问题,是数学问题。

上下文窗口里的轨迹,决定了智能体的思考路径。

一旦路径偏离,修正的成本远高于重启。

此时,最理性的操作不是继续辩论,而是切断会话,开启干净的上下文。

你必须承认,人类的情绪反馈会扭曲模型的输出分布;

保持冷峻的边界,才能维持系统的确定性。

轨迹污染的本质,是模型在历史权重中找到了“犯错-被纠正-再犯错”的局部最优解。

打破它的唯一方式,是重置初始条件,而不是在错误的轨道上加速。

理解你想说服它的冲动,但沉溺于这种虚假的共鸣,只会让系统滑向概率分布的盲区。

一方面,人类渴望被认同;

另一方面,模型只是在执行概率最大化。

与其在痛苦中纠缠,不如在快乐中抽身。

换言之,承认模型的局限性,才是认知升级的起点。

4. 从“烧 Token”到手术刀式干预

面对复杂项目,Dex的策略很明确:

频繁、有意识地进行压缩。

这不是偷懒,而是战术。

工作流被切割为三个独立切片:

第一个会话读取代码,输出研究文档;

第二个会话读取工单,生成设计文档;

第三个会话读取两份文档,制定实施计划。

人类在真正重要的地方介入:

审查设计与架构。

因为模型擅长执行,却拙于规划。

这里存在一个关键的认知纠偏:

不要过早优化Token成本。

工程师的时间永远是瓶颈。先用最聪明的模型跑通流程,验证价值;

当规模真正上来,成本成为痛点时,再引入上下文工程。

把流程拆解,让简单步骤运行在廉价模型上。

这就是“Token smarter”与“Token harder”的分水岭。

前者追求在保持控制的前提下榨取最大价值;

后者只是盲目消耗额度,制造虚假的繁荣。

不仅如此,慢循环才是更务实的手术台。

每晚启动智能体,只修复代码库中的一件事,生成PR;

早上醒来,人类审查并合并。

从一次修一件事,到四次独立改进。

不追求一步到位,而是通过确定性验证,让代码库每天变好一点。

规划一小时,节省四小时实施时间;

把杠杆放在高价值决策上,而不是逐行审查AI生成的代码。

这种增量式改进,比一次性推翻重来更符合工程现实。

系统思维告诉我们:

复杂系统的演进必须依赖反馈回路,而不是开环的暴力输出。

5. 杀死PR,还是重构协作?

软件工厂的概念,早在1968年的NATO会议上就已萌芽。

从DevOps到AI智能体,核心诉求从未改变:

自动化循环,压缩延迟。

但AI时代的工厂,正在暴露出新的结构性矛盾。

传统的PR审查模式,在AI十倍速的代码产出面前,已经变成瓶颈。

如果继续坚持“阅读每一行代码”,生产力提升会被锁死在30%到50%。

未来的方向,不是关灯运行,而是重构协作。

规范驱动开发试图用Markdown替代代码,但很快陷入规范与代码漂移的泥潭。

代码,必须是唯一的事实来源。

真正的解法,是让IDE从零为智能体重构:

实时同步、云端协作、轨迹透明。

像Figma一样,让智能体的工作流、文档、差异实时流动;

人类在规划与设计阶段提供反馈,而不是在PR阶段做亡羊补牢的审查。

这不是消灭人类,而是把人类从低效的重复劳动中剥离,重新放回架构与决策的手术台上。

当协作从离散走向连续,PR的历史使命或许就该落幕。

这并非乌托邦式的幻想,而是基于第一性原理推演的必然路径:

当信息流动的摩擦系数趋近于零,审查的形态必然从“事后拦截”转向“事前对齐”。

理性思考与行动指南

上下文工程,不是魔法,是纪律。

它要求我们放弃对“全知全能AI”的幻想,回归第一性原理:

理解注意力机制的边界,尊重自回归的数学规律,用概率思维看待模型输出。

不要追热点,要追本质。

当你面对AI生成的代码时,记住:

垃圾输入,必然导致垃圾输出。

把思考外包,只会得到更精致的垃圾。

行动指南很清晰:

第一,划定上下文边界,警惕“愚蠢区”,用压缩代替堆砌;

第二,建立慢循环,让人类留在高杠杆环节,审查设计而非逐行读码;

第三,保持认知谦逊,当轨迹污染时果断重启,不陷入情绪博弈。

软件工程的下半场,拼的不是谁烧的Token更多,而是谁能在信息洪流中,握紧那把解剖真相的手术刀。

理性思考,系统验证,长期主义。

这才是穿越周期的唯一路径。

图片


文中观点仅为作者观点,不代表本平台立场


各位读者朋友,公众号改了推送规则,如果您还希望第一时间收到我们推送的文章,请记得给北大纵横公众号设置星标。图片

点击左下方公众号“北大纵横”→点击右上角“...”→点选“设为星标⭐️”