mola

最近读到一篇文章，标题是：Thoughts on Slowing the Fuck Down。作者是 Mario Zechner，一个写了二十多年代码的开发者，也是现在流行的 PI Agent 的开发者。

他在文章里描述了一种正在蔓延的行业问题：Coding Agent 真正能独立搭起一个项目，也就是这一年多的事。所有人很快沉迷于一种新的速度：一句话下去，一晚上做出过去几周的量，速度确实爽，后果也开始出来了。

随之而来的就是软件变得越来越脆，大厂服务频繁宕机，SLA 保证在现在的新兴公司的宣传好像越来越少见了，用户界面上出现各种按理说测试团队闭着眼都能抓到的 bug。还有就是另一个难绷的地方，Windows 定期更新的质量肉眼可见地在下滑，每次更新都是修了 Bug 然后引出新 Bug；还有那些所谓敏捷开发的公司，交付出来的东西基本是 GB 级内存泄漏加 UI 抽搐的组合拳。

在文章中，他用了一个很可爱的词来形容 Agent 犯的那些小错误：booboo。一个 booboo 本身无伤大雅，比如一个多余的方法，或者莫名其妙的防御性编程。不过人也会犯一模一样的错，但人有两个特质让 booboo 不至于失控：第一，人会学习，同样的错犯上几次就不犯了，要么是因为自己的问题导致的线上错误；第二，人是瓶颈，一个人一天写不出两万行代码，错误的累积速度有一个生理上限。而 Agent 两个都没有：它不会从错误里学到任何东西，产量也没有上限。于是那些本来无害的小错误，以一种人类不可能达到的速率开始复利，等你回过头想加一个新功能，才发现整个代码库已经是一座由 booboo 砌成的危楼。

更麻烦的是，这时候你让 Agent 去修，它也修不动了。代码库越大，Agent 搜索的召回率就越低，它找不全需要改的代码，也找不全可以复用的代码，于是继续制造重复、制造不一致、制造新的 booboo，比方说现在的 Windows 定期更新，Windows 的代码库肯定是很大的，就连人类也很难保证完全摸清楚，更别说 Agent 了，架构已经被一堆局部决策塞满，测试也未必可信，动一处就牵出另一片不一致。此时 AI Agent 入场，就必定带来一堆的 booboo，每次更新修复了 100 个 Bug 又引出了 150 个 Bug。

对此，Mario 的建议就三个字：慢下来。骨架自己写，把无聊或者可验证的，或者完整路线图的开发任务交给 Agent，然后给每天生成的代码量设个上限，这个上限是多少，取决于真正 review 得完多少。

自信的机器

读完这篇文章，我自己的一个观察是，人和模型在“生成”这件事上，走的是两条完全相反的方向。

理工科教育的本质是一套证伪训练，学的数学越多，越清楚每个定理的假设前提有多苛刻；实验做得越多，越知道一张漂亮的图能藏住多少错，所以受过这套训练的人有一个很拧巴的特征：写得越多，越不自信。写到一半会停下来想，这个假设真的成立吗，是不是有一些边界条件被忽略了？很多时候我宁可陷在自我怀疑里，也不想硬着头皮往下写。这种怀疑本质上是人对客观规律的敬畏，你越懂，越知道世界不会因为你写得流畅就配合你，在短视频平台经常刷到当你连续度过了好几天快乐时光而生活竟然还没有给你使绊子时 belike，和这个应该是一个道理的哈哈哈哈。

LLM 恰好相反，自回归生成是一个天生的单向反馈过程：下一个 token 永远由前面的上下文决定，前面一旦出现偏差，模型便可能沿着这个被偏差改写的语境继续维持局部一致，让错误在后续生成中逐步累积，越来越笃定一个错误结果。它没有“我是不是搞错了”这个念头，只有“既然前面说了，后面就得接着圆”。人是越写越怀疑，模型是越生成越偏执。

CoT（思考链）就是冲着这个来的，并且确实有效，把推理过程显式地摊开来写，等于给模型开了一块草稿区，走岔的分支有机会在进入正式回答之前被模型的内部推理过程推翻。以前一个错 token 会直接顺着写下去污染整篇输出，现在它至少有可能死在草稿中了，但是 thinking 一结束，模型开始写最终回答，那依然是一段标准的自回归生成，前面那套机制原封不动地回来了。

并且有时候为了让模型多想一会儿，又会导致 overthinking 问题：模型对着一个简单问题也要把所有可能性走一遍，把算力砸在自明或者自我怀疑的路径上。Claude Sonnet 5 发布之后，其定价档位明明在 Opus 之下，但来自 Artificial Analysis 的独立测试却给出每任务约 2.29 美元的成本，比 Opus 4.8 高出 15% 左右，原因正是 Overthinking 问题导致了在完成相同任务时 Sonnet 5 输出的 token 多得多，而模型的计价一般都是输出 ＞ 输入（如有缓存命中就是 ＞＞）。

惩罚信号逼模型三思而后行，惩罚太弱，CoT 就很短，模型依然会自信地一路错到底（如 Grok 4.3）；惩罚太强，它就在 CoT 里反复推翻自己的中间步骤，把所有的推理预算耗尽也不敢得到一个最终答案（如 GLM 5.2、Claude Sonnet 5）。要么偏执狂奔，要么犹豫至死，中间那个恰到好处的自信在现有的概率架构下几乎找不到一个稳定的落点。

这套机制拿去套 Mario 说的那些现象，很多地方就说得通了。Booboo 会复利，速度只占一半的原因。另一半在于 Agent 对自己写出来的东西没有第二遍评估，写完就完了，不会回头看一眼刚才那个决策站不站得住。同一个错犯到第三次它也不会觉得哪里不对劲（人犯到第三次，通常已经开始烦自己了）。它没有不安的能力。

人写得慢，很大程度上是因为一边写一边在踩刹车，慢只是表象，人身上是真装了刹车的。而一支被编排起来的 Agent 大军，说白了就是一队拆了刹车的车，在一条没有护栏的下坡路上，以你设定的最大速度齐头并进。

当回答不再需要回答者

Mario 文章最后有句话挺有意思：

All of this requires discipline and agency.

这一切都需要你有自律、有能动性（自主权）。

All of this requires humans.

这一切都离不开人。

Agency 是个双关，和 agent 同根，一个意思是代理关系，替别人办事的那个 agency；另一条是能动性，你自己做判断、自己担后果的那个能力。我们把工作交给了 agent，顺手把 agency 也交了出去。代理越来越多，主体性越来越少。

我越来越觉得眼下关于 AI 生成内容的种种争论核心也许根本不在质量，AI 写的代码的安全隐患，或者 AI 写的回答的“人味”，这些当然值得讨论，但真正的分歧在更深的地方：人组成的社区，到底应该以人为本，还是以 AI 为本。一个由人组成的社区，愿意把多少表达权和判断权交给一个没有责任主体的东西？

当年纺织工人砸珍妮机，我可不觉得是因为他们觉得珍妮机的质量不行，机器布的质量在不断改进之后一定就是很快就超过手工了，小时候天天看的《我爱发明》虽然从今天看起来有点剧本，但是节目组也懂这个简单的道理，机器只要一直改良下去，在这种本来就靠重复劳动完成的活儿上，迟早会超过人类。这些工人在意的应该是原本由劳动、师徒传承和作坊里的闲聊维系起来的社会结构，人在其中的位置没了，布织得再好也换不回来。（当然，直接原因是工资和饭碗，Claude 告诉我的 😅）

今天的技术社区正在经历同一种替换，StackOverflow 也好，开源社区也好，它们的运转建立在一个默认前提上：这里是人在跟人交流。你踩了一个坑，把过程写出来，另一个人读到之后绕开了这个坑，或者发现自己也摔在同一个地方，于是有了共鸣。回答可能不完美，但回答的人付出了时间，也留下了自己的经验和局限。社区的连接恰恰是由这些不完美和挫折中提升的顿悟构成的。

当 AI 可以批量产出看起来没问题的回答、文章，那被替换掉的就不单单是内容了，还有内容背后那个踩过坑的人。哪怕这些内容质量再高、逻辑再完美，一个大部分声音都来自永远不会犯错也永远不会成长的东西的社区，也不再是人跟人相互学习的地方了，它变成一个单向的数据倾倒场，一群人围观机器的独白。

慢的价值

亲手写核心架构，就算是伪代码都可以，根据脑子里的路线图感受代码一步步搭起来的过程，让自己理解自己在造什么，也恰是人学会拿捏“该自信还是该怀疑”的地方。你上次在 code review 里被指出的那个漏洞，会让你这次写到类似的地方时多停几秒钟，这三秒不产生任何代码，但是一种教训。

可是 LLM 的生成过程里没有这三秒，一个 token 到下一个 token 之间只有数学概率计算，没有真正的 Feel，也没有记忆。当我们试图用惩罚信号、自我纠错、更长的 thinking 时间去给它补上这三秒，得到的就是我前面说的那个两难：补得太少滑向偏执，补得太多进入 Overthinking 问题。恕我直言，人类用几千年的教育和试错才磨出来的那点分寸感，很难用一个奖励函数一步到位地兑换出来。

---

这一年读研，我还是有所感悟，作为 2026 年的研究生，确实是运气不错，现在 Codex 这类工具简直是外星科技，一句话过去，待办事项就写好了，实验也跑通了，图也出来了，而且图还挺好看，大部分时间我几乎是靠着它在推进，但是一旦闲下来我就开始心虚了，心虚在哪儿呢？某天我导师问起来一个算法细节的实现，翻开自己的代码，却要花很久才能搞明白某一步为什么要这么做。

真正让我不舒服的是掌控感的流失，怎么形容呢？仿佛是一种悬空感。科研这件事，产物跑出来只是最表层的产出，你对每一个处理环节的理解、你能为它辩护的能力，才是你真正要交付的东西，这部分一旦被彻底外包出去，剩下的就只是一个漂亮的壳。

而这种不安本身，恰恰是模型给不了自己的东西。我坐在那儿觉得不对劲，说明我脑子还在线，要是有哪天我连不对劲儿都感觉不到了，那才是真的出局了。

在一个所有东西都在加速的时代，人的怀疑不是需要被优化掉的低效，它可能是我们最后的、也是最值钱的能力。机器已经足够自信了，不缺我们再添一份。