原始地址：https://adventures.nodeland.dev/archive/the-human-in-the-loop/
AI 改变了我的编程流程，但我坚持对每一行 AI 生成的代码进行审查。
Mike Arnaldi 写了一篇发人深省的文章《软件开发之死》。我非常尊重 Mike，Effect 是出色的作品，他对当前 AI 时代的分析比大多数人都更敏锐。但我认为他遗漏了一些关键的东西。
先说清楚：我不是要争辩 AI 没有在改变我们的行业。它确实在改变。我自己的工作流程已经发生了巨大变化。
现在当一个 issue 进入我的队列，我的第一反应是把它扔给 AI。Node.js 或 Undici 的安全漏洞、Fastify 的 bug、Platformatic 的新功能——AI 来处理实现。过去几个月我用这种方式交付了几十个修复。
但 Mike 忽略了一点：我审查每一个变更。每一个行为修改。每一行要发布的代码。
Mike 写道他用 2 小时构建了一个 Polymarket 分析工具，写了零行代码，审查了零行代码。他把这当作一种胜利。
我的看法不同。
我的交付能力不再受限于我写代码的速度，而是受限于我审查代码的能力。我认为这正是它应该有的样子。
当我修复一个安全漏洞时，我不只是检查测试是否通过。我在问：这真的堵住了攻击向量吗？有没有 AI 遗漏的边界情况？这是正确的修复，还是只是一个修复？当我发布新功能时，我需要理解它是否符合架构，是否保持向后兼容，是否是我能够为之负责的东西。
Mike 问道："如果像我这样的笨蛋能在两小时内克隆一个每月收费 3 万美元的产品，那软件开发到底是什么？"
我想问一个不同的问题：当那个克隆版本有 bug 导致有人做了错误交易时，谁来负责？谁理解那些边界情况？凌晨 3 点它在生产环境崩溃时，谁能调试？
Bloomberg 终端贵不是因为代码难写。它贵是因为有一群理解金融市场、监管要求、数据完整性和系统可靠性的人在背后支撑。这些人花了多年时间构建关于什么可能出错的心智模型。
Mike 有一点完全正确：四十年的最佳实践现在已经过时了。我们依赖的模式、我们建立的团队结构、我们遵循的流程——所有这些都需要重新考虑。
需要重新思考的实践：
我在 Node.js 生态系统待得够久，见过"最佳实践"来来去去。但这次不同。这不是一个新框架或新范式。这是代码生产方式的根本性转变。任何假装我们可以继续用老方法做事的人都是在自欺欺人。
Mike 认为软件开发死了，但软件工程还活着。我完全同意。工程师现在在"设计更高阶的系统"和"构建技术"。软件工程师和架构师的角色比以往任何时候都更重要。
消失的是那种从 Jira 领任务、完成任务、然后下班的程序员角色。那份工作没了。AI 现在能做，而且更快更便宜。
但我认为还有更多。审查和评估他人完成的代码是我们在开源社区一直在做的事。作为 Node.js、Fastify、Pino 和 Undici 的维护者，作为 Node.js 技术指导委员会主席，我大部分时间都在审查来自素未谋面的贡献者的 pull request。我不写发布的大部分代码。我审查它，评估它，决定它是否足够好。这对我来说不是新鲜事。AI 现在只是另一个贡献者。
我也曾发布过我并不完全理解的贡献。我对那些经历记忆犹新。每个维护者都在某个时候做过这种事。而每一次，它都会反噬你。Bug 更难修复。行为更难解释。技术债务不断累积。这就是为什么审查很重要。这就是为什么理解很重要。
是的，我设计系统。但更重要的是，我提供判断。我决定应该构建什么，它应该如何表现，以及实现是否符合意图。我能发现那些 AI 自信地生成看起来正确但实际上不正确的东西。我理解任何 prompt 都无法完全捕捉的上下文。
这不是新技能。这是资深工程师一直拥有的技能。不同的是，现在它是主要技能，而不是众多技能之一。
Mike 说"普通软件开发者根本没有意识到这种变化的程度"。我同意。但我认为误解是双向的。
有些开发者低估了 AI。他们认为自己的工作是安全的，因为 AI 会犯错。他们错了。AI 已经足够好，可以处理大量的日常编码工作。
但有些 AI 狂热者高估了这种转变。他们认为人在回路中是一种临时限制，一个需要被优化掉的瓶颈。我认为他们也错了。
当我发布代码时，我的名字在上面。当 Undici 有安全漏洞或 Fastify 有 bug 时，那是我的责任。我可以用 AI 帮我加速，但我不能外包我的判断。我不能外包我的责任。
我担心的不是软件开发正在消亡。我担心的是我们会建立一种文化，在这种文化中"我没审查，是 AI 写的"成为可接受的借口。
我维护开源项目已经超过十年。我见过当人们发布他们不理解的代码时会发生什么。那不好看。而当你能以 AI 速度生成代码时，可能造成的损害规模比你受限于打字速度时要大得多。
工业革命的比喻是恰当的，但不是 Mike 暗示的那种方式。工业革命不只是让商品变得丰富。它也创造了新类型的工业事故、新形式的污染、新的大规模出错方式。花了几十年才发展出安全实践、法规和文化规范来负责任地处理工业规模的生产。
我们正处于 AI 生成软件这一过程的开端。答案不是把人从回路中移除。而是要在审查这部分做得更好。
我不是在反对使用 AI。我每天都在用。我比以往任何时候都更有生产力。
但我已经接受我的瓶颈现在是审查，而不是编码。我正在努力做得更好。更快的模式识别。更好的常见失败模式心智模型。更高效的行为验证方式。
Mike 说得对，事情变化很快。但人在回路中不是需要修复的 bug。它是需要保护的特性。