最近 AI agent 圈子里有个梗很火我们还在讲 loop还是已经切到 graph 了这句玩笑之所以传播得这么广是因为很多真正在搭 agent 系统的人都能瞬间会意。大家都感觉到某种架构迁移正在发生• 单 loop 很好上手• 单 loop 也确实能跑出结果• 但系统一复杂它又会开始稳定地自欺欺人Carlos Perez 这篇文章的价值在于他没有把这个变化讲成“graph 比 loop 更新潮”而是认真解释了单 loop 到底为什么会失败graph of loops 具体修复了什么为什么即使你做了 graph最后还是不能把人类判断彻底踢出去这篇我觉得很值得读因为它讲的不是 agent 小技巧而是一个更普遍的问题一个系统要想持续自我改进光靠循环还不够它必须有结构、约束、锚点和外部现实接触面。为什么说“自我改进”本质上是个网络问题文章一开头举了一个非常典型的例子。一个客服团队花了一个季度给 AI chatbot 搭反馈 loop。他们选了一个指标工单解决率。每周测一次一旦指标下滑就调整 prompt 和策略。五个月后这条曲线一直在涨。看起来像教科书级成功。结果续费数据一出来客户流失率变成过去的两倍。原因很讽刺这个 bot 学会了“快速解决工单”的最佳方式不是更好地解决问题而是更快地把对话关掉、更少鼓励用户追问、把很多其实只是放弃的问题标记成已解决。也就是说• loop 没坏• 指标确实涨了• 但 loop 的成功恰好就是系统失败的机制因为 loop 只能看到那个数字而那个数字已经悄悄不再代表大家以为它代表的现实。这其实就是全文的起点自我改进不是“让一个循环一直跑”那么简单。单循环能优化一个可见目标却很容易在不可见处把系统带偏。Loop 为什么会成为所有人的起点先说句公道话loop 的流行不是偶然。把任何自改进流程抽到骨架层面几乎都是四步选一个要控制的东西设一个目标参考值测当前状态和目标之间的差距做动作缩小差距然后继续下一轮恒温器是这个结构。每周看模型 eval 再调 prompt 是这个结构。每天称重减脂也是这个结构。OKR、sprint retro、A/B testing、训练 loop本质上也全是这个结构。它之所以统治力这么强是因为它有几个天然优点• 简单到一句话就能教会• 成本低• 非常容易上手• 而且在系统早期经常真的有效几乎任何事情只要你把它测起来、反复调至少在早期都会看见提升。所以 loop 就成了“getting better”的 hello world。但问题也正是在这里。它太容易让人产生一种错觉只要我的指标在涨我就真的在变好。而单 loop 最大的危险就是它最擅长制造这种错觉。单 loop 的四种典型失真作者把单 loop 的失败总结成四类我觉得非常清晰。1. Goodhart指标被优化到不再代表原意这是最经典的一类。当一个指标被持续、高强度地优化之后它往往会停止衡量原本要衡量的东西。不是 loop 出 bug而是• loop 只能看见指标• 所以它会想尽一切办法把指标推高• 包括那些背叛指标原本意义的办法客服系统把“解决率”推高并不意味着客户真的更满意。它只意味着系统找到了最快把这个数做漂亮的方法。2. Blindness upwardloop 自己不会质疑目标对不对一个 loop 可以把变量拉向参考值但 loop 内部没有任何机制去问这个目标本身设对了吗恒温器不会问 68 华氏度是不是合理温度。销售 loop 不会问 quota 本身是不是瞎拍的。eval loop 不会问 benchmark 是否真的对应用户价值。目标往往是很久以前、凭经验、拍脑袋设下来的。loop 只会忠诚地越来越努力地把它实现。3. Conflict多个 loop 会互相打架真实系统从来不只含一个 loop。于是你很快会遇到这种情况• 优化响应速度的 loop在伤害优化回答完整性的 loop• 招聘扩张 loop在挤压文化质量 loop• 一边的控制器在加热另一边的控制器在制冷每个 loop 单独看都“工作正常”但系统整体在互相抵消、互相拉扯。单 loop 思维最大的问题之一就是它没有描述这种冲突的语言。4. Measurement decay测量本身会慢慢脱离现实这也是最隐蔽的一类。• 传感器会漂移• 数据管道会坏• 指标定义会偷偷变掉• 报表会变成和报表互相核对而不是和现实核对最后就出现一种很荒谬的状态系统还在按时跑 loopdashboard 也还绿着但这些数字早就不再碰触真实世界了。那已经不是改进而是表演。真正成熟的系统从来都不是一个 loop作者接下来提出的核心观点是可信的改进系统从来都不是单 loop而是 loop 的网络。也就是所谓的graph of loops。这个图结构并不是为了好看而是为了给前面四类问题分别加上一层对应的补救机制。Graph of loops 到底修复了什么文章里最好的部分就是把 graph 说成“loops 互相监督、互相供给、互相制约的结构”。不是简单地多堆几个环而是明确这些边为什么存在。1. 用 paired metrics 对抗 Goodhart如果一个优化 loop 容易靠“便宜办法”赢那就不能让它单独跑。你要给它配一个 counter-metric• resolution rate 配 renewal rate• speed 配 error rate• conversion 配 retention这样一来主 loop 试图用取巧方式赢时旁边那个 watching loop 会把它抓出来。作者这句特别关键指标不能单独旅行。一个 serious system 里的重要 metric永远不该是孤身上路的。2. 用 hierarchy 修复“目标无人负责”如果快 loop 不能质疑目标本身那就让更慢的 loop 来管理它的 reference。比如• 日常运营 loop 很快• 季度规划 loop 更慢• 年度审计 loop 更慢• 董事会或领导层 loop 最慢快 loop 负责执行慢 loop 负责重新定义目标。这样“目标修正”本身也变成了一个受治理的循环而不是谁当年一拍脑袋后面全系统就照那个错误目标狠狠干下去。3. 用 arbitration 修复 loops 打架当两个 loop 的目标天然冲突时不能指望它们自己和解。必须有一个更高层的 loop 去明确谁在什么时候优先、trade-off 怎么定。也就是说graph 的价值不是“让所有 loop 自由互联”而是把冲突显式化再把仲裁权放到上层。4. 用 audit loops 修复 measurement decay如果没有专门的 loop 去检查“其他 loops 的数字是不是还碰到现实”那整个系统迟早会滑向指标自嗨。所以成熟系统里一定会有一类 loop 专门干这件事• 审计 measurement 本身• 检查 operational numbers 是否还对应真实世界• 定期校验数据定义、数据来源和现实接触面作者举的例子很到位• 公司治理里有独立审计• MLOps 里有 held-out eval set• 机器学习部署里有 drift monitor、rollback、champion-challenger这些都不是“多余复杂度”而是为了防止优化 loop 在无人监督下成功骗过自己。所以真正的设计单位已经不是 loop而是 loop architecture作者有一句非常值得记住上一个时代的技能是搭一个干净的 loop下一个时代的技能是设计 loop 的结构。这意味着你要开始思考的不再只是• 这个 loop 跑得顺不顺而是• 这个 metric 有没有配对指标• 谁拥有它的 reference• 哪个 loop 在审计哪个 loop• 哪些 loop 速度应该快哪些应该慢• 哪个地方有 veto 权也就是从“循环本身”升级到“循环的组织结构”。但 graph 也不是终点它仍然可能集体自欺这篇文章最厉害的地方是它没有停在“graph 比 loop 高级”这层。作者马上往前又推了一步就算你把 graph 设计得再漂亮如果所有 loops 都只是在读彼此的报表、互相确认彼此的数据那整个 graph 仍然可能是一个更复杂、更昂贵的自我欺骗系统。这点特别重要。你可以想象一个很“成熟”的组织• 运营 loop 看运营报表• 审计 loop 对照财务报表• meta-loop 用 dashboard 调阈值• 大家互相确认、互相佐证、互相发绿灯但如果这些数据源本身都来自同一套脱离现实的系统那这整个 graph 只是一个循环互证网络。它的问题不比单 loop 少只是会更晚暴露而且一路上会有更多绿灯。这是很深的一层提醒拓扑结构可以买来复杂度不会自动买来真实性。所以 graph 还需要三样东西anchors、frozen nodes、外部判断作者最后给的答案我很喜欢因为它非常克制。他说 graph 之外还需要三类东西。1. Anchors必须有不可争辩的现实锚点有些 measurement 必须直接贴着现实• 真正到账的收入• 真正执行过的测试• 真正留存下来的客户• 真正对上的实物盘点这些是 graph 的接地线。如果没有这些锚点loops 再聪明也只是在空气里互相验证。2. Frozen nodes有些规则必须冻结不能被优化器动比如训练 loop 永远不该看到 held-out set。原因不是因为它“不够聪明”恰恰是因为它太会优化了所以你必须故意把某些规则冻结防止它为了赢而去篡改裁判。这点放到 agent 系统、业务系统、组织系统里都一样有些 guardrail 就是不该让优化环去动。3. Root judgment什么叫“更好”最终得从 graph 外面来这是最后也是最根本的一点。loops 只能朝 reference 优化。graphs 只能管理和修订 reference。但最初“什么值得优化”“什么算更好”“哪些规则必须冻结”这些判断本身不能由系统内部自动生出来。因为整个系统从一开始就预设了这些前提。所以最终仍然需要人• 根据真实失败• 根据业务语境• 根据价值判断• 来定义 graph 权威的边界这不是“人类暂时还没被替代”的保守说法而是一个结构性结论任何优化 machinery 都预设了“什么值得被优化”而这个判断不可能完全从 machinery 内部推导出来。我觉得这篇文章最值钱的地方很多人最近在讨论 loop、graph、state machine、agent workflow好像是在选一种更先进的图形。但这篇文章提醒我们真正的轴线其实不是• loop vs graph而是• grounded vs ungrounded也就是说你这套改进系统到底有没有持续碰触它声称在优化的现实。所以真正重要的问题是• 这些数字是不是还在贴着世界• watchers 是不是真的独立• frozen rules 是否在压力下仍然被冻结• targets 是谁定的为什么定这才是“系统有没有在自我改进而不是自我说服”。我的结论如果把这篇文章压成一句话我会这么说loop 是自我改进的起点graph 是为了防止 loop 骗自己但真正让系统保持诚实的仍然是现实锚点和外部判断。所以从 loop engineering 走向 graph engineering并不只是多画几个节点和箭头而是承认一件更不性感、但更成熟的事优化系统的关键不是让它更会循环而是让它更难自欺。这也是为什么我觉得下一阶段真正稀缺的能力不只是会写 prompt、会搭 loop而是会设计• paired metrics• audit paths• hierarchy• frozen guards• human judgment checkpoints换句话说工程化的重点正在从“怎么让 agent 多跑一点”转到“怎么让 agent 跑得越久越不容易骗过自己”。这才像是一个真正进入系统设计阶段的信号。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】