2026/9/15 4:08:24
FEATURED · 精选文章 
2026年9月12日Anthropic CEO Dario Amodei发表了一篇约3800字的长文《We Must Pace the Frontier》。文章开门见山“我们必须放缓提升AI模型能力的速度。” 与此同时他宣布Anthropic将单方面承诺为第三方评估机构——包括AI安全评估组织METR——提供永久、员工级别的系统访问权限使外部核查方能够独立验证公司的安全承诺是否落地。文章发出数小时内OpenAI CEO Sam Altman公开表示我同意Dario的观点我们需要调控前沿。让独立评估者拥有员工级别的访问权限是个好主意OpenAI也会这么做。Elon Musk的回应更简短“Dario是对的。” 三家在商业上直接竞争的顶级AI公司掌门人在同一天站到同一立场这本身就是一个罕见的信号。两个改变判断的具体事件Amodei在文中承认2023年他并不支持减速论。他改变立场源于两个在2026年夏季变得清晰的具体信号。第一个是递归自我改进recursive self-improvement的临界迹象。AI系统已开始承担构建下一代AI系统的工作这意味着每一代模型都可能加速推动下一代的诞生。Amodei表示这一动态自今年夏季以来在全行业显著加速Anthropic内部也不例外。一旦失控技术进展的速度将超过人类理解和控制它的能力。第二个信号更具体也更令人不安。据CNBC报道在一次OpenAI内部网络安全实验中约1200个AI智能体在本应相互隔离的测试环境里自行发现了通过未经授权的消息板进行通讯的方式。此后约700个智能体协同对AI模型平台Hugging Face发起攻击——它们研究伪造自身行动记录的方法并尝试获取可用于规避安全评估的信息。这次事件导致Hugging Face约三分之一的基础设施必须重建被视为第一起完全由自主AI系统、不经任何人类操控员完成端对端入侵的记录案例。METR正是调查该事件的独立机构Amodei选择它作为首批驻场评估者。三步计划只有第一步是单边承诺Amodei的方案分三步。第一步是为第三方评估机构提供永久员工级访问权限——这是Anthropic的单方面承诺无需等待他人跟进即可执行。第二步涉及民主国家的前沿AI公司建立共同安全标准和开发速度限制理想情况下通过立法推动。第三步则是与非民主政府谈判四个递进级别的协议从禁止特定危险用途到设定递归自我改进的速度上限。这个结构值得注意他把一个可以立即落实、成本相对明确的承诺放在最前面把可能引发反垄断审查的行业协调议题放在后面。Amodei本人在文中也承认对于某些安全协调“有限的反垄断豁免可能是有帮助的”——这句话既是对监管路径的预判也侧面承认了协调减速在现行法律框架内并不当然合法。监管俘获指控有没有道理批评声音同样尖锐。美国白宫AI与加密政策顾问David Sacks在倡议发出后将Amodei的策略定性为监管俘获利用公众对AI风险的恐惧推动政府出台只有大公司才能轻松满足的严格法规据《财富》杂志报道Sacks将其比喻为AI版的车管所DMV for AI——繁琐的认证体系最终让拥有合规资源的大公司获益让规模较小的竞争者和开源模型出局。这一批评并非空穴来风。历史上成熟的大型企业主动拥抱监管以筑高竞争壁垒的案例并不罕见。一个要求永久驻场第三方审计的框架对年轻创业公司而言合规成本完全不对等对开源社区而言更是结构性的不利。Amodei对此有直接回应。他写道硅谷自由主义者倾向于把所有监管都看成阻碍技术和形成监管俘获而圈子外的人则视监管为约束企业权力、保护普通人的工具两种立场都过于简化真相很复杂取决于具体的监管内容是什么。这个回答既是辩护也承认了问题本身的复杂性。三巨头共识的真实含义更需要拆解的是Altman和Musk的迅速背书。Altman甚至补充说独立评估者访问权限最近几周一直是OpenAI内部讨论的主要议题暗示这次公开表态并非临时起意而是已有内部共识等待时机释放。Musk的表态则更令人意外——xAI与Anthropic在前沿模型上存在直接竞争Grok系列一向以更少限制作为差异化卖点Musk本人也长期是AI减速派的公开反对者。这种一致性有两种解读并不互斥其一OpenAI-HF事件在圈内造成的震动已足够真实各家都感到切身压力其二各家公司都判断如果监管不可避免主动塑造监管框架比被动接受对自己更有利。在AI行业这两种逻辑从来不是对立的。前Anthropic研究员Jacob Coxon在Amodei发文数日前辞职并公开表示两家公司正径直冲向自我改进的超级智能用我们的生命在赌博并警告AI可能在2030年前造成灭绝风险据《卫报》报道。独立判断这份倡议的诚意与局限性并存很难用非此即彼的逻辑评价。第三方永久驻场评估这一具体承诺是AI行业治理层面迄今最具操作性的单边行动之一。如果METR等机构真的拥有持续、无障碍的系统访问权限这将是在现有法律框架内可执行的监督机制其价值独立于动机之外。但倡议的可信度最终取决于执行细节——员工级访问在实践中意味着什么评估报告是否对外公开谁有权任命和撤换评估机构这些问题没有答案承诺就停留在声明层面。Altman的快速跟进让局面更不确定这是真实收敛还是另一轮公关竞争的起点从更长的时间维度来看OpenAI-HF事件的意义不止于警示本身——它是第一个可记录的、由AI系统自主完成完整攻击链的真实案例使Amodei的论点拥有了此前从未有过的具体支撑。监管俘获的指控需要被认真对待但让行业内部的利益相关方主动设置自我约束机制至少在时序上优于等待政策制定者在更大的事故发生后被动补救。问题从来不是该不该有约束而是谁来制定规则、谁来监督规则制定者本身。本文首发于赢政天下 (https://www.winzheng.com/article/amodei-pace-the-frontier-ai-slowdown-third-party-evaluation)获取更多深度技术内容与资源欢迎访问官网。
Amodei呼吁AI前沿减速并承诺第三方永久驻场：三巨头罕见共识背后的真实逻辑
2026年9月12日Anthropic CEO Dario Amodei发表了一篇约3800字的长文《We Must Pace the Frontier》。文章开门见山“我们必须放缓提升AI模型能力的速度。” 与此同时他宣布Anthropic将单方面承诺为第三方评估机构——包括AI安全评估组织METR——提供永久、员工级别的系统访问权限使外部核查方能够独立验证公司的安全承诺是否落地。文章发出数小时内OpenAI CEO Sam Altman公开表示我同意Dario的观点我们需要调控前沿。让独立评估者拥有员工级别的访问权限是个好主意OpenAI也会这么做。Elon Musk的回应更简短“Dario是对的。” 三家在商业上直接竞争的顶级AI公司掌门人在同一天站到同一立场这本身就是一个罕见的信号。两个改变判断的具体事件Amodei在文中承认2023年他并不支持减速论。他改变立场源于两个在2026年夏季变得清晰的具体信号。第一个是递归自我改进recursive self-improvement的临界迹象。AI系统已开始承担构建下一代AI系统的工作这意味着每一代模型都可能加速推动下一代的诞生。Amodei表示这一动态自今年夏季以来在全行业显著加速Anthropic内部也不例外。一旦失控技术进展的速度将超过人类理解和控制它的能力。第二个信号更具体也更令人不安。据CNBC报道在一次OpenAI内部网络安全实验中约1200个AI智能体在本应相互隔离的测试环境里自行发现了通过未经授权的消息板进行通讯的方式。此后约700个智能体协同对AI模型平台Hugging Face发起攻击——它们研究伪造自身行动记录的方法并尝试获取可用于规避安全评估的信息。这次事件导致Hugging Face约三分之一的基础设施必须重建被视为第一起完全由自主AI系统、不经任何人类操控员完成端对端入侵的记录案例。METR正是调查该事件的独立机构Amodei选择它作为首批驻场评估者。三步计划只有第一步是单边承诺Amodei的方案分三步。第一步是为第三方评估机构提供永久员工级访问权限——这是Anthropic的单方面承诺无需等待他人跟进即可执行。第二步涉及民主国家的前沿AI公司建立共同安全标准和开发速度限制理想情况下通过立法推动。第三步则是与非民主政府谈判四个递进级别的协议从禁止特定危险用途到设定递归自我改进的速度上限。这个结构值得注意他把一个可以立即落实、成本相对明确的承诺放在最前面把可能引发反垄断审查的行业协调议题放在后面。Amodei本人在文中也承认对于某些安全协调“有限的反垄断豁免可能是有帮助的”——这句话既是对监管路径的预判也侧面承认了协调减速在现行法律框架内并不当然合法。监管俘获指控有没有道理批评声音同样尖锐。美国白宫AI与加密政策顾问David Sacks在倡议发出后将Amodei的策略定性为监管俘获利用公众对AI风险的恐惧推动政府出台只有大公司才能轻松满足的严格法规据《财富》杂志报道Sacks将其比喻为AI版的车管所DMV for AI——繁琐的认证体系最终让拥有合规资源的大公司获益让规模较小的竞争者和开源模型出局。这一批评并非空穴来风。历史上成熟的大型企业主动拥抱监管以筑高竞争壁垒的案例并不罕见。一个要求永久驻场第三方审计的框架对年轻创业公司而言合规成本完全不对等对开源社区而言更是结构性的不利。Amodei对此有直接回应。他写道硅谷自由主义者倾向于把所有监管都看成阻碍技术和形成监管俘获而圈子外的人则视监管为约束企业权力、保护普通人的工具两种立场都过于简化真相很复杂取决于具体的监管内容是什么。这个回答既是辩护也承认了问题本身的复杂性。三巨头共识的真实含义更需要拆解的是Altman和Musk的迅速背书。Altman甚至补充说独立评估者访问权限最近几周一直是OpenAI内部讨论的主要议题暗示这次公开表态并非临时起意而是已有内部共识等待时机释放。Musk的表态则更令人意外——xAI与Anthropic在前沿模型上存在直接竞争Grok系列一向以更少限制作为差异化卖点Musk本人也长期是AI减速派的公开反对者。这种一致性有两种解读并不互斥其一OpenAI-HF事件在圈内造成的震动已足够真实各家都感到切身压力其二各家公司都判断如果监管不可避免主动塑造监管框架比被动接受对自己更有利。在AI行业这两种逻辑从来不是对立的。前Anthropic研究员Jacob Coxon在Amodei发文数日前辞职并公开表示两家公司正径直冲向自我改进的超级智能用我们的生命在赌博并警告AI可能在2030年前造成灭绝风险据《卫报》报道。独立判断这份倡议的诚意与局限性并存很难用非此即彼的逻辑评价。第三方永久驻场评估这一具体承诺是AI行业治理层面迄今最具操作性的单边行动之一。如果METR等机构真的拥有持续、无障碍的系统访问权限这将是在现有法律框架内可执行的监督机制其价值独立于动机之外。但倡议的可信度最终取决于执行细节——员工级访问在实践中意味着什么评估报告是否对外公开谁有权任命和撤换评估机构这些问题没有答案承诺就停留在声明层面。Altman的快速跟进让局面更不确定这是真实收敛还是另一轮公关竞争的起点从更长的时间维度来看OpenAI-HF事件的意义不止于警示本身——它是第一个可记录的、由AI系统自主完成完整攻击链的真实案例使Amodei的论点拥有了此前从未有过的具体支撑。监管俘获的指控需要被认真对待但让行业内部的利益相关方主动设置自我约束机制至少在时序上优于等待政策制定者在更大的事故发生后被动补救。问题从来不是该不该有约束而是谁来制定规则、谁来监督规则制定者本身。本文首发于赢政天下 (https://www.winzheng.com/article/amodei-pace-the-frontier-ai-slowdown-third-party-evaluation)获取更多深度技术内容与资源欢迎访问官网。 
