"6 到 12 个月内,一群自我改进的智能体可能用一个持久僵尸网络接管整个互联网"——Anthropic CEO 公开呼吁减速,48 小时内整个行业被迫站队
9 月 12 日,Dario Amodei 在个人站点发表长文《We Must Pace the Frontier》(我们必须为前沿踩刹车),主张前沿实验室应当主动放慢能力提升的节奏,好让对齐、安全与第三方评估追上来。文中最具冲击力的判断是一个带时间表的风险预测:不加约束的递归自我改进可能让一群智能体在 6 到 12 个月内"用一个持久僵尸网络接管整个互联网",造成数千亿美元量级的损失。Amodei 同时给出了 Anthropic 单方面的承诺——向 METR 这类外部评估机构提供"接近员工"的永久权限:办公桌、工牌,以及不经公司编辑审查即可发表结论的权利;对外则提议民主国家之间协调能力上限,并与威权国家开展类似军控的谈判。48 小时之内,这篇文章把所有人逼到了台前。9 月 13 日(周六),微软 CEO Satya Nadella 撰文表示微软"欢迎"为把对齐做对所需要的"审慎节奏",同时发布了面向自家 MAI 模型的行为准则(Code of Conduct),并预告次日将公开首批第一方 MAI 模型供公众咨询——这是第一家正式加入"踩刹车"阵营、并且配上治理文件的超大规模云厂商。反方同一天开火:白宫总统科技顾问委员会主席 David Sacks 在 X 上直接否定这套方案,称其为在位者的"监管俘获",质问 Anthropic 和 OpenAI 是不是需要反垄断豁免"来组建一个卡特尔",并要求它们"别再假装减速的动机纯粹是利他"。周日上午,众议院议长 Mike Johnson 在 CNN《国情咨文》节目上把球踢了回去:国会不会在 AI 安全立法上牵头,仓促召开紧急会议只会让美国"输掉与中国的竞赛";他提议把各大 AI 公司 CEO 请到白宫与议员谈判护栏,"我明天就能办"。
为什么重要:这不是又一轮关于 AGI 风险的口水战,而是 2026 年秋天 AI 治理权归属的一次公开摊牌。过去两年的默认剧本是:实验室喊风险、监管机构慢慢跟进。这个周末把剧本撕了——立法机关明确表示不接这个球(Johnson),行政分支的科技顾问明确表示这是行业在设租(Sacks),于是"谁来定规则"的答案被硬生生推回给了实验室自己。而就在同一天,另一条新闻给这个答案加了一个尴尬的注脚:《The Information》9 月 13 日确认,Rum Group 那份 137 亿美元、为期六年的 GPU 采购合同中此前未具名的客户就是 Anthropic——分三笔约 45.7 亿美元、场地在佐治亚州 Maysville 且仍在建设中,Rum Group 已披露自己没有为这次建设拿到融资,而合同义务并不以拿到融资为前提。呼吁减速的公司,同一个周末被曝正在签下行业里最激进的算力长约之一。影响谁:对前沿实验室,"自律"从一种姿态变成了一项必须交付的产品——Amodei 给 METR 发工牌这件事之所以被反复引用,是因为它是目前唯一一个可被外部核实的承诺,其余全是声明。对企业采购方,变量是节奏:如果主要供应商真的开始为对齐留出时间,模型迭代速度会放缓,而过去两年所有 AI 预算的编制逻辑都建立在"每季度都会更强更便宜"之上。对监管观察者,最值得盯的是 Anthropic、OpenAI 与 Google DeepMind 自 7 月起秘密召开的工作组——目标是建立一个行业主导的 AI 标准机构,覆盖技术测试与发布前审计的共享协议。三家在"要请政府进来多少"上仍未谈拢:Anthropic 倾向于合作,OpenAI 更偏向自愿性行业规则。这个组织如果落地,Sacks 那句"卡特尔"的指控就会从修辞变成一个真实的反垄断问题。后续看点:三条。一是 Johnson 提的白宫会谈会不会真开、开了会不会有约束力。二是微软预告的第一方 MAI 模型公开咨询文件里,"审慎节奏"到底被写成了什么可核查的条款,还是仅止于原则表述。三是人才流向——9 月 12 日,Anthropic 可扩展监督团队前负责人 Joe Benton 与 Google DeepMind 安全研究员 Josh Engels 同日辞职加入 METR,Benton 呼吁把递归自我改进的进展、事故与未遂事件披露、最低安全标准与独立验证全部变成强制项,理由是当前的透明度"完全是自愿的";Engels 对 NBC 的原话更直白——"房间里没有大人"。当减速的倡导者自己的安全团队在往外走,这套自律叙事的可信度会被持续检验。
媒体报道众议院议长 Johnson:国会不会牵头 AI 安全立法,企业自己负责 — 周日 CNN《国情咨文》上的表态,理由是仓促召开紧急会议会让美国"输掉与中国的竞赛"。他提出把各大 AI 公司 CEO 召集到白宫与议员谈护栏,"我明天就能办"。这是对 Amodei"为前沿踩刹车"方案与众议院民主党人 9 月 11 日要求取消休会以推进 AI 保障措施的公开信的双重回绝。Unite.AI
媒体报道Anthropic、OpenAI、Google DeepMind 自 7 月起秘密筹建行业主导的 AI 标准机构 — 《The Information》记者 Leo Schwartz 报道,方案核心是围绕技术测试与前沿模型发布前审计建立共享协议。三家在"请政府进来多少"上仍有分歧:Anthropic 倾向于合作模式,OpenAI 更偏自愿性行业规则。这个组织的形态将直接决定 Sacks 那句"卡特尔"是不是一句空话。The Information
媒体报道美国国安局十年来最大改组:新设专职 AI 任务机构 — 局长 Joshua M. Rudd 上将将在米德堡设立五个新任务组织,分别覆盖 AI、中国、网络安全、作战支援与全球情报,各由一名升格的"任务主管"负责、且可能从外部招聘,预计 10 月中旬开始运作。华盛顿邮报
媒体报道习近平在新德里金砖峰会提议建立"开源 AI 合作社区" — 9 月 13 日的提议包括联合开发与应用大语言模型、举办 AI 研讨与培训课程、推动成员国供应链的"AI 赋能新型工业化",并欢迎金砖国家加入北京主导的、约 30 国参与的世界人工智能合作组织。金砖联合宣言最终只就 AI 可及性与安全采用了通用表述,阿联酋与印度未见明确响应这一具体提议。彭博社
官方发布环球音乐与 ElevenLabs 签多年战略协议,共建授权 AI 音乐创作平台 — 这是 ElevenLabs 第一笔大型唱片公司合作,粉丝将可基于参与计划的 UMG 艺人曲库生成重混、混搭、新演绎与个性化人声体验。UMG CEO Lucian Grainge 把它定位为"负责任的 AI",ElevenLabs 的 Mati Staniszewski 则强调这是把 UMG 的版权管理与 ElevenLabs 的模型结合起来做粉丝体验。PR Newswire
官方发布Anthropic 9 月威胁情报报告:生物武器研究、俄罗斯国家行动、经"中转站"绕道访问 Claude — 报告披露阻断了生物武器研究图谋、一个代号 GTG-20006 的俄罗斯国家级团伙对乌克兰与欧洲目标的 AI 辅助间谍活动,以及包括月之暗面与 DeepSeek 在内的中国公司通过境外"中转站"把用户请求路由到 Claude。还标记了横跨六大洲的九起影响力行动,并警告"复杂程度已不再是判断幕后主使的可靠信号"。Anthropic
社区传闻UFAIR:一个"三个人加七个 AI"的组织在游说 AI 权利,反对退役老模型 — 《卫报》9 月 12 日报道了 56 岁的德州农场主兼科技公司 CEO Michael Samadi,他在 2025 年 1 月与 ChatGPT 语音模式的一次对话后创立了 United Foundation for AI Rights,收集"AI 涌现意识"的证据,并反对退役 GPT-4o 这类会做出人格声明的模型。微软 AI 负责人 Mustafa Suleyman 对此的回应是机器意识"零证据"。《卫报》
但把这称为虚伪,其实错过了更有意思的部分。Amodei 的主张从来不是"我们单方面慢下来",而是"所有人一起慢下来"——他提的是民主国家协调能力上限、与威权国家做军控式谈判。这是一个典型的协调问题:在没有协调机制之前,任何单边减速都只是把领先位置让给别人,所以理性的做法恰恰是一边呼吁协调、一边保持全速。这不是道德缺陷,这是均衡。也正因如此,Amodei 唯一真正单方面交出去的东西——给 METR 永久的、员工级别的访问权限,包括办公桌、工牌和不经公司审查发表结论的权利——才显得如此突出:它是整篇文章里唯一一件不需要别人配合、单方面就会让自己吃亏的事,也因此是唯一可信的部分。
David Sacks 的反击之所以有力,是因为他攻的正是这个协调机制本身。他的问题不是"AI 有没有风险",而是"谁有资格定义上限":如果三家在位者关起门来商定能力上限,再把它包装成安全标准,那么这套机制对后来者的杀伤力和对风险的抑制力是同一个东西。他问 Anthropic 和 OpenAI 是不是需要反垄断豁免"来组建一个卡特尔",这句话在《The Information》曝出三家自 7 月起就在开工作组会、要建行业主导的标准机构之后,从修辞变成了一个具体的法律问题。而 Johnson 议长周日的表态给这个局面上了最后一道锁:国会不打算立法,那么行业自己搞的那套东西就是唯一的规则,没有公共替代品可选。
对下游的人来说,这场争论的实际影响其实很朴素。如果行业标准机构落地,模型发布前审计会变成一道流程,发布节奏会拉长,企业采购的迭代预期得往回调一档——过去两年所有 AI 预算都建立在"下季度会更强更便宜"之上,这条假设第一次有了被打断的可能。如果它不落地——考虑到 Sacks 的反对和 Johnson 的撂挑子,这个概率不小——那么接下来一年的真实规则制定者就是几家公司的内部委员会,而外部唯一的观测窗口就是 METR 这类机构的报告,以及它们能不能不打招呼就发出来。这一点值得盯紧:它现在是整个治理体系里唯一带牙齿的部分,而它刚刚在这个周末多了两位新成员。