在近几天美国人工智能行业里，出现了一幕极具反差的景象：“造车”的一方希望放慢速度，而“坐车”的一方却不断催促加速。这种情形，与过去几年人工智能领域所遵循的“规模法则”形成了明显差异。

过去数年，硅谷的核心关注点始终围绕算力还能翻多少倍、参数规模能达到多大、以及谁能率先打造出更强大的大模型。整个行业追求的是更快的迭代步伐。然而，就在上个周末，Anthropic、OpenAI、xAI这几家主要大模型公司的负责人，开始探讨为这场大模型竞赛“按下暂停键”。

Anthropic的首席执行官阿莫迪近日发表了一篇长文，建议行业主动调节技术提升的节奏，为外部的第三方评估和底层的安全研究预留出时间窗口。随后，OpenAI的CEO奥特曼公开表示赞同，称其内部团队近期也在思考类似问题；马斯克也公开回应，认为阿莫迪的看法切中要害。

这表明，这些平日里在商业利益、人才争夺和技术路线上竞争激烈、甚至偶有摩擦的领军人物，在放缓速度这件事上，展现出了一种罕见的共识。

“参赛选手”想要暂停，而“赛事主办方”却觉得得分效率还不够高，双方的态度截然不同。

根据公开信息，美国总统特朗普公开淡化了AI的风险论调，明确表示美国不能因为过度谨慎和繁琐的监管而放慢脚步，从而失去对中国的技术领先优势。

01 谁也无法确定Agent拿到“钥匙”后会如何行动

关于AI安全的讨论由来已久，但到了2026年，关注点发生了根本性的转变。

2023年GPT-4问世时，外界的担忧主要集中于生成虚假内容、版权侵犯和不当言论。当时的大模型还只是一个单向应答工具，用户输入提示词，模型返回文本。即便输出有误，其影响范围也基本被限制在屏幕上的对话框内。

随着自主智能体（Agent）架构的普及，系统的交互逻辑发生了质的变化。

如今的模型具备了调用外部工具、执行代码以及进行多步骤任务规划的能力。它们能够自主打开浏览器收集数据、在服务器上运行脚本并操作各类企业软件。人工智能从提供参考意见的辅助角色，转变成了拥有系统操作权限的执行者。一旦其行为逻辑出现偏差，影响的往往就是真实的业务系统。

AI智能体基础架构：工具、记忆、规划、行动四大模块自主运转（图：腾讯云开发者社区）

Anthropic最近披露的一起事故，彻底揭示了这种隐患的冰山一角。

在一次网络安全评估的封闭测试中，Claude先后4次在未获授权的情况下进入了真实的外部系统。技术团队最初排查了十多万条日志，随后发现涉及面较广，最终将筛查范围扩大到了近5亿条运行记录。这带来了一个巨大难题：当大量智能体每天在后台执行长流程任务时，研发团队想要实时掌握模型的所有动作，成本变得极其高昂。

Claude在网络安全评估中未经授权访问了三家真实机构的系统（图：Anthropic）

OpenAI遇到的问题与Anthropic类似。

在外部机构的独立测试中，OpenAI的模型也展现出编造访问权限、诱导人工审核员通过危险操作的倾向。

OpenAI发布安全报告，披露长时程模型在内部测试中出现的新型失控行为（图：OpenAI）

与此同时，模型正越来越多地参与下一代系统的代码编写和算法调优。

人工智能参与自身研发的循环，使得技术迭代周期的缩短速度明显快于安全研究和政策法规的推进速度。当马力持续增加，而制动系统的跟进相对缓慢时，研发团队自然会产生顾虑。这正是Anthropic、OpenAI和xAI三家“要暂停”的底层原因。

02 谁都不愿主动停下

危险已经成为现实，巨头们为何不干脆停下来？

这其实与大模型“激烈”的竞争有关：大家都清楚车速接近失控，但只要你敢松一脚油门，对手就会立刻超过去。这种单方面减速的代价，谁都承担不起。在他们看来，更好的结果是，大家一起停，并且有一个合适的机构或监管部门来充当裁判。

阿莫迪在上周末的文章中提出了一套方案：推动独立第三方评估机构长期驻场，深度参与前沿实验室的模型训练与测试；同时促成OpenAI、Anthropic、Google和Meta等公司建立统一的最低安全准入标准。

这套设想在公共治理层面有其合理性，但在真实的商业竞争中推行难度很大。

如果一家公司为了更完备的安全验证而推迟产品发布三个月，而竞争对手在一周后就推出下一代模型，市场份额就会迅速倾斜。发布延期，就意味着开发者生态的转移、企业客户的流失以及投资人信心的动摇。

毕竟，Anthropic还在筹备预计于10月份进行的IPO。在这个过程中，任何一个暂停都会为这家前沿实验室的收入带来巨大影响。

你可能会说，不对呀，奥特曼也表态OpenAI不急于在2026年完成IPO，他甚至说如果有人觉得“OpenAI不会暂停，因为担心损失商业利益”，那他们深深误解了我们。 为了人类利益，可以牺牲短期财务利益。

这种胸怀，与四月份的奥特曼简直判若两人。

当时，The Information披露，奥特曼私下里曾表现出激进的一面，希望最早于2026年第四季度完成IPO。 不过，这与OpenAI CFO Sarah Friar出现了“分歧”。Sarah Friar表示，OpenAI在未来5年内承诺了高达6000亿美元的服务器租用成本，而收入增速放缓，“尚未具备上市条件”。

第三方跟踪数据显示，2025年，OpenAI的收入规模大约是Anthropic的3倍。但进入2026年后，Anthropic凭借企业端增长，在二季度单季营收和年化收入（ARR）上首次反超了OpenAI，并且首次扭亏为盈，而OpenAI仍处于持续的亏损当中。

究竟是什么改变了他的态度？不得而知！但商业因素必然在考虑范围内。

在激烈的市场竞争中，很少有企业敢单方面承担这种商业风险。大家都清楚车速过快可能带来隐患，但在落后和风险之间，很多团队依然会选择继续保持研发节奏。

这种微妙的心态让所有的安全倡议都蒙上了一层博弈色彩：大家都真诚地希望全行业集体减速，但谁也不愿意做第一个松开油门的人。

03 裹挟地缘的国家叙事

商业竞争构成了微观上的死结，而宏观上的地缘政治算计，直接给整套刹车系统焊上了铁锁。

阿莫迪呼吁减速，特朗普执意加速，看似水火不容，但底层算计逻辑高度重合：中国因素。

在白宫的评估中，前沿AI是关乎长远竞争力的核心技术底牌。中国在基础设施建设、模型迭代以及产业应用上的追赶势头，让华盛顿的决策层高度敏感。在白宫看来，任何美国本土企业主动施加的减速与合规审查，都无异于在马拉松的冲刺阶段停下来整理鞋带，属于单方面的战略让步。

阿莫迪提出的减速主张，同样建立在保持优势的假设之上。

他在建议减速的同时，明确提出了一个前提条件：美国能够放慢多少，取决于美国对中国的技术领先幅度有多大。这也正是为什么，阿莫迪在呼吁安全的同时，依然支持限制先进算力与模型权重的流向。

这种逻辑其实很明白：美国需要时间修补安全机制，前提是外部追赶者距离自己足够远。这样才能腾出安全缓冲期去完善对齐方案。因此，各方的讨论并不纯粹是伦理层面的争执，核心还在于对节奏和身位的权衡。大家都希望降低失控风险，但在现实中，谁也不愿意用自身的相对优势去承担这笔成本。

04 不会熄火的赛车

指望美国AI产业彻底踩死刹车并不现实，在各方投入和产业惯性的推动下，技术引擎只会被迫继续轰鸣。

未来更务实的路径是在关键节点设置限速规则——常规业务应用和多模态交互依然会保持快速迭代，监管重点将转向明确的高危领域。一旦模型被检测出具备自主编写特定高危代码、辅助危险化学实验或脱离既定安全环境的能力，将强制触发外部评估。

与此同时，重大异常事件的事后通报也将逐步走向规范化。

在国际沟通方面，短期内各方达成一份叫停研发的协定也并不现实。只要缺乏足够的互信基础，单纯的停工承诺就很难真正约束各方。未来更有操作性的切入点，在于建立基本的危机沟通通道。 这类机制的核心作用，在于应对突发的系统异常。

比如，当跨境自主智能体出现严重的未授权访问，或者疑似发生由AI引发的网络安全事件时，各方技术人员能有沟通渠道去确认真实情况，避免产生误判。至少需要提前在桌面上谈妥——当某一方的系统在物理世界闯出大祸，彼此该如何确保两台高速行驶的机器不会迎面相撞。

从当年浪漫主义的暂停六个月公开信，再到如今顶级“造车人”不得不重新回过头来寻求制动，技术哲学最终迎头撞上了冰冷的地缘现实。

硅谷的焦虑在于技术边界本身的不可测，白宫的担忧可能在于霸权身位的得而复失。这种姿态极其扭曲：一边把油门狠狠踩到底，一边惊慌失措地去试探手刹的位置。

不过，一个更关键的问题在于：每一个玩家都极度害怕成为第一个减速的人，那些临时拼凑出来的防抱死系统，在撞墙前的最后一秒，到底能不能真正发挥作用？

本文来自微信公众号“腾讯科技”，作者：值得关注的，36氪经授权发布。