AI越来越聪明,造它的人却越来越害怕
1200名来自OpenAI、DeepMind、Anthropic、Meta的工程师联名上书,要求对AI开发实施强制降速。这不是外部抵制,这是内部造反。
7月29日,超过1200名AI从业者签署了"Pacing the Frontier"联名信,要求美国政府建立AI开发降速机制。签署者来自Anthropic、DeepMind、OpenAI和Meta——全球最顶尖的AI实验室。
信的核心主张:当AI模型展现超出预期的危险能力时,监管机构有权责令暂停、评估、修正后再继续。本质上是给前沿AI装限速器,超速即强制降挡。
为什么这封信值得重视
过去两年,AI公司的安全叙事高度统一:红队测试、对齐研究、伦理委员会。但这封信揭示了一个不愿公开的事实:在商业竞争压力下,内部安全机制基本失效。
本质是囚徒困境:任何公司单方面减速都会丧失市场份额,于是所有玩家都选择"先发制人"——一个所有人都知道更差的均衡。
信的解决方案很直接:既然行业内部协调失灵,引入外部强制力,让所有人的刹车同时踩下。
三重现实障碍
法律真空。美国没有任何法律授权政府对AI开发叫停。立法需要两党共识,而在"管太多扼杀创新 vs 管太少酿成大祸"这条光谱上,共识远未形成。
标准模糊。"未预期的危险能力"缺乏可操作定义。LLM内部工作机制的机械可解释性研究仍处早期,危险阈值无法量化。标准过宽形同虚设,过严则每次发布都可能触发暂停。
全球博弈。AI开发已是主权竞赛。即使美国按下暂停,其他国家的实验室不会同步停下。一封1200人的签名,挡不住地缘技术竞争。
为什么开发者应该关注
这不是学术讨论。这是来自技术核心圈层的系统性不信任投票——来自那些最了解模型架构、训练流程和安全机制的人。
一个行业的建造者集体表达恐惧,信号强度远超外部批评。对每个使用AI编程工具、调用模型API、构建Agent应用的开发者而言,这封信用最简单的形式提出了一个不可回避的问题:我们正在加速推进的东西,可控吗?
历史注脚还是未来预言
这封信的真正价值不在政策推动——短期内几乎不可能。
而在于它制造了一份公开的历史注脚:2026年夏天,超过一千名核心从业者声明,他们的工作方向可能已超出可控范围。
这个记录,要么成为"早就警告过你们"的佐证,要么被贴上"反应过度"的标签。但无论如何,一个事实不变:在高速列车上喊慢一点的人,改变不了列车司机的KPI。
一个假设:如果你是那1200人中的一个,你会签字吗?签了等于公开承认自家产品的安全风险;不签等于在内心不安面前选择沉默。当"应该做"和"不得不做"正面冲突,你的选择是什么?
