关联知识库：[2025-12-03] # 2027年人类最后一次抉择：Anthropic警告AI递归自我进化的终极风险
2027年人类最后一次抉择：Anthropic警告AI递归自我进化的终极风险
来源：36氪（新智元）
发布时间：2025年12月3日
原文链接：https://36kr.com/p/3579721070967684
作者：新智元
核心观点
Anthropic联合创始人兼首席科学家Jared Kaplan警告，人类将在2027年至2030年之间面临一个「极其高风险的决定」——是否允许AI系统自主进行下一代AI的训练与研发。这一抉择可能引发有益的智能爆炸，也可能成为人类最终失控的时刻。
三阶段演进路径
第一阶段：辅助研发（2024-2025）
- AI作为人类工程师的「超级外骨骼」，辅助编写代码、优化超参数
- Claude Code已能独立完成涉及20步以上的复杂编程任务
- 核心创新路径仍由人类科学家规划
第二阶段：自主实验员（2026-2027）
- AI智能体开始独立承担机器学习实验的完整闭环
- 成为实验的设计者：提出假设、编写训练框架、运行实验、分析结果
- 研发效率仅受限于算力供给，不再受限于人类研究员的认知带宽
第三阶段：递归闭环与起飞（2027-2030）
- AI的研发能力超越人类顶级科学家
- 设计出比自身更强大的下一代AI，形成正反馈循环
- 智能水平可能在数周内呈现指数级跃升（硬起飞）
⚠️ 为什么是2027年？
硬件周期耦合
- 2027年下一代超级计算集群投入使用（如OpenAI的Stargate项目）
- 算力将是GPT-4时代的100倍甚至1000倍
- 英伟达GPU路线图：2027年底最新芯片「费曼」启用
技术突破成熟
- DeepMind的AlphaZero通过「自我博弈」实现零人类数据学习
- 将这种范式泛化到编码和数学领域
- 数据天花板被彻底打破，AI通过自我生成的代码进行训练
终极风险：不可解释的优化路径
核心担忧
- 不可解释性（Uninterpretability）：AI自主设计下一代AI时，优化路径可能完全超出人类认知范畴
- 人类无法检查其中是否隐藏「特洛伊木马」或错位的目标函数
- 「这就像你创造了一个比你聪明得多的实体，然后它去创造一个更聪明的实体。你根本不知道终点在哪里。」——Jared Kaplan
监管尝试
- Anthropic提出「计算阈值」（Compute Thresholds）监管方案
- 通过限制训练算力为人类争取时间
- 但在地缘竞争压力下，自我约束的脆弱性不言而喻
人类工程师的最后一份实验报告
Anthropic《AI如何改变工作》核心发现
自动化渗透率
- Claude.ai（聊天界面）：自动化比例49%
- Claude Code（IDE环境）：自动化比例79%
- 在专业工程环境下，80%的工作实际上已经由AI托管
独立工具调用链长度翻倍
AI可独立完成21步复杂任务链：
- 读取需求 → 搜索现有代码 → 规划修改方案 → 编写代码 → 运行测试 → 修复报错 → 提交代码
技能退化（Skill Atrophy）风险
理解力的浅层化
- 工程师变得更加「全栈」，但这种全栈是建立在沙滩上的
- 能让系统跑起来，但不知道系统为什么能跑起来
- 遇到AI无法解决的深层逻辑Bug时，「速成全栈」工程师将束手无策
验证的困境
- 随着AI生成的代码越来越复杂，人类阅读和审查代码的难度增加
- 工程师倾向于将「容易验证」的任务交给AI，回避需要深层审美和架构判断的任务
- 随着信任度增加，边界正在模糊
学徒制的崩塌
核心问题：初级工程师正在失去成长的土壤
- 传统体系：初级工程师通过处理琐碎Bug、编写测试用例、维护文档积累经验
- 现状：AI最擅长这些「琐碎、低风险、易验证」的任务
- 「与其花30分钟教实习生，不如花30秒让Claude完成」
预示的未来：
- 「断层的一代」：当现在的资深工程师退休后，谁来接班？
- 是否正在培养一代完全依赖AI拐杖，一旦断网就彻底丧失能力的「空心工程师」？
关键洞察
技术异化的本质
「我以前认为我喜欢写代码，现在我发现我只是喜欢代码带来的结果。」
编程不仅仅是产出代码，它是一种思维训练。通过一行行敲击代码、一次次面对报错、一步步调试堆栈，工程师建立起了对系统的物理手感和技术直觉。当AI瞬间生成几百行完美运行的代码时，这个「痛苦但必要」的学习过程被省略了。
不可逆的进程
马斯克曾说，人类只是某种数字生命的启动器。从这个角度，不管人类是否自愿，这个过程已经不可逆了。
参考资料
- Anthropic研究报告：AI如何改变工作
- The Guardian：Jared Kaplan访谈
相关链接
- https://36kr.com/p/3579721070967684
标签：#AI趋势 #Anthropic #递归自我进化 #工程师空心化 #2027年 #技术奇点