卡神跳槽Anthropic：要搞“AI教AI“这件最危险的事！

2026年5月19日，人工智能圈出了个大新闻——"卡神"安德烈·卡帕西宣布加入Anthropic公司。这位曾经的名人可不一般，他不仅是OpenAI最早的成员之一，还曾在特斯拉负责过AI部门，在业内地位颇高。

但这次跳槽的真正看点，不在他的职位头衔，而在于他要干的事情——一个被业内称为"最危险的AI方向"的工作。

卡帕西到Anthropic后，将在预训练团队负责人尼克·约瑟夫的带领下面组建新团队，核心任务是用Claude模型来加速预训练研究。说得更直白一点，他的工作就是让AI来优化AI自身的训练过程。

在AI安全研究领域，这个方向有一个正式名称，叫"递归自我改进"。它的核心逻辑是：AI系统不断优化自身训练流程，实现能力自我提升。这个概念在学术界存在了几十年，但直到最近才真正进入工程实践阶段。

事情没这么简单。卡帕西的背景确实让他成为这个岗位的人选。2015年至2017年他在OpenAI做深度学习和计算机视觉研究，2017年被马斯克招去特斯拉，负责自动驾驶视觉团队，把神经网络技术从论文推向了量产。2022年从特斯拉离职后，他又短暂回到OpenAI，2024年创办了自己的AI教育公司。

值得关注的是，卡帕西加入Anthropic的时机很微妙。就在一个月前，Anthropic联合创始人Jack Clark发布长文预测，到2028年底AI实现递归自我改进的概率约为60%。他列举了一系列数据：AI在GitHub问题测试中的表现从2%提升到93.9%，让AI优化小型模型训练任务的效率从2.9倍提升到52倍。

这背后有一个无法回避的矛盾：Anthropic一直以来的品牌叙事是"AI安全优先"，而递归自我改进恰恰是AI安全社区长期最担忧的能力之一。批评者认为，即使AI能自我优化，每一代优化的效率可能只是线性甚至递减改善，未必能产生指数级回报。

更让人担心的是，如果当前AI对齐技术准确率是99.9%，在50代迭代之后可能降到95%，500代后可能降到60%。在AI参与自身训练的循环中，对齐约束能否可靠传递给每一代后继模型，目前没有答案。

Anthropic在回答这个矛盾时，似乎走了一条"最懂风险的人来做这件事"的路子——同步推进能力研究和对齐研究，试图用工程节奏跑赢失控时点。公司在研究纲要中还承诺，会公开"工作如何因新AI工具加速"以及"AI系统潜在递归自我改进的相关数据"。

眼下，卡帕西加入Anthropic释放了一个信号：AI产业的竞争重心正在从"用更多算力训练更大模型"转向"让AI参与自己的训练过程"。这条路潜力巨大，也确实危险。