Meta限制使用Claude Code和Codex:防“蒸馏陷阱”,省钱又避险!
Meta划定红线限制AI模型使用
今年5月,Meta给自家工程师划定红线,应用AI工程部门人员不能再随意使用Claude Code和Codex。据The Information拿到的内部指南,一份备忘录要求暂停某些用到这两个模型的任务,称这可能触发「与合作方的严重升级」。然而,Meta是Claude Code全球最大客户之一,今年内部用AI总账单奔着数十亿美元去,却限制使用这两个常用工具,原因是它们太好用了。这条红线至今仍在生效。
自研AI编程助手引发限制
Meta如此紧张源于其内部的AI编程助手项目。今年,它组建应用AI工程团队,主攻自研的AI编程助手MetaCode(原名DevMate),目标是不再依赖他人的AI编程模型。但训练一个会写代码的模型并非易事,需要海量高质量数据和编程题。Meta面临的难题是防止员工过度依赖外部工具,担心外部模型输出渗入训练数据,使MetaCode学习对手本事。因为模型的学习取决于输入数据,若训练题目、答案和判分标准来自Claude或Codex,MetaCode就会越来越像对手。评测环节也存在类似问题,若出题和判分交给Codex,MetaCode会朝着「Codex觉得对」的方向进化。所以,Meta的指南严格限制AI在出题、判卷等方面的参与,目的是隔离训练数据,避免分不清自身能力和从对手处学习的能力。
严格细致的使用限制
Meta内部文件无员工违规记录,Meta发言人表示公司有「明确政策」规范AI工具使用,该文件更像提前预警。文件明确了三类不能让AI参与的工作:一是不能用Claude或Codex的输出为自家模型出测试题;二是不能让AI在源码里找bug或基于代码分析思考「该测什么」;三是AI生成的东西不能放入被测模型可访问的地方。而搭工作流、整理代码和文件、搭建内部工具测试架子等日常杂活可以让AI参与,但AI的每一行产出都需人过目。Meta旨在守住「谁教会了谁」的界线。
绕不开的“蒸馏陷阱”
Meta担心的问题在业内被称为「蒸馏」,即利用更强模型的输出训练较弱模型,可大幅降低成本和工期。蒸馏本身是常规操作,但使用别家模型输出训练会导致难以区分能力来源,这就是「蒸馏陷阱」。在美国,法律未禁止蒸馏,AI生成内容也不受版权保护,但合同有限制,如OpenAI、Anthropic的服务条款禁止用模型输出制造竞争产品。此前,Anthropic曾切断OpenAI对Claude的接口访问,马斯克也承认xAI「部分」蒸馏过OpenAI的模型。规则模糊且「执法权」在对手手中,Meta的紧张不无道理。此外,Meta今年内部用AI费用高昂,甚至给员工token用量设上限,若能转向自家MetaCode,可省钱并避开蒸馏风险。
行业面临的难题
科技法学者、法律顾问Mark Leiser形容Meta的内部文件「几乎就是一张走钢丝的地图」,既要利用外部模型好处,又要防止其能力渗入自家系统。这不仅是Meta面临的问题,也戳中整个行业命门。当用一个AI制造另一个AI时,很难分清能力来源。而且,普通人使用AI生成的内容也会成为下一代模型的养料,「谁站在谁的肩膀上」的界线越来越模糊。当AI开始帮助我们制造AI,我们还能否分清本事的归属呢?
