GLM 5.2 来袭:开源权重模型或致 AI 推理利润崩塌,成本最多降 50%!
真正的 DeepSeek 时刻已至
仿佛是几十年前,市场对 DeepSeek 的 R1 模型反应负面。当时认为,底层 V3 模型据传训练成本不到 600 万美元,模型训练巨额资本支出时代结束,英伟达等公司股价一夜暴跌。当然,这误解了 AI 成本实际所在。训练需大量资本支出,但它是固定前期成本。花费数亿美元训练一个模型,然后就“完成”了。而推理成本会随需求增加,有真正边际成本。过去一年左右,曾详细探讨过这个问题。主流观点认为 API 提供商收取的费用就是“实际成本”,这是错误的。实际上,Anthropic/OpenAI 为推理服务收取每千令牌 25 美元费用时,据估算,计算成本与标价间毛利率可能高达 90%,比例可能略高或略低(OpenAI 泄露财务数据显示营收毛利率约 60%,但包含技术支持、支付处理等其他成本)。前沿 AI 实验室商业模式是投入大量资金“训练”模型,通过大量高利润“推理”服务分摊成本。若能通过足够多推理服务分摊成本,就能从成本角度实现真正盈利。
GLM 5.2
过去几周,一直在测试 Z.ai 公司的 GLM 5.2 模型。认为它是首个达到与 Opus 和 GPT 真正竞争水平的开源权重模型(撰写本文时,GPT 最新版本是 5.5,未来模型会超越)。它非常出色,很难区分它和日常使用的 Opus 模型。发现它运行“缓慢”,因为要进行大量“思考”。对于非交互式自动化任务(如后台审查代码拉取请求),这不是问题;但对于交互式使用,它太慢,难以保持注意力,也降低了成本效益(思考越多,使用令牌越多,成本增加)。此外,它不支持视觉功能。对视觉功能的态度从最初因准确性差不想使用,到 Opus 4.7 引入高分辨率视觉功能后变得经常使用。无法读取基于图像的 PDF、截图和设计文件,令人沮丧。相信他们在开发多模态功能模型,但与前沿实验室模型相比,这是明显劣势。其次,缺乏或差劲的网络搜索功能成了障碍。几乎每个自动化会话都需大量网络搜索查找信息。Z.ai 提供的替代网络搜索 MCP 效果差、速度慢。Fireworks 根本没提供网络搜索功能,虽表示会改进产品,但认为他们目前没相关计划,拭目以待。通过让代理使用基于命令行界面的网络搜索工具(如 ddgr)部分解决了问题,但这仍是明显弱点。看好第三方网络搜索 API 潜力,这是开源权重模型提供商服务的巨大缺口,强大网络搜索功能对许多自动化任务“必不可少”。不过,随着时间推移,这个问题会解决,因为很多人在构建网络搜索索引,只需建立合适合作关系和技术架构。
无缝替代的潜力
对前沿实验室来说,令人担忧的是迁移到开源权重模型很“容易”。Z.ai 和 Fireworks 都提供与 OpenAI 和 Anthropic 兼容的端点,这让在 Claude Code 和 Codex 中使用这些模型轻而易举。只需将基础 URL 设置为指向推理服务提供商,提供 API 密钥,指定使用 GLM 5.2 即可。鉴于 Anthropic 宣布(随后撤回)对 `claude -p` 非交互式自动化使用收取 API 费用,会发现很多此类使用场景可用 GLM 替代。对于交互式使用,除缺乏视觉功能和速度稍慢外,几乎察觉不到使用的不是 Opus 和 Claude Code。这不像微软或 Salesforce 的锁定模式,无需花费数年规划迁移。切换成本极低,且与跟上前沿实验室模型频繁的政策和条款变更相比,成本更低。虽然 Claude Code 可能增加使用第三方提供商的难度,但市场上有很多优秀开源选项(如 Codex 本身和 OpenCode 等)。企业用户担忧数据隐私和安全问题。使用 Z.ai 的官方 API 和订阅服务几乎不可行,因为其条款薄弱,且与中国大陆有深度关联。但开源权重“开放”,市场上有很多其他提供商,很多有完善合同条款。若还不够,可自行搭建本地部署环境,处理敏感数据,实现与 Opus 质量相当的自动化工作流程。
成本节约
GLM 5.2 现行价格约为每千令牌 4.40 美元,不到 Opus 零售价的 20%,约为 GPT 5.5 成本的 15%。当然,因它完成特定任务时使用更多令牌,这不是完全公平的比较。但相信,对几乎所有工作流程,质量相当的情况下,它的成本至少能降低 50%。在订阅服务方面,Z.ai 提供“编码计划”订阅,类似 Anthropic 和 OpenAI 的计划,但声称有更高使用限制。预计,对大多数专业用户,其在训练和数据保留方面宽松的条款会使该服务难以推广。但如果前沿实验室大幅提高价格,对注重预算的用户来说,这可能是可行选择。预计,未来几个月对服务栈进一步优化,GLM 5.2 的成本会大幅下降。Wafer 介绍了他们在 AMD 硬件上运行该模型的努力,表示在 AMD 硬件上进行推理的成本比英伟达 Blackwell 低 2.75 倍。第二部分将探讨推理利润崩塌对行业的实际影响,以及哪些企业可能会受益或受损。请记住贝索斯那句“你的利润就是我的机会”。若希望文章发布时第一时间收到通知,可订阅时事通讯或获取 RSS 源。披露:Fireworks 为提供免费额度,用于测试 GLM 模型以撰写本文。
