法国AI初创公司ZML发布免费推理软件，支持多种AI芯片

英伟达的市场主导地位尚未终结，但来自各方的挑战者和替代选择正在不断涌现。

法国热门AI初创公司ZML获得图灵奖得主杨立昆背书，近日推出了一款推理性能软件，可让多款开源大语言模型在多种芯片上运行，涵盖英伟达、AMD、谷歌TPU、Apple Metal和英特尔Arc。

ZML创始人斯蒂夫·莫兰在接受TechCrunch采访时表示，公司新推出的大语言模型推理服务器ZML/LLMD，旨在打破现有的技术壁垒，让不同芯片以最高可用速度（有时甚至更快）支撑AI应用场景。

莫兰指出，随着AI逐步融入工作与日常生活，推理优化（即处理提示词的过程）的重要性已超越模型训练，但其背后往往存在诸多问题——软件与架构层面的障碍导致厂商锁定现象严重。

在AI成本压力持续上升的背景下，实现多种芯片的最优性能，不仅是技术层面的突破，也可能成为市场格局的颠覆因素。

ZML希望为企业和云服务商提供混合使用多种芯片的选择，其中一些芯片成本更低或能耗更少。"我们的理念是让用户重新掌握构建自身系统的主动权，实现真正的效率提升，让AI得以更广泛地普及，"莫兰说道。

莫兰观察到，这类软件支持有助于新兴AI芯片厂商，尤其是欧洲的一批企业，包括Axelera、Fractile、Kalray、OLIX、Q.ANT、SiPearl、SpiNNcloud和VSORA。不过在他看来，比地域更重要的是，ZML能与这些公司共同探索"全球前所未有的事情"。

这并不意味着莫兰看空英伟达。恰恰相反，部分原因在于英伟达现有的供应能力。他表示ZML与这家AI芯片巨头保持着良好关系，而英伟达也一直在为推理需求的爆发做积极准备。

推理领域的投资热度极高，业界甚至将这一趋势称为"推理淘金热"。因此ZML面临多方竞争，包括近期估值达130亿美元的Baseten、开源项目vLLM创始团队成立的Inferact，以及SGLang背后的商业公司RadixArk。

vLLM和SGLang与LLMD存在一定竞争关系，但莫兰对ZML的期望远不止于此。"我们已经到达参与芯片协同设计的阶段，"他说。他还表示，ZML这支仅有20人的精干团队，正是这家巴黎初创公司能够快速迭代、持续推出新产品的关键所在。

小而精的团队背后，资金实力同样不容小觑。凭借莫兰此前担任Zenly工程副总裁的成功经历——该公司于2017年被Snapchat以九位数价格收购——ZML从多家风险投资机构募得2000万美元，投资方包括哈里·斯特宾斯创立的20VC、>commit、AALVC、Drysdale Ventures、扎维尔·尼尔的Kima Ventures、Kindred Capital、LocalGlobe和Puzzle Ventures。

与ZML于2024年发布、2025年3月更新的首个公开项目（一款以推理为核心的机器学习框架）不同，ZML/LLMD并非开源，但以免费产品形式上线，初期目标是收集用户使用数据。"我宁愿先观察和衡量，再在最有效的地方实现变现，而不是一开始就因为过于贪婪而自断增长之路，"莫兰说。

ZML/LLMD何时转为付费产品、最终市场反响如何，目前尚无定论。但从股东名单来看，已有不少知名创始人给予关注，包括Dagger和Docker创始人所罗门·海克斯、Hugging Face联合创始人克莱门特·德兰格和朱利安·肖蒙，以及如今供职于AMI Labs的杨立昆。这也进一步印证了欧洲AI创业公司完全可以立足本土构建世界级产品的可能性。"ZML只能诞生在巴黎，"莫兰说。

Q&A

Q1：ZML/LLMD是什么？它能解决什么问题？

A：ZML/LLMD是法国AI初创公司ZML推出的大语言模型推理服务器，支持多款开源大语言模型在英伟达、AMD、谷歌TPU、Apple Metal、英特尔Arc等多种芯片上运行。它的核心价值在于打破软件与架构壁垒，消除厂商锁定，让不同芯片以最高可用速度支撑AI推理任务，帮助企业实现混合芯片部署，降低成本和能耗。

Q2：ZML/LLMD是免费的吗？什么时候会收费？

A：目前ZML/LLMD以免费产品形式上线，ZML的目标是先积累用户使用数据，再考虑在最合适的环节实现商业变现。创始人莫兰表示不希望因过早收费而阻碍产品增长。至于何时转为付费模式，目前尚无明确时间表。

Q3：ZML面临哪些主要竞争对手？

A：ZML在推理优化市场面临多方竞争，主要对手包括估值高达130亿美元的Baseten、由开源项目vLLM创始团队成立的Inferact，以及SGLang背后的商业公司RadixArk。不过ZML创始人莫兰表示，公司的目标比单纯的推理服务更为宏大，已延伸至芯片协同设计领域。