LinkedIn AI平台规模化实践，从工具到治理执行环境的跨越
inkedIn的方法将人类意图与机器执行分离，使用结构化规范而非自由形式的提示词。这些规范定义了应该发生什么、可以使用哪些工具、如何评估成功，以及明确禁止哪些操作，从而减少模糊性，避免Agent行为不一致或不安全。
在2025年QCon AI纽约大会上，LinkedIn的工程师Prince Valluri和Karthik Ramgopal分享了公司如何构建内部平台以支持大规模AI Agent的实践经验。
这场演讲的核心观点是：AI Agent不应被视为孤立工具，而应作为受治理执行环境中的参与者，这种设计理念特别适合大型、长期运行的工程组织。
核心挑战：执行而非智能
演讲者将核心挑战定位为执行问题而非智能问题。
LinkedIn的方法将人类意图与机器执行分离，使用结构化规范而非自由形式的提示词。
这些规范定义了应该发生什么、可以使用哪些工具、如何评估成功，以及明确禁止哪些操作，从而减少模糊性，避免Agent行为不一致或不安全。
"规范是我们将开发者意图转化为Agent可以可靠执行内容的方式。"—— Prince Valluri
编排层：端到端执行管理
系统的核心组件是一个编排层，负责端到端管理Agent执行。
与将Agent作为单次交互运行不同，编排器将工作分解为步骤、配置隔离沙箱、注入作用域上下文、调用工具，并记录每个操作的详细跟踪。
演讲强调，编排使原本概率性系统具有确定性和可重复性。
通过标准化工具调用方式和故障处理方式，LinkedIn避免了各团队中定制化、脆弱的Agent实现激增。这种共享执行模型还使Agent具有可观察性和互操作性，允许平台团队集中演进能力，而产品团队则从复用中受益。
自主权与权限的平衡
另一个重要主题是自主权与权限的区别。Agent被允许在有界环境中自由行动，例如读取和修改代码。
但具有不可逆后果的操作，包括部署或合并到主分支，仍然由人类把关。根据演讲者的说法，这种设计在保持人类问责制的同时，允许Agent在没有持续监督的情况下取得有意义的进展。
人类参与被整合到系统中，作为明确的检查点而非持续监督。
Agent可以在需要批准或决策时暂停执行，在提供输入后恢复，并随着时间的推移从结果中学习。来自审查、失败和先前执行的反馈被捕获为机构记忆，并作为未来任务的上下文重新引入。
演讲者认为，许多Agent失败源于缺失或过时的上下文，这使得上下文工程成为比模型选择更关键的投资。
"我们需要一个统一的开放式平台，让团队专注于他们的领域问题，而我们专注于系统和基础设施问题。"—— Karthik Ramgopal
模型选择：优先考虑商业方案
演讲还讨论了模型选择问题，警告不要默认使用定制训练模型。
演讲者建议首先确定是否需要推理能力，如果需要，当与检索和上下文增强相结合时，商业托管模型是否能够满足质量、规模和延迟需求。
由于运营开销，定制模型和微调被作为最后的选择。
生产实践案例
演讲中讨论了基于此平台构建的几个生产Agent，包括异步将规范转换为拉取请求的后台编码Agent，以及使工程师和业务用户能够查询数据并生成分析而无需数据科学家直接参与的分析Agent。
inkedIn的方法将人类意图与机器执行分离，使用结构化规范而非自由形式的提示词。这些规范定义了应该发生什么、可以使用哪些工具、如何评估成功，以及明确禁止哪些操作，从而减少模糊性，避免Agent行为不一致或不安全。
在2025年QCon AI纽约大会上，LinkedIn的工程师Prince Valluri和Karthik Ramgopal分享了公司如何构建内部平台以支持大规模AI Agent的实践经验。
这场演讲的核心观点是：AI Agent不应被视为孤立工具，而应作为受治理执行环境中的参与者，这种设计理念特别适合大型、长期运行的工程组织。
核心挑战：执行而非智能
演讲者将核心挑战定位为执行问题而非智能问题。
LinkedIn的方法将人类意图与机器执行分离，使用结构化规范而非自由形式的提示词。
这些规范定义了应该发生什么、可以使用哪些工具、如何评估成功，以及明确禁止哪些操作，从而减少模糊性，避免Agent行为不一致或不安全。
"规范是我们将开发者意图转化为Agent可以可靠执行内容的方式。"—— Prince Valluri
编排层：端到端执行管理
系统的核心组件是一个编排层，负责端到端管理Agent执行。
与将Agent作为单次交互运行不同，编排器将工作分解为步骤、配置隔离沙箱、注入作用域上下文、调用工具，并记录每个操作的详细跟踪。
演讲强调，编排使原本概率性系统具有确定性和可重复性。
通过标准化工具调用方式和故障处理方式，LinkedIn避免了各团队中定制化、脆弱的Agent实现激增。这种共享执行模型还使Agent具有可观察性和互操作性，允许平台团队集中演进能力，而产品团队则从复用中受益。
自主权与权限的平衡
另一个重要主题是自主权与权限的区别。Agent被允许在有界环境中自由行动，例如读取和修改代码。
但具有不可逆后果的操作，包括部署或合并到主分支，仍然由人类把关。根据演讲者的说法，这种设计在保持人类问责制的同时，允许Agent在没有持续监督的情况下取得有意义的进展。
人类参与被整合到系统中，作为明确的检查点而非持续监督。
Agent可以在需要批准或决策时暂停执行，在提供输入后恢复，并随着时间的推移从结果中学习。来自审查、失败和先前执行的反馈被捕获为机构记忆，并作为未来任务的上下文重新引入。
演讲者认为，许多Agent失败源于缺失或过时的上下文，这使得上下文工程成为比模型选择更关键的投资。
"我们需要一个统一的开放式平台，让团队专注于他们的领域问题，而我们专注于系统和基础设施问题。"—— Karthik Ramgopal
模型选择：优先考虑商业方案
演讲还讨论了模型选择问题，警告不要默认使用定制训练模型。
演讲者建议首先确定是否需要推理能力，如果需要，当与检索和上下文增强相结合时，商业托管模型是否能够满足质量、规模和延迟需求。
由于运营开销，定制模型和微调被作为最后的选择。
生产实践案例
演讲中讨论了基于此平台构建的几个生产Agent，包括异步将规范转换为拉取请求的后台编码Agent，以及使工程师和业务用户能够查询数据并生成分析而无需数据科学家直接参与的分析Agent。
如果你想更深入地学习大模型，以下是一些非常有价值的学习资源，这些资源将帮助你从不同角度学习大模型，提升你的实践能力。
一、全套AGI大模型学习路线
AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！
因篇幅有限，仅展示部分资料，需要点击文章最下方名片即可前往获取
二、640套AI大模型报告合集
这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示
因篇幅有限，仅展示部分资料，需要点击文章最下方名片即可前往获取
三、AI大模型经典PDF籍
随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。
因篇幅有限，仅展示部分资料，需要点击文章最下方名片即可前往获取
四、AI大模型商业化落地方案
作为普通人，入局大模型时代需要持续学习和实践，不断提高自己的技能和认知水平，同时也需要有责任感和伦理意识，为人工智能的健康发展贡献力量