《迈向生产的智能体》开源指南：28个教程助你将AI智能体转化为现实产品！

《迈向生产的智能体》开源指南：涵盖28个生产级教程，助你将AI智能体转化为现实产品！

《迈向生产的智能体》是构建可从原型扩展到企业级应用的生成式AI（GenAI）智能体的首选资源，教程涵盖有状态工作流、向量内存等多方面内容。

来自同一作者的作品

《RAG变得简单》是亚马逊生成式AI类畅销书第一名，介绍22种RAG技术，配有直观解释等。使用Kindle Unlimited可免费阅读，首发价仅0.99美元（价格即将上调）。

28个生产级教程

内容涵盖有状态工作流、向量内存等。

申请AI工程职位

AI优先的公司通过DiamantAI集合体招聘人才。

教程赞助商

为仓库贡献逐步教程的公司，点击徽标可打开教程，用Ctrl - /⌘ - 点击可保持本页面打开，包括智能体框架与工作流、内存与向量数据库等多方面。

通用赞助商

通过合作和资源支持项目的公司，点击徽标可访问其网站，如AI代码审查。

成为赞助商

联系我们：📫

保持更新

加入超50000名AI爱好者行列，获取前沿更新、专家见解等优质内容，订阅者可提前独家访问，还能享受书籍和即将推出课程33%的特别折扣。

加入我们的社区

与GenAI和智能体开发最新动态保持联系，加入r/EducationalAI社区，讨论前沿AI研究等内容。

简介

《迈向生产的智能体》是构建GenAI智能体堆栈各模块的实用指南，知识通过可运行教程传授，涵盖编排、内存等方面，每个教程有独立文件夹，含可直接运行的笔记本或代码文件，能快速将概念转化为可运行智能体。

AI智能体架构

此图展示构建生产级智能体的流程，仓库中的教程会逐步介绍这些组件。

教程

工具集成

• 安全工具调用（Arcade）：让智能体通过OAuth2认证和人工干预的安全控制，安全调用外部工具，学习生产级工具集成。
• 数据处理
  • 面向AI智能体的网络数据收集（Bright Data）：用企业级抓取基础设施构建可大规模收集和处理网络数据的智能体，学习集成代理网络等。
  • 智能体的实时网络数据集成（Tavily）：使智能体访问、搜索和提取实时网络数据，构建结合实时网络信息与私有知识的工作流。
• RAG与知识管理
  • 使用上下文AI构建生产级RAG智能体（Contextual AI）：用Contextual AI的托管平台在15分钟内构建企业级RAG系统，学习文档处理等。
• 内存
  • 智能体内存：双内存与语义搜索（Redis）：为智能体实现双内存、语义搜索和持久状态，使其记住用户偏好并学习。
  • 使用Mem0实现自我改进的内存：混合向量与图存储：构建有自我改进内存的智能体，学习混合内存架构。
  • 使用Cognee实现AI内存：构建从Python创造者那里学习的智能AI内存系统，转化开发数据。
• 部署
  • AWS Bedrock AgentCore：托管智能体部署：在AWS Bedrock AgentCore运行时上部署和管理AI智能体，学习转化为生产级托管服务。
  • 使用Docker容器化智能体：对智能体进行容器化，学习在不同环境运行容器化智能体的基础模式。
  • 使用Ollama进行本地大语言模型部署：在本地运行和交互大语言模型，替代云API实现隐私保护等。
• 多智能体协调
  • 使用A2A协议进行多智能体通信：用开放通信协议模拟协作智能体工作流和消息交换。
• GPU部署
  • 面向AI智能体的可扩展GPU部署（Runpod）：在可扩展的GPU基础设施上部署AI智能体，学习设置经济高效、高性能的环境。
• 安全
  • 全面的智能体安全（LlamaFirewall）：为智能体应用全面的输入、输出和工具安全防护。
  • 实践智能体安全评估（Apex）：进行实践提示注入攻击等自动化安全测试。
• 智能体框架
  • 通过模型上下文协议（MCP）进行工具与API集成：用标准化协议将智能体与外部工具和API集成。
  • 使用LangGraph实现有状态智能体工作流：用有向图架构设计复杂的有状态智能体工作流。
  • 使用FastAPI将智能体部署为API：创建并部署智能体为高性能API，支持同步和流式端点。
  • 使用Koog在Kotlin中构建AI智能体：用JetBrains的Koog框架在Kotlin中构建AI智能体。
• 模型定制
  • 为特定领域专业知识和效率微调AI智能体：学习微调语言模型，实现特定智能体行为等。
• 跟踪与调试
  • 使用LangSmith进行智能体跟踪与调试：为AI系统添加全面的可观测性，捕获跟踪信息等。
• 评估
  • 自动化智能体评估与行为分析（IntellAgent）：自动评估智能体，提高智能体质量。
• UI与前端
  • 使用Streamlit构建聊天机器人UI：构建初学者友好的聊天机器人Web应用。

快速开始

使用实战检验的模式和实现，将AI智能体想法转化为生产就绪的系统。

• 在线浏览：在GitHub上探索教程，学习生产级实现等内容，可按需调整。
• 克隆并构建：下载仓库在本地运行教程，按步骤操作：
  1. 获取代码：

     git clone https://github.com/NirDiamant/agents-towards-production.gitcd agents-towards-production

  2. 安装依赖：导航到目标教程并设置环境：

     # 示例：多工具智能体编排cd tutorials/agentic-applications-by-xpander.aipip install -r meeting-recorder-agent/requirements.txt

  3. 部署并测试：通过首选界面启动教程：

     # 运行交互式笔记本进行实验jupyter notebook tutorial.ipynb# 执行生产脚本进行集成测试python app.py

推荐阅读

包含亚马逊联盟链接，推荐《从头开始构建大语言模型》等多本书籍。

贡献

欢迎贡献支持智能体开发的工具等内容，详情参阅贡献指南。

免责声明

仅供教育使用，作者对使用等情况不承担责任，不认可、验证或保证第三方公司等，用户需自行尽职调查等。

许可证

本项目采用自定义非商业许可证，详情参阅LICENSE文件。

⭐️ 若觉得仓库有帮助，可考虑给它点个星！

关键词：AI智能体、生产部署、大语言模型（LLM）、编排、多智能体系统、内存系统、监控、安全、可观测性、智能体框架、基础设施、无服务器、企业AI、工具集成