Agent设计模式与工程化

本文主体是吕昭波老师在datawhale的宣讲。

辅以一些本人的看法，希望各位大佬一起交流指正。

标准化之后才能规模化

提炼自己的知识框架、利用好自己作为用户的差异点

案例：智能客服

需要数据RAG、LLM、工具插入MCP、ECS或GPU资源

安全性、治理、可观测性、如何基于私有化Coze/Dify开发？

对问题提炼模版化的解决方案从而实现标准化的工程化

1. 三大核心能力

1. 规划 - 循环

重复性工作

1. 工具使用 - 向外拓展

写代码等等

1. 向量数据库 - 纵向知识挖掘

数据分析

根据需求提炼模版，从而进行组织

2. 六个资源纬度

1. 数据

• 知识库获取
• 数据调优 - 数据清洗、数据补充增强
• 数据质量评估
• 数据使用

1. 模型

• 模型选型
• 模型精调
• 模型评估
• 数据使用

1. 工具

MCP

插件

API

1. 算力

云端：aliyun等等

本地：GPU

1. 场景

AI插入到应用中

1. 提示词、上下文

3. 六个架构维度

更可控、可解释的卓越架构，从而可优化

1. 开发

2. 评估

API高可用

LLM Gateway

插件高可用

基础设施高可用

数据高可靠

1. 部署

平台底座：本地环境、SaaS

应用交互：Copilot、嵌入到现有业务流

1. 安全

生成内容安全检测

网络安全

使用权限隔离

算法备案

小程序，网站备案

1. 观测

2. 治理

4. 思维升级

通过架构画布进阶 Agentic 架构师

去找可复用的模版

那么面对需求就可以像编排工作流一样将复用模块进行串联

可以挑选三个不同的案例找共同点，那么就能跳出简单的工作流、agent的限制

QA

1. Q: 数据质量

   A: 从认知上对其企业内部，技术上逐步迭代例如通过试点

2. Q: 定制化能力，是不是基本通过修改 prompt 实现？

   A: 从场景、应用方式考虑

3. Q: 怎么控制AI思考，防止幻觉

   A: 通过多Agent进行监督