后端工程师做 Agent,要跨过这 9 道认知坎
1 接受系统不再每次走同一条路
后端工程师很习惯一件事,相同输入,应该得到相同输出。
可 Agent 面对的是自然语言和开放任务。同一句话换个上下文,它可能选择不同工具,也可能走出不同执行路径。
刚开始接触时,这种感觉真的很难受。第一反应往往是增加规则,把所有路径重新固定下来。
但 Agent 工程要追求的,不是每一次路径都完全相同,而是不同路径都不越过边界,并且大概率抵达正确结果。
落到工程上,就是提前设置权限、预算、超时、停止条件和人工接管点,再通过评测盯住结果。
管理不确定性,不是消灭它。
2 不再替 Agent 写完每一步
传统后端拿到需求,习惯把它拆成一条完整流程。
第一步做什么,第二步调用谁,失败走哪个分支,全部提前写清楚。
做 Agent 时,如果还是这样拆,最后很容易得到一个自然语言包装的工作流。
更合适的设计方式,是告诉 Agent 目标是什么,它能看到哪些信息,可以使用哪些工具,什么情况算完成,哪些事情绝对不能做。
给它地图,不替它走路。
我的判断标准很简单。如果一个环节没有任何判断空间,就放进代码。如果下一步会随着用户意图和环境变化,就考虑留给 Agent。
3 接口成功,不等于事情办成
后端系统很容易判断一次调用是否成功。
状态码对了,数据写进去了,消息发出去了,这次请求就算结束。
但在 Agent 系统里,所有接口都可能成功,用户的事情却没有办成。
邮件发送成功了,但收件人错了。资料搜索完成了,但回答漏掉了最重要的限制条件。工单创建成功了,但用户真正想要的是退款。
所以测试 Agent,不能只测试工具有没有调用成功,还要检查用户任务有没有真正完成。
过去测试逻辑,现在还要测试行为。
4 Agent 最危险的失败,往往没有报错
传统系统的失败很显眼。
超时、异常、数据库写入失败,我们可以捕获,可以报警,也可以重试。
Agent 的很多失败却会正常返回。
它可能理解错了,选错了工具,漏做了一步,甚至沿着错误方向非常顺畅地把整件事做完。
这种失败,靠try catch抓不到。
我们需要给关键步骤增加验证,给高风险动作增加审批,证据不足时允许它停下来,任务完成前再检查一次结果。
Agent 工程不只是处理报错,还要让那些没有报错的错误,也能被看见、停住和恢复。
5 工具不只要能调用,还要让模型看懂
过去设计 API,只要名称、参数和返回值对程序员足够清楚,基本就可以了。
但 Agent 的工具,还有一个新的使用者,模型。
一个叫searchData的接口,在代码里没有问题。可模型不知道该什么时候用,也不知道它查的是客户、订单还是知识库。
如果改成「查询客户近 30 天订单」,再写清适用场景、参数含义、返回内容和失败后的处理方式,模型选对工具的概率会高很多。
有时候 Agent 看起来很笨,不一定是模型不够强,也可能是我们给它的工具太难懂。
API 给程序用,工具还要给模型读。
6 Hook 应该管底线,不应该接管思考
我越来越喜欢一种分工。
权限、事务、幂等和数据一致性,交给代码。
预算、审批、超时和危险动作,交给 Hook。
领域经验、工作方法和检查清单,放进 Skill。
意图理解、任务规划和动态调整,留给 Agent。
这几层不是互相替代,而是各自负责自己最擅长的部分。
Hook 是护栏,不是轨道。
护栏守住不能越过的地方。轨道却会规定 Agent 每一步只能怎么走。一旦护栏被修成轨道,Agent 的智能也就没有多少空间了。
7 出问题时,别只盯着代码
传统系统出了 Bug,我们习惯沿着调用链找代码。
Agent 出了问题,还要多问几句。
它当时看到了什么上下文,检索到了哪些资料,加载了哪个 Skill,工具描述是什么,为什么判断任务已经完成。
同一段代码,只要模型版本、Prompt、上下文或者工具返回发生变化,行为就可能完全不同。
所以 Agent 的可观测性,不能只有错误日志和耗时。还需要保留它看到了什么、做了什么,以及为什么做出这个选择。
查 Agent 的 Bug,其实是在还原它当时看到的世界。
8 Agent 上线,才是调教的开始
传统功能上线以后,只要没有 Bug,可能很长时间不用调整。
Agent 不太一样。
用户会不断发明新的说法,业务知识会变化,工具会增加,模型升级以后,过去表现很好的问题也可能突然退化。
所以 Agent 上线以后,要持续收集真实问题,整理 Bad Case,把典型失败放进评测集,再去调整 Skill、工具和上下文。
每次修改以后,还要重新跑一遍旧问题。
这件事有点像带一个新人。不是培训一次就结束,而是在真实工作里不断反馈,让它慢慢形成稳定能力。
Agent 不是交付一次,是持续养能力。
9 别先问模型能做什么,先问用户要办成什么
做 Agent 时,我们很容易从技术能力出发。
这个模型会总结,会写 SQL,会调用工具,还能自己规划任务。听起来每一项都很厉害。
可用户真正关心的,通常不是这些。
他想处理完一次投诉,完成一笔退款,拿到一份可信报表,或者把一个来回协调半天的流程真正推进下去。
如果 Agent 只帮用户完成其中一步,剩下的还要人来回搬运,它可能只是一个更聪明的功能,并没有真正成为 Agent。
模型能力是零件,用户任务才是要交付的东西。
最后
对于正在迷茫择业、想转行提升,或是刚入门的程序员、编程小白来说,有一个问题几乎人人都在问:未来10年,什么领域的职业发展潜力最大?
答案只有一个:人工智能(尤其是大模型方向)
当下,人工智能行业正处于爆发式增长期,其中大模型相关岗位更是供不应求,薪资待遇直接拉满——字节跳动作为AI领域的头部玩家,给硕士毕业的优质AI人才(含大模型相关方向)开出的月基础工资高达5万—6万元;即便是非“人才计划”的普通应聘者,月基础工资也能稳定在4万元左右。
再看阿里、腾讯两大互联网大厂,非“人才计划”的AI相关岗位应聘者,月基础工资也约有3万元,远超其他行业同资历岗位的薪资水平,对于程序员、小白来说,无疑是绝佳的转型和提升赛道。
如果你还不知道从何开始,我自己整理一套全网最全最细的大模型零基础教程,我也是一路自学走过来的,很清楚小白前期学习的痛楚,你要是没有方向还没有好的资源,根本学不到东西!
下面是我整理的大模型学习资源,希望能帮到你。
👇👇扫码免费领取全部内容👇👇
最后
1、大模型学习路线
2、从0到进阶大模型学习视频教程
从入门到进阶这里都有,跟着老师学习事半功倍。
3、 入门必看大模型学习书籍&文档.pdf(书面上的技术书籍确实太多了,这些是我精选出来的,还有很多不在图里)
4、AI大模型最新行业报告
2026最新行业报告,针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估,以了解哪些行业更适合引入大模型的技术和应用,以及在哪些方面可以发挥大模型的优势。
5、面试试题/经验
【大厂 AI 岗位面经分享(107 道)】
【AI 大模型面试真题(102 道)】
【LLMs 面试真题(97 道)】
6、大模型项目实战&配套源码
适用人群
四阶段学习规划(共90天,可落地执行)
第一阶段(10天):初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么?
- 大模型是怎样获得「智能」的?
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例:向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段(30天):高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示(Embeddings)
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段(30天):模型训练
恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。
到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2:手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段(20天):商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。
硬件选型
带你了解全球大模型
使用国产大模型服务
搭建 OpenAI 代理
热身:基于阿里云 PAI 部署 Stable Diffusion
在本地计算机运行大模型
大模型的私有化部署
基于 vLLM 部署大模型
案例:如何优雅地在阿里云私有部署开源大模型
部署一套开源 LLM 项目
内容安全
互联网信息服务算法备案
…
👇👇扫码免费领取全部内容👇👇
3、这些资料真的有用吗?
这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理,现任上海殷泊信息科技CEO,其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证,服务航天科工、国家电网等1000+企业,以第一作者在IEEE Transactions发表论文50+篇,获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。
资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的技术人员,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
