当前位置：首页 > news >正文

转大模型后，我为什么把权限和日志写得比 Prompt 还仔细

news 2026/7/31 18:55:54

聊《同样转大模型，Java背景的优势和短板分别是什么？》之前，先说一句实在的：别急着背概念，先看它在真实项目里到底解决什么问题。

摘要

摘要：从 Java 后端到大模型应用开发，最大的坑不是 Prompt 调优，而是生产环境中的权限边界与可观测性。本文基于一次真实需求评审，讲述如何在 Agent 项目中守住工程底线，而不是只跑 Demo。

---

需求评审：第一个问题不是“能跑通吗”，是“谁有权限调用？”
Java 开发者的优势：不是你会写 Prompt，是你懂“边界”
需要补齐的 AI 技能：不是要你会调参，是你要知道“模型会出错”
Spring AI 与 LangChain4j：选框架，不如选“可控性”
项目练习：别只做“能跑”，要写“能扛”
面试准备：面试官最关心的是“你敢不敢上线”
总结：别卷 Prompt，要卷工程

需求评审：第一个问题不是“能跑通吗”，是“谁有权限调用？”

上周参与一个 Agent 项目的需求评审，团队兴奋地把 Prompt 调到了 95 分，接口响应也压到了 200ms。但架构师直接问了三个问题：

这个 Agent 能调用内部数据库吗？谁授权？
如果它误删了一条订单，日志里能定位到是哪个 Agent、哪段 Prompt、哪个用户触发的？
如果模型输出了敏感词，系统有没有拦截和审计机制？

当时我心头一紧——这不像是在聊 AI，像是在聊银行系统。

我意识到，从 Java 后端转大模型开发，最大的落差不在模型能力，而在工程化思维。我们习惯了写 REST 接口、加限流、配熔断，但在 Agent 开发中，权限边界和日志可观测往往被忽视，直到上线踩坑。

---

Java 开发者的优势：不是你会写 Prompt，是你懂“边界”

很多人觉得转大模型要重学 Python、Transformer、注意力机制。其实不是。Java 后端最大的优势是对系统边界的敏感度。

你会设计接口契约，知道输入输出要校验；
你会考虑异常处理，知道要 fallback；
你知道谁该访问什么资源，知道要加权限校验；
你知道日志要结构化，知道要关联 Trace ID。

这些能力在 Agent 开发中同样关键。比如，一个 Agent 要调用支付接口，你不能让它“自由发挥”，而应该：

public class PaymentAgent { private final PermissionChecker permissionChecker; private final Logger auditLogger; public void execute(User user, String command) { if (!permissionChecker.canExecute(user, "PAYMENT")) { throw new SecurityException("用户无权限执行支付操作"); } auditLogger.log(user.getId(), "PAYMENT_TRIGGER", command); try { // 调用模型生成指令 String prompt = buildPrompt(command); String response = model.generate(prompt); // 严格校验输出 if (!isValidResponse(response)) { throw new ValidationException("模型输出不符合预期"); } // 执行实际支付 paymentService.process(response); auditLogger.log(user.getId(), "PAYMENT_SUCCESS", response); } catch (Exception e) { auditLogger.log(user.getId(), "PAYMENT_FAILED", e.getMessage()); throw e; } } }

这段代码没有一句关于“大模型”的炫技，但它在做权限、日志、异常、校验——这正是 Java 工程师最擅长的。

---