当前位置：首页 > news >正文

大模型应用从Demo到生产：权限日志才是职业护城河

news 2026/8/1 21:19:43

聊《程序员职业规划为什么越规划越焦虑？问题可能不在路线》之前，先说一句实在的：别急着背概念，先看它在真实项目里到底解决什么问题。

摘要

最近接触了几个准备转大模型方向的程序员，大家普遍有一个困惑：Demo跑通了，项目能演示了，但面试时总被问"生产环境怎么处理"。这个问题问住的人不少。今天不聊虚的，就拿我自己踩过的坑，说说从Demo到生产的真实差距在哪里，以及怎么补。

---

一、岗位趋势：谁在抢着要人

先说一个观察。过去一年我面过不少候选人，也带过团队招人。我发现一个规律：会调API、能跑通Demo的人一抓一把，但能把Agent接进真实业务场景的人，很少。

这不是因为技术难，而是因为大多数人的学习路径停在了"跑通"这一步。

看看招聘需求的变化。现在Agent工程师、AI应用工程师的JD里，"权限管理"、"日志追踪"、"可观测性"出现的频率越来越高。有些团队甚至把"能否处理生产级权限问题"作为硬门槛。

这说明什么？市场不缺会写Prompt的人，缺的是能把Demo变成可维护系统的人。

---

二、能力分层：你现在在哪一层

我见过很多人学大模型，路径是这样的：

第一层：调API，写个聊天机器人，跑通Hello World。

第二层：用LangChain或LlamaIndex搭个RAG，能回答问题了，开始做Demo。

第三层：接进业务系统，开始遇到权限、日志、异常处理的问题。

大多数人的学习，停在了第二层。

问题出在哪？不是学不到第三层，而是没人告诉他们第三层需要什么。

我总结了一个能力分层模型，大家可以对号入座：

调用层：会用API，能写基础Prompt
框架层：会用LangChain/LlamaIndex，能搭RAG
工程层：能处理权限、日志、异常、回滚
架构层：能设计多Agent协作、任务调度、可观测体系

大多数人卡在第二层到第三层之间。这不是技术问题，是认知问题——他们不知道生产环境需要什么。

---

三、短期计划：先补一个能跑的Demo

别急着学框架，先写一个能跑的东西。

我推荐从一个小Agent开始，比如一个"代码审查助手"。它能读取代码文件，给出修改建议。

from langchain.agents import create_openai_functions_agent, AgentExecutor from langchain.tools import Tool from langchain.chat_models import ChatOpenAI # 基础工具：读取文件 def read_file(path: str) -> str: with open(path, 'r', encoding='utf-8') as f: return f.read() # 构建工具列表 tools = [ Tool( name="read_file", func=read_file, description="读取指定路径的文件内容" ) ] # 初始化模型和Agent llm = ChatOpenAI(model="gpt-4", temperature=0) agent = create_openai_functions_agent(llm, tools, prompt) executor = AgentExecutor(agent=agent, tools=tools, verbose=True) # 运行 result = executor.run("请检查 /src/main.py 的代码质量") print(result)

这段代码能跑，能出结果。但如果你拿着它去面试，问"生产环境怎么用"，你大概率答不上来。

问题在哪？三个地方：

1. 没有权限控制。这个Agent能读取任何路径的文件，包括/etc/passwd。
2. 没有日志。出了问题你不知道发生了什么。
3. 没有异常处理。文件不存在、路径错误，直接崩。

---

四、中期沉淀：从Demo到可维护项目

这才是关键。我见过太多人Demo写得飞起，一上生产就翻车。

翻车的原因，我总结就两个词：权限和日志。

权限隔离

Demo里，Agent能读任何文件。生产环境，你只能让它读它该读的东西。

import os from pathlib import Path class PermissionChecker: def __init__(self, allowed_dirs: list[str]): self.allowed_dirs = [Path(d).resolve() for d in allowed_dirs] def check(self, path: str) -> bool: file_path = Path(path).resolve() return any(file_path.is_relative_to(d) for d in self.allowed_dirs) # 使用 permission = PermissionChecker(["/project/src", "/project/config"]) def safe_read_file(path: str) -> str: if not permission.check(path): raise PermissionError(f"无权限访问: {path}") with open(path, 'r', encoding='utf-8') as f: return f.read()

这段代码很短，但价值很大。它告诉你：生产环境的Agent，第一件事不是加功能，是加限制。

日志追踪

Demo里，你看到输出就完事了。生产环境，你需要知道：

这个请求是谁发的
调用了什么工具
花了多长时间
有没有异常

import logging from datetime import datetime logging.basicConfig( level=logging.INFO, format='%(asctime)s - %(name)s - %(levelname)s - %(message)s' ) logger = logging.getLogger("agent_executor") def tracked_run(user_id: str, query: str) -> str: logger.info(f"用户 {user_id} 发起请求: {query}") start_time = datetime.now() try: result = executor.run(query) elapsed = (datetime.now() - start_time).total_seconds() logger.info(f"请求完成，耗时 {elapsed:.2f}s") return result except Exception as e: logger.error(f"请求异常: {e}", exc_info=True) raise

日志不是越多越好，而是关键路径要有。用户ID、请求内容、耗时、异常，这四个信息够了。

---