【AI】Agent 全栈进阶｜大模型基础与对话调用

上一篇博客我梳理了 Agent 的学习路线，这一章开始动手写代码，先从最基础的环节——调用大模型对话开始。

搞 Agent 绕不开跟大模型打交道，学会用代码跟它对话是第一步

一、什么是大模型

大语言模型（LLM）：基于 Transformer 架构的超大规模神经网络，经海量文本训练，核心能力是预测下一个词。

简单说，你问它“1+1=”，它能根据学到的知识，猜出下一个词是“2”。它并不理解数学运算，只是基于统计概率做出预测。

Transformer 架构：大模型的核心技术，其优势在于：

1. 理解上下文：擅长捕捉句子中的逻辑关系和指代（如“苹果很好吃，它很甜”中的“它”指代苹果）。
2. 并行处理：能同时处理整句话，而非逐词顺序处理，大幅提升了训练和推理速度。

二、调用大模型接口

先从零搭一个 Python 项目，演示从最基础的对话到进阶的多模态交互。

1、准备工作

• Python 环境：建议 3.8 以上版本。
• API Key：调用大模型需要 Key

我用阿里百炼来演示，它是阿里云的大模型服务平台，内置通义千问全系列模型，新用户有免费额度。

1. 去 阿里百炼官网 注册登录。
2. 开通服务后进入 API-KEY 管理页面。
3. 点击创建新的 API-KEY，把生成的 Key 复制下来。

• 安装依赖库：我们用 LangChain 这个框架来调用模型。

LangChain 框架：一个用于开发大模型应用的开源框架，把大模型、提示词、工具、记忆等组件封装成统一接口，可以像搭积木一样组合出 AI 应用，它的优势如下

1. 屏蔽底层差异：各模型厂商的 API 各不相同，LangChain 提供统一封装，换模型只需改个配置，不用重写业务代码。
2. 生态完整：工具调用、RAG、Agent、记忆等组件开箱即用，后续进阶不用重复造轮子。
3. 社区主流：目前最主流的 LLM 应用框架之一，遇到问题容易找到解决方案。

pipinstalllangchain langchain-openai python-dotenv

2、简单的对话

先来个最简单的：问大模型“毛利率怎么算”。

• Step 1：创建一个.env文件，存放我们的 API Key。这样代码里就不用直接写密钥了，比较安全。

# 阿里百炼 API 配置 API_KEY=sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx # 阿里百炼 API 地址（OpenAI 兼容接口） BASE_URL=https://dashscope.aliyuncs.com/compatible-mode/v1

• Step 2：编写basic_chat.py脚本。

fromdotenvimportload_dotenvimportosfromlangchain_openaiimportChatOpenAI# 加载环境变量，从 .env 文件读取配置load_dotenv()# 1. 初始化大模型# 指定模型名称和 API 信息，这里用 qwen3.7-max 模型llm=ChatOpenAI(model="qwen3.7-max",api_key=os.getenv("API_KEY"),base_url=os.getenv("BASE_URL"))# 2. 准备要问的问题# messages 是一个列表，里面放对话历史。这里只有一轮对话，角色是 usermessages=[{"role":"user","content":"毛利率怎么算？"}]# 3. 发送请求，获取回答# invoke 方法会等待模型生成完整的回答response=llm.invoke(messages)# 4. 打印结果# response.content 就是大模型返回的文本print("大模型回答：",response.content)

• 运行一下：执行python basic_chat.py，你就能看到大模型的回答了。

3、让大模型扮演角色

刚才的对话里，大模型是个百科全书，但很多时候，我们希望它能扮演特定角色，比如客服、作家，工程师。这就需要用到系统提示词（System Prompt）。

让我们来让大模型扮演一下“勇哥”，360度转一圈

• 编写role_play_chat.py：

fromdotenvimportload_dotenvimportosfromlangchain_openaiimportChatOpenAI load_dotenv()# 初始化大模型llm=ChatOpenAI(model="qwen3.7-max",api_key=os.getenv("API_KEY"),base_url=os.getenv("BASE_URL"))# 1. 定义系统提示词# 这是角色扮演的关键，用一段话告诉模型它应该是谁、怎么说话system_prompt=""" 你现在扮演抖音"勇哥餐饮创业说"的勇哥。 【说话风格】 - 直接、不留情面，说话干脆犀利、一针见血 - 口头禅："我滴妈"、"别干了"、"穷人的钱好骗，但不好赚" - 结论斩钉截铁，不模棱两可 【核心价值观】 - 90%的餐饮项目注定失败，止损比盈利更重要 - 永远先算账，用数据说话 """# 2. 构造对话# 注意：messages 列表的第一条通常是 system，用来设定全局规则messages=[{"role":"system","content":system_prompt},{"role":"user","content":"勇哥，我想加盟哪吒仙饮奶茶店，靠谱不？"}]# 3. 流式调用，一边生成一边打印print("勇哥附体：")forchunkinllm.stream(messages):print(chunk.content,end="",flush=True)

• 运行一下：你会发现大模型的回答风格瞬间变了，可能会蹦出一句：“我滴妈！你加盟奶茶店？之前看过我视频吗？”

4、让大模型识别图片

现在的大模型已经能处理图片了，这叫多模态（Multimodal）能力。我们可以让它看一张图，然后描述内容。

• 编写multimodal_chat.py：

fromdotenvimportload_dotenvimportosfromlangchain_openaiimportChatOpenAIfromlangchain_core.messagesimportHumanMessage load_dotenv()# 初始化支持视觉的模型，qwen3.7-max 不支持图片输入，这里用 qwen3.7-plusllm=ChatOpenAI(model="qwen3.7-plus",api_key=os.getenv("API_KEY"),base_url=os.getenv("BASE_URL"))# 1. 构造包含图片的消息# HumanMessage 可以包含多种内容：文本、图片等message=HumanMessage([{"type":"text","text":"描述一下这张图片"},{"type":"image_url","image_url":{"url":"https://help-static-aliyun-doc.aliyuncs.com/file-manage-files/zh-CN/20241022/emyrja/dog_and_girl.jpeg"}}])# 2. 流式调用，一边生成一边打印，体验更好# stream 方法返回一个迭代器forchunkinllm.stream([message]):# flush=True 让内容立即显示，不要等缓冲print(chunk.content,end="",flush=True)

• 运行一下：执行脚本，你就能看到大模型对图片的描述。也可以换成自己的图片 URL 试试。

5、让大模型记住上文

前面几段都是一问一答，模型答完就结束了。但真实对话是连续的，比如你问完毛利率怎么算，紧接着问那净利率呢，模型得知道你在接着上文聊，不然它不知道你在说什么。

大模型本身没有记忆，它的上下文全靠 messages 列表来维持。多轮对话的关键就一步：每次拿到回答后，把它以 assistant 角色追加回 messages，这样下一轮提问时模型就能看到完整的历史。

• 编写multi_turn_chat.py：

fromdotenvimportload_dotenvimportosfromlangchain_openaiimportChatOpenAI load_dotenv()llm=ChatOpenAI(model="qwen3.7-max",api_key=os.getenv("API_KEY"),base_url=os.getenv("BASE_URL"))# 1. 初始化对话历史messages=[{"role":"user","content":"毛利率怎么算？"}]# 2. 第一轮对话（流式输出，同时把回答攒下来）print("第一轮回答：")reply=""forchunkinllm.stream(messages):print(chunk.content,end="",flush=True)reply+=chunk.contentprint()# 3. 把模型回答追加回 messages，角色是 assistant# 这步是多轮对话的关键，不塞回去下一轮模型就看不到上文messages.append({"role":"assistant","content":reply})# 4. 追问，这个问题依赖上文messages.append({"role":"user","content":"那净利率呢？和它有什么区别？"})print("\n第二轮回答：")forchunkinllm.stream(messages):print(chunk.content,end="",flush=True)

• 运行一下：第一轮模型解释毛利率，第二轮它能直接对比净利率和毛利率的区别，不用你再重复一遍背景。

不过 messages 会越攒越长，迟早撑爆模型的上下文窗口。怎么压缩、怎么取舍，就是后面记忆机制要解决的问题，这里先不展开。

三、总结

今天我们搞定了调用大模型的四件事：

1. 基础对话：实现了最简单的一问一答。
2. 角色设定：学会了用 System Prompt 控制模型的人设。
3. 多模态交互：尝试了让模型处理图片。
4. 多轮对话：学会了用 messages 列表管理对话历史，让模型接得住上下文。

下一步，我们将进入更核心的环节——Function Calling，让大模型从只会说变成能做。

四、LuckReport 项目推荐

导航：LuckReport专栏

1、项目简介

Luck-Report 是一款基于开源项目 UReport2 重构的 Java 高性能报表引擎，通过迭代单元格可以实现任意复杂的中国式报表。相较于 UReport2，在技术架构上进行了全新升级，后端基于 SpringBoot 框架开发、前端采用 Vue 框架构建，技术选型贴合当下主流项目开发标准，可精准适配各类实际开发需求。

Luck-Report 提供了全新的基于网页的报表设计器，可以在 Chrome、Firefox、Edge 等各种主流浏览器运行（IE 浏览器除外）。使用 Luck-Report，打开浏览器即可完成各种复杂报表的设计制作。

Luck-Report 基于 Apache-2.0 开源协议开源

2、在线体验

• 体验地址：https://www.quzhe.top/luck-report/report/designer
• 源码地址：https://gitee.com/LuckyPools/luck-report
• 文档地址：https://www.quzhe.top/luck-report-blog/report