宏观认识大模型

一、认识模型

模型的特点：

1.特定任务：一个模型通常只擅长一件事（如：一个模型专门识别图片内容是否为猪，一个模型专门用于预测明日天气）

2.需要“标注数据”：训练这种模型需要大量“标准答案”（如模型识别图片内容前需要成千上万张已经标注好”是猪“或者”不是猪“的图片）

3.参数较少：参数是模型从数据中学到的“知识要点“或”内部规则“，参数较少说明模型的复杂度和能力相对有限

二、认识大语言模型（LLM）

大语言模型（LLM）：基于大规模神经网络（参数通常达数十亿至万亿级别，例如GPT-3包含1750亿参数），通过自监督或半监督方式，对海量文本进行训练的语言模型。

1.主流的大语言模型

‑ GPT‑5（OpenAI）：支持 400K 背景信息长度，128k 最大输出标记，在多轮复杂推理、创意写作中表现突出

‑ DeepSeek R1（深度求索）：开源，专注于逻辑推理与数学求解，支持 128K 长上下文和多语言（20 + 语言），科技领域表现突出

‑ Qwen2‑7.2B‑28‑Instruct（阿里通义千问）：通义千问开源模型家族重要成员，擅长代码生成结构化数据（如 JSON）处理角色扮演对话等，尤其适合企业级复杂任务，支持包括中英文法语等 29 种语言

‑ Gemini 2.5 Pro（Google）：多模态融合标杆，支持图像 / 代码 / 文本混合输入，适合跨模态任务（如图文生成、技术文档解析）

其他参考： Huggingface LLM 性能排行榜：https://huggingface.co/spaces/AritificialAnalysis/LLM‑Performance‑Leaderboard

2.LLM的能力包括哪些

2.1基础基础能力段（入门级，所有主流 LLM 标配）

1. 自然语言常规处理

   • 多语种翻译、日常文本润色、错别字修正、句式改写、段落摘要、长短文的概括与扩写；适配中英在内几十种语种（参考 Qwen 支持 29 种语言的特性）

   • 常规问答，解答通识科普、生活常识、基础文史类问题

2. 简单格式输出

   • 输出 Markdown、普通 JSON、列表、表格等基础结构化内容，完成简单文案撰写，如邮件、通知、普通文案、日常角色扮演对话

3. 基础上下文记忆

   • 短轮次对话记住前文上下文，承接用户多轮日常提问，常规上下文窗口大多起步就能达到几十 K token

2.2进阶通用能力段（主流开源 / 商用成熟 LLM 普遍具备）

1. 长上下文深度理解

   • 依托上百 K 级别上下文窗口（GPT-5 可达 400K、DeepSeek/Qwen 支持 128K 上下文），阅读整本书、超长合同、完整项目文档、长篇代码库，做全局分析、细节溯源

2. 代码工程能力

   • 编写多编程语言代码、排查 bug、解读开源项目、生成结构化 JSON 配置，适配后端、脚本、前端各类开发场景，适配企业常规开发任务

3. 中等难度逻辑推理

   • 完成初高中数学题、常规逻辑谜题、条件推理、业务方案推演；DeepSeek R1 在数理推理方向这一块表现尤其突出

4. 常规多模态基础（以 Gemini 2.5 Pro 为代表）

   • 接收图片、截图、简单手绘图表，识别图中文字、流程图、表格，结合文本进行问答

2.3高阶硬核能力段（头部旗舰模型专属）

1. 高强度复杂推理

   • 解决竞赛级数学、复杂算法推导、严谨数理证明、多层嵌套的业务逻辑推演，内置专门推理耗时（排行榜表格中单独统计了 reasoning time 推理耗时），长链路思考降低推理出错率

2. 深度多模态融合

   • 同时接收代码、高清图像、PDF 文档、流程图、公式等混合形式输入，完成图文联动任务：比如依据设计图写代码、解析技术手册配图撰写开发文档、复杂图纸解读

3. 超长多轮对话保持一致性

   • 几十轮以上对话稳定记住用户设定的人设、项目约束、前置细节，不会遗忘前置要求，适配长期角色扮演、长线项目沟通

4. 复杂结构化输出

   • 输出格式严苛的 JSON Schema、专业报表、技术规格书，适配企业级正式业务落地

2.4垂直专项细分能力段（面向行业场景定制优化）

1. 科研学术方向：研读论文、整理文献综述、推导实验方案、润色学术英文稿件

2. 企业商用方向：生成合规合同、搭建客服对话体系、处理大批量业务文本、做舆情文本分析

3. 创意创作方向：长篇小说连载、剧本撰写、风格可控的诗歌、广告创意设计（GPT-5 创意写作能力较强）

4. 工程落地方向：适配本地化私有化部署（DeepSeek、Qwen 开源版优势明显）、微调适配细分行业知识库、接入业务 API 完成工具调用

2.5局限短板（能力上限分段边界）

1.基础段局限：上下文短的时候容易遗忘很早的对话细节

2.进阶段局限：极端冷门专业领域、时效性极强的实时资讯容易出错，出现幻觉

3.高阶段局限：极其复杂的硬件底层设计、高精度物理仿真依旧薄弱

4.垂直段局限：没有微调的原生模型，行业专属术语、内部业务规则掌握不够精准，需要二次微调优化

3.提示词的编写技巧

提示词编写宗旨：将提出的问题限定范围，让AI知道目的答案具体要包含什么，提示效果会大幅提升。

3.1CO-STAR结构化框架

在目标设定和问题解决的场景下，清晰性和结构性是至关重要的。而有一种方法论，在这些方面表现都非常出色，那就是 CO‑STAR 框架。这个提示词编写框架，由新加坡政府技术局（GovTech）的数据科学与 AI 团队开发，重点在于确保提供给 LLM 的提示词是全面且结构良好的，从而生成更相关和准确的回答。

CO‑STAR 可以拆解为六个维度。

3.2少样本提示/多样例提示

这种方式通过给 AI 提供一两个输入‑输出的例子，让它 “照葫芦画瓢”。 核心思想：你不是在给它下指令，而是在 “教” 它你想要的格式、风格和逻辑。 适用场景：格式固定、风格独特、逻辑复杂的任务，如风格仿写、数据提取、复杂格式生成。

例如： 优化前（零样本提示）： 2 ♥ 9 等于多少？

优化后（少样本提示）： 根据以下示例，处理问题。 示例 1：2 ♥ 3 = 5 示例 2：4 ♥ 7 = 11 现在请分析这个：2 ♥ 9 等于多少？

3.3思维链提示

提示工程的关键目标是让 AI 更好理解复杂语义，可以通过模型处理复杂逻辑推理题的表现来检验。 可以这样理解：优质的提示词能够帮助模型解决原本解决不了的难题，也就说明它确实提升了模型的推理水平。并且，提示词设计得越出色，这种提升效果就越显著。通过设置不同难度的推理测试，可以清晰地验证这一点。

单个例子（论文来源：Large Language Models are Zero‑Shot Reasoners）

(c) Zero‑shot

Q: A juggler can juggle 16 balls. Half of the balls are golf balls, and half of the golf balls are blue. How many blue golf balls are there? A: The answer (arabic numerals) is ___ (Output) 8 ×（错误）

翻译问题： 杂耍者可以抛接 16 个球。其中一半的球是高尔夫球，一半的高尔夫球是蓝色的。请问总共有多少个蓝色高尔夫球？ 推理结果：8 个蓝色高尔夫球（零样本直接回答答案错误）

原理讲解

零样本模式下大模型会直接给出最终答案，容易跳过中间思考步骤，简单粗略计算：16÷2=8，得到错误结果。思维链（CoT）提示的思路：在提示词里引导模型分步思考，写出推理过程，再给出最终答案。 优化后提示示例：

请一步步思考，分步写出推理过程，最后给出答案。 杂耍者可以抛接 16 个球。其中一半的球是高尔夫球，一半的高尔夫球是蓝色的。请问总共有多少个蓝色高尔夫球？

正确推理步骤：

1.总球数 16 个，一半是高尔夫球：16÷2=8个高尔夫球

2.高尔夫球里一半是蓝色：8÷2=4 最终正确答案：4

通过这个例子可以观察到，这就好像是 “把答案告诉了 AI”。从某种意义上说，你告诉它的是 “回答这个问题的正确方式和步骤”，而不仅仅是最终的答案，AI 会模仿你提供的范本结构和逻辑，来解决新问题。

实际上，Few‑shot‑CoT 的方式虽然有效，但不一定是稳定且准确的。如果想要得到稳定的正确答案，需要更高阶的提示方法。你给的例子越详细，它模仿得就越像，这更像是一种 “教学” 或 “格式化”。当你有一个非常复杂的逻辑流程，或者你希望 AI 严格按照某种格式（比如先分析 A，再对比 B，最后总结 C）来输出时，就可以直接提供一个完美的思考过程作为范例。

3.4自动推理与零样本链式思考

零样本思维链（Zero‑shot‑CoT）是少样本思维链（Few‑shot‑CoT）的简化版。只需在提示词末尾加上一句魔法短语：请一步步进行推理并得出结论，强制 AI 在给出答案前先进行内部推理，即可激发 AI 的推理能力。

核心思想：通过指令”一步步进行推理并得出结论“，强制AI在给出答案前先进行内部推理。

使用场景：任何需要一点逻辑思考的问题。

例如

罗杰有五个网球，他又买了两盒网球，每盒有 3 个网球，请问他现在总共有多少个网球？请一步步进行推理并得出结论。

AI 的输出可能会变成： 罗杰最初有 5 个网球。 他买了两盒网球，每盒有 3 个网球，所以买来的网球数量是：2×3=6 个网球。 因此，他现在总共有网球：5+6=11 个。 答案：11 个网球。

“一步步进行推理” 这个指令，相当于在引导模型的注意力机制。它告诉模型：在生成最终答案之前，请先在你的脑海里（即生成的文本序列中）模拟出一个缓慢、有序的推理上下文。 当模型开始输出 “第一步… 第二步…” 时，它实际上是在为自己创造一个更丰富、逻辑细化的上下文。它在这个自己创造的优质上下文里进行推理，最终得出的结论自然比在贫瘠的上下文中（只有原始问题）更准确。

3.5自我批判与迭代

要求 AI 在生成答案后，从特定角度对自己的答案进行审查和优化。

核心思想：将生成和评审两个步骤分离，利用 AI 的批判性思维提升内容质量。 适用场景：代码审查、文案优化、论证强化、安全检查。

案例：编写一段代码后进行检查

优化前：

写一个 Python 函数，计算列表中的最大值。

优化后：

请执行以下两个步骤： 步骤一：编写代码 写一个 Python 函数 find_max，用于计算一个数字列表中的最大值。

步骤二：自我审查与优化 现在，请从代码健壮性和可读性的角度，审查你上面编写的代码。请回答：

1. 如果输入是空列表，函数会怎样？如何改进？
2. 变量命名和代码结构是否清晰？能否让它更易于理解？
3. 请根据你的审查，给出一个优化后的最终版本。

在实际应用中，这些技巧常常是组合使用的。例如，我们可以：

使用 CO‑STAR 框架设定基本结构和角色。

在框架的 “Steps” 或 “Response” 部分，融入思维链指令。

对于格式复杂的输出，在最后附上少样本示例。

最后，要求 AI 进行自我审查。

4.LLM的接入方式

4.1API接入

API 接入是主流简便的大模型接入方式，通过RESTful HTTP 接口调用云端部署的大模型，无需本地部署模型、不用管理显卡等硬件资源，适合快速开发、项目系统集成。 主流厂商接口：

OpenAI（GPT‑4o）、Anthropic（Claude）

Google（Gemini）、百度文心一言、阿里通义千问、智谱 AI

典型流程：

1. 获取密钥 API‑Key在模型厂商官网注册账号，申请身份验证密钥，用于接口鉴权。

2. 查阅官方 API 文档文档标注接口请求地址、可传参数（模型名称、提示词、最大生成长度、温度系数等），以及接口返回的数据格式。

3. 构造 HTTP 网络请求借助编程语言的网络请求库（Python‑requests 库），在请求头 Header 中携带 API‑Key，请求体 JSON 格式传入提示词等参数，向接口地址发送网络请求。

4. 接收并解析响应数据接口返回 JSON 格式数据，程序解析 JSON，提取模型生成的文本结果。

4.2本地接入

大模型本地部署，这种方式就是将开源的大型语言模型（如 Llama、ChatGLM、Qwen 等）部署在你自己的硬件环境（本地服务器或私有云）中。核心概念就是，将下载模型的文件（权重和配置文件），使用专门的推理框架在本地服务器或 GPU 上加载并运行模型，然后通过类似 API 的方式进行交互。

典型流程是：

1、获取模型：从 Hugging Face（国外）、魔搭社区（国内）等平台下载开源模型的权重。（平台参考本篇第四节）

2、准备环境：配置具有足够显存（如 NVIDIA GPU）的服务器，安装必要的驱动和推理框架。

3、选择推理框架：使用专为生产环境设计的框架来部署模型，例如：

‑ vLLM：特别注重高吞吐量的推理服务，性能极佳。

‑ TGI：Hugging Face 推出的推理框架，功能全面。

‑ Ollama：非常用户友好，可以一键拉取和运行模型，适合快速入门和本地开发。

‑ LM Studio：提供图形化界面，让本地运行模型像使用软件一样简单。

4、启动服务并调用：框架会启动一个本地 API 服务器（如 http://localhost:8000），你可以像调用云端 API 一样向这个本地地址发送请求。

4.3SDK接入

这并非一种独立的接入方式，而是对第一种 API 接入的封装和简化。模型提供商通常会发布官方编程语言 SDK，为我们封装好了底层的 HTTP 请求细节，提供一个更符合编程习惯的、语言特定的函数库。

典型流程（以 OpenAI Python SDK 为例）：

安装库

pip install openai

安装 OpenAI SDK 后，可以创建一个名为 example.py 的文件并将示例代码复制到其中：

from openai import OpenAI client = OpenAI(api_key="your‑api‑key") response = client.responses.create( model="gpt‑3.5", input="介绍一下你自己。" ) print(response.output_text)

相比直接构造 HTTP 请求，代码更简洁，更易读，更易维护。

4.4如何选择接入方式

对于以上三种接入方式，该如何选择？

• 看数据敏感性：如果数据极其敏感，必须留在内部，本地部署是唯一选择。

• 看技术实力和资源：如果团队没有强大的 MLops（机器学习运维）能力，也没有预算购买和维护 GPU 服务器，云端 API 是更实际的选择。

• 看成本和规模：如果应用规模很大，长期来看，本地部署的固定成本可能低于持续的 API 调用费用。反之，小规模应用 API 更划算。

• 看定制需求：如果只是使用模型的通用能力，云端 API 足够。如果需要用自己的数据微调模型，则需要选择支持微调的 API 或直接本地部署。

4.5以上接入方式存在的问题

1. 上下文长度限制所有大模型都存在 Token 上下文窗口上限。即使 GPT‑5 最大上下文窗口为 400000，依然存在长度上限。无法一次性将整本几百页的文档、海量资料全部一次性输入模型。

2. 缺乏私有知识模型的训练数据存在截止日期，模型知识库是固定的。模型无法获取企业内部文档、私人笔记、最新资料。想要模型基于私有内部数据进行问答，原生模型很难直接实现。

3. 复杂任务处理能力弱原生 API 接口只能做一问一答。面对多步骤复杂任务（例如分析财报、总结要点、生成 PPT 大纲），需要人为拆解逻辑步骤，多次调用 API，手动管理中间状态。

4. 输出格式不可控即便通过提示词约束模型输出 JSON 或者特定格式，大模型依然容易输出格式错乱、符号错误。需要额外编写代码做格式校验、清洗。

为解决以上四个问题，LangChain 框架应运而生。

三、认识嵌入式模型

1. 什么是嵌入式模型

大语言模型是生成式模型。它理解输入并生成新的文本（回答问题、写文章）。它内部实际上也使用嵌入技术来理解输入，但最终目标是 “创造”。

而嵌入模型（Embedding Model）是表示型模型。它的目标不是生成文本，而是为输入的文本创建一个最佳的、富含语义的数值表示（向量）。

由于计算机天生擅长处理数字，但不理解文字、图片的含义。嵌入（Embedding）的核心思想就是将人类世界的符号（如单词、句子、产品、用户、图片）转换为计算机能够理解的数值形式（即向量，本质上是一个数字列表），并且要求这种转换能够保留原始符号的语义和关系。

说明： 文档 → Words（单词）→ Embedding（嵌入）→ 向量数组[0.023, 0.487, -0.129, ..., 0.325]

示例文本："This is a sentence"

我们可以把它想象成一个翻译过程，把人类语言 “翻译” 成计算机的 “数学语言”。

结论：既然是 “数学语言”，那么我们可以用数学的方式来比较向量，从而达到【度量语义】的目的！

2. 核心基础：嵌入式模型的文本向量生成逻辑

自然语言本身是符号化、非结构化的离散信息，计算机无法直接理解文字的语义、关联和内涵。嵌入式（Embedding）模型的核心作用，就是将人类可读懂的文本（字词、句子、段落），转化为计算机可运算的高密度数值向量，这也是文本语义度量的前置基础。

整个生成过程的核心逻辑可分为三步：

1. 文本预处理与编码：模型对输入文本进行分词、去停用词、字符映射等处理，将文本转化为模型可识别的初始token序列，消除无效语义干扰，统一文本输入格式。

2. 语义特征提取：通过预训练的神经网络权重，挖掘文本的深层语义特征，包括词义、语境、语法关系、上下文关联等隐性信息，区别于传统的词袋模型（仅统计词语出现频率），能够捕捉一词多义、近义替换、语境差异等复杂语义。

3. 映射为高维向量：将提取到的多维语义特征，映射成一组固定维度的浮点数数组，即文本向量（Embedding向量）。例如常见的768维、1024维向量，向量中的每一个数值，都对应文本某一项隐性语义特征的量化表达。

最终实现核心转化：文本语义 → 高维空间中的坐标点。每一段独一无二的文本，都会对应高维向量空间中一个独一无二的点位，语义相近的文本，对应的向量点位在空间中距离更近、夹角更小，这也是我们能用数学公式度量语义相似度的核心前提。

2.1 欧氏距离

核心定义：欧氏距离（Euclidean Distance）是高维空间中两个向量端点之间的直线绝对距离。针对文本语义场景，两个文本向量的欧氏距离越小，代表两段文本的语义整体差异越小、相似度越高；距离越大，语义差异越大。

语义度量特性与取值规律

• 取值范围：[0, +\infty)。当d=0时，两个向量完全重合，代表两段文本语义完全一致；距离数值越大，语义差距越悬殊。

• 核心特点：同时兼顾向量方向和向量模长（数值大小）。向量模长代表文本的语义信息量、特征强度，因此欧氏距离会受文本长度、语义丰富度影响。

• 场景短板：对于“语义方向一致、但文本长度/信息量不同”的文本，欧氏距离会判定为差异较大。例如“我喜欢吃苹果”和“我超级喜欢吃红苹果”，语义核心一致，但后者向量模长更大，欧氏距离会产生不必要的偏差。

适用场景：适合需要同时考量语义方向+文本特征强度的场景，比如文本去重、高度精准的语义匹配、短文本相似度对比、异常文本检测等。

2.2 余弦相似度

核心定义：余弦相似度（Cosine Similarity）通过计算两个向量之间的夹角余弦值，衡量向量的方向一致性。对应语义场景中，仅关注两段文本的语义方向是否相同，忽略文本长度、信息量带来的向量模长差异，是自然语言处理中最主流的语义度量方式。

语义度量特性与取值规律

• 取值范围：[-1, 1]。数值越接近1，向量夹角越小，语义越相似；等于1时语义完全一致；等于0时语义无关、相互独立；接近-1时语义完全相反。

• 核心特点：只看方向，不看模长。彻底屏蔽文本长度、语义丰富度的影响，只聚焦核心语义的倾向性、一致性。

• 场景优势：完美解决欧氏距离的短板。针对“核心语义一致、表述长度不同”的文本，如“今天天气很好”和“今日的天气十分晴朗”，余弦相似度能精准判定为高度相似，贴合人类语义认知。

适用场景：绝大多数文本语义匹配场景，如智能问答匹配、文章相似度检索、语义聚类、推荐系统文本匹配、意图识别等，是嵌入式模型落地中最常用的度量指标。

3. 嵌入式模型的应用场景

3.1 语义搜索（Semantic Search）

传统搜索：依赖关键词匹配（搜索“苹果”，只能找到包含“苹果”这个词的文档）。

语义搜索：能将查询内容和文档都转化成向量，通过计算向量间的相似度来找到相关内容，即使文档中没有查询到确切词汇也能被检索到，

3.2 检索增强生成（Retrieval-Augmented Generation,RAG）

这是当前大语言模型应用的核心模式。当用户向 LLM 提问时，系统首先使用嵌入模型在知识库（如公司内部文档）中进行语义搜索，找到最相关的内容，然后将这些内容和问题一起交给 LLM 来生成答案。这极大地提高了答案的准确性和时效性。

例如：一家公司的内部客服机器人接到员工提问：“我们今年新增加的带薪育儿假政策具体是怎样的？” 系统会首先使用嵌入模型在公司的最新人事制度文档、福利更新备忘录等资料中进行语义搜索，找到关于 “今年育儿假规定” 的具体条款，然后将这些【条款】和【问题】一起提交给 LLM，LLM 便能生成一个准确、具体的摘要回答，而非仅凭其内部训练数据可能产生的过时或泛泛的答案。

3.3 推荐系统

将用户（根据其历史行为、偏好）和物品（商品、电影、新闻）都转换为向量。喜欢相似物品的用户，其向量会接近；相似的物品，其向量也会接近。通过计算用户和物品向量间的相似度，就可以进行精准推荐。

例如：一个流媒体平台将用户 A（喜欢观看《盗梦空间》和《黑镜》）和所有电影都表示为向量。系统发现用户 A 的向量与那些也喜欢《盗梦空间》和《黑镜》的用户向量很接近，而这些用户普遍还喜欢《星际穿越》。尽管用户 A 从未看过《星际穿越》，但通过计算用户向量与电影向量的相似度，系统会将这部电影推荐给用户 A。

3.4 异常检测

正常数据的向量通常会聚集在一起。如果一个新数据的向量远离大多数向量的聚集区，它就可能是一个异常点（如垃圾邮件、欺诈交易）。

例如：一个信用卡交易反欺诈系统，通过学习海量正常交易记录（如金额、地点、时间、商户类型等特征的向量）形成了 “正常交易” 的向量聚集区。当一笔新的交易发生时，系统将其转换为向量。如果该向量出现在 “正常聚集区” 之外（例如，一笔发生在通常消费地之外的高额交易），系统则会将其标记为潜在的欺诈交易并进行警报。