主流AI热词总结
ai出现逻辑图
主流AI热词总结
ai出现逻辑图
1 token和context window
“AI一次能看多少？”——这是探索大语言模型处理能力与边界的关键起点
1.1 Token
定义：AI把信息拆解后的最小单位，就是TOKEN（词元）。他是AI理解和处理的基础板块
Token化：AI理解文本的第一步
举例
用户输入的原始文本：“我喜欢你”→Token1：我；Token2：“喜欢”；Token3：“你”
AI处理信息的核心逻辑：化整为零的拆解。他会把连续的文本序列拆解为最小的语义单元
关键特点：拆分规则非绝对统一。不同模型的Token拆分规则存在差异
注：不必纠结怎么拆，理解这些片段就是Token
Token的重要性
总结
Token作为AI理解和处理文本的基础单元，其核心作用贯穿了模型能力，使用成本与交互体验的全流程。
AI一次读多少内容：它代表模型处理能力的上限
调用AI的成本是多少：它是AI服务计费的基本单位
为什么AI会忘之前的内容：它源于上下文窗口的限制
1.2 Context Window
就像堆满文件的办公桌，AI的“工作记忆”也有物理边界，无法同时处理无限多的信息。
AI的“工作记忆”：Context Window是指大语言模型在生成回答时，能够同时参考和处理的文本范围
有限的Token额度：每个模型都有Token上限
超出即遗忘:当对话越来越长，将最早期的对话内容挤出去，导致无法再参考前文信息
Context Window即模型的认知边界，模型一次最多能处理的Token数量，就是他的上下文窗口（Context Window），这是大语言模型理解和生成文本的核心容量限制。
相关术语
128K上下文：指模型单次可容纳的文本长度
百万TOKEN：“百万级”代表模型具备处理海量文本信息的吞吐能力
长上下文模型：能连贯理解长篇文档、多轮对话
按TOKEN计费：AI服务的主流收费模式
总结
本质都是一件事：这个AI一次最多能处理多少信息，以及你喂了多少信息！
思考
上下文窗口越大，AI就一定越聪明嘛？
不一定，信息太少，AI答不出来，信息太多，AI又会被无关内容干扰，因此，AI真正好用，不只是能看多少，而是你怎么把任务交代清楚！于是就引出了下一个重要概念——Prompt！
2 Prompt提示词
总结
Prompt实现的是AI怎么听懂任务？掌握提示词的核心逻辑，让AI精准理解你的指令意图，实现高效合作。
早期人们给ai问题，ai能快速给出答案，但很快发现，同一个问题，不同问法差别巨大。当你提问一个模糊且缺乏边界的提问，AI往往会给出一些宽泛的回答，但假设你换种问法，当你限定了职业，场景目的和输出格式时，输出结果发生巨大不同。因此我们在使用AI时要把握核心法则：有效的AI指令=明确的角色设定+具体的任务描述+清晰的结构要求+指定的输出栈
因此引出了另一个概念——Prompt Engineering（提示词工程）。
Prompt Engineering（提示词工程）本质是像一位专业的管理者，给AI攥写一份清晰、详细、可执行的工作说明书(SOP)
因此早期AI圈很流行万能提示词，“学会这10个提示词，效率提升10倍！”，这些内容之所以火，是因为它解决了早期AI最直接的问题：怎么让AI准确理解我的任务！
思考
Prompt虽然能解决：“如何把任务要求说清楚，指令传达到位”的表层问题，它始终绕不开一个更底层、更致命的核心局限：模型不知道的东西，它就是不知道！——这是大语言模型“幻觉”与错误回答的根本来源，也是我们在应用AI时需要时刻警惕的认知边界。
AI的现实边界
内部文档的盲区
项目代码的壁垒
实时动态的时效
核心痛点:AI缺乏对企业专属只是、私有代码与实时数据的支撑，这正是企业落地AI应用时需要突破的瓶颈。
硬让它回答那些超出能力边界的问题，他就会出现“一本正经的胡说八道”的现象。
3 RAG
AI怎么查资料？
RAG(检索增强生成)是解决大语言模型知识时效性与准确性的关键方案。它让AI学会像人一样“先检索资料，再生成答案”，从而突破预训练知识的局限，获取实时、准确的外部信息。
RAG解决的问题很简单，不让AI只凭“记忆”回答，先查资料再回答！打破“训练数据”的局限，实时检索最新、最相关的资料，有效解决知识滞后、信息陈旧的问题。同时从根源上消除AI“幻觉”，回答建立在真实存在的资料基础之上，而非凭空编造。
RAG核心工作思路解析
构建专属知识库：将企业文档、产品手册等资料，结构化存储在知识库里。
精准检索关联信息：当用户发起提问时，去知识库中快速存储。
AI基于资料生成回答：系统将检索到的相关资料作为上下文信息区训练大语言模型。
实例
场景：作为公司员工，在请假流程中产生疑问，需要AI做出准确回答
无RAG：AI未接入企业内部《员工手册》，只能依靠通用语料”凭空猜测“
有RAG：系统自动在员工手册中检索”请假“等关键词，提取相关条款作为上下文，再交由AI整理回答
总结
用“检索”解决大模型的知识时效性问题，用“生成”实现灵活的自然语言交互，二者强强联合让AI更实用。
RAG技术落地的三大核心支撑概念
Embedding(向量化)：将文本、图片等非结构化数据转化为高维向量的过程。
向量数据库：专为存储、索引和检索高维向量设计的数据库。
知识库(Knowledge Base)：由领域内专业文档、数据集合而成，是RAG系统的"知识源头"。
三者关系总结:Embedding负责“语义转化",向量数据库负责"高效检索”,知识库负责"内容供给”,共同构建了RAG技术的完整闭环。
思考
普通RAG很快暴露问题