当前位置：首页 > news >正文

【2026超详细汇总】大模型面经指南（附答案）

news 2026/6/11 6:28:38

本文将深入探讨大模型（LLMs）的进阶技巧，覆盖系统设计、提示词工程、平台应用开发、知识库应用、微调开发、垂直领域模型训练以及多模态大模型应用等方面。内容将结合CSDN平台爆款文章和爆款标题的风格，为读者提供全面且实用的指导。

大模型（LLMs）基础面
- 1. 目前主流的开源模型体系有哪些？
- 1. prefix LM 和 causal LM 区别是什么？
- 1. 涌现能力是啥原因？
- 1. 大模型LLM的架构介绍？
大模型（LLMs）进阶面
- 1. llama 输入句子长度理论上可以无限长吗？
- 1. 什么是 LLMs 复读机问题？
- 1. 为什么会出现 LLMs 复读机问题？
- 1. 如何缓解 LLMs 复读机问题？
- 1. LLMs 复读机问题
- 1. llama 系列问题
- 1. 什么情况用Bert模型，什么情况用LLaMA、ChatGLM类大模型，咋选？
- 1. 各个专业领域是否需要各自的大模型来服务？
- 1. 如何让大模型处理更长的文本？
大模型（LLMs）微调面
- 1. 如果想要在某个模型基础上做全参数微调，究竟需要多少显存？
- 1. 为什么SFT之后感觉LLM傻了?
- 1. SFT 指令微调数据如何构建?
- 1. 领域模型Continue PreTrain 数据选取？
- 1. 领域数据训练后，通用能力往往会有所下降，如何缓解模型遗忘通用能力？
- 1. 领域模型Continue PreTrain ，如何让模型在预训练过程中就学习到更多的知识？
- 1. 进行SFT操作的时候，基座模型选用Chat还是Base?
- 1. 领域模型微调指令&数据输入格式要求？
- 1. 领域模型微调领域评测集构建？
- 1. 领域模型词表扩增是不是有必要的？
- 1. 如何训练自己的大模型？
- 1. 训练中文大模型有啥经验？
- 1. 指令微调的好处？
- 1. 预训练和微调哪个阶段注入知识的？
- 1. 想让模型学习某个领域或行业的知识，是应该预训练还是应该微调？
- 1. 多轮对话任务如何微调模型？
- 1. 微调后的模型出现能力劣化，灾难性遗忘是怎么回事？
- 1. 微调模型需要多大显存？
- 1. 大模型LLM进行SFT操作的时候在学习什么？
- 1. 预训练和SFT操作有什么不同
- 1. 样本量规模增大，训练出现OOM错
- 1. 大模型LLM进行SFT 如何对样本进行优化？
- 1. 模型参数迭代实验
大模型（LLMs）langchain面
- 1. 基于LLM+向量库的文档对话基础面
- 1. 基于LLM+向量库的文档对话优化面
- 1. 基于LLM+向量库的文档对话工程示例面
- 1. LLMs 存在模型幻觉问题，请问如何处理？
- 1. 基于LLM+向量库的文档对话思路是怎么样？
- 1. 基于LLM+向量库的文档对话核心技术是什么？
- 1. 基于LLM+向量库的文档对话 prompt 模板如何构建？
- 1. 痛点1：文档切分粒度不好把控，既担心噪声太多又担心语义信息丢失
- 1. 痛点2：在基于垂直领域表现不佳
- 1. 痛点3：langchain 内置问答分句效果不佳问题
- 1. 痛点4：如何尽可能召回与query相关的Document 问题
- 1. 痛点5：如何让LLM基于query和context得到高质量的response
- 1. 避坑记录
- 1. 本地知识库问答系统（Langchain-chatGLM）
- 1. 什么是 LangChain?
- 1. LangChain 包含哪些核心概念？
- 1. 什么是 LangChain Agent?
- 1. 如何使用 LangChain ?
- 1. LangChain 支持哪些功能?
- 1. 什么是 LangChain model?
- 1. LangChain 包含哪些特点?
- 1. LangChain 如何使用?
- 1. LangChain 存在哪些问题及方法方案？
- 1. LangChain 替代方案？
- 1. LangChain 中 Components and Chains 是什么？
- 1. LangChain 中 Prompt Templates and Values 是什么？
- 1. LangChain 中 Example Selectors 是什么？
- 1. LangChain 中 Output Parsers 是什么？
- 1. LangChain 中 Indexes and Retrievers 是什么？
- 1. LangChain 中 Chat Message History 是什么？
- 1. LangChain 中 Agents and Toolkits 是什么？
- 1. LangChain 如何调用 LLMs 生成回复？
- 1. LangChain 如何修改提示模板？
- 1. LangChain 如何链接多个组件处理一个特定的下游任务？
- 1. LangChain 如何Embedding & vector store？
- 1. LangChain 低效的令牌使用问题
- 1. LangChain 文档的问题
- 1. LangChain 太多概念容易混淆，过多的“辅助”函数问题
- 1. LangChain 行为不一致并且隐藏细节问题
- 1. LangChain 缺乏标准的可互操作数据类型问题
- 大模型（LLMs）langchain 面
- 基于LLM+向量库的文档对话经验面
大模型（LLMs）参数高效微调(PEFT) 面
- 一、LoRA篇
- 二、QLoRA篇
- 三、AdaLoRA篇
- 四、LoRA权重是否可以合入原模型？
- 五、ChatGLM-6B LoRA后的权重多大？
- 六、LoRA 微调优点是什么？
- 七、LoRA微调方法为啥能加速训练？
- 八、如何在已有LoRA模型上继续训练？
- 1.1 什么是 LoRA？
- 1.2 LoRA 的思路是什么？
- 1.3 LoRA 的特点是什么？
- 2.1 QLoRA 的思路是怎么样的？
- 2.2 QLoRA 的特点是什么？
- 3.1 AdaLoRA 的思路是怎么样的？
- 一、为什么需要提示学习（Prompting）？
- 二、什么是提示学习（Prompting）？
- 三、提示学习（Prompting）有什么优点？
- 四、提示学习（Prompting）有哪些方法，能不能稍微介绍一下它们间？
- 4.4.1 为什么需要 P-tuning v2？
- 4.4.2 P-tuning v2 思路是什么？
- 4.4.3 P-tuning v2 优点是什么？
- 4.4.4 P-tuning v2 缺点是什么？
- 4.3.1 为什么需要 P-tuning？
- 4.3.2 P-tuning 思路是什么？
- 4.3.3 P-tuning 优点是什么？
- 4.3.4 P-tuning 缺点是什么？
- 4.2.1 为什么需要指示微调（Prompt-tuning）？
- 4.2.2 指示微调（Prompt-tuning）思路是什么？
- 4.2.3 指示微调（Prompt-tuning）优点是什么？
- 4.2.4 指示微调（Prompt-tuning）缺点是什么？
- 4.2.5 指示微调（Prompt-tuning）与 Prefix-tuning 区别是什么？
- 4.2.6 指示微调（Prompt-tuning）与 fine-tuning 区别是什么？
- 4.1.1 为什么需要前缀微调（Prefix-tuning）？
- 4.1.2 前缀微调（Prefix-tuning）思路是什么？
- 4.1.3 前缀微调（Prefix-tuning）的优点是什么？
- 4.1.4 前缀微调（Prefix-tuning）的缺点是什么？
- 4.1 前缀微调（Prefix-tuning）篇
- 4.2 指示微调（Prompt-tuning）篇
- 4.3 P-tuning 篇
- 4.4 P-tuning v2 篇
- 一、为什么需要适配器微调（Adapter-tuning）？
- 二、适配器微调（Adapter-tuning）思路？
- 三、适配器微调（Adapter-tuning）特点是什么？
- 四、AdapterFusion 思路是什么？
- 五、AdapterDrop 思路是什么？
- 六、AdapterDrop 特点是什么？
- 七、MAM Adapter 思路是什么？
- 八、MAM Adapter 特点是什么？
- 微调方法是啥？如何微调？
- 为什么需要 PEFT？
- 介绍一下 PEFT？
- PEFT 有什么优点？
- 微调方法批处理大小模式GPU显存速度？
- Peft 和全量微调区别？
- 多种不同的高效微调方法对比
- 当前高效微调技术存在的一些问题
- 高效微调技术最佳实践
- PEFT 存在问题？
- 能不能总结一下各种参数高效微调方法？
- 大模型（LLMs）参数高效微调(PEFT) 面
- 适配器微调（Adapter-tuning）篇
- 提示学习（Prompting）
- LoRA 系列篇
大模型（LLMs）推理面
- 1. 为什么大模型推理时显存涨的那么多还一直占着？
- 1. 大模型在gpu和cpu上推理速度如何？
- 1. 推理速度上，int8和fp16比起来怎么样？
- 1. 大模型有推理能力吗？
- 1. 大模型生成时的参数怎么设置？
- 1. 有哪些省内存的大语言模型训练/微调/推理方法？
- 1. 如何让大模型输出合规化
- 1. 应用模式变更
大模型（LLMs）评测面
- 大模型怎么评测？
- 大模型的honest原则是如何实现的？
- 模型如何判断回答的知识是训练过的已知的知识，怎么训练这种能力？
大模型（LLMs）强化学习面
- 奖励模型需要和基础模型一致吗？
- RLHF 在实践过程中存在哪些不足？
- 如何解决人工产生的偏好数据集成本较高，很难量产问题？
- 如何解决三个阶段的训练（SFT->RM->PPO）过程较长，更新迭代较慢问题？
- 如何解决 PPO 的训练过程同时存在4个模型（2训练，2推理），对计算资源的要求较高问题？
大模型（LLMs）软硬件配置面
大模型（LLMs）训练集面
- SFT（有监督微调）的数据集格式？
- RM（奖励模型）的数据格式？
- PPO（强化学习）的数据格式？
- 找数据集哪里找？
- 微调需要多少条数据？
- 有哪些大模型的训练集？
- 进行领域大模型预训练应用哪些数据集比较好？
大模型（LLMs）显存问题面
大模型（LLMs）分布式训练面
大模型（LLMs）agent 面
- 如何给LLM注入领域知识？
- 如果想要快速体验各种模型，该怎么办？
Token及模型参数准备篇
- 预训练数据 Token 重复是否影响模型性能？
- SFT需要训练Token数？
LLMs 位置编码篇
- 6.1 ALiBi (Attention with Linear Biases) 思路是什么？
- 6.2 ALiBi (Attention with Linear Biases) 的偏置矩阵是什么？有什么作用？
- 6.3 ALiBi (Attention with Linear Biases) 有什么优点？
- 6.4 ALiBi (Attention with Linear Biases) 被哪些 LLMs 应用？
- 5.1 什么是长度外推问题？
- 5.2 长度外推问题的解决方法有哪些？
- 4.1 旋转位置编码 RoPE 思路是什么？
- 4.2 推导一下旋转位置编码 RoPE ？
- 4.3 旋转位置编码 RoPE 有什么优点？
- 4.4 旋转位置编码 RoPE 被哪些 LLMs 应用？
- 1 什么是位置编码？
- 2 什么是绝对位置编码？
- 3 什么是相对位置编码？
- 4 旋转位置编码 RoPE篇
- 5 长度外推问题篇
- 6 ALiBi (Attention with Linear Biases)篇
LLMs Tokenizer 篇
- Byte-Pair Encoding(BPE)篇
- WordPiece 篇
- SentencePiece 篇
- 对比篇
- 1 Byte-Pair Encoding(BPE) 如何构建词典？
- 1 WordPiece 与 BPE 异同点是什么？
- 简单介绍一下 SentencePiece 思路？
- 1 举例介绍一下不同大模型LLMs 的分词方式？
- 2 介绍一下不同大模型LLMs 的分词方式的区别？
- LLMs Tokenizer 篇
Layer Normalization 篇
- LLMs 各模型分别用了哪种 Layer normalization？
- 1 LN 在 LLMs 中的不同位置有什么区别么？如果有，能介绍一下区别么？
- Layer Norm 篇
- RMS Norm 篇（均方根 Norm）
- Deep Norm 篇
- Deep Norm 有什么优点？
- Layer Norm 的计算公式写一下？
- RMS Norm 的计算公式写一下？
- RMS Norm 相比于 Layer Norm 有什么特点？
- Deep Norm 思路？
- 写一下 Deep Norm 代码实现？
- Layer normalization-方法篇
- Layer normalization-位置篇
- Layer normalization 对比篇

答案

基础面
1 目前主流的开源模型体系有哪些？
- 1 介绍一下 FFN 块计算公式？
- 2 介绍一下 GeLU 计算公式？
- 3 介绍一下 Swish 计算公式？
- 4 介绍一下使用 GLU 线性门控单元的 FFN 块计算公式？
- 5 介绍一下使用 GeLU 的 GLU 块计算公式？
- 6 介绍一下使用 Swish 的 GLU 块计算公式？
- 各LLMs 都使用哪种激活函数？

目前主流的开源LLM（语言模型）模型体系包括以下几个：

GPT（Generative Pre-trained Transformer）系列：由OpenAI发布的一系列基于Transformer架构的语言模型，包括GPT、GPT-2、GPT-3等。GPT模型通过在大规模无标签文本上进行预训练，然后在特定任务上进行微调，具有很强的生成能力和语言理解能力。
BERT（Bidirectional Encoder Representations from Transformers）：由Google发布的一种基于Transformer架构的双向预训练语言模型。BERT模型通过在大规模无标签文本上进行预训练，然后在下游任务上进行微调，具有强大的语言理解能力和表征能力。
XLNet：由CMU和Google Brain发布的一种基于Transformer架构的自回归预训练语言模型。XLNet模型通过自回归方式预训练，可以建模全局依赖关系，具有更好的语言建模能力和生成能力。
RoBERTa：由Facebook发布的一种基于Transformer架构的预训练语言模型。RoBERTa模型在BERT的基础上进行了改进，通过更大规模的数据和更长的训练时间，取得了更好的性能。
T5（Text-to-Text Transfer Transformer）：由Google发布的一种基于Transformer架构的多任务预训练语言模型。T5模型通过在大规模数据集上进行预训练，可以用于多种自然语言处理任务，如文本分类、机器翻译、问答等。

这些模型在自然语言处理领域取得了显著的成果，并被广泛应用于各种任务和应用中。

2 prefix LM 和 causal LM 区别是什么？

Prefix LM（前缀语言模型）和Causal LM（因果语言模型）是两种不同类型的语言模型，它们的区别在于生成文本的方式和训练目标。

Prefix LM：前缀语言模型是一种生成模型，它在生成每个词时都可以考虑之前的上下文信息。在生成时，前缀语言模型会根据给定的前缀（即部分文本序列）预测下一个可能的词。这种模型可以用于文本生成、机器翻译等任务。
Causal LM：因果语言模型是一种自回归模型，它只能根据之前的文本生成后续的文本，而不能根据后续的文本生成之前的文本。在训练时，因果语言模型的目标是预测下一个词的概率，给定之前的所有词作为上下文。这种模型可以用于文本生成、语言建模等任务。

总结来说，前缀语言模型可以根据给定的前缀生成后续的文本，而因果语言模型只能根据之前的文本生成后续的文本。它们的训练目标和生成方式略有不同，适用于不同的任务和应用场景。

3 涌现能力是啥原因？

大模型的涌现能力主要是由以下几个原因造成的：

数据量的增加：随着互联网的发展和数字化信息的爆炸增长，可用于训练模型的数据量大大增加。更多的数据可以提供更丰富、更广泛的语言知识和语境，使得模型能够更好地理解和生成文本。
计算能力的提升：随着计算硬件的发展，特别是图形处理器（GPU）和专用的AI芯片（如TPU）的出现，计算能力大幅提升。这使得训练更大、更复杂的模型成为可能，从而提高了模型的性能和涌现能力。
模型架构的改进：近年来，一些新的模型架构被引入，如Transformer，它在处理序列数据上表现出色。这些新的架构通过引入自注意力机制等技术，使得模型能够更好地捕捉长距离的依赖关系和语言结构，提高了模型的表达能力和生成能力。
预训练和微调的方法：预训练和微调是一种有效的训练策略，可以在大规模无标签数据上进行预训练，然后在特定任务上进行微调。这种方法可以使模型从大规模数据中学习到更丰富的语言知识和语义理解，从而提高模型的涌现能力。

综上所述，大模型的涌现能力是由数据量的增加、计算能力的提升、模型架构的改进以及预训练和微调等因素共同作用的结果。这些因素的进步使得大模型能够更好地理解和生成文本，为自然语言处理领域带来了显著的进展。