京东大模型搜索算法工程师面试题精选：10道高频考题+答案解析（附PDF）
京东简介
京东作为中国领先的电商平台，在搜索算法领域有着深厚的技术积累。京东搜索业务覆盖商品、内容、服务等多个场景，技术栈涵盖传统搜索算法、深度学习推荐系统和大模型技术。京东大模型搜索算法工程师需要具备扎实的算法基础、工程实践能力和业务理解能力，能够将前沿大模型技术应用于电商搜索场景，提升用户体验和商业价值。
题目列表（10道）
题目1：Transformer中的自注意力机制如何计算？为什么需要除以√d_k？
题目描述：请详细解释Transformer中自注意力机制的计算过程，并说明为什么在计算注意力权重时需要除以√d_k。
答案要点：
自注意力机制通过Query、Key、Value三个矩阵计算注意力权重。具体计算过程为：首先计算Q和K的点积，然后除以√d_k进行缩放，再经过softmax得到注意力权重，最后与V相乘得到输出。
除以√d_k的原因是为了防止点积结果过大导致softmax梯度消失。当d_k较大时，点积结果会变得很大，使得softmax函数在梯度较大的区域变得非常陡峭，导致梯度消失问题。通过除以√d_k，可以将点积结果控制在一个合理的范围内，保证训练的稳定性。
扩展提示：在实际应用中，多头注意力机制通过将注意力分散到多个子空间，增强了模型捕捉不同特征的能力。京东搜索场景中，多头注意力可以同时关注商品属性、用户意图、上下文信息等多个维度。
题目2：RAG系统的完整工作流程是什么？每个环节可能遇到什么问题？
题目描述：请描述检索增强生成（RAG）系统的完整工作流程，并分析每个环节可能遇到的问题及解决方案。
答案要点：
RAG系统工作流程包括：1）文档预处理（切分、向量化），2）向量检索（相似度计算），3）上下文拼接，4）大模型生成。
各环节问题及解决方案：
文档切分：chunk size选择不当会导致语义断裂。解决方案：采用语义切分或重叠切分。
向量检索：单一向量检索可能错过关键词匹配。解决方案：采用混合检索（BM25+向量检索）。</