LLM 调参指南：Temperature、TopK、TopP 与 Token 控制
LLM 调参指南：Temperature、TopK、TopP 与 Token 控制
使用大语言模型时，合理调整生成参数能显著提升输出质量。以下是四个核心参数的实用指南。
参数速览
- Temperature（0-1）：控制随机性。值越低输出越严谨刻板，越高越发散、有创意。
- TopK：仅从概率排名前 K 的词汇中挑选，压缩候选范围，约束输出走向。
- TopP（核采样）：按概率累加筛选候选词，达标后截断候选池，平衡规整度与多样性。
- Max Token：限制生成长度。
场景调参建议
| 场景 | Temperature | TopK | TopP | Max Token |
|---|---|---|---|---|
| 代码编写 / 技术问答 / 数据校验 | 0.1-0.3 | 5-10 | 0.2-0.4 | 512-1024 |
| 业务总结 / 文档摘要 / 指令执行 | 0.4-0.5 | 15-25 | 0.6-0.7 | 1024-2048 |
| 日常对话 / 智能体交互 / 文案改写 | 0.5-0.7 | 20-30 | 0.7-0.8 | 2048-4096 |
| 创意创作 / 脑洞文案 / 诗歌剧本 | 0.7-0.9 | 35-50 | 0.85-0.95 | 4096+ |
核心原则
高精度任务（代码、数据）→ 低 Temperature + 窄 TopK/TopP，确保输出准确可靠。
创造性任务（写作、创意）→ 高 Temperature + 宽 TopK/TopP，鼓励模型探索更多可能性。
中间任务（摘要、对话）→ 取中庸值，在规整和多样性之间找到平衡。
调参没有绝对公式，上述范围可作为起点，根据实际效果微调即可。