过低的学习率，虽然能找到合适的参数，但会有更大的耗时和资源消耗
**高效微调技术（PEFT）** 通过调整少量参数，显著降低大模型微调的计算成本，同时保持性能接近全参训练。典型方法包括Adapter Tuning、Prompt Tuning 和 LoRA。其中，LoRA 因仅需训练适配的小参数矩阵（即低秩矩阵，仅需原模型0.1%-1%的参数），成为资源受限场景下的首选方案。以下重点解析 LoRA 如何以极低参数量实现高效微调。
2 使用函数计算FC部署模型
函数计算FC的部署方式支持更多类型的模型，函数计算提供Serverless GPU服务，无需运维底层资源，秒级自动扩缩容，同时通过按需付费，对于不频繁使用的模型可以节省大量的成本，尤其适合计算资源要求高的临时任务。
通过函数计算来部署模型也不是没有缺点：
- 冷启动延迟：如果一段时间内没有请求到达，则函数可能会进入“冷”状态，在接收到新的调用请求时需要重新启动实例，这可能导致首次响应时间较长。
- 调试难度增加：基于函数的应用可能更难于调试和监控。在多步骤处理流程中定位问题较难。
综上，使用函数计算FC部署模型的方式非常适合轻量级推理任务、对实时性要求不高的低频访问场景（如离线批处理、定时或事件触发任务）。
但是，如果你的任务场景对实时性要求较高，或需要加强复杂的模型推理的监控和调试，可以尝试使用接下来的集中方式部署模型。
部署参考：你可以一键部署Qwen3推理模型体验函数计算提供的部署能力，更多部署实践可参见函数计算3.0-实践教程。
* 批处理：通过合并多个请求为一个批次（同时合并相似请求或去除重复请求），可以减少请求次数，降低多次请求间的往返延迟，提高硬件利用率。百炼上提供了[批量推理（Batch）](https://help.aliyun.com/zh/model-studio/user-guide/batch-inference)API，通过利用空闲时间资源完成**离线推理任务**，你可以通过这些接口执行批量推理任务。
# 2.1.5 不要默认依赖大模型
大语言模型（LLM）虽然功能强大且用途广泛，但并不意味着它适合处理所有任务。在某些情况下，默认使用 LLM 可能会导致不必要的延迟或复杂性，而更简单、经典的方法反而能够提供更好的性能和效率。以下是一些优化建议：
* 硬编码：减少对动态生成的依赖。如果输出是高度标准化或受限的，硬编码可能是更好的选择，而不是依赖 LLM 动态生成内容。例如：
* 操作确认消息：像“您的请求已成功提交”或“操作失败，请重试”等标准响应可以直接硬编码，无需 LLM 生成。
* 拒绝消息：像“输入无效，请检查格式”等常见错误场景，可以预先定义多种变体并随机选择，既高效又避免了重复感。
* 预先计算：提前生成和复用内容。当输入选项有限时，可以通过预先计算生成所有可能的响应，并根据用户输入快速匹配。这种方法不仅能减少延迟，还能避免重复显示相同的内容。
* 利用经典 UI 组件：提升用户体验。在某些场景下，传统的 UI 组件比 LLM 生成的文本更能有效地传达信息。例如：
* 汇总指标：使用图表、进度条或表格来展示数据，而不是让 LLM 生成一段描述性文字。
* 搜索结果：通过分页、筛选器和排序功能呈现结果，比生成一段冗长的自然语言描述更直观。
* 传统优化技术：结合经典算法提升效率。即使是在 LLM 应用中，经典的优化技术依然适用。例如：
* 二分查找：在处理有序数据时，使用二分查找快速定位目标，而不是让 LLM 遍历整个数据集。
- 哈希映射：通过哈希表快速检索预定义的响应或模板，减少计算复杂度。
