零基础教程：用SmallThinker-3B打造高效草稿模型

零基础教程：用SmallThinker-3B打造高效草稿模型

1. 教程介绍：为什么选择SmallThinker-3B

如果你正在寻找一个既小巧又强大的AI模型，特别是需要在资源有限的设备上运行，或者想要一个高效的草稿生成工具，那么SmallThinker-3B就是为你量身打造的。

这个模型基于Qwen2.5-3b-Instruct微调而来，专门针对两个核心场景优化：一是在边缘设备上部署，二是在大模型推理中作为草稿模型使用。最吸引人的是，当作为QwQ-32B Preview的草稿模型时，它能将推理速度提升70%！

本教程将手把手带你从零开始，快速上手使用SmallThinker-3B模型。即使你没有任何AI背景，也能在10分钟内学会如何使用这个强大的工具。

2. 环境准备与快速部署

2.1 找到Ollama模型入口

首先，你需要找到Ollama模型的显示入口。这个入口通常位于平台的显眼位置，点击进入后就能看到各种可用的模型。

2.2 选择SmallThinker-3B模型

进入模型页面后，在页面顶部的模型选择入口中，找到并选择【smallthinker:3b】。这个步骤很简单，就像在购物网站选择商品一样直观。

2.3 开始使用模型

选择好模型后，页面下方会出现一个输入框。这就是你与SmallThinker-3B对话的窗口，你可以在这里输入任何问题或指令。

3. 快速上手：你的第一个草稿生成

现在让我们来实际体验一下SmallThinker-3B的强大能力。这个模型特别擅长生成长链的思维推理（COT推理），这正是它作为草稿模型的优势所在。

尝试在输入框中输入以下内容：

请帮我起草一篇关于人工智能在医疗领域应用的文章大纲，包括主要应用场景和技术挑战。

你会看到模型快速生成一个结构清晰、内容丰富的文章大纲。由于SmallThinker-3B经过专门训练，75%以上的样本输出都超过8K tokens，所以它生成的草稿通常都很详细和完整。

4. 实用技巧：让草稿生成更高效

4.1 如何写出好的提示词

要让SmallThinker-3B生成高质量的草稿，关键在于如何描述你的需求。这里有几个实用技巧：

• 明确主题：直接说明你想要什么类型的草稿
• 指定格式：如果需要特定格式（如大纲、列表、段落），请在提示词中说明
• 控制长度：可以指定"用500字左右"或"生成详细大纲"来控制输出长度

例如：

请用列表形式生成一份关于远程办公优缺点的草稿，每个点简要说明

4.2 不同场景的使用示例

SmallThinker-3B可以应用在各种场景中：

写作辅助：

帮我起草一封给客户的道歉邮件，语气要诚恳专业

学习笔记：

生成机器学习基础概念的复习大纲，包含主要算法和公式

创意发散：

为智能家居产品想10个创新功能点子，每个点子简要描述

5. 常见问题解答

问题1：模型响应速度如何？由于SmallThinker-3B只有3B参数，它在保证质量的同时具有很快的响应速度，特别适合实时交互场景。

问题2：生成的草稿需要修改吗？作为草稿模型，它生成的內容已经具有很好的基础，但你仍然需要根据具体需求进行适当的调整和优化。

问题3：可以在哪些设备上运行？这个模型专为边缘设备设计，可以在树莓派、移动设备等资源受限的环境中运行。

问题4：支持中文吗？是的，基于Qwen2.5微调的SmallThinker-3B对中文有很好的支持。

6. 总结

通过本教程，你已经学会了如何使用SmallThinker-3B这个高效的草稿模型。它的小体积和强大能力使其成为边缘部署和快速草稿生成的理想选择。

记住几个关键点：选择正确的模型、写出清晰的提示词、根据需求调整生成内容。随着使用次数的增加，你会越来越熟练地利用这个工具提升工作效率。

SmallThinker-3B作为QwQ-32B的草稿模型，能够显著提升推理速度，这在处理复杂任务时尤其有价值。现在就去尝试生成你的第一个草稿吧！

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。