granite-4.0-h-350m实战教程：Ollama部署+多语言问答+代码补全+函数调用四合一

granite-4.0-h-350m实战教程：Ollama部署+多语言问答+代码补全+函数调用四合一

想找一个轻量、全能，还能在本地跑起来的AI模型？试试Granite-4.0-H-350M吧。这个只有3.5亿参数的小家伙，本事可不小。它能用十几种语言跟你聊天，帮你写代码、补全代码，甚至还能理解你的指令去调用函数。最关键的是，通过Ollama，你几分钟就能把它部署好，在自己的电脑上就能用，完全免费。

今天这篇教程，我就手把手带你玩转这个“四合一”的模型。从怎么用Ollama一键部署，到怎么用它进行多语言对话、代码辅助和函数调用，每一步都有详细的说明和截图。就算你之前没接触过Ollama，跟着做也能轻松搞定。

1. 为什么选择Granite-4.0-H-350M？

在开始动手之前，我们先花两分钟了解一下，这个模型到底有什么特别之处，值不值得你花时间。

1.1 模型的核心优势：小而全

Granite-4.0-H-350M最大的特点就是“麻雀虽小，五脏俱全”。它不是一个单一功能的模型，而是一个集成了多种能力的“瑞士军刀”。

• 轻量级：只有3.5亿参数，对硬件要求极低。普通的笔记本电脑就能流畅运行，部署和推理速度都很快，完全不用担心资源消耗。
• 多语言支持：它可不是只会英语。它支持包括中文、英语、德语、法语、日语、韩语等在内的十多种语言。这意味着你可以用它进行跨语言的问答和对话。
• 代码能力突出：它被专门训练来处理与代码相关的任务，比如代码补全（特别是“中间填充”模式，能在代码中间帮你补全）、代码解释、甚至生成简单的代码片段。
• 指令跟随与函数调用：它经过了高质量的指令微调，能很好地理解并执行你的复杂指令。更厉害的是，它支持函数调用（Function Calling），这意味着它可以理解你“想做什么”，然后输出结构化的信息，方便你编程调用。

简单来说，如果你需要一个能在本地快速部署、既能当聊天助手又能当编程伙伴的轻量级模型，Granite-4.0-H-350M是一个非常理想的选择。

1.2 它能帮你做什么？

这个模型的应用场景非常广泛，下面这张表罗列了它的主要能力：

了解了它的能力，接下来我们就进入正题，看看怎么把它部署起来并用起来。

2. 第一步：通过Ollama一键部署模型

部署是使用任何模型的第一步，也是最容易让人卡住的一步。但用Ollama来部署Granite-4.0-H-350M，过程简单得超乎想象。Ollama就像一个模型的“应用商店”，我们只需要找到它，点击运行就行了。

2.1 找到并进入Ollama模型页面

首先，你需要找到Ollama的模型展示入口。这个入口通常在你所使用的AI平台或工具的显眼位置。

如下图所示，在模型列表中找到一个标有【ollama】的入口，点击它就能进入Ollama提供的模型仓库。

进入后，你会看到一个丰富的模型列表，里面包含了各种可以通过Ollama直接拉取和运行的开源模型。

2.2 选择Granite-4.0-H-350M模型

在Ollama的模型页面，顶部通常会有一个模型搜索或选择框。

在这里，输入granite4:350m-h或者从下拉列表中找到它，然后点击选择。这个标签granite4:350m-h就是Ollama仓库中对应我们这个模型的唯一标识。

就这么简单！选择完成后，Ollama会自动在后台为你完成模型的下载、加载和服务的启动。你不需要输入任何命令行，也不需要配置复杂的环境。等待片刻（取决于你的网速），模型就准备就绪了。

2.3 开始你的第一次对话

模型部署成功后，页面下方会出现一个熟悉的聊天输入框。

在这个输入框里，你就可以直接向Granite-4.0-H-350M提问了。比如，你可以先用中文打个招呼：“你好，请介绍一下你自己。” 看看它的反应。

看到模型的回复，就说明一切正常，部署成功！接下来，我们来深入体验它的各项核心功能。

3. 实战体验一：多语言问答与对话

作为一个小体量的多语言模型，它的语言能力到底怎么样？我们来实测一下。

3.1 基础问答与逻辑推理

我们先问几个常识性和需要简单推理的问题，看看它的理解能力。

你可以这样提问：

用中文回答：太阳系中最大的行星是哪一颗？ 如果小明比小红高，小红比小兰高，那么谁最高？ 请用一句话总结《三国演义》的核心内容。

模型可能会这样回答：

1. “太阳系中最大的行星是木星。”
2. “根据描述，小明最高，其次是小红，最矮是小兰。”
3. “《三国演义》讲述了东汉末年至西晋初年，魏、蜀、吴三国之间政治与军事斗争的历史故事。”

从回答可以看出，它对基础事实和简单的逻辑推理掌握得不错，回答直接且准确。

3.2 多语言自由切换

这是它的亮点功能。你可以在一次对话中混合使用多种语言，模型通常能理解并沿用相应的语言回复。

试试这样的对话：

• 你（中文）：今天天气真好。
• 模型（中文）：是的，适合出门散步。
• 你（英文）：Can you recommend a good book?
• 模型（英文）：Sure, “The Alchemist” by Paulo Coelho is a popular and inspiring choice.
• 你（日语）：こんにちは、元気ですか？
• 模型（日语）：こんにちは！私はAIですので、元気かどうかは関係ありませんが、お役に立てれば嬉しいです。

这种无缝的多语言切换能力，对于学习外语、进行跨语言信息检索或构建多语言聊天机器人非常有帮助。

4. 实战体验二：代码补全与辅助编程

对于开发者来说，代码能力可能是最关心的。Granite-4.0-H-350M在代码补全，尤其是“中间填充”方面有专门优化。

4.1 基础代码生成与解释

你可以让它生成一些常见功能的代码片段，或者解释一段代码是做什么的。

示例1：生成一个Python函数

写一个Python函数，用于判断一个数字是否是素数。

模型生成的代码可能如下：

def is_prime(n): """判断一个正整数是否为素数。""" if n <= 1: return False if n <= 3: return True if n % 2 == 0 or n % 3 == 0: return False i = 5 while i * i <= n: if n % i == 0 or n % (i + 2) == 0: return False i += 6 return True # 测试函数 print(is_prime(11)) # 输出: True print(is_prime(15)) # 输出: False

示例2：解释一段JavaScript代码

解释下面这段JavaScript代码的作用： `const uniqueArray = arr => [...new Set(arr)];`

模型的解释可能如下：“这是一个箭头函数，它接受一个数组arr作为参数。函数内部使用Set对象（集合）来去除数组中的重复元素，因为Set只存储唯一值。然后通过扩展运算符...将集合转换回一个新的数组。最终，函数返回一个去重后的新数组。”

4.2 强大的“中间填充”代码补全

“中间填充”是指模型能够根据上下文，补全代码中间缺失的部分。这在日常编程中非常实用。

假设你有一段未完成的代码：

def calculate_stats(data): # 计算平均值 mean = sum(data) / len(data) # 计算方差 variance = sum((x - mean) ** 2 for x in data) / len(data) # 计算标准差 <FILL_HERE> return mean, variance, std_dev

你可以将这段代码发给模型，并提示它进行中间填充。

请补全上面Python代码中`<FILL_HERE>`标记的部分。

模型可能会补全为：

# 计算标准差 std_dev = variance ** 0.5

这个功能能极大提升编码效率，特别是在你记得函数框架但忘记某个具体计算步骤时。

5. 实战体验三：函数调用功能详解

函数调用是让AI模型变得更“ actionable ”（可操作）的关键能力。Granite-4.0-H-350M可以将你的自然语言指令，解析成结构化的函数调用请求。

5.1 函数调用是什么？

简单来说，就是你告诉模型：“我有A、B、C这几个函数可以用，它们分别需要X、Y、Z这些参数。” 然后你用自然语言说：“我想做某件事。” 模型会理解你的意图，并告诉你：“你应该调用B函数，并且传入这些参数值。”

这样，你的程序就能根据模型的输出，自动去执行相应的函数了。

5.2 如何与Granite模型进行函数调用？

通常，函数调用需要遵循一定的格式。你需要先定义好可用的“工具”（即函数列表），然后连同你的问题一起发给模型。

1. 定义工具（函数）列表：假设我们定义了三个工具函数：

• get_current_weather：获取天气，参数是location（地点）。
• search_web：搜索网页，参数是query（查询词）。
• calculate：计算，参数是expression（数学表达式）。

2. 向模型提问：你可以这样问模型：

可用的工具：[上面定义的三个工具]。用户想问：“北京今天天气怎么样？顺便帮我算一下(15+27)*3等于多少。”

3. 模型的输出：模型不会直接回答“北京晴，26度”和“126”。而是会输出结构化的调用建议，例如：

[ { “function”: “get_current_weather”, “parameters”: {“location”: “北京”} }, { “function”: “calculate”, “parameters”: {“expression”: “(15+27)*3”} } ]

4. 你的程序执行：你的程序接收到这个JSON输出后，就可以去真正调用get_current_weather(“北京”)和calculate(“(15+27)*3”)这两个函数，获取实际结果，再展示给用户。

5.3 这个功能有什么用？

这为构建复杂的AI应用打开了大门。你可以将模型作为“大脑”，它负责理解用户复杂的、多步骤的意图，然后规划出需要调用哪些后端API或内部函数，并整理好参数。你的系统只需要执行这些调用并汇总结果即可。这让创建智能助理、自动化工作流变得非常高效。

6. 总结与进阶建议

通过上面的教程，你已经成功部署了Granite-4.0-H-350M，并体验了它的四大核心功能：多语言对话、代码补全、代码解释和函数调用。

6.1 核心要点回顾

1. 部署极简：利用Ollama，无需复杂命令，点击即可完成这个轻量级模型的部署。
2. 功能全面：别看它小，聊天、问答、编程辅助、逻辑推理、多语言、函数调用样样都行，是一个性价比极高的全能型选手。
3. 代码友好：特别优化了代码相关任务，尤其是“中间填充”补全，对开发者非常实用。
4. 可扩展性强：支持函数调用，意味着它可以成为你构建更复杂AI应用的智能核心。

6.2 下一步可以尝试什么？

• 探索更多场景：试试用它写邮件大纲、总结长文章、进行简单的文本分类（比如区分评论的正负面）。
• 集成到你的项目：如果你在开发一个应用，可以尝试通过API调用本地部署的Ollama服务，将Granite模型集成进去，作为聊天或代码辅助的后端。
• 尝试微调：由于模型非常小，你可以考虑用自己的数据对它进行微调，让它更擅长某个特定领域（比如法律、医疗或你公司的内部知识）。
• 结合RAG：利用它的增强检索生成能力，将它与你本地的知识库（文档、数据库）结合，打造一个精准的问答系统。

希望这篇教程能帮助你快速上手这个强大而精巧的模型。在实际使用中如果遇到问题，多尝试不同的问法，往往能得到更好的结果。

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。