当前位置: 首页 > news >正文

跟着Datawhale动手学Ollama - TASK3: Ollama API 的使用

参考链接

动手学Ollama教程: https://datawhalechina.github.io/handy-ollama/
Ollama官网:https://ollama.com/

核心内容

Ollama 提供 Rest API 可调用,也可在不同语言如 Python 中调用 ollama API(import ollama)

学习杂记

  • curl可用于快速测试API,它默认使用GET方法,所以想测试 GET /api/tags 时,直接 curl http://localhost:11434/api/tags ;
    但是想测试POST,需要使用-d后面加要POST的数据,表示HTTP POST data,或者使用-X POST指定方法;同理DELETE可以用-X DELETE
  • 了解了“结构化输出”,可以让模型“少说废话”,得到的无意义自然语言更少,方便后续的信息提取
  • 有趣的事实:在测试“请介绍美国的首都、人口、占地面积信息,并以 JSON 格式返回”这个prompt时,deepseek-r1:1.5b会返回多个城市,而qwen3:0.6b会正确返回一个城市
  • 教程在一段测试代码中,希望模型返回的是json格式,键是"首都",但是虽然prompt是中文,有的模型(例如qwen3:0.6b)还是会输出键为"captical",导致后续的pydantic.BaseModel派生类的.model_validate匹配时候报错。所以解决方法是将原来的prompt增加一句:“不要使用英文字段名”,即可保证生成的键是理想中的"首都"中文。
  • 测试ollama.embeddings时候,发现qwen3:0.6b不支持embedding功能,而deepseek-r1:1.5b支持

心得体会

前面学习了大模型的下载、导入等,也就意味着本地可以通过Ollama跑各类大模型,而今天学习的内容更进一步,让我们可以通过 ollama API 完成与模型的交互,不管是各类本地模型的创建删除、拉取推送,还是与具体模型的基本对话、结构化输出控制等。其中我收获最大的是“结构化输出”,对这个概念有了比较清晰的理解,也意识到这样的格式对于数据的处理十分友好,常用的相关 Python 库有json, pydantic。另外,还了解到了curl工具,可以快速测试API。

http://www.jsqmd.com/news/116100/

相关文章:

  • 【C2000系列DSP的Bootloader详解】如何利用脚本自动合并hex文件
  • 【C2000系列DSP的Bootloader详解】如何利用脚本自动合并Bin文件
  • 016.递归枚举
  • 微观交通流仿真软件:AIMSUN_(15).用户界面与操作
  • 切木棍最小成本方法
  • C语言 文件的操作
  • 曼哈顿距离与切比雪夫距离的互相转化 小记
  • 微观交通流仿真软件:AIMSUN_(16).交通规划应用
  • InoProShop汇川程序学习笔记(一、轴的快速调试)
  • 1小时微调 Gemma 3 270M 端侧模型与部署全流程
  • Ubuntu安装QEMU过程及问题记录
  • 京东啊啊啊啊啊
  • 微观交通流仿真软件:AIMSUN_(17).环境影响评估
  • FlutterOpenHarmony国际化与多语言支持
  • 深入解析:架构深度解析:衡石科技如何凭借云原生与存算分离架构重塑BI性能边界
  • 深入解析:架构深度解析:衡石科技如何凭借云原生与存算分离架构重塑BI性能边界
  • FlutterOpenHarmony剪贴板操作功能开发
  • AI Phone下的各类App该何去何从
  • Doris 和 StarRocks 性能测试对比
  • Doris 和 StarRocks 性能测试对比
  • 文件上传php知识和理解
  • 基于Springboot箱包存储管理系统【附源码+文档】
  • 【小白笔记】图论(Graph Theory),“二维数组”或“矩阵”
  • 大模型开发必备:8个实用工具与框架详解
  • PCL配准——粗配准+ICP
  • 2026 年 CRM 软件入门指南:概念、类型、厂商与选型策略
  • 【Parallel-R1 代码实现】sft
  • 微观交通流仿真软件:AIMSUN_(21).微观仿真与其他交通软件的集成
  • esxi手动添加vmfs分区
  • 大模型——基于浏览器收藏夹的知识库