Ollama REST API - OpenAI Compatibility

本节内容我们来看一下OpenAI Compatibility。OpenAI的API接口是大模型应用开发中最常用、且集成度最高的API接口规范，其兼容接口主要包括：

• chat/completions
• completions
• models
• embeddings

我们上两节课程内容中介绍的/api/generate和/api/chat接口，其实就是Ollama兼容OpenAI的REST API接口的底层实现。其中:

• /api/generate接口对应OpenAI的completions接口；
• /api/chat接口对应OpenAI的chat/completions接口；

因此我们现在再来看ollama中的OpenAI compatibility的API接口调用，就非常容易理解了。

• 非流式调用

from openai import OpenAI # type: ignore client = OpenAI( base_url='http://127.0.0.1:11434/v1/', # 这里修改成可访问的 IP api_key='ollama', # 这里随便写，但是api_key字段一定要有 ) chat_completion = client.chat.completions.create( model='deepseek-r1:1.5b', messages=[ { 'role': 'user', 'content': '你好，请你介绍一下什么是人工智能？', } ], ) print(chat_completion.choices[0].message.content)

• 流式调用

from openai import OpenAI client = OpenAI( base_url='http://127.0.0.1:11434/v1/', api_key='ollama', ) messages = [ { 'role': 'user', 'content': '你好，请你介绍一下什么是人工智能？', } ] try: # 调用聊天接口 stream = client.chat.completions.create( model='deepseek-r1:1.5b', messages=messages, stream=True ) # 处理流式响应 for chunk in stream: if chunk.choices[0].delta.content is not None: print(chunk.choices[0].delta.content, end='', flush=True) except Exception as e: print(f"发生错误: {str(e)}")

支持的功能

支持的请求字段