笔记本远程调用台式机Ollama教程
背景:由于本人笔记本配置有限,台式机性能更好,因此把Ollama部署在台式机上。问题是如何让笔记本去调用台式机呢,经过本人探索后成功调通,现将教程分享出来。
## 一、整体思路
要让笔记本通过 WiFi 调用台式机上运行的 Ollama 大模型,核心步骤是:
1. 让 Ollama 监听台式机的局域网 IP(而不是仅限本机)。
2. 开放 Windows 防火墙的对应端口。
3. 在笔记本上通过台式机的 IP 地址和端口访问。
---
## 二、详细操作步骤
### 步骤1:查看台式机的局域网IP地址
台式机是有线连接路由器,需要知道它被分配的 IP。
- 按 `Win + R`,输入 `cmd` 并回车。
- 在命令窗口中输入 `ipconfig` 并回车。
- 找到“以太网适配器”下的 **IPv4 地址**,类似 `192.168.1.100` 或 `10.0.0.5`。**记下这个IP**。
> 如果台式机同时有线和无线都连接了,请确保笔记本访问的是**有线网卡的IP**(通常更稳定)。
### 步骤2:配置 Ollama 监听所有网络接口
Ollama 默认只允许本机访问(`127.0.0.1`),需要修改为监听 `0.0.0.0`(即所有网络接口)。
#### 方法一(推荐):设置环境变量并重启 Ollama
1. **关闭正在运行的 Ollama**:
在系统托盘(右下角小箭头)找到 Ollama 图标,右键点击选择 **Quit**。
2. **设置环境变量**:
- 按 `Win + R`,输入 `sysdm.cpl` 并回车。
- 切换到 **高级** 选项卡 → 点击 **环境变量**。
- 在 **系统变量** 区域点击 **新建**:
- 变量名:`OLLAMA_HOST`
- 变量值:`0.0.0.0:11434`
- 点击确定保存。
3. **重新启动 Ollama**:
从开始菜单或桌面快捷方式启动 Ollama。
#### 方法二(临时测试):在命令行启动 Ollama
如果不希望永久修改环境变量,可以:
1. 关闭 Ollama 托盘程序。
2. 打开命令提示符(以管理员身份运行)。
3. 执行:
```cmd
set OLLAMA_HOST=0.0.0.0:11434
ollama serve
```
保持该窗口不关闭,Ollama 就会在前台运行并监听所有地址。
### 步骤3:确认 Ollama 已正确监听
在台式机上打开浏览器,访问 `http://127.0.0.1:11434` 或 `http://localhost:11434`。
如果看到 `Ollama is running` 类似的提示,说明服务正常。
接着在台式机上尝试访问 `http://台式机IP:11434`(例如 `http://192.168.1.100:11434`)。
如果能打开同样的页面,说明已监听局域网地址。
### 步骤4:配置 Windows 防火墙允许入站连接
Ollama 默认端口 `11434` 可能被防火墙阻止,需要添加规则。
1. 按 `Win + R`,输入 `wf.msc` 并回车,打开“高级安全 Windows 防火墙”。
2. 点击左侧 **入站规则** → 右侧 **新建规则**。
3. 规则类型:选择 **端口** → 下一步。
4. 协议和端口:
- 选择 **TCP**
- 特定本地端口:输入 `11434` → 下一步。
5. 操作:选择 **允许连接** → 下一步。
6. 配置文件:全选(域、专用、公用)→ 下一步。
7. 名称:输入 `Ollama API` 或任意名称 → 完成。
> **可选**:如果你担心安全问题,可以在第6步只勾选“专用”和“域”(家庭网络一般选“专用”即可)。
### 步骤5:在笔记本上测试连通性
笔记本连接同一个 WiFi,然后:
- 打开浏览器,访问 `http://台式机IP:11434`(例如 `http://192.168.1.100:11434`)。
如果看到 `Ollama is running`,说明网络和防火墙都已打通。
- 或者用命令测试(笔记本也打开命令提示符):
```cmd
curl http://台式机IP:11434
```
如果没有 curl,可以用 `telnet 台式机IP 11434` 测试端口通不通。
### 步骤6:在笔记本上调用 Ollama API
#### 方式一:直接使用 HTTP API(通用)
例如生成对话:
```cmd
curl http://台式机IP:11434/api/generate -d "{\"model\": \"你的模型名\", \"prompt\": \"你好\"}"
```
或者用 Python 的 `requests` 库。
#### 方式二:在笔记本上安装 Ollama 客户端并连接远程服务器
1. 在笔记本上也下载安装 Ollama(只是作为客户端,不需要拉取模型)。
2. 设置环境变量 `OLLAMA_HOST=http://台式机IP:11434`(注意带协议)。
3. 然后直接使用 `ollama run 模型名`,它会自动连接到台式机上的服务。
设置方法(笔记本上):
- 按前面的环境变量设置方法,添加:
- 变量名:`OLLAMA_HOST`
- 变量值:`http://台式机IP:11434`
- 重启 Ollama 托盘程序(或者打开命令提示符执行 `set OLLAMA_HOST=http://台式机IP:11434` 再运行 `ollama run`)。
#### 方式三:使用 Open WebUI 等第三方界面
如果你在笔记本上运行 Open WebUI,可以在配置中填写 Ollama 后端地址为 `http://台式机IP:11434`。
---
## 三、常见问题及解决
### Q1:笔记本浏览器访问 `http://台式机IP:11434` 超时或无法连接
- **检查台式机IP是否变化**:重启路由器或台式机可能导致IP变化,建议在路由器中给台式机设置静态IP分配(DHCP保留)。
- **检查防火墙**:临时关闭台式机防火墙测试(不推荐长期关闭),若能访问则说明防火墙规则未生效。重新按步骤4添加规则,注意选择正确的网络配置文件(专用/公用)。
- **检查 Ollama 是否真的在监听 0.0.0.0**:在台式机命令行执行 `netstat -an | findstr 11434`,应看到 `0.0.0.0:11434` 或 `[::]:11434`,而不是 `127.0.0.1:11434`。
### Q2:笔记本 ping 不通台式机 IP
- 确认笔记本和台式机在同一个网段(例如都是 192.168.1.x)。
- 检查路由器是否开启了 **AP隔离**(部分路由器会阻止 WiFi 设备访问有线设备)。登录路由器管理后台,关闭 AP 隔离功能。
### Q3:我想让外网也能访问(不安全,不推荐)
- 绝对不要直接暴露到公网。如果确实需要远程访问,请使用 VPN(如 Tailscale、ZeroTier)或 SSH 隧道。
---
## 四、安全建议
- 只在家庭信任网络中使用此配置。
- 考虑给 Ollama 添加反向代理(如 Nginx)并启用简单的 API Key 验证。
- 定期检查防火墙日志,防止意外暴露。
