本地部署AI
【前言】
一直以来，我都深耕于断网开发环境，与外界“绝缘”成了常态。也因此，始终没能真正拥抱AI浪潮，成为一名高频“吃Token”的开发者。趁着今天得闲，决定把本地部署AI的过程记录下来，算是给自己补上一课。
【为什么还要本地部署AI？】
先别急着说“没必要”——如今在线AI和各类桌面端应用已经足够成熟，ChatGPT、Copilot、Claude等随手可用，为什么还要“折腾”本地部署？
我个人的理解，主要有三点：
数据安全是第一刚需
工作中涉及内部代码、敏感文档、未公开的算法逻辑，这些数据一旦上传云端，即使厂商承诺“不用于训练”，心理上的“数据出境感”仍然挥之不去。本地部署，数据不出机房，物理隔离，才是真正的“我的数据我做主”。自主训练，定制专属模型
在线大模型虽强，但它是“通用大脑”，不懂你的业务术语、代码规范、项目上下文。本地部署后，你可以用自有数据做微调（Fine-tuning）或RAG，让AI真正懂你的项目，成为专属“副驾驶”。离线可用，永不掉线
对于我这种长期断网环境的“原住民”，网络波动或断连是家常便饭。本地AI随叫随到，不受网络和API配额限制，开发体验更流畅，也无需为Token计费焦虑。
【记录本地部署AI过程】
一个好看的聊天界面
我选择的是Ollama
特别提醒！！！ 选择安装的是时候千万不要直接点击进入安装程序
通过cmd命令行进入安装程序，这样可以选择安装盘，要不然就会安装在C盘.
例如你的安装包 在D盘file下面 OllamaSetup.exe，
1打开cmd WIN+R 输入cmd 回车
直接输入 D: && cd file 进入安装包目录
2 输入 OllamaSetup.exe /DIR="D:\Ollama"
等待一段时间安装好
安装好之后，界面就是这样的下载链接：https://v4.gh-proxy.org/https://github.com/ollama/ollama/releases/latest/download/OllamaSetup.exe
选择模型
可根据个人电脑配置选择，我这里选择的是deepseek-r1:7b。
（本人电脑比较垃圾，勿喷！！！）
在安装前进入Ollama界面 选择模型存放目录要不然就会默认C盘1打开cmd WIN+R 输入cmd 回车
输入ollama pull deepseek-r1:7b 等待安装 大概4个多G
安装好之后
输入ollama run deepseek-r1:7b
运行模型 就可以了当然也可以在聊天界面 select a model 选择安装的模型
【结语】
当然，本地部署也有门槛——硬件成本、模型选型、推理优化都是挑战。但正如当年从物理机迁移到虚拟化一样，早踩坑，早受益。这篇文章就当作我的“本地AI折腾日志”，希望能给同样身处内网或对数据敏感的朋友一些参考。