从安装到卸载：记录我在Ubuntu 22.04上折腾Ollama踩过的那些坑
从安装到卸载：记录我在Ubuntu 22.04上折腾Ollama踩过的那些坑
去年夏天，当我第一次听说能在本地运行Llama 2这样的开源大模型时，那种兴奋感就像发现了新大陆。作为一个长期在Ubuntu环境下工作的开发者，Ollama这个宣称"一键部署大模型"的工具立刻吸引了我的注意。但没想到，从安装到最终卸载的整个过程，就像坐过山车一样充满意外——依赖冲突、权限陷阱、内存爆仓...今天我就把这些亲身经历整理出来，希望能帮到正准备尝试的你们少走些弯路。
1. 为什么选择Ollama？理想与现实的差距
最初吸引我的是Ollama官网那句"Run large language models locally"的标语。相比直接调用API，本地运行意味着：
- 数据隐私：敏感对话记录不会上传到第三方服务器
- 离线可用：没有网络时也能进行原型测试
- 成本可控：避免按token计费带来的意外账单
但实际体验后发现，这些优势需要付出相应代价。我的ThinkPad P52（32GB内存，NVIDIA Quadro P2000）在运行7B参数的Llama 2时，即使使用--gpu参数，响应速度也比云端服务慢了3-5倍。更棘手的是，当我想尝试13B模型时，系统直接因OOM被杀进程。
重要提醒：在Ubuntu上运行前，先用
free -h和nvidia-smi确认可用资源，模型所需内存通常是参数量的1.5-2倍
2. 安装过程中的那些"坑"
2.1 依赖地狱：缺失的libssl
按照官方文档执行安装命令：
curl -fsSL https://ollama.com/install.sh | sh却报出libssl.so.1.1: cannot open shared object file错误。这是因为Ubuntu 22.04默认使用OpenSSL 3.0，而Ollama依赖的是1.1版本。解决方法比想象中复杂：
- 手动下载旧版libssl：
wget http://archive.ubuntu.com/ubuntu/pool/main/o/openssl/libssl1.1_1.1.1f-1ubuntu2_amd64.deb sudo dpkg -i libssl1.1_1.1.1f-1ubuntu2_amd64.deb - 创建符号链接欺骗系统：
sudo ln -s /lib/x86_64-linux-gnu/libssl.so.1.1 /lib/x86_64-linux-gnu/libssl.so.3
2.2 权限陷阱：无法创建的/usr/share/ollama
安装脚本尝试在系统目录创建文件夹时，可能会因权限不足失败。我发现最稳妥的方式是：
- 提前手动创建目录并赋权：
sudo mkdir -p /usr/share/ollama sudo chown $USER:$USER /usr/share/ollama - 或者改用用户目录安装：
export OLLAMA_HOME=$HOME/.ollama
3. 运行时遇到的奇葩问题
3.1 模型下载龟速
执行ollama pull llama2时，下载速度经常跌破100KB/s。后来发现可以通过：
- 更换国内镜像源（需谨慎验证安全性）
- 使用
--insecure参数跳过TLS验证（仅限测试环境） - 预先下载模型文件后手动加载
3.2 GPU加速失效
尽管指定了--gpu参数，任务管理器显示GPU利用率始终为0%。排查步骤：
- 确认CUDA版本兼容性：
nvcc --version - 检查NVIDIA驱动状态：
nvidia-smi -q | grep "Driver Version" - 最终发现需要额外安装cuda-toolkit：
sudo apt install nvidia-cuda-toolkit
4. 为什么最终选择卸载？
经过两个月断续使用，我决定卸载Ollama的主要原因：
| 问题类型 | 具体表现 | 影响程度 |
|---|---|---|
| 资源占用 | 空闲时也占用4GB内存 | ★★★★ |
| 维护成本 | 频繁出现依赖冲突 | ★★★☆ |
| 性能瓶颈 | 13B模型响应超30秒 | ★★★★ |
| 生态局限 | 插件系统不完善 | ★★☆☆ |
彻底卸载的完整流程：
- 停止服务进程：
sudo systemctl stop ollama - 移除系统服务配置：
sudo systemctl disable ollama sudo rm /etc/systemd/system/ollama.service - 删除程序本体：
sudo rm $(which ollama) - 清理模型文件（注意这会删除所有下载的模型）：
sudo rm -rf /usr/share/ollama - 移除专用用户组：
sudo userdel ollama sudo groupdel ollama
现在回看这段经历，虽然最终选择了卸载，但这个过程让我对本地大模型部署有了更深理解。如果你只是想做原型验证，或许Docker版的Text Generation WebUI是更轻量的选择；但如果追求极致性能，可能得考虑配备专业显卡的工作站了。