linux下手工安装ollama0.9.6

1、去下载ollama的linux版的压缩包：
地址：https://github.com/ollama/ollama/releases

2、上传到linux中。

3、解压：

tarzxvf ollama-linux-amd64-0.9.6.tgz-C/usr/local/

最新的从0.14开始，使用了新格式，改为：tar-Izstd-xvfollama-linux-amd64.0.20.2.tar.zst-C/usr/local

用起来可以的模型：

ollama run fredrezones55/Qwopus3.5:27b#opus的蒸馏版shmily_006/Qw3:latest#qwen3 4b不思考版本

4、如果仅仅是要手工执行，已经可以了：
ollama serve
5、添加存储目录：
mkdir -p /app/ollama/data
修改权限
chmod 777 -R /app/ollama/data
6、添加用户

sudouseradd-r-s/bin/false-U-m-d/usr/share/ollama ollamasudousermod-a-Gollama$(whoami)

7、创建服务文件 /etc/systemd/system/ollama.service：

[Unit]Description=Ollama ServiceAfter=network-online.target[Service]ExecStart=/usr/local/bin/ollama serveUser=ollamaGroup=ollamaRestart=alwaysRestartSec=3Environment="PATH=/root/anaconda3/bin:/root/anaconda3/condabin:/usr/local/cuda/bin:/root/anaconda3/bin:/usr/local/cuda/bin:/usr/share/Modules/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bi$ Environment="OLLAMA_MODELS=/app/ollama/data" Environment="OLLAMA_HOST=0.0.0.0"[Install]WantedBy=default.target

8、启动服务

systemctl start ollama

9、可以看下状态：

systemctl status ollama

10、api接口

openapi兼容接口 http://localhost:11434/v1/ http://localhost:11434/v1/models 查看所有的模型 http://localhost:11434/v1/chat/completions 会话接口 http://localhost:11434/v1/responses 响应接口 http://localhost:11434/v1/embeddings 嵌入模型 http://localhost:11434/v1/images/generations 图片生成接口 下面是ollama的web api http://localhost:11434/api/generate http://localhost:11434/api/chat http://localhost:11434/api/embed http://localhost:11434/api/tags