当前位置：首页 > news >正文

Phi-4-mini-reasoning从零部署教程：Ubuntu+Docker+vLLM+Chainlit完整流程

news 2026/8/1 0:32:01

Phi-4-mini-reasoning从零部署教程：Ubuntu+Docker+vLLM+Chainlit完整流程

1. 环境准备与快速部署

在开始之前，请确保您已经准备好以下环境：

Ubuntu 20.04或更高版本的操作系统
Docker已安装并正常运行
至少16GB内存（推荐32GB以上）
具有NVIDIA GPU并已安装最新驱动

1.1 安装必要依赖

首先，我们需要安装一些基础依赖包：

sudo apt update sudo apt install -y python3-pip python3-dev git curl

1.2 安装Docker和NVIDIA容器工具

如果您尚未安装Docker，可以运行以下命令：

curl -fsSL https://get.docker.com | sh sudo usermod -aG docker $USER

安装NVIDIA容器工具：

distribution=$(. /etc/os-release;echo $ID$VERSION_ID) \ && curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add - \ && curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list sudo apt-get update sudo apt-get install -y nvidia-docker2 sudo systemctl restart docker

2. 部署Phi-4-mini-reasoning模型

2.1 拉取预构建的Docker镜像

我们将使用预构建的Docker镜像来简化部署过程：

docker pull csdn-mirror/phi-4-mini-reasoning:v1.0

2.2 启动模型服务容器

运行以下命令启动模型服务：

docker run -d --gpus all -p 8000:8000 -v /data/models:/models --name phi4-mini csdn-mirror/phi-4-mini-reasoning:v1.0

这个命令会：

在后台运行容器
使用所有可用的GPU
将容器的8000端口映射到主机的8000端口
挂载一个数据卷用于存储模型文件

2.3 验证模型服务

等待几分钟让模型加载完成，然后检查服务状态：

docker logs phi4-mini

如果看到类似下面的输出，说明服务已成功启动：

INFO: Started server process [1] INFO: Waiting for application startup. INFO: Application startup complete. INFO: Uvicorn running on http://0.0.0.0:8000

3. 使用Chainlit构建前端界面

3.1 安装Chainlit

在您的开发环境中安装Chainlit：

pip install chainlit

3.2 创建Chainlit应用

创建一个新的Python文件phi4_app.py，内容如下：

import chainlit as cl from openai import OpenAI client = OpenAI(base_url="http://localhost:8000/v1", api_key="none") @cl.on_message async def main(message: cl.Message): response = client.chat.completions.create( model="phi-4-mini-reasoning", messages=[{"role": "user", "content": message.content}], temperature=0.7, ) await cl.Message(content=response.choices[0].message.content).send()

3.3 启动Chainlit应用

运行以下命令启动前端界面：

chainlit run phi4_app.py -w

这将启动一个本地Web服务，默认在http://localhost:8000

4. 使用与验证

4.1 访问Chainlit界面

打开浏览器，访问http://localhost:8000，您将看到一个简洁的聊天界面。

4.2 测试模型功能

尝试输入一些数学或推理问题，例如：

"解方程x² - 5x + 6 = 0"
"解释相对论的基本概念"
"写一个Python函数计算斐波那契数列"

您应该会看到模型生成的详细回答。

4.3 高级使用技巧

如果您想调整生成参数，可以修改phi4_app.py中的client.chat.completions.create调用：

response = client.chat.completions.create( model="phi-4-mini-reasoning", messages=[{"role": "user", "content": message.content}], temperature=0.7, # 控制创造性，0-1之间 max_tokens=2048, # 最大输出长度 top_p=0.9, # 控制多样性 )