从零搭建AI实践教学平台：基于容器化技术栈的标准化方案

在实际教育技术领域，将前沿的AI能力转化为可落地、可复制的教学方案，是许多高校、职业院校和培训机构面临的共同挑战。单纯引入一个AI模型或工具，往往因为缺乏配套的课程体系、实验环境和师资培训而难以持续。华为启动的AIPL基线合作伙伴计划，正是瞄准了这一痛点，其核心目标并非单纯推广自家产品，而是联合生态伙伴，共同构建一套从理论到实践、从平台到内容的标准化教学解决方案。对于从事AI教育、课程开发或希望将AI技术体系化引入教学场景的开发者与教育者而言，理解如何基于此类基线方案进行二次开发和本地化部署，是一项极具价值的工程实践。

本文将以一个技术实践者的视角，拆解构建一个“可规模化推广的AI实践教学方案”所需的核心技术组件、环境搭建、课程内容编排以及运维保障。我们将避开宏观的商业合作描述，聚焦于如何从零开始，搭建一个包含AI模型推理、智能体（Agent）开发、应用实践和教学管理的微型技术栈，并探讨在生产级教学环境中需要关注的稳定性、安全性和可维护性问题。

1. 理解AIPL基线方案的技术内核与设计目标

“AIPL”在此语境下，可以理解为“AI Practice & Learning”的缩写，其基线方案的核心是提供一套标准化的技术底座和内容框架，降低AI教学的实施门槛。一个完整的方案通常包含以下几个层次：

基础设施层：提供稳定、可弹性伸缩的计算、存储和网络资源。对于AI教学，这通常意味着需要支持GPU/NPU加速的云主机或本地服务器集群，用于模型训练和推理。方案会定义推荐的操作系统版本、容器运行时、网络配置等基线标准。

平台服务层：在基础设施之上，封装通用的AI能力。这包括：

• 模型服务：提供主流开源或经过优化的商用模型（如LLM、CV模型）的推理API。
• 开发框架：集成如Spring AI、LangChain等框架，简化AI应用开发流程。
• 实验环境：基于Jupyter Notebook、Web IDE或容器技术，为每个学生提供隔离的、可快速复现的编程环境。
• 资源管理与调度：管理GPU等稀缺资源的分配与回收。

应用与内容层：这是教学方案直接面向师生的部分。包括：

• 课程实验案例：围绕AI核心技能（如提示词工程、微调、智能体开发、AI应用开发）设计的一系列可交互实验。
• 项目实战模板：提供接近真实场景的小型项目代码仓库，如“AI小镇”模拟社会实验、智能客服机器人、文档分析工具等。
• 教学管理工具：可能集成学习进度跟踪、作业提交与自动评测、实验报告生成等功能。

运维与安全层：确保教学环境的稳定运行和数据安全。涉及用户权限管理、网络访问控制、模型使用审计、数据备份以及内容安全过滤策略。

设计这样一个方案的目标很明确：标准化、模块化、可扩展。标准化确保不同合作伙伴交付的方案质量统一；模块化允许学校根据自身需求（如侧重开发还是侧重应用）组合不同组件；可扩展则为未来引入新的AI模型或教学场景预留接口。

2. 环境准备：构建教学实验的基础技术栈

在动手搭建之前，我们需要明确技术选型。一个用于原型验证或小规模教学的环境，可以基于容器化和微服务架构来构建，这样易于部署和扩展。

2.1 基础设施与软件依赖

假设我们使用Linux服务器作为基础环境，以下是核心的软件依赖清单：

首先，在Ubuntu服务器上安装Docker和Docker Compose插件：

# 更新包索引并安装必要工具 sudo apt-get update sudo apt-get install -y ca-certificates curl gnupg lsb-release # 添加Docker官方GPG密钥和仓库 sudo mkdir -p /etc/apt/keyrings curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /etc/apt/keyrings/docker.gpg echo \ "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.gpg] https://download.docker.com/linux/ubuntu \ $(lsb_release -cs) stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null # 安装Docker引擎和Compose插件 sudo apt-get update sudo apt-get install -y docker-ce docker-ce-cli containerd.io docker-compose-plugin # 将当前用户加入docker组，避免每次使用sudo sudo usermod -aG docker $USER # 需要重新登录或执行 `newgrp docker` 使组权限生效 # 验证安装 docker --version docker compose version

2.2 核心服务容器化定义

我们将使用Docker Compose来编排几个核心服务。创建一个docker-compose.yml文件：

version: '3.8' services: # 1. 模型服务：使用Ollama运行本地大模型 ollama: image: ollama/ollama:latest container_name: ai-teach-ollama restart: unless-stopped ports: - "11434:11434" volumes: - ollama_data:/root/.ollama # 部署后需要进入容器拉取模型，例如：docker exec -it ai-teach-ollama ollama pull qwen2.5:7b networks: - ai-net # 2. 开发与实验环境：基于Jupyter Lab jupyter: image: jupyter/tensorflow-notebook:latest container_name: ai-teach-jupyter restart: unless-stopped ports: - "8888:8888" environment: - JUPYTER_ENABLE_LAB=yes - GRANT_SUDO=yes volumes: - ./notebooks:/home/jovyan/work # 挂载本地笔记本目录 - ./course_materials:/home/jovyan/course_materials # 挂载课程资料 networks: - ai-net # 3. 示例应用：一个简单的AI对话Web应用（连接Ollama） ai-web-demo: build: ./ai-web-demo # 指向一个包含Dockerfile的应用目录 container_name: ai-teach-web-demo restart: unless-stopped ports: - "8501:8501" environment: - OLLAMA_BASE_URL=http://ollama:11434 - OLLAMA_MODEL=qwen2.5:7b depends_on: - ollama networks: - ai-net # 4. 教学管理后台（示例，使用简单的Adminer管理数据库） adminer: image: adminer:latest container_name: ai-teach-adminer restart: unless-stopped ports: - "8080:8080" networks: - ai-net volumes: ollama_data: networks: ai-net: driver: bridge

这个编排文件定义了四个服务：

1. Ollama：一个轻量级的本地大模型运行和管理的工具，用于提供模型推理API。
2. Jupyter Lab：交互式笔记本环境，是进行AI编程实验的主要场所。
3. AI Web Demo：一个自定义的Streamlit或Gradio应用，用于展示如何构建一个前端AI应用。
4. Adminer：一个简单的数据库管理工具，用于演示。

注意：生产环境的教学管理后台远比Adminer复杂，可能包含用户管理、课程管理、作业系统等，这里仅作示意。

2.3 示例应用（AI Web Demo）的实现

在./ai-web-demo目录下，我们创建一个简单的Streamlit应用来连接Ollama服务。

首先，创建./ai-web-demo/Dockerfile：

FROM python:3.11-slim WORKDIR /app # 复制依赖文件并安装 COPY requirements.txt . RUN pip install --no-cache-dir -r requirements.txt # 复制应用代码 COPY . . # 暴露端口 EXPOSE 8501 # 启动命令 CMD ["streamlit", "run", "app.py", "--server.port=8501", "--server.address=0.0.0.0"]

然后，创建./ai-web-demo/requirements.txt：

streamlit>=1.28.0 requests>=2.31.0

最后，创建核心应用文件./ai-web-demo/app.py：

import streamlit as st import requests import json # 页面配置 st.set_page_config(page_title="AI教学演示 - 对话助手", layout="wide") st.title("🤖 AI实践教学 - 对话助手演示") # 侧边栏配置 with st.sidebar: st.header("配置") ollama_url = st.text_input("Ollama API地址", value="http://ollama:11434") model_name = st.text_input("模型名称", value="qwen2.5:7b") system_prompt = st.text_area("系统提示词 (可选)", value="你是一个乐于助人的AI教学助手，回答要清晰、准确。") # 初始化会话历史 if "messages" not in st.session_state: st.session_state.messages = [] # 显示历史消息 for message in st.session_state.messages: with st.chat_message(message["role"]): st.markdown(message["content"]) # 用户输入 if prompt := st.chat_input("请输入你的问题..."): # 添加用户消息到历史并显示 st.session_state.messages.append({"role": "user", "content": prompt}) with st.chat_message("user"): st.markdown(prompt) # 准备请求Ollama API api_url = f"{ollama_url.rstrip('/')}/api/chat" messages_for_api = [{"role": "system", "content": system_prompt}] if system_prompt else [] messages_for_api.extend([{"role": m["role"], "content": m["content"]} for m in st.session_state.messages]) payload = { "model": model_name, "messages": messages_for_api, "stream": False } # 显示助手回复区域 with st.chat_message("assistant"): message_placeholder = st.empty() full_response = "" try: # 发送请求 response = requests.post(api_url, json=payload, timeout=60) response.raise_for_status() result = response.json() full_response = result['message']['content'] except requests.exceptions.ConnectionError: full_response = "错误：无法连接到Ollama服务。请检查服务地址和容器状态。" except requests.exceptions.Timeout: full_response = "错误：请求超时。模型可能正在加载或问题过于复杂。" except KeyError: full_response = f"错误：API返回了非预期格式。原始响应：{result}" except Exception as e: full_response = f"错误：发生未知异常 - {str(e)}" # 流式模拟输出（非真正流式，仅演示） message_placeholder.markdown(full_response) # 添加助手回复到历史 st.session_state.messages.append({"role": "assistant", "content": full_response})

这个应用演示了如何通过HTTP API与后端的模型服务（Ollama）进行交互，构建一个简单的聊天界面。它包含了基本的错误处理，是教学中“AI应用开发”模块的一个绝佳起点。

3. 部署与运行：启动你的AI教学实验平台

环境和服务定义好后，启动整个平台只需要几条命令。

3.1 启动所有服务

在包含docker-compose.yml的目录下执行：

# 构建并启动所有服务（在后台运行） docker compose up -d # 查看服务运行状态 docker compose ps # 查看实时日志（可用于排错） docker compose logs -f [service_name] # 例如 docker compose logs -f ollama

命令执行后，各服务将启动：

• Jupyter Lab: 可通过http://<服务器IP>:8888访问。首次访问需要从日志中获取token。
• AI Web Demo: 可通过http://<服务器IP>:8501访问。
• Adminer: 可通过http://<服务器IP>:8080访问。
• Ollama API: 在内部网络http://ollama:11434提供服务。

3.2 初始化模型服务

Ollama容器启动后，里面没有预装模型。我们需要拉取一个适合教学的轻量级模型。

# 进入ollama容器 docker exec -it ai-teach-ollama /bin/bash # 在容器内拉取模型（例如Qwen2.5-7B，约5GB） ollama pull qwen2.5:7b # 退出容器 exit

注意：模型拉取需要一定时间和网络带宽。也可以预先在宿主机下载模型文件，然后通过Docker卷挂载进去，以加速后续部署。

3.3 验证服务连通性

启动完成后，需要进行连通性测试。

1. 测试Ollama API：

   curl http://localhost:11434/api/tags

   如果返回包含已拉取模型的信息，则说明模型服务正常。

2. 测试AI Web Demo：在浏览器中打开http://<服务器IP>:8501，在输入框发送一条消息，观察是否能收到AI的回复。

3. 测试Jupyter Lab：打开http://<服务器IP>:8888，登录后尝试创建一个新的Python Notebook，执行import requests等基础命令，确保环境可用。

4. 课程内容设计与实验编排

技术平台就绪后，教学内容才是灵魂。一个结构化的实践课程应该由浅入深。

4.1 基础模块：AI认知与工具使用

在Jupyter Lab中创建第一个实验笔记本01_AI_Basics.ipynb，内容可以包括：

• 环境熟悉：Python包管理、Jupyter基本操作。
• 调用本地模型：使用requests库调用Ollama API完成一次对话。

  import requests import json url = "http://ollama:11434/api/chat" payload = { "model": "qwen2.5:7b", "messages": [{"role": "user", "content": "用一句话介绍人工智能。"}], "stream": False } response = requests.post(url, json=payload) print(response.json()['message']['content'])

• 提示词工程初探：通过修改system和user提示词，观察模型输出的变化。

4.2 进阶模块：AI应用开发框架

创建02_AI_App_Development.ipynb，引入Spring AI或LangChain等框架（这里以LangChain为例）：

• 安装依赖：!pip install langchain langchain-community
• 使用LangChain连接Ollama：

  from langchain_community.llms import Ollama from langchain_core.prompts import ChatPromptTemplate llm = Ollama(base_url="http://ollama:11434", model="qwen2.5:7b") prompt = ChatPromptTemplate.from_template("请将以下中文翻译成英文：{text}") chain = prompt | llm result = chain.invoke({"text": "华为AIPL计划旨在推动AI教育普及。"}) print(result)

• 构建简单链：实现一个多步骤的任务，如“摘要 -> 提取关键词 -> 翻译”。

4.3 项目实战模块：智能体（Agent）与综合应用

创建03_AI_Agent_Project.ipynb，引导学生完成一个简单的检索增强生成（RAG）智能体或任务规划智能体。

• 项目目标：构建一个能读取本地知识库（如课程PDF）并回答问题的助手。
• 关键技术点：
  1. 文档加载与分割（使用LangChain的PyPDFLoader和RecursiveCharacterTextSplitter）。
  2. 向量化与存储（使用Chroma或FAISS）。
  3. 检索与生成链的构建。
• 提供项目脚手架代码，让学生主要填充核心逻辑部分。

4.4 扩展探索模块：模型微调与部署

对于学有余力的学生，可以提供扩展实验指南：

• 使用LoRA微调一个小模型：在特定数据集（如编程问答）上微调模型。
• 将模型服务封装为RESTful API：使用FastAPI将训练好的模型发布为服务。
• 前端集成：将之前开发的AI Web Demo连接到自定义的模型API。

5. 生产级教学环境的关键考量与排错

将上述实验环境用于几十甚至上百人的真实教学，会面临截然不同的挑战。

5.1 常见问题与排查路径

5.2 从实验环境到生产环境的升级清单

要将本方案用于正式教学，至少需要完成以下升级：

1. 身份认证与授权：集成学校的统一身份认证系统（如LDAP/SSO），替代Jupyter的token登录。为不同角色（学生、助教、教师）分配不同权限。
2. 资源隔离与配额：使用Kubernetes Namespace、ResourceQuota和LimitRange，为每个班级或项目组分配固定的CPU、内存和GPU资源，防止个别任务耗尽所有资源。
3. 持久化与数据管理：为每个学生分配独立的持久化存储卷（PVC），并定期备份。建立作业提交、批改和归档的自动化流程。
4. 监控与告警：部署Prometheus和Grafana，监控容器状态、资源使用率、API调用成功率、模型响应延迟等关键指标，并设置告警。
5. 高可用与弹性伸缩：对核心服务（如模型API网关、身份认证）做多副本部署。根据课程时间表，在实验高峰期自动扩容Jupyter实例。
6. CI/CD流水线：将课程实验代码、Docker镜像构建、环境部署流程自动化，确保每次更新都能快速、一致地推送到所有环境。

6. 总结与扩展方向

构建一个可规模化推广的AI实践教学方案，技术平台的搭建只是第一步。真正的核心在于将分散的AI工具、模型和开发框架，通过标准化的接口和模块化的课程设计，整合成一个有机的、可演进的教学体系。本文演示的基于容器化的轻量级技术栈，为快速原型验证和小规模试点提供了完整路径。

对于希望深入实践的团队，下一步可以沿着以下几个方向扩展：

• 深化课程内容：围绕“AI智能体（Agent）开发”、“大模型微调”、“AI应用性能优化”等前沿主题，设计更深入的实战项目。
• 丰富模型生态：除了通用对话模型，引入代码生成、文生图、语音合成等垂直模型，支撑多模态AI教学。
• 构建社区与生态：建立课程素材的开源仓库，鼓励师生贡献实验案例和项目模板，形成持续迭代的内容生态。
• 探索评估体系：开发自动化的实验评分系统，不仅能检查代码正确性，还能对AI生成内容的相关性、准确性和安全性进行量化评估。

最终，一个成功的方案不在于使用了多么尖端的技术，而在于它能否让教师轻松地教，让学生顺畅地学，并在这个过程中，将AI从神秘的黑盒，转化为可理解、可操作、可创造的生产力工具。