当前位置：首页 > news >正文

DeepSeek-R1-Distill-Llama-8B代码实例：用Ollama Python SDK实现带历史记忆的数学对话机器人

news 2026/5/11 21:09:24

DeepSeek-R1-Distill-Llama-8B代码实例：用Ollama Python SDK实现带历史记忆的数学对话机器人

1. 项目介绍与目标

今天我们来做一个有趣的实践项目：使用DeepSeek-R1-Distill-Llama-8B模型，通过Ollama Python SDK构建一个具备历史记忆功能的数学对话机器人。

DeepSeek-R1-Distill-Llama-8B是DeepSeek团队推出的推理模型，专门针对数学推理、代码生成和逻辑思考任务进行了优化。这个8B参数的模型在保持高性能的同时，对计算资源的要求相对友好，非常适合本地部署和实际应用。

我们的数学对话机器人将具备以下特点：

能够理解复杂的数学问题
保持对话历史记忆，实现多轮对话
提供清晰的解题步骤和推理过程
支持多种数学领域的问题解答

通过本教程，你将学会如何快速部署这个强大的模型，并构建一个实用的数学助手应用。

2. 环境准备与模型部署

2.1 安装Ollama

首先需要安装Ollama，这是一个强大的模型管理和部署工具：

# Linux/macOS 安装命令 curl -fsSL https://ollama.ai/install.sh | sh # Windows 安装（需要管理员权限） winget install Ollama.Ollama

2.2 拉取DeepSeek-R1-Distill-Llama-8B模型

安装完成后，拉取我们需要的模型：

ollama pull deepseek-r1:8b

这个命令会自动下载模型文件，大小约4.7GB，下载时间取决于你的网络速度。

2.3 验证模型运行

拉取完成后，测试模型是否正常工作：

ollama run deepseek-r1:8b "你好，请介绍你自己"

如果看到模型返回自我介绍，说明部署成功。

3. Python环境配置

3.1 安装必要的Python包

创建并激活Python虚拟环境后，安装所需依赖：

pip install ollama requests python-dotenv

3.2 配置环境变量

创建.env文件来管理配置：

OLLAMA_HOST=http://localhost:11434 MODEL_NAME=deepseek-r1:8b MAX_HISTORY=10 # 最大对话历史记录数

4. 实现带历史记忆的数学对话机器人

4.1 基础对话功能实现

首先实现一个基础的对话类：

import ollama import json from typing import List, Dict from dotenv import load_dotenv import os load_dotenv() class MathChatbot: def __init__(self): self.host = os.getenv('OLLAMA_HOST', 'http://localhost:11434') self.model = os.getenv('MODEL_NAME', 'deepseek-r1:8b') self.conversation_history: List[Dict] = [] self.max_history = int(os.getenv('MAX_HISTORY', 10)) def add_to_history(self, role: str, content: str): """添加对话到历史记录""" self.conversation_history.append({ 'role': role, 'content': content }) # 保持历史记录不超过最大值 if len(self.conversation_history) > self.max_history * 2: self.conversation_history = self.conversation_history[-self.max_history * 2:] def chat(self, message: str) -> str: """发送消息并获取回复""" # 添加用户消息到历史 self.add_to_history('user', message) try: # 构建包含历史记录的对话 messages = [{'role': 'system', 'content': '你是一个专业的数学助手，擅长解答数学问题，提供清晰的解题步骤和推理过程。请用中文回答。'}] messages.extend(self.conversation_history) response = ollama.chat( model=self.model, messages=messages, options={ 'temperature': 0.1, # 低温度保证回答的确定性 'num_predict': 512 # 控制生成长度 } ) reply = response['message']['content'] # 添加助手回复到历史 self.add_to_history('assistant', reply) return reply except Exception as e: return f"发生错误: {str(e)}" def clear_history(self): """清空对话历史""" self.conversation_history = []

4.2 增强的数学专用对话机器人

基于基础类，我们创建一个专门处理数学问题的增强版本：

class EnhancedMathChatbot(MathChatbot): def __init__(self): super().__init__() # 数学专用的系统提示词 self.math_system_prompt = """你是一个专业的数学导师，具有以下特点： 1. 擅长解答从小学数学到大学数学的各种问题 2. 提供清晰的解题步骤和逻辑推理 3. 能够解释复杂的数学概念 4. 支持代数、几何、微积分、概率统计等多个数学领域 5. 对于复杂问题，会分步骤解答 6. 使用中文进行交流和解释 请确保你的回答： - 准确且详细 - 包含必要的计算过程 - 使用适当的数学符号和格式 - 提供最终答案的验证（如果适用）""" def chat(self, message: str) -> str: """重写chat方法，使用数学专用的系统提示""" self.add_to_history('user', message) try: messages = [{'role': 'system', 'content': self.math_system_prompt}] messages.extend(self.conversation_history) response = ollama.chat( model=self.model, messages=messages, options={ 'temperature': 0.1, 'num_predict': 1024 # 数学问题可能需要更长的回答 } ) reply = response['message']['content'] self.add_to_history('assistant', reply) return reply except Exception as e: return f"发生错误: {str(e)}" def solve_equation(self, equation: str) -> str: """专门解方程的方法""" prompt = f"""请解这个方程：{equation} 要求： 1. 展示完整的解题步骤 2. 解释每一步的原理 3. 验证最终答案的正确性 4. 如果有多个解，请全部列出""" return self.chat(prompt) def explain_concept(self, concept: str) -> str: """解释数学概念""" prompt = f"""请解释数学概念：{concept} 要求： 1. 给出清晰的定义 2. 提供实际的例子 3. 说明应用场景 4. 如果有相关公式，请列出并解释""" return self.chat(prompt)

4.3 完整的对话系统实现

创建一个完整的对话系统，包含用户交互界面：

import threading import time class MathDialogueSystem: def __init__(self): self.bot = EnhancedMathChatbot() self.running = True def start_chat(self): """启动对话系统""" print("=" * 50) print("数学对话机器人已启动！") print("输入 '退出' 结束对话") print("输入 '清空' 清空对话历史") print("输入 '方程 方程内容' 解方程") print("输入 '解释 概念名称' 解释数学概念") print("=" * 50) while self.running: try: user_input = input("\n你的问题: ").strip() if user_input.lower() in ['退出', 'exit', 'quit']: self.running = False print("对话结束，再见！") break elif user_input.lower() in ['清空', 'clear']: self.bot.clear_history() print("对话历史已清空") continue elif user_input.startswith('方程 '): equation = user_input[3:].strip() if equation: print("思考中...") response = self.bot.solve_equation(equation) print(f"\n🤖 机器人: {response}") else: print("请输入方程内容") elif user_input.startswith('解释 '): concept = user_input[3:].strip() if concept: print("思考中...") response = self.bot.explain_concept(concept) print(f"\n🤖 机器人: {response}") else: print("请输入概念名称") else: if user_input: print("思考中...") response = self.bot.chat(user_input) print(f"\n🤖 机器人: {response}") else: print("请输入问题") except KeyboardInterrupt: print("\n对话被用户中断") self.running = False break except Exception as e: print(f"发生错误: {str(e)}") # 启动对话系统 if __name__ == "__main__": dialogue_system = MathDialogueSystem() dialogue_system.start_chat()

5. 实际使用示例

让我们看看这个数学对话机器人的实际表现：

5.1 基础数学问题解答

# 示例1：简单数学问题 bot = EnhancedMathChatbot() response = bot.chat("请计算 123 × 45 + 678 ÷ 3") print(response)

5.2 方程求解示例

# 示例2：解方程 response = bot.solve_equation("x² - 5x + 6 = 0") print(response)

5.3 数学概念解释

# 示例3：解释数学概念 response = bot.explain_concept("微积分基本定理") print(response)

5.4 多轮对话示例

# 示例4：多轮对话 bot.clear_history() print("第一轮:") response1 = bot.chat("什么是勾股定理？") print(response1) print("\n第二轮:") response2 = bot.chat("能给我一个具体的例子吗？") print(response2) print("\n第三轮:") response3 = bot.chat("这个定理有哪些实际应用？") print(response3)

6. 高级功能与优化

6.1 添加对话持久化存储

为了让对话历史在程序重启后仍然保留，我们可以添加持久化存储功能：

import json from datetime import datetime class PersistentMathChatbot(EnhancedMathChatbot): def __init__(self, storage_file='chat_history.json'): super().__init__() self.storage_file = storage_file self.load_history() def save_history(self): """保存对话历史到文件""" try: with open(self.storage_file, 'w', encoding='utf-8') as f: json.dump({ 'timestamp': datetime.now().isoformat(), 'history': self.conversation_history }, f, ensure_ascii=False, indent=2) except Exception as e: print(f"保存历史失败: {str(e)}") def load_history(self): """从文件加载对话历史""" try: if os.path.exists(self.storage_file): with open(self.storage_file, 'r', encoding='utf-8') as f: data = json.load(f) self.conversation_history = data.get('history', []) except: # 如果文件损坏或格式错误，从空历史开始 self.conversation_history = [] def add_to_history(self, role: str, content: str): """重写添加历史方法，自动保存""" super().add_to_history(role, content) self.save_history() def clear_history(self): """重写清空历史方法，自动保存""" super().clear_history() self.save_history()

6.2 添加流式输出支持

对于较长的数学推导，流式输出可以提供更好的用户体验：

def stream_chat(self, message: str): """流式对话方法""" self.add_to_history('user', message) messages = [{'role': 'system', 'content': self.math_system_prompt}] messages.extend(self.conversation_history) print("🤖 机器人: ", end='', flush=True) full_response = "" try: stream = ollama.chat( model=self.model, messages=messages, stream=True, options={ 'temperature': 0.1, 'num_predict': 1024 } ) for chunk in stream: content = chunk['message']['content'] print(content, end='', flush=True) full_response += content print() # 换行 self.add_to_history('assistant', full_response) except Exception as e: error_msg = f"发生错误: {str(e)}" print(error_msg) return error_msg