本地大模型也能跑！SmartShell接入Ollama教程：离线使用AI命令生成

本地大模型也能跑！SmartShell接入Ollama教程：离线使用AI命令生成

【免费下载链接】smart-shellSmartShell command execution tool项目地址: https://gitcode.com/openeuler/smart-shell

前往项目官网免费下载：https://ar.openeuler.org/ar/

想要在本地环境中使用AI智能命令生成工具，却担心API费用和网络限制？SmartShell结合Ollama本地大模型，让您完全离线使用AI命令生成功能！🚀 本文将详细介绍如何将SmartShell智能命令行工具接入Ollama本地大模型，实现零成本、高隐私的AI命令行体验。

SmartShell是一个基于LangChain和ReAct的智能Shell命令执行工具，它能够理解自然语言并生成相应的Shell命令。通过接入本地大模型Ollama，您可以在没有互联网连接的情况下，依然享受AI辅助的命令行操作体验。

📦 为什么选择SmartShell + Ollama组合？

核心优势

• 完全离线运行：无需连接外部API，保护数据隐私
• 零成本使用：免去API调用费用，长期使用更经济
• 快速响应：本地推理延迟低，命令生成更迅速
• 自定义模型：支持多种Ollama模型，可根据需求选择

适用场景

• 企业内部开发环境
• 网络受限的隔离环境
• 注重数据隐私的项目
• 频繁使用命令行的开发者

🔧 环境准备与安装

第一步：安装SmartShell

您可以通过以下三种方式之一安装SmartShell：

方式一：通过dnf包管理器安装（推荐openEuler用户）

sudo dnf install python-smart_shell pip install click==8.1.7 distro==1.9.0 litellm==1.42.5 openai==1.36.1 rich==13.7.1 typer==0.12.3 smsh

方式二：从源码安装

git clone https://gitcode.com/openeuler/smart-shell cd smart-shell pip install -r requirements.txt

方式三：使用RPM包安装

sudo rpm -ivh rpm/python3-smsh-1.0.0-1.noarch.rpm

第二步：安装Ollama

访问Ollama官网下载对应系统的安装包，或使用以下命令安装：

Linux/macOS

curl -fsSL https://ollama.ai/install.sh | sh

Windows下载并运行Windows安装程序

第三步：下载大模型

安装完成后，下载您需要的模型，例如Qwen2.5-Coder：

ollama pull qwen2.5-coder

⚙️ SmartShell配置Ollama接入

配置文件位置

SmartShell的配置文件位于：~/.config/smart_shell/.smshrc

关键配置参数

要接入Ollama，需要修改以下三个关键配置：

DEFAULT_MODEL = ollama/qwen2.5-coder API_BASE_URL = http://localhost:11434 USE_LITELLM = true

配置方法详解

方法一：首次运行时自动配置首次运行SmartShell时，系统会提示您输入配置信息，您可以按照以下设置：

• DEFAULT_MODEL:ollama/qwen2.5-coder
• API_BASE_URL:http://localhost:11434
• USE_LITELLM:true

方法二：手动编辑配置文件

nano ~/.config/smart_shell/.smshrc

添加或修改以下内容：

CHAT_CACHE_LENGTH = 100 REQUEST_TIMEOUT = 60 DEFAULT_MODEL = ollama/qwen2.5-coder DEFAULT_COLOR = magenta ROLE_STORAGE_PATH = /home/your_user/.config/smart_shell/roles DEFAULT_EXECUTE_SHELL_CMD = false DISABLE_STREAMING = false CODE_THEME = dracula API_BASE_URL = http://localhost:11434 PRETTIFY_MARKDOWN = true USE_LITELLM = true OPENAI_API_KEY = 任意值（Ollama不需要真实API Key）

方法三：使用配置模式

smsh --config

进入交互式配置模式，依次设置：

1. 输入DEFAULT_MODEL，值设为ollama/qwen2.5-coder
2. 输入API_BASE_URL，值设为http://localhost:11434
3. 输入USE_LITELLM，值设为true

🚀 开始使用离线AI命令生成

基本使用示例

示例1：简单文件操作

smsh "列出当前目录下的所有文件"

输出：

ls -la # [E]xecute, [D]escribe, [C]ancel, [Q]uit:

示例2：创建目录

smsh "创建一个名为my_project的新项目目录" --describe-shell

输出：

命令：`mkdir my_project` 描述：创建一个名为`my_project`的新目录。 参数和选项： - `mkdir`：命令，用于创建新目录。 - `my_project`：要创建的新目录的名称。 简短响应：使用`mkdir my_project`命令可以在当前路径下创建一个名为`my_project`的新目录。

示例3：查找文件

smsh "查找所有扩展名为.py的文件"

输出：

find . -name "*.py" # [E]xecute, [D]escribe, [C]ancel, [Q]uit:

交互模式使用

SmartShell支持交互模式，适合复杂任务：

smsh --shell --interaction

进入交互模式后，您可以：

• 持续输入自然语言指令
• 查看生成的命令描述
• 选择执行、取消或退出

角色定制功能

SmartShell支持角色定制，您可以创建针对特定场景的命令生成角色：

# 创建系统管理员角色 smsh --create-role sysadmin # 输入角色描述：你是一个经验丰富的Linux系统管理员，擅长系统监控、性能优化和故障排查。 # 使用特定角色 smsh "检查系统负载" --role sysadmin

🔍 高级配置与优化

支持的Ollama模型

SmartShell支持多种Ollama模型，您可以根据需求选择：

性能优化建议

1. 调整请求超时

   smsh --config # 修改 REQUEST_TIMEOUT = 120

2. 启用流式输出

   DISABLE_STREAMING = false

3. 优化缓存设置

   CHAT_CACHE_LENGTH = 200

故障排除

问题1：连接Ollama失败

• 检查Ollama服务是否运行：ollama serve
• 验证端口11434是否开放：curl http://localhost:11434
• 确认模型已下载：ollama list

问题2：模型响应慢

• 尝试更小的模型
• 增加REQUEST_TIMEOUT值
• 检查系统资源使用情况

问题3：命令生成不准确

• 提供更详细的自然语言描述
• 使用--describe-shell查看命令解释
• 考虑创建更具体的角色

📁 项目结构与源码参考

如果您需要深入了解SmartShell的实现，以下是一些关键文件：

• 主程序入口：smsh/app.py
• 配置管理：smsh/config.py
• 请求处理：smsh/handler.py
• 角色管理：smsh/role.py
• 输出格式化：smsh/printer.py

💡 实用技巧与最佳实践

技巧1：批量操作

smsh "批量重命名所有.txt文件为.md文件" # 输出：for file in *.txt; do mv "$file" "${file%.txt}.md"; done

技巧2：复杂管道操作

smsh "统计当前目录下所有.py文件的行数，按行数排序" # 输出：find . -name "*.py" -exec wc -l {} + | sort -n

技巧3：系统监控

smsh "显示占用CPU最高的5个进程" # 输出：ps aux --sort=-%cpu | head -6

技巧4：网络诊断

smsh "检查80端口是否被占用" # 输出：sudo lsof -i :80

🎯 总结

通过本文的详细教程，您已经掌握了如何将SmartShell智能命令行工具接入Ollama本地大模型。这种组合为您提供了：

1. 完全离线的AI命令生成能力
2. 零成本的长期使用方案
3. 高度可定制的角色系统
4. 丰富的配置选项

无论您是系统管理员、开发人员还是普通用户，SmartShell + Ollama的组合都能显著提升您的命令行工作效率。现在就开始体验离线AI命令生成的便利吧！

温馨提示：首次使用建议从简单的命令开始，逐步熟悉AI生成命令的逻辑。对于关键操作，务必使用--describe-shell选项查看命令解释，确保理解生成的命令后再执行。

记住，强大的工具需要合理使用。SmartShell让命令行操作变得更智能，而Ollama让这一切在本地成为可能！🌟

【免费下载链接】smart-shellSmartShell command execution tool项目地址: https://gitcode.com/openeuler/smart-shell