04-模型与Provider-300+模型自由切换

04 · 模型与Provider——300+模型自由切换

开场场景：一个任务，需要不同的脑子

上午写代码时，你需要逻辑严谨、代码生成质量高的模型；下午写文档时，你需要文字优美、表达清晰流畅的模型；通宵调试时，你希望有一个快的模型能快速反馈；做安全审计时，你可能需要用本地部署的模型确保数据不出内网。

不同任务，对模型的要求截然不同。传统AI工具把你锁定在一个模型上——要么只能用它自家的，要么换模型就要退出重新配置。

但 Hermes 不一样。它让你在 300+ 个模型中自由切换，甚至可以同时配置多个 Provider 自动做故障转移。

一、支持的Provider全景

Hermes 设计了一套通用的 Provider 接口，理论上任何符合 OpenAI API 兼容格式的模型服务都可以接入。目前官方支持的 Provider 包括：

Nous Portal

Nous Research 官方提供的模型服务。如果你是第一次使用 Hermes，Nous Portal 是最省心的选择——注册即送试用额度，开箱即用，不需要自己申请任何 API Key。

支持模型：Nous 系列开源模型（Hermes 3、Nous 微调系列等）、以及精选的第三方开源模型。

OpenRouter

支持数百个模型的一站式 API 接口。OpenRouter 整合了来自各大模型提供商的开源和商业模型。

支持模型：300+，包括 LLama、Mistral、DeepSeek、Qwen、GPT 系列、Claude 系列等。支持按次付费和按 token 计费两种方式。

Anthropic

官方 Claude 模型接入。支持 Claude 3.5 Sonnet、Claude 3 Opus 等所有 Claude 系列模型。

OpenAI

官方 GPT 模型接入。支持 GPT-4o、GPT-4 Turbo、GPT-3.5 Turbo 等所有 OpenAI 模型。

DeepSeek

DeepSeek 系列模型接入。DeepSeek-V2、DeepSeek-Coder 等模型在代码生成方面表现优异，且性价比极高。

Google

Google Gemini 系列模型接入。Gemini 1.5 Pro、Gemini 1.5 Flash 等，特别擅长大上下文处理（100万 token）。

Groq

Groq 提供极低延迟的推理服务。如果你追求"打字时的即时响应"体验，Groq 是最佳选择。

自定义兼容端点

任何兼容 OpenAI API 的服务都可以接入——包括 vLLM、Ollama、LocalAI 等自托管方案。

二、配置方法

方式一：交互式配置

最推荐新手使用的方式：

hermes model

这个命令会启动一个交互式菜单：

1. 第一步：选择 Provider（Nous Portal / OpenRouter / Anthropic / OpenAI / …）
2. 第二步：如果 Provider 需要 API Key，提示输入（输入内容会被隐藏）
3. 第三步：选择该 Provider 下的具体模型
4. 第四步：确认配置并保存

全程不需要手动编辑任何配置文件。

方式二：手动编辑 Config.yaml

对于更复杂的配置需求，直接编辑~/.hermes/config.yaml：

provider:default:openrouteropenrouter:api_key:${OPENROUTER_API_KEY}model:openai/gpt-4oanthropic: