VS Code 支持 BYOK 本地模型开发，内联建议仍需第三方工具补足
VS Code 支持 BYOK 本地模型开发，但内联建议仍受限，需第三方工具补足
微软大力推动将 Visual Studio Code 打造成使用其 AI 服务的主要途径，大多以 GitHub Copilot 形式呈现。GitHub Copilot 与 VS Code 深度集成带来内联自动补全功能等便利，但对于想用其他模型或本地部署大语言模型（LLM）的用户来说，有些令人沮丧。
Visual Studio Code 1.122 引入“无需 GitHub 登录即可使用 BYOK（自带密钥）”新功能，允许在气隙或受限环境中使用聊天、工具和 MCP 服务器，还支持用像 Ollama 这样的本地模型实现完全离线工作流程。不过，目前无法用本地 LLM 提供内联和下一次编辑建议，至少在无额外工具时做不到。
为 BYOK 模式选择模型
若想在 VS Code 自带模型系统用本地 LLM，需先部署模型。VS Code 自身无模型部署机制，未来可能有 VS Code 扩展提供类似功能。部署模型复杂，需专门应用程序。
一种简单部署方式是通过像 LM Studio 这样的产品，它是方便的图形用户界面（GUI），可在自己硬件上启动、服务和管理 LLM。模型部署系统不一定和运行 VS Code 的系统相同，也可以是自己控制的服务器或云实例。
选择模型也很重要。很多模型功能强大，但体积大，在普通硬件上运行效果不佳。实用经验法则是选能适配现有显存，又能满足较大令牌上下文（越大越好）所需内存的模型，且该模型要适合编码和开发工作。以下是能轻松适配 8GB 显存的此类模型：
- Gemma4（有效 20 亿参数版本）
- Qwen3.5 9B
- Codestral 22B v.0.1（专有许可证）
在 VS Code 中设置 BYOK 模式
模型部署并运行后，可将其与 Visual Studio Code 集成。若之前禁用了 VS Code 的 AI 功能，需重新启用，确保“chat.disableAIFeatures”设置为关闭状态，可在“设置 | 聊天 | 其他”中找到该设置。
第三方语言模型通过 Visual Studio Code 的语言模型列表管理。按下 Ctrl + Shift + P 并输入“Manage Language Models”，可打开现有语言模型列表。默认情况下可用的模型仅为作为外部 API 提供的模型，而非本地运行的模型。
添加新模型
首先会看到内置模型列表，这些模型均为外部部署。要添加新模型，点击右上角“Add Models”并选择“Custom Endpoint”，随后会有一系列提示：
- 组名：默认是“Custom Endpoint”，可选择任何想要的名称，该名称仅用于组织模型列表，不影响模型识别或连接等功能。
- API 密钥：若已将 LM Studio 配置为使用 API 密钥来提供模型服务，需在此处提供该密钥；若在本地部署模型且未明确设置 API 密钥，则可留空。
- API 类型：选项包括“Chat Completions”“Responses”和“Messages”，大多数情况下希望使用“Responses”，因为它是最通用的。
完成上述信息填写后，会进入用于编辑 JSON 文件的模态编辑器，该文件包含正在配置的端点的详细信息。
还需在标记字段中输入一些详细信息：
- id：用于唯一标识此条目的文本字段，ID 选择基本任意；若只使用一个模型，ID 可以是模型名称。
- name：模型在模型服务器上的标识名称，在 LM Studio 中，可通过点击主界面中的“My Models”，然后选择相关模型的三点图标并点击“Copy Default Identifier”来获取该名称。例如，对于 Qwen 2.5，名称可能类似于“qwen2.5-coder-7b-instruct”。
- url：服务器端点的 URL，在 LM Studio 中，默认类似“http://127.0.0.1:1234/v1”，末尾的“/v1”很重要，因为该端点用于自动发现模型及其功能。
其他字段通常无需编辑。大多数模型都具备工具调用功能。若确定所使用的模型不支持视觉功能，可将“vision”设置为“false”。
填写完这些字段后，关闭模态编辑器以保存更改。重新加载“Manage Language Models”页面，将看到新的端点。
现在应该能够启动聊天窗口，并使用已定义的模型进行对话和使用相关工具。
目前，Visual Studio Code 的 BYOK 功能存在重大限制，仅适用于聊天和工具任务，不允许用本地模型进行内联建议或代码补全。要在 VS Code 中利用本地模型实现更多功能，唯一办法是使用像 Continue 这样的第三方工具。目前尚不清楚微软最终是否会解除这一限制。GitHub Copilot 与 VS Code 的集成是 Copilot 服务触达目标用户的重要方式。就目前而言，肯定可以在 VS Code 的 AI 辅助开发工作中大量使用第三方和本地模型，并通过额外工具来缩小功能差距。
相关领域：开发工具、软件开发、人工智能、生成式 AI