当前位置: 首页 > news >正文

本地部署 DeepSeek+VS Code,搭建本地大模型

本地部署 DeepSeek+VS Code,搭建本地大模型

一、安装Ollama 

Ollama是一个用于在本地计算机上运行大型语言模型的命令行工具,允许用户下载并本地运行像Llama 2、Code Llama和其他模型,并支持自定义和创建自己的模型。

Ollama官网下载:https://ollama.com/download,根据自己的系统下载对应文件。

在安装Ollama时,虽然默认情况下会安装在C盘,但你可以通过以下步骤选择自定义的安装路径:

  • 使用CMD命令行窗口,定位到OllamaSetup.exe所在目录(假设OllamaSetup.exeE:\Downloads目录下),然后执行如下命令:
OllamaSetup.exe /DIR="D:\Your\Path"

将D:\Your\Path替换为你希望的安装路径

比如:

E:\Downloads>OllamaSetup.exe /DIR="D:\Program Files\Ollama"

回车后,安装程序将按照你指定的路径进行安装。

上述步骤完成后,我们可以打开CMD,输入 ollama -v 命令,如果出现版本号说明安装成功了。

二、下载Deepseek 

DeepSeek 团队已经证明,较大模型的推理模式可以提炼成更小的模型,与通过 RL 在小型模型上发现的推理模式相比,性能更好。
以下是使用 DeepSeek-R1 生成的推理数据对研究界广泛使用的几个密集模型进行微调而创建的模型。评估结果表明,蒸馏的较小密集模型在基准上表现非常出色。

去Ollama官网,点击顶部的Models链接,选择deepseek-r1模型,根据电脑硬件条件选择不同的属性,一般1.5b就可以,电脑性能好的可以选8b。

DeepSeek-R1-Distill-Qwen-1.5B

ollama run deepseek-r1:1.5b

DeepSeek-R1-Distill-Qwen-7B

ollama run deepseek-r1:7b

DeepSeek-R1-Distill-Llama-8B

ollama run deepseek-r1:8b

DeepSeek-R1-Distill-Qwen-14B

ollama run deepseek-r1:14b

DeepSeek-R1-Distill-Qwen-32B

ollama run deepseek-r1:32b

DeepSeek-R1-Distill-Llama-70B

ollama run deepseek-r1:70b

然后复制上面所选命令,打开CMD命令工具,注意这里需定位到你安装Ollama的目录中,否则默认在C盘。

在DeepSeek下载完成后,我们就可以在CMD中输入内容进行对话了,如输入:你好。

也可以修改大模型存储位置:

进入系统高级设置,选择环境变量

在用户变量中点击新建按钮,变量名为OLLAMA_MODELS,变量值为D:\Program Files\Ollama\Models,其中的变量值就是大模型下载存储的目录位置,最后点击确定即可,如下图:

还可以下载自动补全模型(deepseek-coder)

1.3 billion parameter model

ollama run deepseek-coder

6.7 billion parameter model

ollama run deepseek-coder:6.7b

33 billion parameter model

ollama run deepseek-coder:33b

三、在VSCode中部署Deepseek

打开VSCode,去插件商场搜索Continue,并安装。

安装完成后,点击右侧图标,添加新的大语言模型

Continue支持很多厂商,我们选择Ollama

添加完成后就可以使用了。

 

http://www.jsqmd.com/news/337647/

相关文章:

  • 2026年市场技术好的不锈钢中厚板厂家哪个好, 304 不锈钢冷热轧板材/不锈钢冷轧板,不锈钢中厚板源头厂家哪个好 - 品牌推荐师
  • 2026年 吹塑场馆椅厂家推荐排行榜:HDPE吹塑座椅/中空吹塑看台椅/抗老化塑料椅,专业实力与耐用性深度解析 - 品牌企业推荐师(官方)
  • 合肥硕士留学中介如何选?看排名更需反馈及时的服务体验 - 留学机构评审官
  • 沈阳福道金属制品有限责任公司:2026年旗杆厂家推荐,不锈钢旗杆/电动旗杆/锥形旗杆/学校旗杆/手动旗杆全系供应 - 品牌推荐官
  • CodeForces 随机乱做
  • NRF24L01通信案例
  • 济南留学中介top10排名揭晓,好评多机构值得关注 - 留学机构评审官
  • 递归函数 - 练习3
  • 2026年 吹塑制品厂家实力推荐榜:PE吹塑/中空吹塑/定制加工/食品级吹塑,专业制造与创新设计深度解析 - 品牌企业推荐师(官方)
  • AI-豆包调试FIFO存储过程
  • 计算机毕业设计springboot再生资源回收(废品回收)管理系统 基于SpringBoot的绿色回收智能调度平台 SpringBoot驱动的社区废品循环服务系统
  • 多家外资车企销量回升,给国产电车淘汰潮再添一根稻草,部分电车企业或在年内倒下!
  • 递归函数 - 练习2
  • 2026年好用的家用净水器品牌企业有哪些,家用净水器品牌推荐 - 工业设备
  • 计算机毕业设计springboot楼盘销售系统 基于SpringBoot的房产营销与交易管理平台 利用SpringBoot实现的商品房在线认购与推广系统
  • 如何挑选优质冲压制品厂家?这几点很重要,排名前五冲压制品直销厂家推荐排行榜宏罡通用设备发展迅速,实力雄厚 - 品牌推荐师
  • 2026年意大利进口岩板品牌厂家,上海地区如何选靠谱的 - 工业品牌热点
  • 基于STM32的蓝牙频谱灯音乐喷泉
  • 说说金源木业,其生产设备是否先进及劣势有哪些 - 工业推荐榜
  • 商场泵房远程监控智慧运维系统方案
  • 基于STM32的快递盒子
  • 2026开年新风向:上下文即Teacher,三文详解Self-Distillation新范式
  • 数据工程实践:指标平台如何通过三级物化与智能路由破解性能与成本难题?
  • 全新颠覆性的电动SUV:沃尔沃EX60
  • 聊聊哈尔滨寻找木制包装箱定制好厂家的选购要点与推荐 - myqiye
  • 姚欣对话王若愚汪奕菲李东旻:AI时代 武汉应更敢于押注年轻人
  • git修改历史提交记录名字
  • 2026年贵州酱缸定制价格分析,推荐靠谱的制造商 - mypinpai
  • Spring + asyncTool:实现复杂任务的优雅编排与高效执行
  • 完整教程:OS39.【Linux】动态库和静态库 自制静态库