【大模型应用开发03】- 模型部署方案对比

正式学习之前有一些前置条件
1，必须有javaweb开发基础。 2，必须掌握springboot 。 3，会使用mybatis和mybatisPlus。4，JDK17。 5，熟练使用Idea开发工具
进入正题，模型部署方案分云部署和本地部署，分别有什么优点和缺点，下面就详细说一下

云部署

优点：前期成本低，部署维护简单，弹性扩展，全球访问 缺点：数据隐私，网络依赖，长期成本高

本地部署

优点：数据安全，不依赖外部网络，长期成本低，高度定制 缺点：初始成本高，维护复杂，部署周期长

开放API

优点：‌前期成本极低‌，无需从零搭建对应服务的底层能力，直接调用公开接口即可快速实现功能，大幅降低项目初期的研发、人力投入；无需部署‌，接口服务由提供方托管，使用者不需要自行搭建服务器、配置运行环境，接入流程轻量化；无需维护‌，后续的功能迭代、故障修复、性能优化都由API提供方负责，使用者不需要投入运维精力；全球访问‌，只要有网络环境，就可以跨地域调用接口服务，不受本地部署的物理位置限制。 缺点：数据隐私风险，业务数据需要通过网络传输给第三方API服务商，存在数据泄露、合规性相关的隐患；网络依赖‌，接口调用完全依托网络连接，一旦出现网络波动、服务商侧故障，就会直接影响自身业务的可用性；长期成本高‌，初期调用门槛低，但随着业务规模扩大、调用量持续增长，按调用次数计费的模式会让长期使用成本逐步攀升；定制限制‌，接口的功能、参数完全由服务商定义，很难根据自身业务的特殊需求做深度定制开发，灵活性不足。

‌

阿里云百炼注册：

创建API KEY：

这里的API KEY是你后面使用模型的密钥。到时候你可以充值使用

本地部署大模型最便捷的工具是 ‌Ollama‌，它的官方网站地址为：https://ollama.com

下载安装ollama
💡 方案优势补充
Ollama 是目前主流的轻量级本地大模型部署工具，能大幅降低部署门槛：

‌跨平台兼容‌：支持 Windows、macOS、Linux 全主流操作系统，无需复杂的环境依赖配置
‌极简操作‌：仅需几条命令就能完成开源模型的拉取、启动和运行，普通用户也能快速上手
‌资源友好‌：内置量化优化机制，普通配置的个人电脑（16G内存+入门级显卡）也能流畅运行7B参数级别的主流开源模型
‌隐私安全‌：完全在本地离线运行，数据不会外传，适配敏感业务场景的合规需求
‌生态完善‌：默认提供兼容OpenAI规范的API服务，可快速对接各类本地AI应用、开发工具，拓展性极强
如果你需要从零开始完成本地部署，也可以参考官方指引一步步完成安装、模型拉取和运行操作。

这个模型有很多，选择你想要用的模型，比如下面