JAVA技术栈AI开发框架选型指南（2026）

随着Java在AI领域的广泛应用，选择合适的框架变得至关重要。本文对比了Spring AI、LangChain4j、Spring AI Alibaba、Solon AI、JBoltAI、AgentScope-Java等7个主流Java AI框架，从GitHub Stars、版本、框架依赖、模型支持、RAG功能、Agent和Skill支持等方面进行了详细分析，并给出了选型建议，帮助开发者根据自身需求选择最合适的框架。

2026 年了，Java 做 AI 不再是"能不能"的问题，而是"用哪个"的问题。

Spring AI、LangChain4j 等框架都给出了自己的答案。

这篇文章整理了 7 个主流框架的实际数据、代码示例和选型判断。

一、整体对比

二、各框架详解

1. Spring AI ⭐⭐⭐⭐⭐

定位：Spring 官方推出的 AI 框架，把 Spring 的设计哲学（依赖注入、自动配置、POJO 编程）带到 AI 开发中。

GitHub：https://github.com/spring-projects/spring-ai |Stars：8,854 |最新版本：2.0.0-M8

核心能力

• ChatClient

  — 流式 API，风格类似 WebClient/RestClient

• Tool/Function Calling

  — 让模型调用业务方法

• RAG

  — 基于向量数据库的检索增强生成

• Advisors

  — 拦截器模式封装对话记忆、安全审核等通用逻辑

• ETL Pipeline

  — 文档注入框架，数据预处理

• Structured Output

  — AI 输出转 POJO

• 可观测性

  — 与 Micrometer 深度集成

• 模型评估

  — 评估生成内容质量

支持模型：OpenAI、Anthropic、DeepSeek、Google Gemini、Ollama、Amazon Bedrock、Azure OpenAI、阿里通义 等 10+。

支持向量库：PGVector、Chroma、Pinecone、Redis、Milvus、Weaviate、Elasticsearch、MongoDB Atlas、Cassandra、Qdrant、Oracle 等 15+。

快速上手

Maven 依赖（Spring Boot 3.5.x + Spring AI 1.1.x）：

<dependency> <groupId>org.springframework.ai</groupId> <artifactId>spring-ai-openai-spring-boot-starter</artifactId> <version>1.1.7</version></dependency>

application.yml：

spring: ai: openai: api-key: ${OPENAI_API_KEY} chat: options: model: gpt-4o

ChatClient 使用：

@RestControllerclass ChatController { private final ChatClient chatClient; public ChatController(ChatClient.Builder builder) { this.chatClient = builder.build(); } @GetMapping("/chat") String chat(@RequestParam String message) { return chatClient.prompt() .user(message) .call() .content(); }}

带 RAG 的 ChatClient：

@RestControllerclass RagController { private final ChatClient chatClient; public RagController(ChatClient.Builder builder, VectorStore vectorStore) { this.chatClient = builder .defaultAdvisors( new VectorStoreChatMemoryAdvisor(vectorStore), new QuestionAnswerAdvisor(vectorStore, SearchRequest.defaults()) ) .build(); } @GetMapping("/rag") String chat(@RequestParam String message) { return chatClient.prompt() .user(message) .call() .content(); }}

Skill 支持

无原生 Skill 抽象。Spring AI 不支持通用的 Skill/SKILL.md 机制。其等价能力仅通过 Tool Calling 实现：

• @Tool注解

  — 将方法注册为 AI 可调用的工具

• FunctionToolCallback

  — 编程式注册工具

• ToolContext

  — 工具执行上下文

// 注册一个工具@Tool(description = "查询天气")String getWeather(String city) { ... }// 通过 ChatClient 调用chatClient.prompt() .tools(getWeather) .user("北京天气？") .call();

但 Tool 不具备渐进式披露能力（元信息列表→按需加载），也没有标准化的 SKILL.md 目录结构。需要 Skill 机制时需配合 LangChain4j 或 Spring AI Alibaba 使用。

Agent 支持

Agent 能力相对基础。Spring AI 的 Agent 模式基于Advisors 链：

• ChatClient Advisors

  — 在 ChatClient 调用前后插入处理逻辑

• 工具调用

  — 模型可请求执行注册的 Tool 函数

• 对话记忆

  — MessageChatMemoryAdvisor 维护多轮上下文

缺乏 LangChain4j 或 Spring AI Alibaba 那样的声明式 Agent 接口和自循环推理机制。

优缺点

2. LangChain4j ⭐⭐⭐⭐⭐

定位：社区最活跃的 Java AI 框架，没有之一。框架中立，不绑 Spring，Quarkus、Micronaut、Helidon、纯 Java 都能用。

GitHub：https://github.com/langchain4j/langchain4j |Stars：12,196 |最新版本：1.15.1

核心能力

• AI Service

  — 声明式编程，通过接口+注解定义 AI 服务，无需实现类

• Tool/Function Calling

  — 强大的工具调用机制

• RAG

  — 完整的数据摄取→检索管道

• Agent

  —langchain4j-agentic模块，支持 Workflow 和 Pure Agent

• Skill

  — 原生 Skill 模块，遵循 Agent Skills 规范

• MCP 支持

  — Model Context Protocol

• Chat Memory

  — 多种记忆模式

• 30+ 向量数据库

  — 业界最广覆盖

快速上手

Maven 依赖：

<dependency> <groupId>dev.langchain4j</groupId> <artifactId>langchain4j</artifactId> <version>1.15.1</version></dependency><dependency> <groupId>dev.langchain4j</groupId> <artifactId>langchain4j-open-ai</artifactId> <version>1.15.1</version></dependency>

基础对话：

ChatLanguageModel model = OpenAiChatModel.builder() .apiKey(System.getenv("OPENAI_API_KEY")) .modelName("gpt-4o") .build();String answer = model.generate("Java 8 和 Java 17 有什么区别？");

AI Service 声明式编程（核心特色）：

interface CustomerSupportAgent { @SystemMessage("你是一个客服助手") String chat(@UserMessage String userMessage);}CustomerSupportAgent agent = AiServices.create(CustomerSupportAgent.class, model);String response = agent.chat("这款产品的退款政策是什么？");

Skill 支持 ✅ （原生支持，遵循 Agent Skills 规范）

LangChain4j 通过langchain4j-agentic模块提供原生 Skill 支持，遵循Agent Skills 规范（SKILL.md 格式）。

Skill 目录结构：

skill-name/├── SKILL.md # 必需：YAML frontmatter（name + description）+ 指令正文├── references/ # 可选：参考文档├── examples/ # 可选：示例└── scripts/ # 可选：脚本

SKILL.md 格式：

---name: docxdescription: Edit and review Word documents using tracked changes---# Word Document EditorInstructions for editing Word documents...

两种使用模式：

模式一：Tool Mode（推荐）

Skill 目录通过FileSystemSkillLoader加载为 Tool，直接注入 AI Service。

Skills skills = FileSystemSkillLoader.loadSkills(Path.of("skills/"));MyAiService service = AiServices.builder(MyAiService.class) .chatModel(chatModel) .tools(skills) // 所有 Skill 自动注册为 Tool .build();

模式二：Shell Mode（实验性）

通过ShellSkills将 Skill 的执行交给 Shell 命令。适合快速原型和第三方技能（如agentskills.io生态）。

ShellSkills skills = ShellSkills.from( FileSystemSkillLoader.loadSkills(Path.of("skills/")));MyAiService service = AiServices.builder(MyAiService.class) .chatModel(chatModel) .toolProvider(skills.toolProvider()) .systemMessage("You have access to the following skills:\n" + skills.formatAvailableSkills() + "\nWhen the user's request relates to one of these skills, read its SKILL.md before proceeding.") .build();

formatAvailableSkills()的输出包含<location>字段，LLM 可据此定位 SKILL.md 文件路径。

工作方式：

• 渐进式披露

  — 先注入元信息（name + description），模型按需按路径加载完整内容

• 保持上下文精简

  — 只在需要时加载大段指令

Agent 支持 ✅ （完整）

langchain4j-agentic模块提供两种模式：

Workflow 模式：预定义编排流程（顺序、并行、条件路由、循环）Pure Agent 模式：模型自主决策，动态选择工具

@Agentinterface CustomerSupportAgent { String chat(@UserMessage String userMessage);}

MCP 集成：langchain4j-agentic-mcp模块支持 MCP 工具作为 Agent 节点。

优缺点

3. Spring AI Alibaba ⭐⭐⭐⭐

⚠️说明：Spring AI Alibaba 是阿里推出的独立项目（alibaba/spring-ai-alibaba），与 Spring Cloud Alibaba 无关。后者是微服务中间件。

定位：阿里出的独立项目，专攻多智能体系统和工作流编排。深度集成 Spring AI 生态，核心跑在 Graph Runtime 上。

GitHub：https://github.com/alibaba/spring-ai-alibaba |Stars：9,871 |版本：1.1.2.0

官方文档：https://java2ai.com/docs/overview

快速上手

Maven 依赖：

<dependency> <groupId>com.alibaba.cloud.ai</groupId> <artifactId>spring-ai-alibaba-agent-framework</artifactId> <version>1.1.2.0</version></dependency><dependency> <groupId>com.alibaba.cloud.ai</groupId> <artifactId>spring-ai-alibaba-starter-dashscope</artifactId> <version>1.1.2.1</version></dependency>

构建 ReactAgent：

DashScopeApi dashScopeApi = DashScopeApi.builder() .apiKey(System.getenv("AI_DASHSCOPE_API_KEY")) .build();ChatModel chatModel = DashScopeChatModel.builder() .dashScopeApi(dashScopeApi) .build();// 定义工具ToolCallback weatherTool = FunctionToolCallback.builder("get_weather", new WeatherTool()) .description("Get weather for a given city") .inputType(String.class) .build();// 创建 ReactAgentReactAgent agent = ReactAgent.builder() .name("weather_agent") .model(chatModel) .tools(weatherTool) .build();String result = agent.run("北京的天气怎么样？");

Skill 支持 ✅ （原生支持，遵循 Agent Skills 规范）

Spring AI Alibaba 通过SkillRegistry+SkillsAgentHook提供原生 Skill 支持，同样遵循Agent Skills 规范。

核心组件：

• SkillRegistry

  — 技能注册中心，管理所有 Skill 的元信息

• SkillsAgentHook

  — Agent 钩子，自动注入read_skill工具和技能列表到 System Prompt

• FileSystemSkillRegistry

  — 从本地文件系统加载 Skill 目录

Skill 目录结构（与 LangChain4j 完全一致）：

skills/├── pdf-extractor/│ ├── SKILL.md # YAML frontmatter（name + description）+ 指令│ ├── references/ # 可选│ └── scripts/ # 可选├── code-reviewer/│ └── SKILL.md

SKILL.md 格式（完全一致）：

---name: pdf-extractordescription: Extract structured data from PDF documents---# PDF ExtractorInstructions for extracting data from PDF files...

在 Agent 中使用：

SkillRegistry registry = FileSystemSkillRegistry.builder() .projectSkillsDirectory(System.getProperty("user.dir") + "/skills") .build();SkillsAgentHook hook = SkillsAgentHook.builder() .skillRegistry(registry) .build();ReactAgent agent = ReactAgent.builder() .name("skills-agent") .model(chatModel) .saver(new MemorySaver()) .hooks(List.of(hook)) .build();agent.call("请介绍你有哪些技能");

工作方式：

• 渐进式披露

  — System Prompt 先注入技能列表（name, description, skillPath）

• 模型判断需要某技能时调用read_skill(skill_name)加载完整 SKILL.md

• 按需访问技能目录下的 resources 或使用绑定的工具

Agent 支持 ✅ （完善）

单 Agent（ReactAgent）：ReAct 范式，思考→行动→观察循环多 Agent 工作流：

• SequentialAgent

  — 链式顺序执行

• ParallelAgent

  — 并行执行

• LlmRoutingAgent

  — LLM 路由分发

• LoopAgent

  — 循环迭代执行

高级编排（Graph Core）：DAG 工作流 + 条件路由 + 状态管理 + PlantUML/Mermaid 可视化

A2A（Agent-to-Agent）：通过 Nacos 实现分布式 Agent 间通信

优缺点

4. Solon AI ⭐⭐⭐⭐

定位：全场景轻量级 Java AI 框架。无需框架容器，纯 JDK 即可运行，支持 Java 8 到 Java 26。

GitHub：https://github.com/opensolon/solon |Stars：2,745 |AI 版本：v3.9.0+（v3.10.7）

AI 模块体系：

• solon-ai

  — LLM 基础（模型、Prompt、Tool、Skill、方言）

• solon-ai-skills

  — 技能开发（独立模块，v3.9.0+）

• solon-ai-rag

  — RAG 知识库

• solon-ai-flow

  — AI 工作流编排

• solon-ai-agent

  — Agent（SimpleAgent、ReActAgent、TeamAgent）

• solon-ai-harness

  — Harness 智能体马具框架

• solon-ai-mcp

  — MCP 协议

快速上手

<dependency> <groupId>org.noear</groupId> <artifactId>solon-ai</artifactId> <version>3.10.7</version></dependency> ``````plaintext @Controllerpublic class AIController { @Inject private ChatClient chatClient; @Mapping("/chat") public String chat(String msg) { return chatClient.prompt(msg).call().content(); }}

Skill 支持 ✅ （原生支持，功能最丰富）

Solon AI Skills 是其独立模块solon-ai-skills（v3.9.0+），概念原型参考了 Claude Code Agent Skills 的设计思想。

核心特色：

Skill 类型体系：

Tool 与 Skill 的区别：Tool 是功能型（执行原子操作），Skill 是知识型（包含指令/SOP/上下文）。Skill 可以包含多个 Tool 调用和决策逻辑。

Agent 支持 ✅

Solon AI Agent 模块solon-ai-agent提供三种 Agent 类型：

• SimpleAgent

  — 简单对话代理

• ReActAgent

  — 推理+行动循环

• TeamAgent

  — 多智能体团队协作

另有solon-ai-harnessHarness 马具框架，提供智能体脚手架能力。solon-ai-flow提供 AI 工作流编排（类似 Spring AI Alibaba 的 Graph Core）。

优缺点

5. JBoltAI ⭐⭐⭐⭐

定位：面向企业的 Java AI 应用开发框架，强调私有化部署、全链路可追溯、AgentRAG。

网站：https://jboltai.com

核心特色

• AgentRAG

  — "理解→规划→检索→评估→再检索→生成"完整链路

• 私有化部署

  — Docker/K8s 全量本地运行

• 知识库管理

  — 自动分块、向量化、混合检索

• 可视化工作流

  — 拖拽式 Agent 编排

• 审计日志

  — 全链路追踪

Skill 与 Agent 支持

无原生 Skill 抽象。但提供平台级替代方案：

• Agent 模板

  — 预设的 Agent 配置模板（类似 Skill 的可复用套餐）

• 插件系统

  — 对接企业系统的扩展点

• 可视化编排

  — 拖拽式构建工作流

Agent 方面，AgentRAG 框架实现完整的推理链路，过程透明可追溯。

优缺点

6. AgentScope-Java ⭐⭐⭐⭐

定位：面向生产环境的智能体运行平台，阿里通义实验室出品。提供 ReAct 推理、Harness 工程化基础设施、多智能体编排与 MCP/A2A 协议支持。

GitHub：https://github.com/agentscope-ai/agentscope-java |Stars：3,457

核心能力

• Harness 工程化

  — 长期运行、复杂任务的工程底座

• 多智能体

  — 子 Agent 声明 + agent_spawn/agent_send

• Middleware

  — onAgent/onReasoning/onActing/onModelCall 五层钩子

• 沙箱执行

  — 本地/Docker/E2B 一行切换，快照恢复

• 工具与 MCP

  — 注解驱动工具注册，统一 MCP 接入

• Workspace 抽象

  — 工作区即 Agent 人格+记忆+领域知识

• 自学习闭环

  — Agent 自起草 Skill → 审核 → 后台整理

Skill 支持 ✅ （原生支持，Agent Skills 规范）

AgentScope-Java 通过SkillRepository提供原生 Skill 支持，同样遵循Agent Skills 规范。

两大来源：

1. 技能市场（Skill Repository）

   — Git 仓库 / Nacos / MySQL / classpath / 自定义后端

2. 工作区

   —workspace/skills/共享 /<userId>/skills/按用户隔离

Skill 目录结构（完全一致）：

code-reviewer/├── SKILL.md # YAML frontmatter（name + description）+ 指令正文├── references/ # 参考文档，agent 按需读取│ └── style-guide.md└── scripts/ # agent 可通过 shell 调用的脚本 └── run-checks.sh

SKILL.md 格式（完全一致）：

---name: code-reviewerdescription: 当用户需要代码评审、风格反馈或 PR 审核时使用。---# Code Reviewer步骤：1. 读 `references/style-guide.md` 获取项目规范2. 跑 `scripts/run-checks.sh <目标路径>`

多后端支持：

// Git 技能仓库HarnessAgent agent = HarnessAgent.builder() .name("assistant") .model(model) .workspace(workspace) .skillRepository(new GitSkillRepository("https://github.com/your-org/team-skills.git")) .build();// Nacos 技能市场NacosSkillRepository market = new NacosSkillRepository(aiService, "namespace");HarnessAgent.builder() .skillRepository(market) .build();// MySQL 技能注册表MysqlSkillRepository registry = MysqlSkillRepository.builder(dataSource) .databaseName("agentscope") .skillsTableName("skills") .createIfNotExist(true) .writeable(true) .build();

自学习闭环：

• Agent 可以从执行中总结经验，自动起草 Skill → 审核 → 周期性后台整理
• 成功模式以 Markdown 技能形式自动沉淀到workspace/skills/
• 每轮按需加载、跨会话共享——Agent 在每次运行之间累积 know-how

Agent 支持 ✅ （完善）

HarnessAgent：Middleware + Toolkit 两个扩展通道，把工作区、记忆、沙箱、子 Agent、技能与计划模式打包。

子智能体：在 Markdown 里声明子 agent 规格，运行时按需agent_spawn/agent_send，支持同步阻塞与后台委派。后台任务终态通过 system-reminder 反向推送。

多 Agent 协作：支持 Pipeline、Broadcast、Sequential 等协作模式。

A2A + MCP：跨进程 Agent 编排与工具集成。

优缺点

7. 官方 SDK

当只需要简单调用某个模型 API 时使用。无 Skill/Agent 抽象。

三、Skill 支持对比

Skill（技能）定义为：遵循 Agent Skills 规范的可复用能力包——一个包含SKILL.md（YAML frontmatter + 指令）的目录，支持渐进式披露（先列元信息，按需加载详情）。

对比总表

四者对比

四个框架（LangChain4j、Spring AI Alibaba、AgentScope-Java、Solon AI）均实现了原生 Skill 支持，差异在于规范遵循和接入方式：

四、Agent 支持对比

最后唠两句

为什么AI大模型成为越来越多程序员转行就业、升职加薪的首选

很简单，这些岗位缺人且高薪

智联招聘的最新数据给出了最直观的印证：2025年2月，AI领域求职人数同比增幅突破200% ，远超其他行业平均水平；整个人工智能行业的求职增速达到33.4%，位居各行业榜首，其中人工智能工程师岗位的求职热度更是飙升69.6%。

AI产业的快速扩张，也让人才供需矛盾愈发突出。麦肯锡报告明确预测，到2030年中国AI专业人才需求将达600万人，人才缺口可能高达400万人，这一缺口不仅存在于核心技术领域，更蔓延至产业应用的各个环节。

那0基础普通人如何学习大模型 ？

深耕科技一线十二载，亲历技术浪潮变迁。我见证那些率先拥抱AI的同行，如何建立起效率与薪资的代际优势。如今，我将积累的大模型面试真题、独家资料、技术报告与实战路线系统整理，分享于此，为你扫清学习困惑，共赴AI时代新程。

我整理出这套 AI 大模型突围资料包【允许白嫖】：

• ✅从入门到精通的全套视频教程
• ✅AI大模型学习路线图（0基础到项目实战仅需90天）
• ✅大模型书籍与技术文档PDF
• ✅各大厂大模型面试题目详解
• ✅640套AI大模型报告合集
• ✅大模型入门实战训练

这份完整版的大模型 AI 学习和面试资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

①从入门到精通的全套视频教程

包含提示词工程、RAG、Agent等技术点

② AI大模型学习路线图（0基础到项目实战仅需90天）

全过程AI大模型学习路线

③学习电子书籍和技术文档

市面上的大模型书籍确实太多了，这些是我精选出来的

④各大厂大模型面试题目详解

⑤640套AI大模型报告合集

⑥大模型入门实战训练

如果说你是以下人群中的其中一类，都可以来智泊AI学习人工智能，找到高薪工作，一次小小的“投资”换来的是终身受益！

应届毕业生‌：无工作经验但想要系统学习AI大模型技术，期待通过实战项目掌握核心技术。

零基础转型‌：非技术背景但关注AI应用场景，计划通过低代码工具实现“AI+行业”跨界‌。

业务赋能 ‌突破瓶颈：传统开发者（Java/前端等）学习Transformer架构与LangChain框架，向AI全栈工程师转型‌。

👉获取方式：
有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓