LangChain4j 踩坑实录：AI 工具调用流式开发，TokenStream 才是正确选择

在基于LangChain4j + Spring Boot开发AI代码生成平台的过程中，主要想实现Vue项目带工具调用的流式生成能力，比如自动写入项目文件、构建打包，同时通过响应式流向前端推送实时进度。

但是，在前端调试时，出现了以下错误：

原因分析

1. AI服务接口

@SystemMessage(fromResource="prompt/codegen-vue-project-system-prompt.txt")Flux<String>generateVueProjectCodeStream(@MemoryId long appId, @UserMessage String userMessage);

2. Facade层调度逻辑

caseVUE_PROJECT ->{Flux codeStream=aiCodeGeneratorService.generateVueProjectCodeStream(appId, userMessage);yield processCodeStream(codeStream, CodeGenTypeEnum.VUE_PROJECT, appId);}

接口调用直接返回业务异常，前端无任何流式输出，日志无有效业务堆栈，仅提示：抱歉，生成过程中出现了错误，请重试。

主要原因是：

• TokenStream是LangChain4j专为AI流式响应 + 工具调用设计的API，内置onToolRequest/onToolExecuted等完整回调事件，可无缝衔接工具执行流程；
• Flux<String>是通用响应式流组件，无AI场景专属能力，无法接收、处理工具调用的回调事件。

解决方法

将接口和调度层作如下修改：

//1. AI接口原生返回值类型 @SystemMessage(fromResource="prompt/codegen-vue-project-system-prompt.txt")TokenStream generateVueProjectCodeStream(@MemoryId long appId, @UserMessage String userMessage);//2. Facade层调度逻辑caseVUE_PROJECT ->{TokenStream tokenStream=aiCodeGeneratorService.generateVueProjectCodeStream(appId, userMessage);yield processTokenStream(tokenStream);}

接下来，就恢复正常了。

小贴士

在集成工具调用的LangChain4j AI场景中，TokenStream是官方推荐且唯一能保证全功能正常运行的流式类型，Flux仅适用于无AI业务逻辑的通用流式场景。

在集成第三方框架时，优先使用框架原生提供的组件和API，是保证系统稳定性的最优解。