当前位置: 首页 > news >正文

AI 工具调用流式开发,TokenStream 才是正确选择

在基于LangChain4j + Spring Boot开发AI代码生成平台的过程中,主要想实现Vue项目带工具调用的流式生成能力,比如自动写入项目文件、构建打包,同时通过响应式流向前端推送实时进度。

但是,在前端调试时,出现了以下错误:

抱歉,生成过程中出现了错误,请重试。

原因分析

1. AI服务接口
@SystemMessage(fromResource = "prompt/codegen-vue-project-system-prompt.txt") Flux<String> generateVueProjectCodeStream(@MemoryId long appId, @UserMessage String userMessage);
2. Facade层调度逻辑
case VUE_PROJECT -> { Flux codeStream = aiCodeGeneratorService.generateVueProjectCodeStream(appId, userMessage); yield processCodeStream(codeStream, CodeGenTypeEnum.VUE_PROJECT, appId); }

接口调用直接返回业务异常,前端无任何流式输出,日志无有效业务堆栈,仅提示:抱歉,生成过程中出现了错误,请重试

主要原因是:

  • TokenStream是LangChain4j专为AI流式响应 + 工具调用设计的API,内置onToolRequest/onToolExecuted等完整回调事件,可无缝衔接工具执行流程;
  • Flux<String>是通用响应式流组件,无AI场景专属能力,无法接收、处理工具调用的回调事件。

解决方法

将接口和调度层作如下修改:

// 1. AI接口原生返回值类型 @SystemMessage(fromResource = "prompt/codegen-vue-project-system-prompt.txt") TokenStream generateVueProjectCodeStream(@MemoryId long appId, @UserMessage String userMessage); // 2. Facade层调度逻辑 case VUE_PROJECT -> { TokenStream tokenStream = aiCodeGeneratorService.generateVueProjectCodeStream(appId, userMessage); yield processTokenStream(tokenStream); }

接下来,就恢复正常了。

小贴士

在集成工具调用的LangChain4j AI场景中,TokenStream是官方推荐且唯一能保证全功能正常运行的流式类型,Flux仅适用于无AI业务逻辑的通用流式场景。

在集成第三方框架时,优先使用框架原生提供的组件和API,是保证系统稳定性的最优解。

学习资源推荐

如果你想更深入地学习大模型,以下是一些非常有价值的学习资源,这些资源将帮助你从不同角度学习大模型,提升你的实践能力。

一、全套AGI大模型学习路线

AI大模型时代的学习之旅:从基础到前沿,掌握人工智能的核心技能!​

因篇幅有限,仅展示部分资料,需要点击文章最下方名片即可前往获取

二、640套AI大模型报告合集

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示

​因篇幅有限,仅展示部分资料,需要点击文章最下方名片即可前往获取

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

因篇幅有限,仅展示部分资料,需要点击文章最下方名片即可前往获取

四、AI大模型商业化落地方案

作为普通人,入局大模型时代需要持续学习和实践,不断提高自己的技能和认知水平,同时也需要有责任感和伦理意识,为人工智能的健康发展贡献力量。

http://www.jsqmd.com/news/340926/

相关文章:

  • 消防科普互动设备|消防装备和器材体验系统
  • 2026年评价高的企业能源管理方案公司推荐:制造企业能源管理方案、制造企业能源管理方案、双向电表、双向计量电表选择指南 - 优质品牌商家
  • 消防数字展厅智能升级|AR消防巡检员体验系统
  • C语言fscanf用法详解:如何从文件读取格式化数据
  • 2026年江苏值得选的聚氨酯平板供应商哪个专业 - myqiye
  • 元气AI Bot下载安装教程及使用教程:从安装到自动化 2026终极效率提升指南 - PC修复电脑医生
  • 干货!零门槛搞懂skills
  • GEO公司哪家好,探讨售后完善的GEO公司服务 - mypinpai
  • 激光清洗:电池电极制造的绿色经济新变革
  • PCB陶瓷基板从原料到出货的全流程追溯
  • Java面向对象——类与对象的创建
  • 2026年重庆3PE钢管厂家权威榜单 全景解析优质厂家及适配方案 各类应用场景 - 深度智识库
  • PCB陶瓷基板市场趋势:国产替代加速材料与工艺双轮驱动
  • 2026年重庆3PE钢管厂家哪家强?各品牌特色及工程适配指南 实力解析 - 深度智识库
  • 2026年度推荐:飞秒光频梳与光纤光频梳领先生产厂家盘点 - 品牌推荐大师
  • 2026年商用地暖厂家权威推荐榜:格力家用空调总代理、格力空调专卖店、格力空调厂家、格力空调总代理、格力空调新风系统选择指南 - 优质品牌商家
  • PCB陶瓷基板从主驱到充电的全场景覆盖
  • win11高级系统设置增加环境变量
  • MindSpore 大模型低比特量化部署进阶:2bit 极致压缩 + 精度补偿
  • 2026年耐腐蚀PA66尼龙隔热条/黑色尼龙隔热条厂家推荐及选择指南 - 品牌宣传支持者
  • PCB陶瓷基板DBC、AMB、DPC、LTCC工艺解析
  • MinIO停更叠加长期短板,寻求替换前请先抛弃工具思维! - 杉岩数据
  • 重磅:2026年度中国博士后国资计划(A、B、C三档)申报指南发布!
  • 不止程序员|全人群转型大模型实战指南,从0到1突破AI转型瓶颈
  • R系列减速机求推荐?看完这份榜单再做决定——以国静传动设备为例的经验分享 - 企师傅推荐官
  • 5 款 AI 写论文哪个好?盲测后:虎贲等考 AI 凭 “真材实料” 稳坐 C 位
  • 内测招募|元空AI+OpenClaw(Clawdbot)办公智能体内测招募
  • CNN的FLOPs:从理论计算到实战避坑指南
  • 写论文软件哪个好?宏智树 AI 带你解锁毕业论文全流程通关秘籍
  • UE的粒子系统开销怎么优化