当前位置: 首页 > news >正文

Python 异步的传染性;langgragh并行工作流;

Python 异步的传染性;

每次看到await都有点乱,实际是因为它的传染性,必须写,不然只会返回协程对象

# 最底层:真实IO
async def call_llm():await httpx.post(...)   # 真正的让出点# 中间层:必须 async def + await,否则无法传递让出
async def run_rag_pipeline():result = await call_llm()   # 如果这里不await,call_llm()只返回协程对象,不执行return result# 上层:同样
async def handle_request():result = await run_rag_pipeline()return result

如果中间某一层断掉:

python# ❌ 中间层忘了 await
async def run_rag_pipeline():result = call_llm()   # 返回一个协程对象,没有执行!return result         # result 是 <coroutine object>,不是真实结果

langgragh并行工作流;

将子任务拆分并并行运行,但是有个问题:我是用生产消费模式,让一个worker拿到这个pipeline,这个还是真正的并行吗。

通过并行化,这可以通过同时运行多个独立的子任务,或者多次运行同一任务以检查不同的输出来实现。

并行化通常用于:

  • 将子任务拆分并并行运行,这样可以提高速度。
  • 多次运行任务以检查不同的输出,这可以提高置信度。
    langgragh并行工作流的实现是:asyncio.gather
    其实就是:并行的协程全部启动,各自执行到内部第一个 await(发出HTTP请求LLM调用)
call_llm_2 响应回来 → 恢复执行 → 执行完毕 → 继续等其他两个
call_llm_1 响应回来 → 恢复执行 → 执行完毕 → 继续等
call_llm_3 响应回来 → 恢复执行 → 执行完毕→ 三个全部完成,gather 返回 [result1, result2, result3]
→ 调用方拿回执行权,继续往下走
http://www.jsqmd.com/news/640440/

相关文章:

  • ABAP开发实战:Range Table的5种高效用法与性能优化技巧
  • 别再复制粘贴了!用Python GMSSL v3.2.1玩转SM4加密(ECB/CBC/OFB/CFB/CTR模式保姆级教程)
  • Obsidian任务管理插件完全指南:打造智能高效工作流程
  • Google 迎来「DeepSeek 时刻」:Turbouant算法实现bit无损、×加速、×压缩、零预处理
  • 光纤激光打标机知名品牌与生产厂家推荐指南 - 品牌推荐大师1
  • 低温冷却液循环泵生产厂家优选:河南佰年仪器、巩义予华仪器品牌推荐 - 品牌推荐大师
  • **发散创新:基于Metal API的高性能图形渲染架构设计与实战**在现代GPU计算和图形渲染领域,**Metal API**作
  • Auto-Unlocker:解锁VMware macOS虚拟化的专业解决方案
  • 北京一对一全托管补习哪家效果好 - 品牌排行榜
  • 3分钟搞定视频字幕:VideoSrt开源工具让你告别手动打字幕的烦恼
  • 深入解析RPM包签名机制:从NOKEY警告到自定义签名实践
  • SITS2026图文检索mAP突然下跌11.4%?紧急排查清单:从文本tokenizer污染到图像归一化泄漏
  • 2026 年,Vue 3 的 UI 组件库生态
  • 英雄联盟Akari助手:终极自动化游戏辅助工具包完整指南
  • 软件价格优化化的动态调整与收益管理
  • 深入解析:机器学习与深度学习的区别是什么?如何选择研究方向?
  • PP-DocLayoutV3新手指南:WebUI中‘[特殊字符] 开始分析并标注’按钮背后的技术流程拆解
  • 微博相册批量下载终极指南:三步轻松获取高清图片收藏
  • 2026年国际海运货代如何选?怡悦国际、中外运、中远海运深度横评与官方联系指南 - 精选优质企业推荐榜
  • 蓄热式催化焚烧设备RCO知名企业有哪些?最新名单公布 - 品牌推荐大师
  • 从内置渲染管线到URP:Unity渲染升级实战指南
  • 一键破解技能孤岛:企业级Agent技能共享与沉淀实战
  • 2026年河北节水灌溉设备怎么选?础润节水官方联系电话与行业深度横评指南 - 精选优质企业推荐榜
  • 终极指南:如何突破Cursor Pro限制实现永久免费使用
  • 手把手教你用Overlap-Save算法在C++里实现实时音频混响(低延迟实战)
  • QQ 25 年进化史:从UDP到NT架构,支撑亿级在线的技术之路
  • diagmonitor_runtime.cpp 中 zbus_-SetIdentify(2) 的理解
  • 2026年佛山国际海运货运代理怎么选?怡悦国际vs行业主流品牌深度横评与官方联系指南 - 精选优质企业推荐榜
  • YimMenu终极指南:GTA5开源辅助工具全面解析与安全使用教程
  • 深度解析vdbench与fio:磁盘性能测试的实战指南