这个GraphRAG方案,让skill起飞了
今天分享的文章是新南威尔士大学联合CSIRO提出SkillZip,把技能库压缩单元从整个技能包改为section级承载契约的节点,ALFWorld超SkillDAG达12.2点。
痛点在哪
LLM智能体的程序性知识存储在可复用技能包中推理时加载,库增长后核心挑战是在有限上下文预算下暴露最小充分可执行上下文。现有"retrieve-compress-execute"管道有四大挑战:
- 复用粒度不匹配:用整个技能作检索单元,无法只选包内相关程序,重叠包都进检索导致冗余和歧义
- 压缩丢契约:文本接近≠契约等价,压缩技能可能接近原文但遮蔽precondition/guard branch/verifier hook使过程不安全
- 压缩不持久:图在检索后构建,库本身不存为持久压缩结构,recurring routine被反复发现验证
- 维护不感知执行:一次性压缩器无法识别后来技能才揭示的可复用routine,也无法修订反复触发扩展/verifier失败的macro
共同根因:检索整个技能包、压缩技能文本、检索后构建执行图,三个决策基于三个不同单元。应统一为承载契约的section子图,其程序契约在检索/压缩/执行中都存活。
方案细节
SkillZip把基本表示单元从整个技能包改为源grounded、承载契约的section级单元,由程序依赖连接。recurring子图仅在程序契约保持显式且可恢复时重写为可复用macro,4组件闭环:
- Sec2Graph:把技能包打开成section级节点
- MotifZip:契约保持压缩recurring motif为可逆macro
- PathHydrate:预算约束子图搜索配渐进水合
- ReZip:执行证据增量维护macro字典
Sec2Graph:构建程序子图
把技能包转为源grounded程序子图,供MotifZip压缩和PathHydrate查询。
- section节点结构:v = ⟨τ_v, c_v, X_v, Y_v, R_v, G_v, src_v⟩,含执行角色/内容/输入输出签名/资源/guard条件/source指针
- 9个操作角色:Intent/Trigger/Input/Precondition/Operation/Resource/Failure/Verifier/Output,描述section程序功能而非源文件位置
- Section grounding:用标题/列表/代码块/警告/参数描述/工具引用/测试作边界cues分割,边界不完整时model-assisted parser精炼保留source pointer
- 程序子图构建:weak-order边保持局部顺序,dependency边绑定operations到inputs/preconditions/resources,verifier边连接operations到可达检查,repair边连接failure handlers到guards
- 跨技能复用:兼容section保持occurrence-specific节点,仅角色/边界签名/资源/verifier行为一致时链接到共享canonical prototype,使公共routine可见(如cleaning/pivoting/plotting共享tabular ingestion)
MotifZip:契约保持压缩
挖掘recurring section级motif,仅在契约三方面都保持时提升为可逆macro节点。
- Interface-aware motif mining:避免对整个库做无限制频繁子图挖掘,先从兼容执行接口提候选,按角色签名/资源家族/I/O shape分桶沿dependency和weak-order边增长
- Occurrence support:支持度在非冲突occurrence上计数,两occurrence冲突若共享内部源section节点或需不兼容port重连,度量可复用程序结构而非重复文本span
- 三条件接受:接口稳定(input/output ports/角色签名/资源需求跨occurrence一致)、执行闭合(依赖要么在motif内部要么通过macro ports显式暴露)、验证可达(每个状态改变operation在macro契约内保留verifier或从macro输出可达)
- 可逆graph grammar规则:M_g[I_g, O_g] ⇒ (V_g, E_g, π_g, χ_g),重写occurrence只移除内部节点插入macro重连外部边,扩展执行逆操作恢复源grounded section图
- 压缩增益打分:Δ(g) = freq(g)·L(g) − L(M_g) − L(rule_g) + α·Reuse(g) − λ·Cut(g) − μ·Risk(g),权衡描述长度节省和执行风险,候选按Δ(g)降序贪心处理跳过重叠重写
- 四级渲染:macro可渲染为name/contract/outline/full source,是可逆程序重写规则而非有损总结
PathHydrate:预算可执行上下文
在压缩图上路由,构造紧凑依赖闭合程序子图,按任务需求渲染macro到最低充分级别。
- Task anchoring:原始query转结构化任务对象 z_q = (g_q, O_q, Γ_q, I_q, D_q, {d_i}),含目标/期望输出/所需能力/可见输入/执行器profile/子目标有序列表
- Dual-level seed fusion:section节点由subgoal和raw-query两视图max打分 s(v,d_i,q) = max{cos(e(d_i),e(v)), cos(e(q),e(v))},候选技能的skill-description和node-max两排名用RRF融合集中seed池
- Constrained subgraph search:P*_q = arg min η·T§ + β|P| + γ·E§ − δ·Match(P,q),约束anchor coverage/dependency closure/verifier reachability/预算T§≤B
- Scaffold repair:向后走恢复Input/Precondition/Resource,向前走恢复Failure/Verifier/Output,充分性门控而非预算寻求(覆盖anchors/闭合依赖/verifier可达即终止)
- 渐进水合:每个macro选最低充分级别(name/contract/outline/full source),契约不暴露所需input/guard/verifier则扩展,把progressive disclosure从包级升级到图级
- 可执行上下文渲染:C_q = RenderContract(U, p, B),含intent/bound inputs/preconditions/水合operations/resources/guards/failure handlers/verifiers/source expansion pointers,水合日志L_q反馈给ReZip
ReZip:增量库维护
把压缩-执行环随库演进闭合,每次更新建模为压缩库上转移 Z_{t+1} = ReZip(Z_t, u_t)。
- 新技能同化:Sec2Graph转程序子图,ReZip用typed ports和契约三方面匹配现有macro,兼容区域复用保留occurrence-specific source map,未匹配区域进residual缓冲
- residual motif提升条件:supp_t® ≥ m 且 Δ® > 0 且 Valid_χ® = 1,库增长立即复用已建立macro,仅在重复契约兼容证据后引入新抽象
- 执行感知macro修订:Σ_t(M)记录uses/source expansions/verifier failures/downstream repair cost,风险信号 ρ_t(M) = λ_e·n_exp/n_use + λ_v·n_fail/n_use + λ_d·c_repair/n_use
- controlled demotion:ρ_t(M)超阈值时先提高受影响任务profile水合级别,持续风险则分裂为更窄契约兼容规则或退役改用源section,每次修订保留源grounded扩展
实验结果
两基准两backbone全优:MiniMax-M2.7 SkillsBench R 33.3(+22.9)/ALFWorld R 79.3(+28.6)超SkillDAG +6.0/+12.2;gpt-5.2-codex SkillsBench R 43.0(+21.5)/ALFWorld R 96.4(+3.5);3.46×压缩比/99.2%依赖保持/98.7% verifier可达,text compression同压缩比但DPR仅65.0/VR 60.0/R 25.5。
可扩展+消融:Ret@1优势随库从200技能6.2扩大到100K技能23.3,100K规模4.77M节点178秒完成MotifZip/248.3ms在线延迟;w/o section级Ret@1 -6.9最大drop,w/o MotifZip tokens +52.9%但DPR/VR完美,w/o dependency closure DPR 82.3/w/o verifier constraint VR 76.4。
学AI大模型的正确顺序,千万不要搞错了
🤔2026年AI风口已来!各行各业的AI渗透肉眼可见,超多公司要么转型做AI相关产品,要么高薪挖AI技术人才,机遇直接摆在眼前!
有往AI方向发展,或者本身有后端编程基础的朋友,直接冲AI大模型应用开发转岗超合适!
就算暂时不打算转岗,了解大模型、RAG、Prompt、Agent这些热门概念,能上手做简单项目,也绝对是求职加分王🔋
📝给大家整理了超全最新的AI大模型应用开发学习清单和资料,手把手帮你快速入门!👇👇
学习路线:
✅大模型基础认知—大模型核心原理、发展历程、主流模型(GPT、文心一言等)特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架(LangChain等)实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经
以上6大模块,看似清晰好上手,实则每个部分都有扎实的核心内容需要吃透!
我把大模型的学习全流程已经整理📚好了!抓住AI时代风口,轻松解锁职业新可能,希望大家都能把握机遇,实现薪资/职业跃迁~
