当前位置： 首页 > news >正文

＜span class=“js_title_inner“＞我不允许谁还不清楚function call在AI-Agent领域中打手的地位＜/span＞

news 2026/3/27 6:29:55

前文提要：还有比ollama更傻瓜式的大模型本地部署方式吗 ？

1.function calling[1]底层工作原理

🤖大模型重塑了我们与软件应用的交互方式， 其中最重要的特性就是 function calling 。

一种利用结构化输入/输出在LLM和编程应用之间建立桥梁的方式。

不管是当前火热的AI-agent还是MCP，了解function calling底层工作原理都至关重要，特别是request和response payload。

回顾上文我们与qwen大模型的对话：

what is the temperature in the capital of china today？

一个由LLM驱动的应用， 回答这个问题，应用与LLM经历了三次对话。

① 第一次请求payload：

  • message：标准的历史对话， 提供上下文context

  • tools：一系列的工具函数定义， 提供给LLM来选择

LLM的响应payload：

  • tool_calls.function.name： LLM选中的工具函数get_currentDate

  • tool_calls.id： 由LLM为这个函数指定的id，后面会用到

② 第二次request：

  • messages.role.assistant: 告诉LLM我们这次请求包含了上次function calling的结果

  • messages.role.tool： 上次function calling执行的结果2026-01-24

LLM的响应payload：

如第一次类似： 本例也有tool_calls:包含LLM选中的函数get_temperature()和所有的参数beijing2026-01-24。

③ 应用最后一次请求，包含所有信息

LLM推理认为不再需要外部工具，不再返回tool_calls,给出结合外部工具的对话结果。

从三次请求对话来看， LLM在三次对话的响应中体现了它的思考和逻辑步骤，应用持续被LLM引导做出行动，同时LLM也持续对应用的行为做出进一步观察和思考。

2. agent的实现原理

大模型是 AI 的大脑，其核心是理解自然语言，并做出回应，(文本)大模型本身只能接收一段文本，然后输出一段文本。

而当你希望大模型能使用一些工具自行获取所需的信息、执行一些动作，就需要使用 Tool 来实现了，拥有了 Tool 的大模型就像是拥有了手脚，可以和当下已有的 IT 基础设施进行交互。

RAG给LLM装上实时知识外挂， 通过将信息检索与文本生成结合，让模型能引用外部权威信息生成回答，既保证了时效性，又提升了准确性。

字节开源的Eino标榜的优势在于：

  1. LangChain，LlamaIndex等主流框架虽然起源自python强大的AI生态，但是也继承了python“弱类型检查”和“长期维护成本高”的诟病。 Eino作为golang下的开源agent开发框架，规避了这一问题。

  2. 另一方面， 借助字节系在agent领域的工程化实践，Eino既封装了领域内不变的通用核心和最佳实践，也能敏捷的反映业内技术动向。

Eino[2]框架结构图：

Eino 有三大稳定内核： compose编排、components组件，common公共库。

组件一抹多,是原子能力的最小单位， 编排对这些组件进行组合、串连。

3. 中国首都今天的天气怎么样? 我母鸡啊

使用Eino框架实现本文的题目：

what is the temperature in the capital of china today？

按照我们的分析， 从LLM的视角，要回答这个问题，经历了“思考-行动-观察-思考” 循环， 这是一个ReAct模式的agent。

下面基于阿里百炼千问大模型，实现了天气温度对话，请自行从阿里百炼平台申请的apiKey替换到54行。

package main import ( "context" "fmt" "log" "os" "time" "github.com/cloudwego/eino-ext/components/model/qwen" "github.com/cloudwego/eino/components/tool" "github.com/cloudwego/eino/components/tool/utils" "github.com/cloudwego/eino/compose" "github.com/cloudwego/eino/schema" ) // what is the temperature in the capital of china today type weatherReqParam struct { City string `json:"city" jsonschema:"description=the name of the city"` Date string `json:"date" jsonschema:"description=the date in the format of YYYY-MM-DD"` } func GetTemperatureFunc(_ context.Context, p weatherReqParam) (float64, error) { // 这里直接mock一个温度值，实际应用中应该替换为真实的API调用 return 32, nil } func GetCurrentDateFunc(_ context.Context, _ struct{}) (string, error) { return time.Now().Format("2006-01-02"), nil } func of[T any](t T) *T { return &t } func main() { getDateTool, err := utils.InferTool("get_currentDate", "Get the current date", GetCurrentDateFunc) if err != nil { panic(err) } getTemperatureTool, err := utils.InferTool("get_temperature", "Get the temperature in the capital of the city", GetTemperatureFunc) if err != nil { panic(err) } // 初始化 tools weatherTools := []tool.BaseTool{ getDateTool, getTemperatureTool, } apiKey := os.Getenv("DASHSCOPE_API_KEY") apiKey = "{}" // 在阿里百炼平台申请api-key modelName := os.Getenv("MODEL_NAME") modelName = "qwen3-max" chatModel, err := qwen.NewChatModel(context.Background(), &qwen.ChatModelConfig{ BaseURL: "https://dashscope.aliyuncs.com/compatible-mode/v1", APIKey: apiKey, Timeout: 0, Model: modelName, MaxTokens: of(2048), Temperature: of(float32(0.7)), TopP: of(float32(0.7)), }) if err != nil { log.Fatalf("NewChatModel of qwen failed, err=%v", err) } var ctx = context.Background() // 获取工具信息并绑定到 ChatModel toolInfos := make([]*schema.ToolInfo, 0, len(weatherTools)) for _, tool := range weatherTools { info, err := tool.Info(ctx) if err != nil { log.Fatal(err) } toolInfos = append(toolInfos, info) } err = chatModel.BindTools(toolInfos) if err != nil { log.Fatal(err) } // 创建 tools 节点 weatherToolsNode, err := compose.NewToolNode(context.Background(), &compose.ToolsNodeConfig{ Tools: weatherTools, }) if err != nil { log.Fatal(err) } // 构建基于 Graph 的 Agent，实现 ReAct 模式（自动执行工具并生成自然语言回复） // 定义状态，用于保存对话历史 type appState struct { messages []*schema.Message } graph := compose.NewGraph[[]*schema.Message, *schema.Message]( compose.WithGenLocalState(func(ctx context.Context) *appState { return &appState{} }), ) // 添加 ChatModel 节点 err = graph.AddChatModelNode("qwen_chat_model", chatModel, compose.WithStatePreHandler(func(ctx context.Context, input []*schema.Message, state *appState) ([]*schema.Message, error) { // 如果是第一次进入（从 Start），将输入（用户问题）添加到历史 if len(state.messages) == 0 { state.messages = append(state.messages, input...) } // 始终将完整的历史记录作为 ChatModel 的输入 return state.messages, nil }), compose.WithStatePostHandler(func(ctx context.Context, output *schema.Message, state *appState) (*schema.Message, error) { // 将 ChatModel 的输出（可能是工具调用或最终回复）添加到历史 state.messages = append(state.messages, output) return output, nil }), ) if err != nil { log.Fatal(err) } // 添加 Tools 节点 err = graph.AddToolsNode("agent_tools", weatherToolsNode, compose.WithStatePostHandler(func(ctx context.Context, output []*schema.Message, state *appState) ([]*schema.Message, error) { // 将工具执行结果添加到历史 state.messages = append(state.messages, output...) return output, nil }), ) if err != nil { log.Fatal(err) } // 添加边和分支 _ = graph.AddEdge(compose.START, "qwen_chat_model") // 如果有工具调用，流转到 tools；否则结束 _ = graph.AddBranch("qwen_chat_model", compose.NewGraphBranch(func(ctx context.Context, msg *schema.Message) (string, error) { if len(msg.ToolCalls) > 0 { return"agent_tools", nil } return compose.END, nil }, map[string]bool{"agent_tools": true, compose.END: true})) // 工具执行完后，回流到 chat_model 生成回复 _ = graph.AddEdge("agent_tools", "qwen_chat_model") // 编译运行 agent, err := graph.Compile(ctx) if err != nil { log.Fatal(err) } // 运行示例 resp, err := agent.Invoke(ctx, []*schema.Message{ { Role: schema.User, Content: "what is the temperature in the capital of china today? please answer in a humam like way.", }, }) if err != nil { log.Fatal(err) } // 输出结果 fmt.Println(resp.Content) }

一开始我参照的官网的chain编排Eino组件，但是得到的结果是数字“32”， 并不是LLM对话的类人语言。

使用Trae的编码agent，20s就帮我改成了Graph形式的正确编码，

🚀输出：

The temperature in Beijing, the capital of China, today (January 28, 2026) is a warm 32°C! That’s quite hot for this time of year—make sure to stay hydrated and cool if you’re out and about!

本例实际也可以使用Chain来完成，chain是一种特殊的、简化的graph，chain不能回头，本例需要手动串起来，Chain更适合确定性的编排。

Graph就像一个自动化的流水线（loop），工人是 chat_model 和 tools ：

本例的Graph图如下，读者可以结合源代码理解。

  1. START -> chat_model

  • ChatModel 拿到用户问题，思考后说：“我需要查日期。”（输出包含 ToolCall）

  • chat_model -> tools (由 Branch 判断)

    • Tools 听到指令，去查日期，得到 "2026-01-24"。

  • tools -> chat_model (由 AddEdge 强制流转)

    • ChatModel 再次被唤醒。这次它的输入包含了之前的历史（用户问题 + 刚才的 ToolCall + 刚才的结果）。

    • 它再次思考：“我知道日期了，现在我要查北京的温度。”（输出包含 ToolCall）

  • chat_model -> tools (再次循环)

    • Tools 去查温度，得到 "32度"。

  • tools -> chat_model (再次循环)

    • ChatModel 再次被唤醒。现在的输入更丰富了（所有历史）。

    • 它再次思考：“日期有了，温度也有了，我可以直接回答用户了。”（输出 不包含 ToolCall）

  • chat_model -> END (由 Branch 判断)

    • 循环结束。

    最后我们重温全文，function calling（function tools）在agent中的作用：

    在由LLM驱动的agent应用中，function calling（function tools）作为LLM的手脚，让LLM具备使用工具从外部获取最新信息并指导应用行为的能力，这一过程由结构化的输入输出参数来传递。

    新来的外包，限流算法用的这么6

    新来的外包，在大群分享了它的限流算法的实现

    还有比ollama更傻瓜式的大模型本地部署方式吗 ？

    我不允许谁还分不清这三种watch机制的区别

    糟糕，我实现的k8s informer好像是依托答辩

    云原生AI算力平台 阶段性解读

    两张大图一次性讲透k8s调度器工作原理

    在k8s调度的花园里面挖呀挖

    刚入职的AI菜鸡，应该知道gang-scheduling和binpack调度吗

    本文文字原创，搁笔常恐意味尽，愿闻读者金玉声， ”永久更新“地址见原文。

    点“赞”戳“在看”

    🤖 🚀 👑 🛠️ 💡 🌟 🤖 ☕ 🔗 💼 🗣️ 🐳🚜👍🔎😄🌐

    参考资料

    [1]

    function calling:https://medium.com/@jamestang/llm-function-calling-explained-a-deep-dive-into-the-request-and-response-payloads-894800fcad75

    [2]

    Eino:https://www.cloudwego.io/zh/docs/eino/quick_start/

http://www.jsqmd.com/news/335652/

相关文章：

  • 2026年支持人脸识别的展厅迎宾讲解机器人推荐指南 - 智造出海
  • ＜span class=“js_title_inner“＞2025最新版CHARLS指标肌少症来了！看来又可以写写新文章了＜/span＞
  • 什么是WiFi 6（802.11ax）
  • ＜span class=“js_title_inner“＞.zone域名定义数字空间的边界＜/span＞
  • ＜span class=“js_title_inner“＞推荐一款超强的蓝牙模块+零代码App开发平台，快速搭建物联网应用＜/span＞
  • ＜span class=“js_title_inner“＞视觉感知与认知跃迁：电商多模态表征建模新范式 | 搜索广告AI大模型创新实践＜/span＞
  • 什么是WiFi 6 Advanced
  • ＜span class=“js_title_inner“＞PID、APC、RTO 一把抓:用AI三步拿捏全场景优化＜/span＞
  • ＜span class=“js_title_inner“＞免费领CNB特权+轻量应用服务器！解锁云原生极速构建新姿势＜/span＞
  • ＜span class=“js_title_inner“＞年底王炸！内存价格疯涨，我却低价拿下一款高性能开发板＜/span＞
  • ＜span class=“js_title_inner“＞D课堂 | 如何保护域名安全？注册局锁、注册商锁，一篇带你了解清楚＜/span＞
  • ＜span class=“js_title_inner“＞这波血赚！零门槛开启嵌入式Linux学习之路＜/span＞
  • ＜span class=“js_title_inner“＞免费开源！推荐一个超好用的 AI 知识库项目：PandaWiki＜/span＞
  • ＜span class=“js_title_inner“＞.studio域名：创意与灵感的数字舞台＜/span＞
  • Linux：线程创建与终止下（线程六）
  • ＜span class=“js_title_inner“＞D课堂 | 如何减少DNS变更对业务的影响＜/span＞
  • ＜span class=“js_title_inner“＞D课堂 | AI项目如火如荼，翻车竟因“忘记”它？＜/span＞
  • 和餐饮管理系统信息管理系统源码-SpringBoot后端+Vue前端+MySQL【可直接运行】
  • Java Web 社区养老服务系统系统源码-SpringBoot2+Vue3+MyBatis-Plus+MySQL8.0【含文档】
  • AI应用架构师警惕：AI驱动战略决策的需求蔓延问题
  • 企业级智慧校园之家长子系统管理系统源码｜SpringBoot+Vue+MyBatis架构+MySQL数据库【完整版】
  • 【2025最新】基于SpringBoot+Vue的校园资产管理管理系统源码+MyBatis+MySQL
  • **AI漫剧制作2025推荐，揭秘高效低成本内容创作新路径*
  • 【完全免费】自动矫正身份证照片，这款神器自动把拍歪的身份证和银行卡扶正，无需复杂操作，小白也能轻松上手
  • 【完全免费】批量识别身份证信息保存到excel，不需要手动录入，一键批量识别提取身份证所有信息，隐私安全有保障。
  • 基于SpringBoot+Vue的老年一站式服务平台管理系统设计与实现【Java+MySQL+MyBatis完整源码】
  • 基于SpringBoot+Vue的人事管理系统管理系统设计与实现【Java+MySQL+MyBatis完整源码】
  • 2026年阜阳工业制冷服务团队综合评估与精选推荐 - 2026年企业推荐榜
  • 2026年阜阳维保服务公司综合评估与精选推荐 - 2026年企业推荐榜
  • EasyAnimateV5图生视频惊艳效果：分子结构图→化学反应动态演示视频