当前位置：首页 > news >正文

103_Spring AI 干货笔记之可观测性

news 2026/5/11 21:22:42

一、可观测性

Spring AI 基于 Spring 生态系统中的可观测性功能，为与 AI 相关的操作提供洞察。

启用可观测性需要 spring-boot-actuator 模块。将 Spring Boot Actuator 依赖项添加到项目的 Maven pom.xml 构建文件中：

<dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-actuator</artifactId></dependency>

或添加到 Gradle build.gradle 构建文件中：

dependencies{implementation'org.springframework.boot:spring-boot-starter-actuator'}

Spring AI 为其核心组件提供度量和追踪能力：ChatClient（包括 Advisor）、ChatModel、EmbeddingModel、ImageModel 和 VectorStore。

低基数键将添加到度量和追踪中，而高基数键仅添加到追踪中。

1.0.0-RC1 破坏性变更
以下配置属性已重命名以更好地反映其用途：
spring.ai.chat.client.observations.include-prompt → spring.ai.chat.client.observations.log-prompt
spring.ai.chat.observations.include-prompt → spring.ai.chat.observations.log-prompt
spring.ai.chat.observations.include-completion → spring.ai.chat.observations.log-completion
spring.ai.image.observations.include-prompt → spring.ai.image.observations.log-prompt
spring.ai.vectorstore.observations.include-query-response → spring.ai.vectorstore.observations.log-query-response

二、聊天客户端

当调用 ChatClient 的 call() 或 stream() 操作时，会记录 spring.ai.chat.client 观测数据。它们测量执行调用所花费的时间，并传播相关的追踪信息。

表 1. 低基数键

表 2. 高基数键

2.1 提示和完成数据

ChatClient 的提示和完成数据通常很大，并且可能包含敏感信息。出于这些原因，默认情况下不会导出它们。

Spring AI 支持记录提示和完成数据，以帮助调试和故障排除。

如果启用记录聊天客户端提示和完成数据，则存在暴露敏感或私人信息的风险。请务必小心！

2.2 输入数据（已弃用）

spring.ai.chat.client.observations.include-input 属性已弃用，由 spring.ai.chat.client.observations.log-prompt 取代。请参阅“提示内容”。

ChatClient 的输入数据通常很大，并且可能包含敏感信息。出于这些原因，默认情况下不会导出它们。

Spring AI 支持记录输入数据，以帮助调试和故障排除。

如果启用在观测中包含输入内容，则存在暴露敏感或私人信息的风险。请务必小心！

2.3 聊天客户端顾问

当执行顾问时，会记录 spring.ai.advisor 观测数据。它们测量在顾问中花费的时间（包括内部顾问花费的时间），并传播相关的追踪信息。

表 3. 低基数键

表 4. 高基数键

三、聊天模型

目前仅支持来自以下 AI 模型提供商的 ChatModel 实现的可观测性功能：Anthropic、Azure OpenAI、Mistral AI、Ollama、OpenAI、Vertex AI、MiniMax、Moonshot、QianFan、Zhipu AI。未来版本将支持更多 AI 模型提供商。

当调用 ChatModel 的 call 或 stream 方法时，会记录 gen_ai.client.operation 观测数据。它们测量方法完成所花费的时间，并传播相关的追踪信息。