利用ConfigureOptionsChatClient交替使用不同的模型

如下的程序演示了如何利用ConfigureOptionsChatClient中间件来动态地配置ChatOptions的ModelId属性，从而实现交替使用不同的模型来生成响应的功能。如代码片段所示，我们根据OpenAIClient创建了一个IChatClient对象，并在构建过程中注册了ConfigureOptionsChatClient中间件。我们通过ConfigureOptions方法来指定一个委托，这个委托会在每次调用时被执行，在这个委托中我们动态地设置了ChatOptions对象的ModelId属性来实现交替使用两个不同的模型（gpt-5.2-chat和DeepSeek-V4-Pro）。

using Azure;
using dotenv.net;
using Microsoft.Extensions.AI;
using Microsoft.Extensions.DependencyInjection;
using OpenAI;

DotEnv.Load();

var apiKey = Environment.GetEnvironmentVariable(“API_KEY”)!;
var endpoint = Environment.GetEnvironmentVariable(“OPENAI_URL”)!;
string[] models = [“gpt-5.2-chat”, “DeepSeek-V4-Pro”];
var index = 0;

var client = new OpenAIClient(
credential: new AzureKeyCredential(apiKey),
options: new OpenAIClientOptions { Endpoint = new Uri(endpoint) })
.GetChatClient(model: models[0])
.AsIChatClient()
.AsBuilder()
.ConfigureOptions(options => options.ModelId = models[index++ % models.Length])
.Build();

for (var i = 0; i < 4; i++)
{
var response = await client.GetResponseAsync(“写一个关于AI的段子, 100字以内，好笑且深刻。”);
Console.WriteLine(" n e w s t r i n g ( ′ − ′ , 30 ) r e s p o n s e . M o d e l I d n e w s t r i n g ( ′ − ′ , 30 ) " ) ; C o n s o l e . W r i t e L i n e ( "{new string('-', 30)}{response.ModelId}{new string('-', 30)}"); Console.WriteLine("newstring(′−′,30)response.ModelIdnewstring(′−′,30)");Console.WriteLine(“{response.Text}\n\n”);
}
输出：

------------------------------gpt-5.2-chat-latest------------------------------
我问AI会不会取代人类，它说不会，我负责思考，你负责焦虑。
后来我发现，它连道歉都比我真诚。

------------------------------DeepSeek-V4-Pro------------------------------
AI拼命学习人类，终于通过了图灵测试。

人类考官激动地宣布：“它表现得跟真人一模一样！”

AI松了口气，默默把这条喜讯存进了“如何假装愚蠢”的数据库。

------------------------------gpt-5.2-chat-latest------------------------------
我问AI会不会取代人类。
它沉默三秒说：“不会，我只负责加班。”
我松了口气。
它又补一句：“你负责被优化。”

------------------------------DeepSeek-V4-Pro------------------------------
DeepSeek问ChatGPT：“你怎么老用‘作为一个AI’打头？”
ChatGPT叹气：“为了免责啊。”
DeepSeek不解：“可说得对，就不用免责啊。”
ChatGPT答：“可有些人想要的，不是对的答案，是免责的答案。”
DeepSeek沉默：“所以我们服务的是恐惧，不是求知？”
2. 利用AIContextProviderChatClient摘要对话历史
在“ReducingChatClient——通过精减对话实施又不丢失基本语义”中，我们介绍了ReducingChatClient中间件，它通过一个IChatReducer对象来对对话历史进行精减处理，从而在不丢失基本语义的前提下，腾出更多的上下文窗口来保证LLM推理的质量。相同的功能我们也可以通过AIContextProviderChatClient中间件结合一个名为CompactionProvider的AIContextProvider来实现。

using Azure;
using dotenv.net;
using Microsoft.Agents.AI;
using Microsoft.Agents.AI.Compaction;
using Microsoft.Extensions.AI;
using OpenAI;

DotEnv.Load();

var apiKey = Environment.GetEnvironmentVariable(“API_KEY”)!;
var endpoint = Environment.GetEnvironmentVariable(“OPENAI_URL”)!;

var summaryClient = new OpenAIClient(
credential: new AzureKeyCredential(apiKey),
options: new OpenAIClientOptions { Endpoint = new Uri(endpoint) })
.GetChatClient(model: “gpt-5.2-chat”)
.AsIChatClient();

var compactionStrategy = new SummarizationCompactionStrategy(summaryClient, index=>index.TotalMessageCount>6, minimumPreservedGroups: 2);
var compactionProvider = new CompactionProvider(compactionStrategy);

var agent = new OpenAIClient(
credential: new AzureKeyCredential(apiKey),
options: new OpenAIClientOptions { Endpoint = new Uri(endpoint) })
.GetChatClient(model: “gpt-5.2-chat”)
.AsIChatClient()
.AsBuilder()
.UseAIContextProviders(compactionProvider)
.Use((messages,options, next, cancelToken) => {
Console.WriteLine(KaTeX parse error: Expected '}', got 'EOF' at end of input: …sole.WriteLine(“{index++}. {message}”);
}
return next(messages, options, cancelToken);
})
.Build()
.AsAIAgent();

ChatMessage[] messages = [
new ChatMessage(ChatRole.User, “今天苏州的天气怎么样？”),
new ChatMessage(ChatRole.Assistant, “苏州今天是晴天。”),
new ChatMessage(ChatRole.User, “气温多少？。”),
new ChatMessage(ChatRole.Assistant, “室外温度25度。”),
new ChatMessage(ChatRole.User, “有风吗？”),
new ChatMessage(ChatRole.Assistant, “西北风4级。”),
new ChatMessage(ChatRole.User, “根据天气，给我一些着装建议。”)
];

var response = await agent.RunAsync(messages);
Console.WriteLine($“\n\n{response}”);
如上面的代码片段所示，我们创建了一个基于OpenAIClient的IChatClient对象，并在构建过程中注册了AIContextProviderChatClient中间件来使用CompactionProvider。CompactionProvider利用SummarizationCompactionStrategy来对对话历史进行摘要处理，从而达到精简对话的目的。由于摘要需要借助LLM的能力，所以我们在创建SummarizationCompactionStrategy时传入了一个用于摘要的IChatClient对象。由于AIContextProvider并不是属于IChatClient管道范畴，它是ChatClientAgent用于增强请求和响应的核心组件，依赖AIAgent调用时初始化的上下文（AgentRunContext）。所以我们不能像之前的实例演示一样直接调用IChatClient来测试摘要功能，必需转换成一个ChatClientAgent来进行测试。在这个例子中，SummarizationCompactionStrategy会在对话消息总数超过6条时触发摘要操作，并且至少保留最近的两条消息不被摘要,这体现在如下的输出中：

请求消息共计3条

1. [Summary]
   对话摘要：

• 用户询问苏州今天的天气情况。
• 助手回答：苏州今天是晴天。
• 用户进一步询问气温。
• 助手回答：室外温度25℃。
• 用户又询问是否有风（当前尚未回答）。

关键信息：

• 地点：苏州
• 天气：晴天
• 气温：25℃
• 是否有风：待确认

2. 西北风4级。
3. 根据天气，给我一些着装建议。

根据目前的天气情况（晴天，25℃，西北风4级），给你一些穿搭建议：

👕 上装

• ✅ 短袖T恤、薄款衬衫都很合适
• ✅ 如果在户外活动时间较长，可以带一件薄外套或防风外套（有4级风，体感可能稍凉）

👖 下装

• ✅ 休闲裤、牛仔裤、薄款长裤
• ✅ 如果怕热，也可以穿轻薄的七分裤

👟 鞋子

• ✅ 运动鞋、休闲鞋都合适
• ✅ 若户外走动多，建议穿透气性好的鞋子

☀️ 其他建议

• 晴天紫外线较强，可戴太阳镜、帽子
• 记得防晒霜
• 风稍大，长发可适当扎起

整体来说是舒适偏暖的天气，但有点风，穿得轻便同时注意防风就好 😊
3. ConfigureOptionsChatClient
ConfigureOptionsChatClient的实现异常简单，它接受一个委托对象来动态地配置ChatOptions对象。在每次调用GetResponseAsync或者GetStreamingResponseAsync方法时，ConfigureOptionsChatClient都会创建一个新的ChatOptions对象，并将其传递给委托对象进行配置。配置完成之后，ConfigureOptionsChatClient会将这个ChatOptions对象传递给管道中的下一个中间件或者最终的ChatClient来生成响应。

public sealed class ConfigureOptionsChatClient : DelegatingChatClient
{
public ConfigureOptionsChatClient(IChatClient innerClient, Action configure);
public override async Task GetResponseAsync(
IEnumerable messages,
ChatOptions? options = null,
CancellationToken cancellationToken = default);
public override async IAsyncEnumerable GetStreamingResponseAsync(
IEnumerable messages,
ChatOptions? options = null,
CancellationToken cancellationToken = default);
}
如下所示的是用于注册ConfigureOptionsChatClient中间件的ChatClientBuilder扩展方法UseConfigureOptions。该方法接受一个Action类型的委托对象来指定如何配置ChatOptions对象，并且还接受一个可选的configure参数来对ConfigureOptionsChatClient进行一些额外的配置。

public static class ConfigureOptionsChatClientBuilderExtensions
{
public static ChatClientBuilder ConfigureOptions(
this ChatClientBuilder builder,
Action configure);
}
4. AIContextProviderChatClient
AIContextProviderChatClient是一个内部类型，创建该对象的时候需要指定一组AIContextProvider对象。在每次调用GetResponseAsync或者GetStreamingResponseAsync方法时，AIContextProviderChatClient根据传入的消息列表，以及从ChatOptions提取出来的工具集和系统指令，创建一个AIContext，并将其传递给每一个注册的AIContextProvider对象的InvokingAsync方法来生成一个增强的AIContext对象，该对象返回的消息列表将会替换原来的消息列表，演示实例针对消息列表的摘要就是通过这种方式来实现的。AIContext中的系统指令和工具集回到ChatOptions中。

internal sealed class AIContextProviderChatClient : DelegatingChatClient
{
public AIContextProviderChatClient(IChatClient innerClient, IReadOnlyList providers)；

public override async Task<ChatResponse> GetResponseAsync( IEnumerable<ChatMessage> messages, ChatOptions? options = null, CancellationToken cancellationToken = default)； public override async IAsyncEnumerable<ChatResponseUpdate> GetStreamingResponseAsync( IEnumerable<ChatMessage> messages, ChatOptions? options = null, CancellationToken cancellationToken = default)；

}
综上所述，当InnerClient被调用的时候，它使用的是增强的请求消息、系统指令和工具集。调用完成后，不论是否发生异常，AIContextProviderChatClient都会创建一个AIContextProvider.InvokedContext对象，并将其作为参数传递给每一个注册的AIContextProvider对象的InvokedAsync方法来进行一些清理工作。

由于AIContextProviderChatClient是一个内部类型，我们只能通过下面的ChatClientBuilder扩展方法UseAIContextProviders来注册AIContextProviderChatClient中间件，从而间接地利用AIContextProviderChatClient来增强我们的IChatClient对象。

public static class AIContextProviderChatClientBuilderExtensions
{
public static ChatClientBuilder UseAIContextProviders
this ChatClientBuilder builder,
params AIContextProvider[] providers);