当前位置：首页 > news >正文

LLM智能体与蒙特卡洛树搜索融合：SELA框架如何革新AutoML

news 2026/5/24 13:24:40

1. 项目概述：当LLM智能体遇上蒙特卡洛树搜索

如果你也和我一样，常年混迹在数据科学和机器学习的一线，那你一定对AutoML（自动化机器学习）又爱又恨。爱的是，它承诺解放我们的双手，把我们从无穷无尽的调参、特征工程和模型选择中拯救出来；恨的是，现实往往很骨感——传统的AutoML工具，比如Auto-Sklearn、H2O AutoML，它们确实强大，但总感觉有点“死板”。它们在一个预先定义好的、有限的搜索空间里打转，就像在一个固定的迷宫里找出口，虽然能走通，但很难发现墙外那条更近的小路。当面对数据分布奇特、特征关系复杂或者任务目标非常规的场景时，这种“静态”的搜索策略就显得力不从心了。

最近几年，大语言模型（LLM）智能体的出现，像是一股新鲜空气。我们可以用自然语言告诉它：“嘿，帮我分析一下这个客户流失数据集，预测哪些用户会离开。” 它就能吭哧吭哧地写出一整套从数据清洗到模型训练的代码。这太酷了，仿佛拥有了一个不知疲倦的初级数据科学家助手。但用多了就会发现，这个“助手”有时候挺轴的。你让它多试几次，它可能会在同一个思路上反复微调，生成一堆大同小异的代码，就是跳不出那个局部最优的“舒适区”。它缺乏一种系统性的、战略性的探索能力，而这恰恰是人类专家和传统优化算法的强项：通过有计划的试错，基于反馈不断调整方向。

所以，一个很自然的想法就冒出来了：能不能把LLM的创造性和灵活性，与一种经典的、善于在复杂空间里寻优的搜索算法结合起来？SELA（Tree-Search Enhanced LLM Agents）就是这个思路下的一个精彩实践。它的核心非常清晰：用蒙特卡洛树搜索（MCTS）来为LLM智能体的决策过程提供“导航”。简单来说，LLM负责“想点子”（生成各种可能的预处理、特征工程、模型训练策略），而MCTS则像一个经验丰富的“军师”，负责评估这些点子的潜力，决定下一步该深入探索哪个方向，并基于实验反馈不断修正搜索策略。

这不仅仅是两个技术的简单堆叠，而是一种思维范式的转变。它把构建机器学习流水线的过程，从一个“一次性生成”或“盲目迭代”的任务，转变为一个可学习的、基于反馈的序贯决策过程。SELA在20个不同数据集上的测试结果也印证了这一点，它对其他主流方法（包括传统AutoML和早期LLM智能体）取得了65%到80%的胜率。这背后不仅仅是性能数字的提升，更代表了一种更接近人类专家工作方式的自动化路径——通过智能探索与利用，在广阔的“可能性森林”中，更快地找到那棵最高的“绩效之树”。

2. 核心设计：为什么是树搜索+LLM？

在深入代码和实操之前，我们必须先搞清楚SELA设计背后的“为什么”。理解其架构的动机，比记住几个API调用重要得多。

2.1 传统AutoML与LLM智能体的瓶颈

我们先来拆解一下现有方案的痛点，这能让我们更清楚地看到SELA要解决什么问题。

传统AutoML（如Auto-Sklearn, AutoGluon）的核心是“优化”，而不是“创造”。它们在一个预先定义好的、有限的搜索空间内（例如，特定的模型集合、固定的预处理方法范围）运行贝叶斯优化、进化算法等来寻找最佳超参数组合。其优势在于搜索效率高、可复现性强。但瓶颈也显而易见：

搜索空间僵化：无法处理预定义范围之外的新技术或复杂组合。如果某个数据集需要一种非常特殊的特征交叉方式，而这种方式不在库中，传统AutoML就无能为力。
流水线静态：通常是“预处理 -> 特征选择 -> 模型训练”的固定阶段，阶段间的反馈和动态调整能力很弱。它很难做到“根据模型初步训练的结果，回头去增加一种新的特征变换”。
领域知识嵌入困难：很难将人类对数据的先验知识（例如，“用户活跃度在周末和工作日模式不同”）灵活地转化为搜索空间的约束或引导。

LLM智能体（如早期的Data Interpreter）的核心是“生成”，但缺乏“战略搜索”。它们利用LLM强大的代码生成能力，可以根据任务描述直接生成端到端的解决方案。其优势是灵活性极高，理论上可以生成任何它能想到的代码。但问题在于：

探索的盲目性：当进行多次尝试（迭代）时，LLM容易陷入“局部优化”。比如，它第一次生成了一个使用随机森林的方案，后续迭代可能只是在调整随机森林的max_depth或n_estimators，而不会去尝试逻辑回归、梯度提升树等完全不同的模型族。它缺乏一个全局视角来分配“探索”（试试新东西）和“利用”（深化好方案）的精力。
反馈利用低效：即使每次实验都有评估分数（如验证集准确率），LLM也很难系统性地利用这些历史反馈来指导下一次生成。它更多是依赖其内部知识进行“猜测”，而不是建立一个外部、显式的“经验模型”来学习什么方法在当前任务上更有效。
组合爆炸：机器学习流水线是一个多阶段、高维度的决策序列。LLM一次性生成所有步骤，难以对中间每个决策点进行精细的、基于模拟的推演。

2.2 蒙特卡洛树搜索（MCTS）如何破局？

MCTS是一种在复杂决策空间（如围棋、游戏）中非常有效的搜索算法，其核心思想是通过反复的“模拟对局”来构建一棵搜索树，并评估树中每个节点的潜在价值。它完美地契合了上述需求。

将机器学习流水线构建视为一个序贯决策过程：

根节点：任务开始（只有数据和问题描述）。
中间节点：代表某个决策点后的状态。例如，在“数据预处理”阶段选择了“用中位数填充缺失值”后到达的状态。
叶节点：代表一个完整的流水线配置（一组具体的决策序列），执行后可以得到一个分数（如模型性能）。
边（行动）：代表在一个决策点上做出的具体选择。例如，在“特征工程”节点，可选的行动有：“进行多项式特征生成”、“进行主成分分析（PCA）”、“创建交互特征”等。

MCTS的工作流程（选择、扩展、模拟、回传）为这个过程提供了一个框架：

选择：从根节点开始，根据现有信息（如节点的平均得分、访问次数），使用公式（如UCT）选择一个“最有潜力”的未完全探索的子节点。这平衡了“利用”（选择历史表现好的节点）和“探索”（尝试访问次数少的节点）。
扩展：当选中一个非终止节点时，为其添加一个或多个新的子节点（即尝试一个新的行动）。
模拟：从新扩展的节点开始，快速“走完”一条随机路径直到叶节点（即随机完成剩余决策），得到一个模拟分数。在SELA中，这个“模拟”就是由LLM智能体来执行——它根据当前已选路径（部分决策）和随机补全的决策，生成并运行代码，得到真实的模型性能反馈。
回传：将模拟得到的分数，沿着搜索路径反向更新所有祖先节点的统计信息（如总得分、访问次数）。

这个循环不断进行。MCTS的精妙之处在于，它通过大量模拟，逐渐将搜索资源（即LLM智能体的实验次数）集中在更有希望的决策路径上。它不会像随机搜索那样浪费资源在明显不好的区域，也不会像贪婪搜索那样过早收敛于局部最优。

2.3 SELA的整体架构与工作流程

理解了MCTS的妙用，SELA的架构就一目了然了。它主要由三个核心组件串联成一个闭环：

组件一：洞察提议器（LLM-Based Insight Proposer）这是整个系统的“创意源泉”。它的输入是问题描述和数据集信息（元数据、样本），输出是为机器学习流程每个阶段（探索性数据分析、数据预处理、特征工程、模型训练、模型评估）生成的一系列“洞察”。

注意：这里的“洞察”不是最终代码，而是高级别的策略描述。例如，对于特征工程阶段，洞察可能是：“尝试创建数值特征之间的交互项”，或者“对高基数分类特征使用目标编码”。这些洞察构成了后续树搜索的“行动空间”。

组件二：搜索模块（MCTS Search Module）这是系统的“决策大脑”。它将洞察提议器生成的“行动空间”组织成一棵树。树的第一层节点是EDA阶段的可能洞察，第二层是数据预处理阶段的洞察（依赖于上一层的选择），以此类推。MCTS算法在这棵树上运行，其“模拟”步骤会调用第三个组件。

组件三：实验执行器（LLM Agent as Experiment Executor）这是系统的“执行手臂”。当MCTS的模拟步骤选中一条从根节点到某个中间节点的路径时，这条路径就对应一个“部分实验配置”。执行器的工作是：

规划：将这条路径上的所有洞察（策略描述），翻译成一个具体的、可执行的分步计划。
编码与执行：根据计划，为每个阶段编写具体的Python代码，并串行执行。最终运行模型，在验证集上得到一个性能分数（如准确率、F1分数）。

这个分数被返回给MCTS模块，用于更新路径上所有节点的统计信息（回传）。如此循环往复。

整个工作流可以概括为：LLM提议“能做什么”（洞察） -> MCTS决定“接下来试哪个”（搜索） -> LLM负责“具体怎么做并告诉我结果”（执行） -> 结果反馈给MCTS以优化后续决策。这个闭环使得系统能够像人类专家一样，基于实验证据进行迭代式学习和优化。

3. 关键技术细节拆解与实操要点

了解了宏观架构，我们深入到几个关键的技术实现细节。这些细节决定了SELA是“纸上谈兵”还是“真能干活”。

3.1 洞察生成：如何让LLM提出有价值的“选项”？

洞察提议器的提示词设计至关重要。你不能简单地问LLM：“给点特征工程的想法。”这样得到的回答可能天马行空，不具可操作性。SELA的提示词需要结构化，并注入上下文。

一个有效的提示词模板可能包含以下部分：

任务上下文：明确这是一个自动化机器学习任务，目标是最大化某个指标。
数据集信息：提供数据集的简要描述、特征类型（数值型、分类型）、目标变量、样本量等。
当前阶段：明确指出现在需要为哪个阶段生成洞察（如“特征工程”）。
输出格式要求：要求LLM以列表形式输出，每个洞察是一个清晰、独立、可执行的自然语言句子。避免模糊的表述。
多样性鼓励：明确要求生成多样化的策略，涵盖不同的技术思路（如转换、组合、分解、编码等）。

示例提示词（特征工程阶段）：

你是一个自动化机器学习系统的洞察生成模块。当前任务是二分类预测，数据集有1000个样本，包含10个数值特征和2个分类特征。目标变量是“是否购买”。 现在需要为“特征工程”阶段生成5个具体、可操作的策略洞察。每个洞察应描述一种明确的特征处理方法。 请输出一个清晰的列表： 1. [洞察描述1] 2. [洞察描述2] ...

可能的LLM输出：

对数值特征进行标准化（StandardScaler）和归一化（MinMaxScaler）两种方案分别尝试。
对两个分类特征进行标签编码（LabelEncoding）和独热编码（OneHotEncoding）分别尝试。
创建数值特征之间的多项式交互特征（最高到2次）。
对数值特征进行分箱（等宽分箱，分为5段），并将其转换为有序分类特征。
针对“用户年龄”和“收入”这两个关键数值特征，计算其比值作为一个新特征。

实操心得：在实际使用中，我们发现让LLM为每个阶段生成5-10个洞察是一个不错的起点。太少则搜索空间有限，太多则会导致树过于庞大，初期探索成本过高。此外，可以加入“过滤”机制，例如，如果数据集没有缺失值，则自动过滤掉所有关于缺失值处理的洞察。

3.2 树的结构与MCTS的适应性修改

在标准的MCTS（如用于围棋）中，每个节点的子节点代表所有可能的合法动作。但在SELA中，“动作空间”是动态的、分阶段的。

树的构建：

根节点：代表任务开始，没有关联洞察。
第一层子节点：对应“探索性数据分析（EDA）”阶段的所有洞察。每个节点存储一个EDA洞察。
第二层子节点：每个第一层节点下，挂着“数据预处理”阶段的所有洞察。但这里有一个关键：子节点的洞察列表是独立的。也就是说，从不同的父节点（不同的EDA策略）出发，可用的预处理洞察池可以是相同的。这简化了设计，意味着树的结构是“阶段对齐”而非“路径完全分叉”。
以此类推，深度为d的节点对应第d个阶段的某个洞察。

UCT-DP：深度优先的节点选择策略标准UCT公式在探索和利用间平衡，但在机器学习任务中，后期决策（如模型选择）对最终结果的影响通常远大于前期决策（如是否进行标准化）。因此，SELA采用了修改版的UCT-DP。

其核心思想是：鼓励算法尽早探索到更深的节点（即做出更多阶段的决策）。因为在机器学习流水线中，一个完整的配置（一条到叶节点的路径）才能产生有意义的反馈。过早地在浅层节点间徘徊，效率低下。

公式中的α_unvisited常数（例如设为0.8）用于控制对未访问节点的探索倾向。α_explore是标准的探索系数。通过调整这些参数，可以控制搜索的“激进”程度。在实验中，设置α_unvisited=0.8, α_explore=1.4能在探索和利用间取得较好平衡。

3.3 实验执行与状态保存：解决LLM的非确定性与成本问题

这是工程实现上的一大亮点，直接关系到系统的实用性和效率。

挑战1：LLM的非确定性同样的提示词和洞察配置，LLM可能生成略有不同的代码。这会导致方差：即使配置相同，多次运行也可能得到不同的分数，干扰MCTS对节点价值的准确评估。

挑战2：高昂的计算与Token成本让LLM每次模拟都从零开始生成所有代码（从EDA到模型训练），会产生巨大的Token消耗。同时，重复执行相同的前期步骤（如数据读取、相同的预处理）在计算上是浪费的。

SELA的解决方案：阶段级代码缓存与加载

唯一标识：为每个节点（即每个洞察）生成一个唯一标识符（例如，对洞察描述做哈希）。
缓存代码：当LLM执行器第一次为某个节点生成并运行了该阶段的代码后，将生成的代码段（σ_stage）与该节点的标识符一起缓存。
代码复用：当MCTS后续再次选择一条包含该节点的路径时，执行器会先检查缓存。如果该路径上所有已访问节点的阶段代码都已存在，则直接加载并运行这些缓存代码，只让LLM生成后续新节点的代码。
保证一致性：在加载缓存代码后，会重新运行该段代码，确保数据状态的一致性，然后再继续执行后续阶段。

举个例子：假设路径是：洞察A(EDA) -> 洞察B(预处理) -> 洞察C(特征工程)。

第一次模拟此路径时，LLM依次生成并执行A、B、C的代码，结果分数为S1。同时缓存A、B、C的代码。
第二次模拟时，MCTS选择了路径：洞察A(EDA) -> 洞察B(预处理) -> 洞察D(特征工程)。
执行器发现A和B的代码已缓存，于是直接加载、运行A和B的代码，然后只调用LLM生成并执行D的代码，最后得到分数S2。

这样做的好处：

大幅降低成本：避免了重复生成和解释相同代码的Token开销。
提升稳定性：对于路径中重叠的部分，保证了执行逻辑的完全一致，减少了因LLM生成波动带来的方差，让MCTS收到的反馈信号更干净。
提高效率：节省了代码生成和部分计算的时间。

4. 实操过程：从零搭建一个简化版SELA思维框架

虽然完全复现SELA需要复杂的工程，但我们可以理解其核心循环，并用手动或半自动的方式实践这一思想。下面我将拆解一个基于此思想的简化手动实验流程，你可以将其视为一个“精神实验”或未来自动化实现的蓝图。

4.1 阶段一：定义任务与生成搜索空间

假设我们有一个经典的分类数据集（如泰坦尼克号生存预测）。我们的目标是最大化验证集上的F1分数。

步骤1：任务定义

问题描述：根据乘客信息预测其是否生存。
数据：包含年龄、性别、舱位、票价等特征。
评估指标：F1 Score (macro)。

步骤2：分阶段生成洞察池我们手动（或用一个脚本调用LLM API）为每个阶段生成一个洞察列表。例如：

EDA阶段洞察池 (τ1):

λ1_1: 分析数据缺失值分布与模式。
λ1_2: 绘制数值特征与目标变量的关系图。
λ1_3: 检查分类特征的类别分布与生存率的关系。

数据预处理洞察池 (τ2):

λ2_1: 对年龄、票价等数值特征使用中位数填充缺失值。
λ2_2: 对年龄、票价等数值特征使用均值填充缺失值。
λ2_3: 对“登船港口”分类特征使用众数填充缺失值。
λ2_4: 删除含有缺失值的行。

特征工程洞察池 (τ3):

λ3_1: 创建“家庭规模”特征（同代直系亲属数+1）。
λ3_2: 对“票价”进行对数变换以处理偏态。
λ3_3: 根据“头衔”从姓名中提取新分类特征。
λ3_4: 对“舱位等级”和“性别”进行组合编码。

模型训练洞察池 (τ4):

λ4_1: 使用逻辑回归，并用网格搜索优化C和penalty参数。
λ4_2: 使用随机森林，网格搜索n_estimators和max_depth。
λ4_3: 使用梯度提升树（如XGBoost），网格搜索learning_rate和max_depth。
λ4_4: 尝试一个简单的多层感知机。

这样，我们就构建了一个小型的、结构化的搜索空间Λ = {λ1_1, λ1_2, ..., λ4_4}。

4.2 阶段二：手动模拟MCTS搜索循环

现在，我们模拟MCTS的循环。假设我们只有10次“实验预算”（即10次完整的模型训练）。

初始化：构建一棵空树，根节点代表开始。

第1次迭代：

选择：树为空，选择根节点。
扩展：从τ1的洞察池中随机选择一个节点扩展，比如选择λ1_1（分析缺失值）作为第一个子节点。
模拟：从λ1_1节点开始，我们需要完成一条到叶节点的随机路径。
- 随机从τ2池选λ2_1（中位数填充）。
- 随机从τ3池选λ3_1（创建家庭规模）。
- 随机从τ4池选λ4_1（逻辑回归+网格搜索）。
- 执行：根据路径[λ1_1, λ2_1, λ3_1, λ4_1]，编写并运行代码。假设得到验证集F1分数s = 0.76。
回传：将分数0.76回传到路径上的所有节点。现在，节点λ1_1的访问次数n=1，价值v=0.76。

第2次迭代：

选择：从根节点开始。子节点λ1_1已访问过，我们使用UCT-DP公式计算其值。由于它是唯一子节点，选择它。
扩展：在λ1_1节点下，扩展τ2阶段的一个新子节点。为了避免重复，我们选择λ2_2（均值填充）。
模拟：从新节点λ2_2继续随机完成路径。
- 随机从τ3池选λ3_2（票价对数变换）。
- 随机从τ4池选λ4_2（随机森林）。
- 执行：路径为[λ1_1, λ2_2, λ3_2, λ4_2]。运行代码，得分s = 0.79。
回传：将0.79回传。更新λ1_1:n=2, v=0.76+0.79=1.55。更新λ2_2:n=1, v=0.79。

第3次迭代：

选择：再次从根节点开始。现在λ1_1的UCT值可能仍然最高（因为它是唯一被探索的EDA节点），继续选择它。
扩展：在λ1_1下扩展τ2的新子节点λ2_3（众数填充港口）。
模拟：随机完成路径[λ1_1, λ2_3, λ3_3, λ4_3]（提取头衔，XGBoost）。执行得分s = 0.82。
回传：更新相关节点。

后续迭代：随着迭代进行，MCTS会逐渐学习到：

在λ1_1（分析缺失值）这个EDA策略下，哪种填充方式（λ2_*）平均表现更好。
进而，它会倾向于更多地探索那些与高价值预处理节点搭配的特征工程和模型。
同时，它也会以一定的概率去探索根节点下的其他EDA节点（如λ1_2），以避免错过更好的起点。

经过10次迭代后，我们不仅得到了10个实验分数，更得到了一棵积累了经验的搜索树。树中访问次数多、平均价值高的路径，就是系统认为的“优等生”配置。

4.3 阶段三：分析与最终方案选择

10次迭代结束后，我们检查整棵树。

最简单策略：选择所有模拟中得分最高的叶节点对应的完整路径作为最终方案。
更稳健策略：选择访问次数超过阈值、且平均价值最高的内部节点（例如某个特征工程节点），然后基于它进行“深化搜索”或直接采用其对应的部分配置。

在我们的模拟中，假设路径[λ1_1, λ2_3, λ3_3, λ4_3]得到了最高的0.82分。那么，我们的最终自动化流水线推荐就是：进行缺失值分析，对“登船港口”用众数填充，从姓名中提取头衔特征，并使用XGBoost进行训练和超参数搜索。

核心要点：这个手动流程清晰地展示了SELA的思想核心——用树结构组织决策，用MCTS智能分配实验资源，用LLM（或手动）执行实验并反馈，最终基于积累的“经验”做出最佳选择。自动化实现就是将这个循环中的“手动”部分全部交由LLM智能体和MCTS算法来完成。

5. 常见问题、挑战与优化方向实录

在实际研究和构想SELA这类系统时，会遇到一系列典型问题。下面是我基于对这类系统的理解，总结出的“避坑指南”和优化思路。

5.1 搜索效率与成本控制

问题1：树的大小与搜索深度爆炸机器学习流水线阶段多，每个阶段可选洞察也多，组合起来会形成一棵巨大的树。10个阶段，每个阶段10个洞察，理论路径就有10^10条，完全无法穷举。

应对策略：

洞察剪枝：在洞察生成后，加入一个简单的规则过滤器或一个轻量级评估器（例如，用非常小的数据子集快速测试某个预处理方法是否会导致错误），过滤掉明显不合理的选项。
早期终止：在模拟过程中，如果某个中间步骤的代码执行出错（如特征矩阵出现NaN），或产生极其糟糕的中间结果（如预处理后特征全部为0），可以立即终止该路径的模拟，并赋予一个极低的分数，避免浪费资源在注定失败的路径上。
自适应宽度：不是每个阶段都需要探索所有洞察。可以根据前期实验的反馈，动态调整后续阶段的洞察池大小。例如，如果发现某种数据缩放方法一直表现很差，可以在后续搜索中减少相关洞察的生成概率。

问题2：LLM API调用成本与延迟每次模拟都需要调用LLM生成代码，即使有缓存，在搜索初期和探索新分支时成本依然很高。

应对策略：

本地化轻量级LLM：对于代码生成任务，不一定需要GPT-4级别的模型。像DeepSeek-Coder、CodeLlama等专门针对代码优化的中小型模型，在保持不错生成质量的同时，可以大幅降低成本和延迟，更适合这种需要大量调用的场景。
模板化代码生成：对于非常常见的操作（如标准化、独热编码），可以准备代码模板。LLM只需要填充模板中的参数（如特征列名），而无需从头生成整个函数。这减少了Token消耗，也提高了代码的可靠性。
异步并行模拟：MCTS的多个模拟之间通常是独立的。可以并行发起多个模拟请求，同时运行多个实验，充分利用计算资源，缩短总搜索时间。

5.2 评估稳定性与泛化能力

问题3：验证集过拟合与评估噪音MCTS严重依赖每次模拟的分数来指导搜索。如果这个分数不稳定（例如，由于数据划分的随机性、模型训练的随机种子）或者过拟合了验证集，那么搜索方向就会被误导。

应对策略：

稳健的评估协议：在模拟中使用交叉验证或多次重复训练取平均分作为节点价值，而不是单次验证集得分。虽然这会增加单次模拟成本，但能提供更稳定的信号，从长远看可能提升搜索效率。
集成分数回传：不仅回传平均分，也可以回传分数的方差（不确定性）。在UCT公式中引入不确定性项，让算法在价值估计不确定的节点上更倾向于探索。
正则化与早停：在LLM生成的模型训练代码中，强制加入早停（Early Stopping）、L2正则化等防止过拟合的技术，确保评估结果更能反映泛化能力。

问题4：洞察质量依赖LLM整个系统的“创意”上限取决于洞察提议器。如果LLM生成的洞察质量不高、不相关或不可行，搜索就是在垃圾空间里打转。

应对策略：

领域知识注入：在给LLM的提示词中，不仅提供数据元信息，还可以提供一些领域相关的先验知识或常见技巧。例如，对于时间序列预测任务，提示词可以强调“考虑滞后特征、滑动窗口统计量”。
迭代式洞察提炼：不要一次性生成所有洞察。可以先让LLM生成一批，系统运行几轮MCTS后，分析哪些类型的洞察更有效，然后基于这些反馈，让LLM生成“类似风格”或“互补风格”的新洞察，动态更新洞察池。
人工审核与种子洞察：对于关键项目，可以允许数据科学家提供一小部分高质量的“种子洞察”作为起点，让MCTS先在这些优质选项上深耕，再结合LLM生成的新洞察进行探索。

5.3 系统扩展性与通用性

问题5：超越表格数据SELA的论文主要针对表格数据。对于图像、文本、时间序列等复杂数据，搜索空间和洞察的定义会完全不同。

优化方向：

模态特定的洞察模板：为不同数据类型预定义阶段和洞察模板。例如，对于图像分类，阶段可能包括：数据增强、主干网络选择、分类头设计、优化器选择等。洞察则对应具体的操作，如“应用随机水平翻转和颜色抖动增强”、“尝试ResNet50和EfficientNetB0作为主干”。
分层搜索：对于深度学习任务，可以设计分层树。高层决策选择架构（如CNN还是Transformer），中层决策选择具体组件（如ResNet的层数），底层决策选择超参数。这可以管理巨大的搜索空间。

问题6：解释性与可干预性“黑箱”自动化系统可能让用户感到不安。用户可能想知道为什么系统推荐某个流水线，或者想在搜索过程中加入自己的约束。

优化方向：

搜索过程可视化：将MCTS搜索树可视化，展示哪些路径被探索了，它们的得分如何。这能帮助用户理解系统的“思考过程”。
允许硬约束：允许用户在搜索开始前设定约束，例如“不允许删除任何样本”、“必须使用可解释性模型如线性模型或决策树”。系统在生成洞察和执行代码时必须遵守这些约束。
提供“理由”：当系统输出最终推荐方案时，可以附带一个简短的文本解释，总结导致该方案被选中的关键决策点和实验依据（例如：“选择XGBoost是因为在包含交互特征的配置中，它比随机森林平均高3%的F1分数”）。

SELA框架打开了一扇门，它展示了一种将LLM的生成能力与经典搜索算法的决策能力深度融合的范式。在实际应用中，它不是一个开箱即用、一劳永逸的魔法盒，而是一个需要精心设计提示词、调整搜索参数、并融入领域知识的强大工具框架。它的真正威力在于提供了一种系统化的、可学习的自动化探索流程，将人类从繁琐的试错中解放出来，转而专注于更高层次的问题定义、评估标准制定和结果分析。随着LLM能力的持续进化以及搜索算法的进一步优化，这类智能体驱动的AutoML系统必将成为数据科学家工具箱中不可或缺的利器。

查看全文

http://www.jsqmd.com/news/877489/