【导读】SELA：基于树搜索增强的LLM Agent用于自动化机器学习

1. 核心问题

自动化机器学习（AutoML）旨在减少人为干预，自动设计可靠的机器学习解决方案。传统的AutoML框架依赖于预定义的搜索空间和固定流程，缺乏适应性，难以应对多样化和动态的数据场景，导致在复杂设置下性能不佳。尽管基于大型语言模型（LLM）的Agent显示出自动化机器学习任务的潜力，但它们在生成多样化和高度优化的代码方面存在不足，通常生成低多样性和次优代码，即使经过多次迭代优化。

2. 解决方案

本文提出了SELA（Tree-Search Enhanced LLM Agents），一种创新的基于Agent的系统，结合了蒙特卡罗树搜索（MCTS）和LLM Agent以优化AutoML过程。SELA将管道配置表示为树结构，使Agent能够智能地进行实验，并迭代优化其策略，从而更有效地探索机器学习解决空间。通过这种反馈驱动的过程，SELA能够基于实验反馈发现最佳路径，提高解决方案的整体质量。

工作流程示意

下图是SELA的工作流程与其他Agent式AutoML框架的对比。

下图是SELA的整体管道运作流程

3. 主要贡献

1. 反馈驱动的探索方法：引入了一种基于反馈的迭代方法，使LLM Agent能够通过多轮实验不断优化机器学习配置。
2. 结合蒙特卡罗树搜索：利用MCTS在树结构的搜索空间中导航，自适应识别高性能的管道配置，平衡探索与利用。
3. 全面的比较分析：对比了Agent式AutoML与传统AutoML方法，展示了Agent方法在灵活性和性能上的显著优势。
4. 高效的状态管理机制：实现了阶段级的代码重用，通过缓存机制减少重复任务和代码生成，提高了运行效率和成本效益。
5. 广泛的实验验证：在20个多样化的数据集上进行了广泛的评估，证明了SELA在性能和适应性上的优越性。
6. 启发人类专家的解决方案：模仿人类专家的迭代、反馈驱动的解决问题方法，提升了AutoML系统的智能化水平。
7. 适应多种LLM模型：展示了SELA在不同LLM模型下的灵活性，适应用户需求和可用性。
8. 支持多阶段机器学习流程：涵盖了数据探索、预处理、特征工程、模型训练和评估等多个阶段，提供全面的自动化支持。
9. 提高解决方案质量：通过实验反馈不断调整和优化解决路径，显著提升了最终模型的性能。
10. 拓展AutoML应用领域：提出的方法不仅限于机器学习，还可扩展到软件工程、科学发现、游戏和机器人等需要顺序决策的领域。

4. 深入问题

1. 树结构设计：SELA在将机器学习管道表示为树结构时，如何确定树的深度和广度，以平衡搜索效率和解决方案的多样性？
2. MCTS的具体实现：蒙特卡罗树搜索（MCTS）在SELA中的具体实现细节是什么？与传统MCTS相比，是否有任何改进或调整？
3. 阶段依赖关系处理：SELA如何处理不同阶段之间的依赖关系，例如数据预处理对特征工程的影响？
4. 实验结果融合机制：在SELA框架中，如何评估和融合不同实验结果，以指导下一步的搜索策略？
5. 高维搜索空间的应对：SELA如何应对大型机器学习问题中可能出现的高维搜索空间，尤其是在管道配置复杂时？
6. 代码可解释性与可维护性：SELA在多轮迭代优化过程中，如何保证生成的代码的可解释性和可维护性？
7. 不同数据集表现差异的原因：论文评估过程中，SELA在不同类型的数据集上的表现差异有何原因？
8. 状态保存与加载机制的影响：SELA的状态保存和加载机制如何影响其在不同实验设置下的表现和效率？
9. insights的多样性与实用性：在SELA中，LLM Agent生成的“insights”如何保证其多样性和实用性？
10. 动态变化需求的适应性：SELA框架是否能够适应动态变化的机器学习需求，例如实时数据流或在线学习任务？

5. 重要数学公式

• 搜索空间表示：

• 计划生成过程：

• MCTS中的UCT-DP选择函数：