作者： Andy Zhou, Kai Yan, Michal Shlapentokh-Rothman, Haohan Wang, Yu-Xiong Wang
提交/修订日期： 2023年10月6日提交，2024年6月6日修订（版本v3）
摘要：
尽管语言模型（LMs）在一系列决策任务中展现出潜力，但其对简单行动过程的依赖限制了其作为自主智能体的广泛部署。本文提出了语言智能体树搜索（LATS）——首个将语言模型在推理、行动和规划方面的能力协同起来的通用框架。通过利用语言模型的上下文学习能力，我们将蒙特卡洛树搜索（MCTS）集成到LATS中，使语言模型能够作为智能体，同时结合了由语言模型驱动的价值函数和自我反思机制，以实现高效的探索和增强的决策能力。该方法的一个关键特点是引入了外部反馈环境，这提供了一种比现有技术更具深思熟虑性和适应性的问题解决机制，超越了现有技术的限制。我们在多个领域的实验评估（包括编程、交互式问答、网页导航和数学）验证了LATS在决策方面的有效性和通用性，同时保持了有竞争力或更优的推理性能。值得注意的是，LATS在HumanEval编程基准上使用GPT-4实现了最先进的pass@1准确率（92.7%），并在WebShop网页导航任务上使用GPT-3.5展示了与基于梯度微调相媲美的无梯度性能（平均得分75.9）。
主题/分类：
- 人工智能（cs.AI）
- 计算与语言（cs.CL）
- 计算机视觉与模式识别（cs.CV）
- 机器学习（cs.LG）
代码： https://github.com/lapisrocks/LanguageAgentTreeSearch