标题： AgentTuning: Enabling Generalized Agent Abilities for LLMs
作者： Aohan Zeng, Mingdao Liu, Rui Lu, Bowen Wang, Xiao Liu, Yuxiao Dong, Jie Tang
摘要：
在各项任务中表现出色的开源大语言模型（LLM）极大地推动了LLM的发展。然而，当它们作为智能体（agent）来处理现实世界中复杂任务时，其表现远不如ChatGPT和GPT-4等商业模型。这些智能体任务将LLM作为负责规划、记忆和工具使用的中央控制器，因此需要精细的提示方法和强大的LLM才能获得满意的性能。尽管已经提出了许多针对特定智能体任务的提示方法，但缺乏专注于在不损害其通用能力的前提下提升LLM自身智能体能力的研究。
在这项工作中，我们提出了AgentTuning，一种简单且通用的方法，用于在保持LLM通用能力的同时增强其智能体能力。我们构建了AgentInstruct，一个轻量级的指令微调数据集，其中包含高质量的交互轨迹。我们采用了一种混合指令微调策略，将AgentInstruct与来自通用领域的开源指令相结合。AgentTuning被用于对Llama 2系列模型进行指令微调，得到了AgentLM。我们的评估表明，AgentTuning在不损害通用能力的情况下赋予了LLM智能体能力。AgentLM-70B在未见过的智能体任务上与GPT-3.5-turbo性能相当，展示了其具备通用化的智能体能力。我们在 https://github.com/THUDM/AgentTuning 开源了AgentInstruct和AgentLM-7B、13B、70B模型，为智能体任务提供了开源且强大的商业LLM替代方案。
主题分类： Computation and Language (cs.CL); Artificial Intelligence (cs.AI); Machine Learning (cs.LG)