Tianjun Zhang, Shishir G. Patil, Naman Jain, Sheng Shen, Matei Zaharia, Ion Stoica, Joseph E. Gonzalez
在大规模文本语料上预训练大型语言模型（LLMs）已成为标准范式。在将这些 LLMs 用于许多下游应用时，通常需要通过基于 RAG 的提示（RAG-based prompting）或微调（fine-tuning）将新知识（如时效性新闻或私有领域知识）注入预训练模型中。然而，模型获取此类新知识的最佳方法仍是一个开放问题。
本文提出检索增强微调（Retrieval Augmented FineTuning，RAFT），一种训练方法，旨在提升模型在“开卷”领域内设置中回答问题的能力。在 RAFT 中，给定一个问题以及一组检索到的文档，模型被训练以忽略那些对回答问题无帮助的文档（称为干扰文档，distractor documents）。RAFT 通过从相关文档中逐字引用有助于回答问题的正确序列来实现这一点，并结合 RAFT 的思维链式（chain-of-thought-style）响应来提升模型的推理能力。
在领域特定的 RAG 中，RAFT 在 PubMed、HotpotQA 和 Gorilla 数据集上持续提升了模型性能，为改进预训练 LLM 以适应领域内 RAG 提供了一种后训练方案。RAFT 的代码和演示已开源，详见 github.com/ShishirPatil/gorilla。