# Promptbreeder: 通过提示演化实现自指涉的自我改进
## 基本信息
- **标题**: Promptbreeder: Self-Referential Self-Improvement Via Prompt Evolution
- **作者**: Chrisantha Fernando, Dylan Banarse, Henryk Michalewski, Simon Osindero, Tim Rocktäschel
- **提交日期**: 2023年9月28日
- **分类**: 计算机科学 > 计算与语言 (cs.CL)； 人工智能 (cs.AI)； 机器学习 (cs.LG)； 神经与进化计算 (cs.NE)
## 摘要
像思维链提示这样的流行提示策略可以显著提升大型语言模型（LLMs）在多个领域的推理能力。然而，这些人工设计的提示策略通常并非最优。本文提出了 Promptbreeder，一种通用的、自指涉的自我改进机制，用于为给定领域演化和适配提示。在 LLM 的驱动下，Promptbreeder 对一个任务提示（task-prompts）的群体进行变异，随后在训练集上评估其适应度。关键之处在于，这些任务提示的变异过程由变异提示（mutation-prompts）控制，而这些变异提示是由 LLM 以自指涉的方式生成并随着演进而改进的。也就是说，Promptbreeder 不仅改进了任务提示，还改进了用于改进这些任务提示的变异提示。Promptbreeder 在常用的算术和常识推理基准测试中，优于思维链和计划-求解提示等最先进的提示策略。此外，Promptbreeder 能够为具有挑战性的仇恨言论分类问题演化出复杂的任务提示。