这篇76页的论文叫《The Prompt Report: A Systematic Survey of Prompting Techniques》,主要讨论了各种提示技术,特别是文字提示技术,以及它们在不同模式中的应用。以下是论文的关键内容和一些简单解释:
主要内容:
1. 提示技术分类:
- 论文系统地分类了58种文字提示技术和40种其他模式的提示技术。
- 重点关注离散前缀提示,而不是填空提示,因为前缀提示在现代大型语言模型(如仅解码器模型)中更常用。
2. 提示技术的六大类别:
- In-Context Learning (ICL):从示例/指令中学习。
- Zero-Shot:不使用示例的提示。
- Thought Generation:提示语言模型表达推理过程。
- Decomposition:将复杂问题分解。
- Ensembling:使用多个提示并聚合输出。
- Self-Criticism:让语言模型评估自己的输出。
3. ICL的设计决策:
- 讨论了示例数量、顺序、标签质量、格式和相似性等关键设计决策对输出质量的影响。
4. 多语言和多模式提示:
- 探讨了多语言提示技术,如先翻译提示和跨语言ICL。
- 涉及图像、音频、视频、分割和3D模式的多模式提示。
5. 复杂提示技术:
- 涉及访问外部工具的代理、代码生成和检索增强生成等复杂技术。
6. 提示技术的问题:
- 讨论了提示黑客攻击、过度自信、偏见和模糊性等问题。
- 提出了两个案例研究:MMLU上的基准技术和一个诱捕检测提示工程练习。
举例:
假设你在使用一个AI写作助手,想要生成一篇关于环境保护的文章。你可以使用In-Context Learning (ICL)方法,提供几个示例段落,让AI学习这些示例的写作风格和内容,然后生成新的段落。或者,你可以使用Zero-Shot方法,直接输入提示“写一篇关于环境保护的文章”,让AI在没有示例的情况下生成内容。
这篇论文对提示技术进行了详细分类和讨论,有助于更好地理解和应用这些技术,提升AI生成内容的质量和多样性。