BackTranslation

这一章介绍通过扩写，改写，以及回译等半监督样本挖掘方案对种子样本进行扩充，提高种子指令样本的多样性和复杂度，这里我们分别介绍Microsoft，Meta和IBM提出的三个方案。 ......

一、Introduction 将大型语言模型（LLMs）对齐以执行指令遵循，通常需要在大量人工注释的指令样本或偏好样本上进行微调，或从更强大的模型中提炼输出。之前的研究都强调了人工注释数据质量的重要性。然而，使用具有这类质量的注释指令数据很难扩展，每种指令结构和风格的指令数据，往往只能用于某一类垂直 ......

Self-Alignment with Instruction Backtranslation自对齐与指令反翻译 摘要： 在当今的人工智能时代，语言模型的训练和优化已成为研究的热点。本文介绍了一种创新且可扩展的方法，通过为人编写的文本自动标注相应的指令，构建高质量的指令跟随语言模型。此研究的方法，被 ......