谷歌提出了文本扩散模型的迁移训练

共计 856 个字符，预计需要花费 3 分钟才能阅读完成。

谷歌研究人员发布论文探讨了如何将现有的自回归（AR）大型语言模型（LLMs）转换为使用文本扩散模型进行训练和部署的可能性。文本扩散模型是一种生成文本的方法，它不是逐个生成单词，而是通过逐步去除噪声来生成文本，这种方法在某些任务上可能比传统的自回归方法更快。

论文地址：https://arxiv.org/abs/2401.17181

主要特点：

1. AR 到扩散的转换（AR2Diff）：研究者们提出了一种轻量级的适应过程，可以将预训练的 AR 模型转换为文本扩散模型，这个过程称为 AR2Diff。
2. 模型架构和预训练目标的比较 ：研究者们比较了不同的模型架构（编码器 - 解码器与仅解码器）和预训练目标（跨度损坏与前缀语言模型），以确定哪种设置最适合文本扩散。
3. 转移学习实验 ：研究者们在机器翻译、问答和代码合成等任务上进行了转移学习实验，以评估文本扩散模型与 AR 模型的性能。

工作原理：

• 文本扩散模型实现 ：研究者们遵循 SUNDAE 文本扩散方法，使用标准的 Transformer 架构（编码器 - 解码器或仅解码器）作为模型基础。在训练过程中，模型通过逐步去除噪声来生成文本，而在推理时则使用低温度采样和多样本并行解码。
• AR2Diff 方法 ：首先，使用 AR 模型进行预训练，然后在扩散模型的训练过程中继续训练额外的步骤，最后在特定任务上进行微调。这种方法允许模型在保持 AR 模型优势的同时，适应扩散模型的生成方式。

具体应用场景：

• 机器翻译 ：在 WMT14 法语到英语的翻译任务中，研究者们测试了文本扩散模型与传统 AR 模型的性能。
• 问答系统 ：在 SQuAD 问答任务中，文本扩散模型被用来理解和生成问题的答案。
• 代码合成 ：在 Mostly Basic Python Problems（MBPP）任务中，模型需要生成解决简单编程问题的完整代码解决方案。

总的来说，这篇论文展示了文本扩散模型在某些任务上可以与 AR 模型竞争，尤其是在需要生成长文本的场景中。同时，通过 AR2Diff 方法，研究者们证明了可以有效地将现有的 AR 模型转换为文本扩散模型，这为未来的文本生成技术提供了新的可能性。