Transformers 是如何工作的?

Ask a Question

在本节中,我们将深入了解 Transformer 模型的架构。

一点Transformers的发展历史

以下是 Transformer 模型(简短)历史中的一些关键节点:

A brief chronology of Transformers models.

Transformer 架构 于 2017 年 6 月推出。原本研究的重点是翻译任务。随后推出了几个有影响力的模型,包括

这个列表并不全面,只是为了突出一些不同类型的 Transformer 模型。大体上,它们可以分为三类:

稍后我们将更深入地探讨这些分类。

Transformers是语言模型

上面提到的所有 Transformer 模型(GPT、BERT、BART、T5 等)都被训练为语言模型。这意味着他们已经以无监督学习的方式接受了大量原始文本的训练。无监督学习是一种训练类型,其中目标是根据模型的输入自动计算的。这意味着不需要人工来标记数据!

这种类型的模型可以对其训练过的语言进行统计理解,但对于特定的实际任务并不是很有用。因此,一般的预训练模型会经历一个称为迁移学习的过程。在此过程中,模型在给定任务上以监督方式(即使用人工注释标签)进行微调。

任务的一个例子是阅读 n 个单词的句子,预测下一个单词。这被称为因果语言建模,因为输出取决于过去和现在的输入。

Example of causal language modeling in which the next word from a sentence is predicted.

另一个例子是遮罩语言建模,该模型预测句子中的遮住的词。

Example of masked language modeling in which a masked word from a sentence is predicted.

Transformer是大模型

除了一些特例(如 DistilBERT)外,实现更好性能的一般策略是增加模型的大小以及预训练的数据量。

Number of parameters of recent Transformers models

不幸的是,训练模型,尤其是大型模型,需要大量的数据,时间和计算资源。它甚至会对环境产生影响,如下图所示。

The carbon footprint of a large language model.

Transformers是由一个团队领导的(非常大的)模型项目,该团队试图减少预训练对环境的影响,通过运行大量试验以获得最佳超参数。

想象一下,如果每次一个研究团队、一个学生组织或一家公司想要训练一个模型,都从头开始训练的。这将导致巨大的、不必要的浪费!

这就是为什么共享语言模型至关重要:共享经过训练的权重,当遇见新的需求时在预训练的权重之上进行微调,可以降低训练模型训练的算力和时间消耗,降低全球的总体计算成本和碳排放。

顺便说一句,您可以通过多种工具评估模型训练的碳排放。 例如 ML CO2 Impact 或集成在 🤗 Transformers 中的 Code Carbon。 要了解更多相关信息,您可以阅读这篇博客文章,其中将向您展示如何生成 emissions.csv 文件估计训练的碳足迹,这里还有 🤗 Transformers 关于碳足迹的文档

迁移学习

预训练是训练模型前的一个操作:随机初始化权重,在没有任何先验知识的情况下开始训练。

The pretraining of a language model is costly in both time and money.

这种预训练通常是在非常大量的数据上进行的。因此,它需要大量的数据,而且训练可能需要几周的时间。

另一方面,微调是在模型经过预训练后完成的训练。要执行微调,首先需要获取一个经过预训练的语言模型,然后使用特定于任务的数据集执行额外的训练。等等,为什么不直接为最后的任务而训练呢?有几个原因:

例如,可以利用英语的预训练过的模型,然后在arXiv语料库上对其进行微调,从而形成一个基于科学/研究的模型。微调只需要有限的数据量:预训练模型获得的知识可以“迁移”到目标任务上,因此被称为迁移学习

The fine-tuning of a language model is cheaper than pretraining in both time and money.

因此,微调模型具有较低的时间、数据、财务和环境成本。迭代不同的微调方案也更快、更容易,因为与完整的预训练相比,训练的约束更少。

这个过程也会比从头开始的训练(除非你有很多数据)取得更好的效果,这就是为什么你应该总是尝试利用一个预训练的模型—一个尽可能接近你手头的任务的模型—并对其进行微调。

一般的体系结构

在这一部分,我们将介绍Transformer模型的一般架构。如果你不理解其中的一些概念,不要担心;下文将详细介绍每个组件。

介绍

该模型主要由两个块组成:

Architecture of a Transformers models

这些部件中的每一个都可以独立使用,具体取决于任务:

在后面的部分中,我们将单独地深入研究这些体系结构。

注意力层

Transformer模型的一个关键特性是注意力层。事实上,介绍Transformer架构的文章的标题是“注意力就是你所需要的”! 我们将在课程的后面更加深入地探索注意力层;现在,您需要知道的是,这一层将告诉模型在处理每个单词的表示时,要特别重视您传递给它的句子中的某些单词(并且或多或少地忽略其他单词)。

把它放在语境中,考虑将文本从英语翻译成法语的任务。在输入“You like this course”的情况下,翻译模型还需要注意相邻的单词“You”,以获得单词“like”的正确翻译,因为在法语中,动词“like”的变化取决于主题。然而,句子的其余部分对于该词的翻译没有用处。同样,在翻译“this”时,模型也需要注意“course”一词,因为“this”的翻译不同,取决于相关名词是单数还是复数。同样,句子中的其他单词对于“this”的翻译也不重要。对于更复杂的句子(以及更复杂的语法规则),模型需要特别注意可能出现在句子中更远位置的单词,以便正确地翻译每个单词。

同样的概念也适用于与自然语言相关的任何任务:一个词本身有一个含义,但这个含义受语境的影响很大,语境可以是研究该词之前或之后的任何其他词(或多个词)。

现在您已经了解了注意力层的含义,让我们更仔细地了解Transformer架构。

原始的结构

Transformer架构最初是为翻译而设计的。在训练期间,编码器接收特定语言的输入(句子),而解码器接收相同的句子,但是目标语言已经被转换为所需的语言。在编码器中,注意力层可以使用一个句子中的所有单词(正如我们刚才看到的,给定单词的翻译可以取决于它在句子中的其他单词)。然而,解码器是按顺序工作的,并且只能注意它已经翻译过的句子中的单词。例如,当我们预测了翻译目标的前三个单词时,我们将它们提供给解码器,然后解码器使用编码器的所有输入来尝试预测第四个单词。

为了在训练过程中加快速度(当模型可以访问目标句子时),解码器会被输入整个目标,但不允许获取到要翻译的单词(如果它在尝试预测位置2的单词时可以访问位置2的单词,解码器就会偷懒,直接输出那个单词,从而无法学习到正确的语言关系!)。例如,当试图预测第4个单词时,注意力层只能获取位置1到3的单词。

最初的Transformer架构如下所示,编码器位于左侧,解码器位于右侧:

Architecture of a Transformers models

注意,解码器块中的第一个注意力层关联到解码器的所有(过去的)输入,但是第二注意力层使用编码器的输出。因此,它可以访问整个输入句子,以最好地预测当前单词。这是非常有用的,因为不同的语言可以有语法规则将单词按不同的顺序排列,或者句子后面提供的一些上下文可能有助于确定给定单词的最佳翻译。

也可以在编码器/解码器中使用注意力遮罩层,以防止模型注意某些特殊单词。例如,用于在批处理句子时,使所有输入具有相同长度的特殊填充词。

架构与参数

在本课程中,当我们深入探讨Transformers模型时,您将看到 架构、参数和模型 。 这些术语的含义略有不同:

例如,BERT是一个架构,而 bert-base-cased, 这是谷歌团队为BERT的第一个版本训练的一组权重参数,是一个参数。我们可以说“BERT模型”和”bert-base-cased模型.”