Datasets:

introspector
/

papers

Modalities:

Image

Text

Formats:

imagefolder

Size:

< 1K

Libraries:

Datasets

License:

Dataset card Viewer Files Files and versions Community

mike dupont commited on Feb 5

Commit

16755b1

•

1 Parent(s): 823d722

attention

Browse files

Files changed (8) hide show

2017/12/04/USA/LongBeachCA/NIPS2017/Attention is All You Need-3_1.png +3 -0
2017/12/04/USA/LongBeachCA/NIPS2017/Attention is All You Need-4_1.png +3 -0
2017/12/04/USA/LongBeachCA/NIPS2017/Attention is All You Need-4_2.png +3 -0
2017/12/04/USA/LongBeachCA/NIPS2017/Attention is All You Need.html +15 -0
2017/12/04/USA/LongBeachCA/NIPS2017/Attention is All You Need.org +712 -0
2017/12/04/USA/LongBeachCA/NIPS2017/Attention is All You Need.pdf +0 -0
2017/12/04/USA/LongBeachCA/NIPS2017/Attention is All You Need_ind.html +18 -0
2017/12/04/USA/LongBeachCA/NIPS2017/Attention is All You Needs.html +558 -0

2017/12/04/USA/LongBeachCA/NIPS2017/Attention is All You Need-3_1.png ADDED Viewed

Git LFS Details

SHA256: d67c399967faf6448e7e37e866af591d5cd5e7cafb136bd61e7b0770e2d0da18
Pointer size: 131 Bytes
Size of remote file: 126 kB

2017/12/04/USA/LongBeachCA/NIPS2017/Attention is All You Need-4_1.png ADDED Viewed

Git LFS Details

SHA256: b60be39565d5e2a608a795cc8074f09b6a494f15a98af9b915e379f479dc3b76
Pointer size: 130 Bytes
Size of remote file: 21 kB

2017/12/04/USA/LongBeachCA/NIPS2017/Attention is All You Need-4_2.png ADDED Viewed

Git LFS Details

SHA256: c44914dba398ba745c40a101b483e48f4f30d263cb241ac819dc34e3bb9f8d73
Pointer size: 130 Bytes
Size of remote file: 42.1 kB

2017/12/04/USA/LongBeachCA/NIPS2017/Attention is All You Need.html ADDED Viewed

	@@ -0,0 +1,15 @@

+<!DOCTYPE html>
+<html>
+<head>
+<title>Attention is All you Need</title>
+<meta http-equiv="Content-Type" content="text/html; charset=UTF-8"/>
+<meta name="generator" content="pdftohtml 0.36"/>
+<meta name="author" content="Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Łukasz Kaiser, Illia Polosukhin"/>
+<meta name="date" content="2024-02-05T09:33:17+00:00"/>
+<meta name="subject" content="Neural Information Processing Systems http://nips.cc/"/>
+</head>
+<frameset cols="100,*">
+<frame name="links" src="Attention is All You Need_ind.html"/>
+<frame name="contents" src="Attention is All You Needs.html"/>
+</frameset>
+</html>

2017/12/04/USA/LongBeachCA/NIPS2017/Attention is All You Need.org ADDED Viewed

	@@ -0,0 +1,712 @@

+<<1>>Attention Is All You Need\\
+Ashish Vaswani∗\\
+Noam Shazeer∗\\
+Niki Parmar∗\\
+Jakob Uszkoreit∗\\
+Google Brain\\
+Google Brain\\
+Google Research\\
+Google Research\\
+avaswani@google.com\\
+noam@google.com\\
+nikip@google.com\\
+usz@google.com\\
+Llion Jones∗\\
+Aidan N. Gomez∗ †\\
+Łukasz Kaiser∗\\
+Google Research\\
+University of Toronto\\
+Google Brain\\
+llion@google.com\\
+aidan@cs.toronto.edu\\
+lukaszkaiser@google.com\\
+Illia Polosukhin∗ ‡\\
+illia.polosukhin@gmail.com\\
+Abstract\\
+The dominant sequence transduction models are based on complex recurrent or\\
+convolutional neural networks that include an encoder and a decoder. The best\\
+performing models also connect the encoder and decoder through an attention\\
+mechanism. We propose a new simple network architecture, the Transformer,\\
+based solely on attention mechanisms, dispensing with recurrence and convolutions\\
+entirely. Experiments on two machine translation tasks show these models to\\
+be superior in quality while being more parallelizable and requiring significantly\\
+less time to train. Our model achieves 28.4 BLEU on the WMT 2014 English-\\
+to-German translation task, improving over the existing best results, including\\
+ensembles, by over 2 BLEU. On the WMT 2014 English-to-French translation task,\\
+our model establishes a new single-model state-of-the-art BLEU score of 41.0 after\\
+training for 3.5 days on eight GPUs, a small fraction of the training costs of the\\
+best models from the literature.\\
+1\\
+Introduction\\
+Recurrent neural networks, long short-term memory [[][[12] ]]and gated recurrent [[][[7] ]]neural networks\\
+in particular, have been firmly established as state of the art approaches in sequence modeling and\\
+transduction problems such as language modeling and machine translation [[][[29, 2, 5]. ]]Numerous\\
+efforts have since continued to push the boundaries of recurrent language models and encoder-decoder\\
+architectures [[][[31, 21, 13].]]\\
+∗Equal contribution. Listing order is random. Jakob proposed replacing RNNs with self-attention and started\\
+the effort to evaluate this idea. Ashish, with Illia, designed and implemented the first Transformer models and\\
+has been crucially involved in every aspect of this work. Noam proposed scaled dot-product attention, multi-head\\
+attention and the parameter-free position representation and became the other person involved in nearly every\\
+detail. Niki designed, implemented, tuned and evaluated countless model variants in our original codebase and\\
+tensor2tensor. Llion also experimented with novel model variants, was responsible for our initial codebase, and\\
+efficient inference and visualizations. Lukasz and Aidan spent countless long days designing various parts of and\\
+implementing tensor2tensor, replacing our earlier codebase, greatly improving results and massively accelerating\\
+our research.\\
+†Work performed while at Google Brain.\\
+‡Work performed while at Google Research.\\
+31st Conference on Neural Information Processing Systems (NIPS 2017), Long Beach, CA, USA.\\
+--------------
+<<2>>Recurrent models typically factor computation along the symbol positions of the input and output\\
+sequences. Aligning the positions to steps in computation time, they generate a sequence of hidden\\
+states ht, as a function of the previous hidden state ht−1 and the input for position t. This inherently\\
+sequential nature precludes parallelization within training examples, which becomes critical at longer\\
+sequence lengths, as memory constraints limit batching across examples. Recent work has achieved\\
+significant improvements in computational efficiency through factorization tricks [[][[18] ]]and conditional\\
+computation [[][[26], ]]while also improving model performance in case of the latter. The fundamental\\
+constraint of sequential computation, however, remains.\\
+Attention mechanisms have become an integral part of compelling sequence modeling and transduc-\\
+tion models in various tasks, allowing modeling of dependencies without regard to their distance in\\
+the input or output sequences [[][[2, 16]. ]]In all but a few cases [[][[22], ]]however, such attention mechanisms\\
+are used in conjunction with a recurrent network.\\
+In this work we propose the Transformer, a model architecture eschewing recurrence and instead\\
+relying entirely on an attention mechanism to draw global dependencies between input and output.\\
+The Transformer allows for significantly more parallelization and can reach a new state of the art in\\
+translation quality after being trained for as little as twelve hours on eight P100 GPUs.\\
+2\\
+Background\\
+The goal of reducing sequential computation also forms the foundation of the Extended Neural GPU\\
+[[][[20], ]]ByteNet [[][[15] ]]and ConvS2S [[][[8], ]]all of which use convolutional neural networks as basic building\\
+block, computing hidden representations in parallel for all input and output positions. In these models,\\
+the number of operations required to relate signals from two arbitrary input or output positions grows\\
+in the distance between positions, linearly for ConvS2S and logarithmically for ByteNet. This makes\\
+it more difficult to learn dependencies between distant positions [[][[11]. ]]In the Transformer this is\\
+reduced to a constant number of operations, albeit at the cost of reduced effective resolution due\\
+to averaging attention-weighted positions, an effect we counteract with Multi-Head Attention as\\
+described in section [[][3.2.]]\\
+Self-attention, sometimes called intra-attention is an attention mechanism relating different positions\\
+of a single sequence in order to compute a representation of the sequence. Self-attention has been\\
+used successfully in a variety of tasks including reading comprehension, abstractive summarization,\\
+textual entailment and learning task-independent sentence representations [[][[4, 22, 23, 19].]]\\
+End-to-end memory networks are based on a recurrent attention mechanism instead of sequence-\\
+aligned recurrence and have been shown to perform well on simple-language question answering and\\
+language modeling tasks [[][[28].]]\\
+To the best of our knowledge, however, the Transformer is the first transduction model relying\\
+entirely on self-attention to compute representations of its input and output without using sequence-\\
+aligned RNNs or convolution. In the following sections, we will describe the Transformer, motivate\\
+self-attention and discuss its advantages over models such as [[][[14, 15] ]]and [[][[8].]]\\
+3\\
+Model Architecture\\
+Most competitive neural sequence transduction models have an encoder-decoder structure [[][[5, 2, 29].\\
+]]Here, the encoder maps an input sequence of symbol representations (x1, ..., xn) to a sequence\\
+of continuous representations z = (z1, ..., zn). Given z, the decoder then generates an output\\
+sequence (y1, ..., ym) of symbols one element at a time. At each step the model is auto-regressive\\
+[[][[9], ]]consuming the previously generated symbols as additional input when generating the next.\\
+The Transformer follows this overall architecture using stacked self-attention and point-wise, fully\\
+connected layers for both the encoder and decoder, shown in the left and right halves of Figure [[][1,\\
+]]respectively.\\
+3.1\\
+Encoder and Decoder Stacks\\
+Encoder:\\
+The encoder is composed of a stack of N = 6 identical layers. Each layer has two\\
+sub-layers. The first is a multi-head self-attention mechanism, and the second is a simple, position-\\
+2\\
+--------------
+<<3>>[[file:Attention%20is%20All%20You%20Need-3_1.png]]\\
+Figure 1: The Transformer - model architecture.\\
+wise fully connected feed-forward network. We employ a residual connection [[][[10] ]]around each of\\
+the two sub-layers, followed by layer normalization [[][[1]. ]]That is, the output of each sub-layer is\\
+LayerNorm(x + Sublayer(x)), where Sublayer(x) is the function implemented by the sub-layer\\
+itself. To facilitate these residual connections, all sub-layers in the model, as well as the embedding\\
+layers, produce outputs of dimension dmodel = 512.\\
+Decoder:\\
+The decoder is also composed of a stack of N = 6 identical layers. In addition to the two\\
+sub-layers in each encoder layer, the decoder inserts a third sub-layer, which performs multi-head\\
+attention over the output of the encoder stack. Similar to the encoder, we employ residual connections\\
+around each of the sub-layers, followed by layer normalization. We also modify the self-attention\\
+sub-layer in the decoder stack to prevent positions from attending to subsequent positions. This\\
+masking, combined with fact that the output embeddings are offset by one position, ensures that the\\
+predictions for position i can depend only on the known outputs at positions less than i.\\
+3.2\\
+Attention\\
+An attention function can be described as mapping a query and a set of key-value pairs to an output,\\
+where the query, keys, values, and output are all vectors. The output is computed as a weighted sum\\
+of the values, where the weight assigned to each value is computed by a compatibility function of the\\
+query with the corresponding key.\\
+3.2.1\\
+Scaled Dot-Product Attention\\
+We call our particular attention "Scaled Dot-Product Attention" (Figure [[][2). ]]The input consists of\\
+queries and keys of dimension dk, and values of dimension dv. We compute the dot products of the\\
+3\\
+--------------
+<<4>>[[file:Attention%20is%20All%20You%20Need-4_1.png]]\\
+[[file:Attention%20is%20All%20You%20Need-4_2.png]]\\
+Scaled Dot-Product Attention\\
+Multi-Head Attention\\
+Figure 2: (left) Scaled Dot-Product Attention. (right) Multi-Head Attention consists of several\\
+attention layers running in parallel.\\
+√\\
+query with all keys, divide each by\\
+dk, and apply a softmax function to obtain the weights on the\\
+values.\\
+In practice, we compute the attention function on a set of queries simultaneously, packed together\\
+into a matrix Q. The keys and values are also packed together into matrices K and V . We compute\\
+the matrix of outputs as:\\
+QKT\\
+Attention(Q, K, V ) = softmax( √\\
+)V\\
+(1)\\
+dk\\
+The two most commonly used attention functions are additive attention [[][[2], ]]and dot-product (multi-\\
+plicative) attention. Dot-product attention is identical to our algorithm, except for the scaling factor\\
+of\\
+1\\
+√\\
+. Additive attention computes the compatibility function using a feed-forward network with\\
+dk\\
+a single hidden layer. While the two are similar in theoretical complexity, dot-product attention is\\
+much faster and more space-efficient in practice, since it can be implemented using highly optimized\\
+matrix multiplication code.\\
+While for small values of dk the two mechanisms perform similarly, additive attention outperforms\\
+dot product attention without scaling for larger values of dk [[][[3]. ]]We suspect that for large values of\\
+dk, the dot products grow large in magnitude, pushing the softmax function into regions where it has\\
+extremely small gradients [[][4. ]]To counteract this effect, we scale the dot products by\\
+1\\
+√\\
+.\\
+dk\\
+3.2.2\\
+Multi-Head Attention\\
+Instead of performing a single attention function with dmodel-dimensional keys, values and queries,\\
+we found it beneficial to linearly project the queries, keys and values h times with different, learned\\
+linear projections to dk, dk and dv dimensions, respectively. On each of these projected versions of\\
+queries, keys and values we then perform the attention function in parallel, yielding dv-dimensional\\
+output values. These are concatenated and once again projected, resulting in the final values, as\\
+depicted in Figure [[][2.]]\\
+Multi-head attention allows the model to jointly attend to information from different representation\\
+subspaces at different positions. With a single attention head, averaging inhibits this.\\
+4To illustrate why the dot products get large, assume that the components of q and k are independent random\\
+Pd\\
+variables with mean 0 and variance 1. Then their dot product, q\\
+k\\
+· k =\\
+q\\
+i=1 iki, has mean 0 and variance dk .\\
+4\\
+--------------
+<<5>>MultiHead(Q, K, V ) = Concat(head1, ..., headh)W O\\
+where headi = Attention(QW Q, KW K\\
+i\\
+i , V W V\\
+i )\\
+Where the projections are parameter matrices W Q\\
+i\\
+∈ Rdmodel×dk , W K\\
+i\\
+∈ Rdmodel×dk , W V\\
+i\\
+∈ Rdmodel×dv\\
+and W O ∈ Rhdv×dmodel.\\
+In this work we employ h = 8 parallel attention layers, or heads. For each of these we use\\
+dk = dv = dmodel/h = 64. Due to the reduced dimension of each head, the total computational cost\\
+is similar to that of single-head attention with full dimensionality.\\
+3.2.3\\
+Applications of Attention in our Model\\
+The Transformer uses multi-head attention in three different ways:\\
+• In "encoder-decoder attention" layers, the queries come from the previous decoder layer,\\
+and the memory keys and values come from the output of the encoder. This allows every\\
+position in the decoder to attend over all positions in the input sequence. This mimics the\\
+typical encoder-decoder attention mechanisms in sequence-to-sequence models such as\\
+[[][[31, 2, 8].]]\\
+• The encoder contains self-attention layers. In a self-attention layer all of the keys, values\\
+and queries come from the same place, in this case, the output of the previous layer in the\\
+encoder. Each position in the encoder can attend to all positions in the previous layer of the\\
+encoder.\\
+• Similarly, self-attention layers in the decoder allow each position in the decoder to attend to\\
+all positions in the decoder up to and including that position. We need to prevent leftward\\
+information flow in the decoder to preserve the auto-regressive property. We implement this\\
+inside of scaled dot-product attention by masking out (setting to −∞) all values in the input\\
+of the softmax which correspond to illegal connections. See Figure [[][2.]]\\
+3.3\\
+Position-wise Feed-Forward Networks\\
+In addition to attention sub-layers, each of the layers in our encoder and decoder contains a fully\\
+connected feed-forward network, which is applied to each position separately and identically. This\\
+consists of two linear transformations with a ReLU activation in between.\\
+FFN(x) = max(0, xW1 + b1)W2 + b2\\
+(2)\\
+While the linear transformations are the same across different positions, they use different parameters\\
+from layer to layer. Another way of describing this is as two convolutions with kernel size 1.\\
+The dimensionality of input and output is dmodel = 512, and the inner-layer has dimensionality\\
+dff = 2048.\\
+3.4\\
+Embeddings and Softmax\\
+Similarly to other sequence transduction models, we use learned embeddings to convert the input\\
+tokens and output tokens to vectors of dimension dmodel. We also use the usual learned linear transfor-\\
+mation and softmax function to convert the decoder output to predicted next-token probabilities. In\\
+our model, we share the same weight matrix between the two embedding layers and the pre-softmax\\
+√\\
+linear transformation, similar to [[][[24]. ]]In the embedding layers, we multiply those weights by\\
+dmodel.\\
+3.5\\
+Positional Encoding\\
+Since our model contains no recurrence and no convolution, in order for the model to make use of the\\
+order of the sequence, we must inject some information about the relative or absolute position of the\\
+tokens in the sequence. To this end, we add "positional encodings" to the input embeddings at the\\
+5\\
+--------------
+<<6>>Table 1: Maximum path lengths, per-layer complexity and minimum number of sequential operations\\
+for different layer types. n is the sequence length, d is the representation dimension, k is the kernel\\
+size of convolutions and r the size of the neighborhood in restricted self-attention.\\
+Layer Type\\
+Complexity per Layer\\
+Sequential\\
+Maximum Path Length\\
+Operations\\
+Self-Attention\\
+O(n2 · d)\\
+O(1)\\
+O(1)\\
+Recurrent\\
+O(n · d2)\\
+O(n)\\
+O(n)\\
+Convolutional\\
+O(k · n · d2)\\
+O(1)\\
+O(logk(n))\\
+Self-Attention (restricted)\\
+O(r · n · d)\\
+O(1)\\
+O(n/r)\\
+bottoms of the encoder and decoder stacks. The positional encodings have the same dimension dmodel\\
+as the embeddings, so that the two can be summed. There are many choices of positional encodings,\\
+learned and fixed [[][[8].]]\\
+In this work, we use sine and cosine functions of different frequencies:\\
+P E(pos,2i) = sin(pos/100002i/dmodel)\\
+P E(pos,2i+1) = cos(pos/100002i/dmodel)\\
+where pos is the position and i is the dimension. That is, each dimension of the positional encoding\\
+corresponds to a sinusoid. The wavelengths form a geometric progression from 2π to 10000 · 2π. We\\
+chose this function because we hypothesized it would allow the model to easily learn to attend by\\
+relative positions, since for any fixed offset k, P Epos+k can be represented as a linear function of\\
+P Epos.\\
+We also experimented with using learned positional embeddings [[][[8] ]]instead, and found that the two\\
+versions produced nearly identical results (see Table [[][3 ]]row (E)). We chose the sinusoidal version\\
+because it may allow the model to extrapolate to sequence lengths longer than the ones encountered\\
+during training.\\
+4\\
+Why Self-Attention\\
+In this section we compare various aspects of self-attention layers to the recurrent and convolu-\\
+tional layers commonly used for mapping one variable-length sequence of symbol representations\\
+(x1, ..., xn) to another sequence of equal length (z1, ..., zn), with xi, zi ∈ Rd, such as a hidden\\
+layer in a typical sequence transduction encoder or decoder. Motivating our use of self-attention we\\
+consider three desiderata.\\
+One is the total computational complexity per layer. Another is the amount of computation that can\\
+be parallelized, as measured by the minimum number of sequential operations required.\\
+The third is the path length between long-range dependencies in the network. Learning long-range\\
+dependencies is a key challenge in many sequence transduction tasks. One key factor affecting the\\
+ability to learn such dependencies is the length of the paths forward and backward signals have to\\
+traverse in the network. The shorter these paths between any combination of positions in the input\\
+and output sequences, the easier it is to learn long-range dependencies [[][[11]. ]]Hence we also compare\\
+the maximum path length between any two input and output positions in networks composed of the\\
+different layer types.\\
+As noted in Table [[][1, ]]a self-attention layer connects all positions with a constant number of sequentially\\
+executed operations, whereas a recurrent layer requires O(n) sequential operations. In terms of\\
+computational complexity, self-attention layers are faster than recurrent layers when the sequence\\
+length n is smaller than the representation dimensionality d, which is most often the case with\\
+sentence representations used by state-of-the-art models in machine translations, such as word-piece\\
+[[][[31] ]]and byte-pair [[][[25] ]]representations. To improve computational performance for tasks involving\\
+very long sequences, self-attention could be restricted to considering only a neighborhood of size r in\\
+6\\
+--------------
+<<7>>the input sequence centered around the respective output position. This would increase the maximum\\
+path length to O(n/r). We plan to investigate this approach further in future work.\\
+A single convolutional layer with kernel width k < n does not connect all pairs of input and output\\
+positions. Doing so requires a stack of O(n/k) convolutional layers in the case of contiguous kernels,\\
+or O(logk(n)) in the case of dilated convolutions [[][[15], ]]increasing the length of the longest paths\\
+between any two positions in the network. Convolutional layers are generally more expensive than\\
+recurrent layers, by a factor of k. Separable convolutions [[][[6], ]]however, decrease the complexity\\
+considerably, to O(k · n · d + n · d2). Even with k = n, however, the complexity of a separable\\
+convolution is equal to the combination of a self-attention layer and a point-wise feed-forward layer,\\
+the approach we take in our model.\\
+As side benefit, self-attention could yield more interpretable models. We inspect attention distributions\\
+from our models and present and discuss examples in the appendix. Not only do individual attention\\
+heads clearly learn to perform different tasks, many appear to exhibit behavior related to the syntactic\\
+and semantic structure of the sentences.\\
+5\\
+Training\\
+This section describes the training regime for our models.\\
+5.1\\
+Training Data and Batching\\
+We trained on the standard WMT 2014 English-German dataset consisting of about 4.5 million\\
+sentence pairs. Sentences were encoded using byte-pair encoding [[][[3], ]]which has a shared source-\\
+target vocabulary of about 37000 tokens. For English-French, we used the significantly larger WMT\\
+2014 English-French dataset consisting of 36M sentences and split tokens into a 32000 word-piece\\
+vocabulary [[][[31]. ]]Sentence pairs were batched together by approximate sequence length. Each training\\
+batch contained a set of sentence pairs containing approximately 25000 source tokens and 25000\\
+target tokens.\\
+5.2\\
+Hardware and Schedule\\
+We trained our models on one machine with 8 NVIDIA P100 GPUs. For our base models using\\
+the hyperparameters described throughout the paper, each training step took about 0.4 seconds. We\\
+trained the base models for a total of 100,000 steps or 12 hours. For our big models,(described on the\\
+bottom line of table [[][3), ]]step time was 1.0 seconds. The big models were trained for 300,000 steps\\
+(3.5 days).\\
+5.3\\
+Optimizer\\
+We used the Adam optimizer [[][[17] ]]with β1 = 0.9, β2 = 0.98 and ǫ = 10−9. We varied the learning\\
+rate over the course of training, according to the formula:\\
+lrate = d−0.5\\
+model · min(step_num−0.5, step_num · warmup_steps−1.5)\\
+(3)\\
+This corresponds to increasing the learning rate linearly for the first warmup_steps training steps,\\
+and decreasing it thereafter proportionally to the inverse square root of the step number. We used\\
+warmup_steps = 4000.\\
+5.4\\
+Regularization\\
+We employ three types of regularization during training:\\
+Residual Dropout\\
+We apply dropout [[][[27] ]]to the output of each sub-layer, before it is added to the\\
+sub-layer input and normalized. In addition, we apply dropout to the sums of the embeddings and the\\
+positional encodings in both the encoder and decoder stacks. For the base model, we use a rate of\\
+Pdrop = 0.1.\\
+7\\
+--------------
+<<8>>Table 2: The Transformer achieves better BLEU scores than previous state-of-the-art models on the\\
+English-to-German and English-to-French newstest2014 tests at a fraction of the training cost.\\
+BLEU\\
+Training Cost (FLOPs)\\
+Model\\
+EN-DE\\
+EN-FR\\
+EN-DE\\
+EN-FR\\
+ByteNet [[][[15]]]\\
+23.75\\
+Deep-Att + PosUnk [[][[32]]]\\
+39.2\\
+1.0 · 1020\\
+GNMT + RL [[][[31]]]\\
+24.6\\
+39.92\\
+2.3 · 1019\\
+1.4 · 1020\\
+ConvS2S [[][[8]]]\\
+25.16\\
+40.46\\
+9.6 · 1018\\
+1.5 · 1020\\
+MoE [[][[26]]]\\
+26.03\\
+40.56\\
+2.0 · 1019\\
+1.2 · 1020\\
+Deep-Att + PosUnk Ensemble [[][[32]]]\\
+40.4\\
+8.0 · 1020\\
+GNMT + RL Ensemble [[][[31]]]\\
+26.30\\
+41.16\\
+1.8 · 1020\\
+1.1 · 1021\\
+ConvS2S Ensemble [[][[8]]]\\
+26.36\\
+41.29\\
+7.7 · 1019\\
+1.2 · 1021\\
+Transformer (base model)\\
+27.3\\
+38.1\\
+3 3\\
+.\\
+· 1018\\
+Transformer (big)\\
+28.4\\
+41.0\\
+2.3 · 1019\\
+Label Smoothing\\
+During training, we employed label smoothing of value ǫls = 0.1 [[][[30]. ]]This\\
+hurts perplexity, as the model learns to be more unsure, but improves accuracy and BLEU score.\\
+6\\
+Results\\
+6.1\\
+Machine Translation\\
+On the WMT 2014 English-to-German translation task, the big transformer model (Transformer (big)\\
+in Table [[][2) ]]outperforms the best previously reported models (including ensembles) by more than 2.0\\
+BLEU, establishing a new state-of-the-art BLEU score of 28.4. The configuration of this model is\\
+listed in the bottom line of Table [[][3. ]]Training took 3.5 days on 8 P100 GPUs. Even our base model\\
+surpasses all previously published models and ensembles, at a fraction of the training cost of any of\\
+the competitive models.\\
+On the WMT 2014 English-to-French translation task, our big model achieves a BLEU score of 41.0,\\
+outperforming all of the previously published single models, at less than 1/4 the training cost of the\\
+previous state-of-the-art model. The Transformer (big) model trained for English-to-French used\\
+dropout rate Pdrop = 0.1, instead of 0.3.\\
+For the base models, we used a single model obtained by averaging the last 5 checkpoints, which\\
+were written at 10-minute intervals. For the big models, we averaged the last 20 checkpoints. We\\
+used beam search with a beam size of 4 and length penalty α = 0.6 [[][[31]. ]]These hyperparameters\\
+were chosen after experimentation on the development set. We set the maximum output length during\\
+inference to input length + 50, but terminate early when possible [[][[31].]]\\
+Table [[][2 ]]summarizes our results and compares our translation quality and training costs to other model\\
+architectures from the literature. We estimate the number of floating point operations used to train a\\
+model by multiplying the training time, the number of GPUs used, and an estimate of the sustained\\
+single-precision floating-point capacity of each GPU [[][5.]]\\
+6.2\\
+Model Variations\\
+To evaluate the importance of different components of the Transformer, we varied our base model\\
+in different ways, measuring the change in performance on English-to-German translation on the\\
+development set, newstest2013. We used beam search as described in the previous section, but no\\
+checkpoint averaging. We present these results in Table [[][3.]]\\
+In Table [[][3 ]]rows (A), we vary the number of attention heads and the attention key and value dimensions,\\
+keeping the amount of computation constant, as described in Section [[][3.2.2. ]]While single-head\\
+attention is 0.9 BLEU worse than the best setting, quality also drops off with too many heads.\\
+5We used values of 2.8, 3.7, 6.0 and 9.5 TFLOPS for K80, K40, M40 and P100, respectively.\\
+8\\
+--------------
+<<9>>Table 3: Variations on the Transformer architecture. Unlisted values are identical to those of the base\\
+model. All metrics are on the English-to-German translation development set, newstest2013. Listed\\
+perplexities are per-wordpiece, according to our byte-pair encoding, and should not be compared to\\
+per-word perplexities.\\
+train\\
+PPL\\
+BLEU\\
+params\\
+N\\
+dmodel\\
+dff\\
+h\\
+dk\\
+dv\\
+Pdrop\\
+ǫls\\
+steps\\
+(dev)\\
+(dev)\\
+×106\\
+base\\
+6\\
+512\\
+2048\\
+8\\
+64\\
+64\\
+0.1\\
+0.1\\
+100K\\
+4.92\\
+25.8\\
+65\\
+1\\
+512\\
+512\\
+5.29\\
+24.9\\
+4\\
+128\\
+128\\
+5.00\\
+25.5\\
+(A)\\
+16\\
+32\\
+32\\
+4.91\\
+25.8\\
+32\\
+16\\
+16\\
+5.01\\
+25.4\\
+16\\
+5.16\\
+25.1\\
+58\\
+(B)\\
+32\\
+5.01\\
+25.4\\
+60\\
+2\\
+6.11\\
+23.7\\
+36\\
+4\\
+5.19\\
+25.3\\
+50\\
+8\\
+4.88\\
+25.5\\
+80\\
+(C)\\
+256\\
+32\\
+32\\
+5.75\\
+24.5\\
+28\\
+1024\\
+128\\
+128\\
+4.66\\
+26.0\\
+168\\
+1024\\
+5.12\\
+25.4\\
+53\\
+4096\\
+4.75\\
+26.2\\
+90\\
+0.0\\
+5.77\\
+24.6\\
+0.2\\
+4.95\\
+25.5\\
+(D)\\
+0.0\\
+4.67\\
+25.3\\
+0.2\\
+5.47\\
+25.7\\
+(E)\\
+positional embedding instead of sinusoids\\
+4.92\\
+25.7\\
+big\\
+6\\
+1024\\
+4096\\
+16\\
+0.3\\
+300K\\
+4.33\\
+26.4\\
+213\\
+In Table [[][3 ]]rows (B), we observe that reducing the attention key size dk hurts model quality. This\\
+suggests that determining compatibility is not easy and that a more sophisticated compatibility\\
+function than dot product may be beneficial. We further observe in rows (C) and (D) that, as expected,\\
+bigger models are better, and dropout is very helpful in avoiding over-fitting. In row (E) we replace our\\
+sinusoidal positional encoding with learned positional embeddings [[][[8], ]]and observe nearly identical\\
+results to the base model.\\
+7\\
+Conclusion\\
+In this work, we presented the Transformer, the first sequence transduction model based entirely on\\
+attention, replacing the recurrent layers most commonly used in encoder-decoder architectures with\\
+multi-headed self-attention.\\
+For translation tasks, the Transformer can be trained significantly faster than architectures based\\
+on recurrent or convolutional layers. On both WMT 2014 English-to-German and WMT 2014\\
+English-to-French translation tasks, we achieve a new state of the art. In the former task our best\\
+model outperforms even all previously reported ensembles.\\
+We are excited about the future of attention-based models and plan to apply them to other tasks. We\\
+plan to extend the Transformer to problems involving input and output modalities other than text and\\
+to investigate local, restricted attention mechanisms to efficiently handle large inputs and outputs\\
+such as images, audio and video. Making generation less sequential is another research goals of ours.\\
+The code we used to train and evaluate our models is available at [[https://github.com/tensorflow/tensor2tensor][https://github.com/]]\\
+[[https://github.com/tensorflow/tensor2tensor][tensorflow/tensor2tensor.]]\\
+Acknowledgements\\
+We are grateful to Nal Kalchbrenner and Stephan Gouws for their fruitful\\
+comments, corrections and inspiration.\\
+9\\
+--------------
+<<10>>References\\
+[1] Jimmy Lei Ba, Jamie Ryan Kiros, and Geoffrey E Hinton. Layer normalization. /arXiv preprint/\\
+/arXiv:1607.06450/, 2016.\\
+[2] Dzmitry Bahdanau, Kyunghyun Cho, and Yoshua Bengio. Neural machine translation by jointly\\
+learning to align and translate. /CoRR/, abs/1409.0473, 2014.\\
+[3] Denny Britz, Anna Goldie, Minh-Thang Luong, and Quoc V. Le. Massive exploration of neural\\
+machine translation architectures. /CoRR/, abs/1703.03906, 2017.\\
+[4] Jianpeng Cheng, Li Dong, and Mirella Lapata. Long short-term memory-networks for machine\\
+reading. /arXiv preprint arXiv:1601.06733/, 2016.\\
+[5] Kyunghyun Cho, Bart van Merrienboer, Caglar Gulcehre, Fethi Bougares, Holger Schwenk,\\
+and Yoshua Bengio. Learning phrase representations using rnn encoder-decoder for statistical\\
+machine translation. /CoRR/, abs/1406.1078, 2014.\\
+[6] Francois Chollet. Xception: Deep learning with depthwise separable convolutions. /arXiv/\\
+/preprint arXiv:1610.02357/, 2016.\\
+[7] Junyoung Chung, Çaglar Gülçehre, Kyunghyun Cho, and Yoshua Bengio. Empirical evaluation\\
+of gated recurrent neural networks on sequence modeling. /CoRR/, abs/1412.3555, 2014.\\
+[8] Jonas Gehring, Michael Auli, David Grangier, Denis Yarats, and Yann N. Dauphin. Convolu-\\
+tional sequence to sequence learning. /arXiv preprint arXiv:1705.03122v2/, 2017.\\
+[9] Alex Graves.\\
+Generating sequences with recurrent neural networks.\\
+/arXiv preprint/\\
+/arXiv:1308.0850/, 2013.\\
+[10] Kaiming He, Xiangyu Zhang, Shaoqing Ren, and Jian Sun. Deep residual learning for im-\\
+age recognition. In /Proceedings of the IEEE Conference on Computer Vision and Pattern/\\
+/Recognition/, pages 770--778, 2016.\\
+[11] Sepp Hochreiter, Yoshua Bengio, Paolo Frasconi, and Jürgen Schmidhuber. Gradient flow in\\
+recurrent nets: the difficulty of learning long-term dependencies, 2001.\\
+[12] Sepp Hochreiter and Jürgen Schmidhuber. Long short-term memory. /Neural computation/,\\
+9(8):1735--1780, 1997.\\
+[13] Rafal Jozefowicz, Oriol Vinyals, Mike Schuster, Noam Shazeer, and Yonghui Wu. Exploring\\
+the limits of language modeling. /arXiv preprint arXiv:1602.02410/, 2016.\\
+[14] Łukasz Kaiser and Ilya Sutskever. Neural GPUs learn algorithms. In /International Conference/\\
+/on Learning Representations (ICLR)/, 2016.\\
+[15] Nal Kalchbrenner, Lasse Espeholt, Karen Simonyan, Aaron van den Oord, Alex Graves, and Ko-\\
+ray Kavukcuoglu. Neural machine translation in linear time. /arXiv preprint arXiv:1610.10099v2/,\\
+2017.\\
+[16] Yoon Kim, Carl Denton, Luong Hoang, and Alexander M. Rush. Structured attention networks.\\
+In /International Conference on Learning Representations/, 2017.\\
+[17] Diederik Kingma and Jimmy Ba. Adam: A method for stochastic optimization. In /ICLR/, 2015.\\
+[18] Oleksii Kuchaiev and Boris Ginsburg. Factorization tricks for LSTM networks. /arXiv preprint/\\
+/arXiv:1703.10722/, 2017.\\
+[19] Zhouhan Lin, Minwei Feng, Cicero Nogueira dos Santos, Mo Yu, Bing Xiang, Bowen\\
+Zhou, and Yoshua Bengio. A structured self-attentive sentence embedding. /arXiv preprint\\
+arXiv:1703.03130/, 2017.\\
+[20] Samy Bengio Łukasz Kaiser. Can active memory replace attention? In /Advances in Neural/\\
+/Information Processing Systems, (NIPS)/, 2016.\\
+10\\
+--------------
+<<11>>[21] Minh-Thang Luong, Hieu Pham, and Christopher D Manning. Effective approaches to attention-\\
+based neural machine translation. /arXiv preprint arXiv:1508.04025/, 2015.\\
+[22] Ankur Parikh, Oscar Täckström, Dipanjan Das, and Jakob Uszkoreit. A decomposable attention\\
+model. In /Empirical Methods in Natural Language Processing/, 2016.\\
+[23] Romain Paulus, Caiming Xiong, and Richard Socher. A deep reinforced model for abstractive\\
+summarization. /arXiv preprint arXiv:1705.04304/, 2017.\\
+[24] Ofir Press and Lior Wolf. Using the output embedding to improve language models. /arXiv/\\
+/preprint arXiv:1608.05859/, 2016.\\
+[25] Rico Sennrich, Barry Haddow, and Alexandra Birch. Neural machine translation of rare words\\
+with subword units. /arXiv preprint arXiv:1508.07909/, 2015.\\
+[26] Noam Shazeer, Azalia Mirhoseini, Krzysztof Maziarz, Andy Davis, Quoc Le, Geoffrey Hinton,\\
+and Jeff Dean. Outrageously large neural networks: The sparsely-gated mixture-of-experts\\
+layer. /arXiv preprint arXiv:1701.06538/, 2017.\\
+[27] Nitish Srivastava, Geoffrey E Hinton, Alex Krizhevsky, Ilya Sutskever, and Ruslan Salakhutdi-\\
+nov. Dropout: a simple way to prevent neural networks from overfitting. /Journal of Machine/\\
+/Learning Research/, 15(1):1929--1958, 2014.\\
+[28] Sainbayar Sukhbaatar, arthur szlam, Jason Weston, and Rob Fergus. End-to-end memory\\
+networks. In C. Cortes, N. D. Lawrence, D. D. Lee, M. Sugiyama, and R. Garnett, editors,\\
+/Advances in Neural Information Processing Systems 28/, pages 2440--2448. Curran Associates,\\
+Inc., 2015.\\
+[29] Ilya Sutskever, Oriol Vinyals, and Quoc VV Le. Sequence to sequence learning with neural\\
+networks. In /Advances in Neural Information Processing Systems/, pages 3104--3112, 2014.\\
+[30] Christian Szegedy, Vincent Vanhoucke, Sergey Ioffe, Jonathon Shlens, and Zbigniew Wojna.\\
+Rethinking the inception architecture for computer vision. /CoRR/, abs/1512.00567, 2015.\\
+[31] Yonghui Wu, Mike Schuster, Zhifeng Chen, Quoc V Le, Mohammad Norouzi, Wolfgang\\
+Macherey, Maxim Krikun, Yuan Cao, Qin Gao, Klaus Macherey, et al. Google's neural machine\\
+translation system: Bridging the gap between human and machine translation. /arXiv preprint\\
+arXiv:1609.08144/, 2016.\\
+[32] Jie Zhou, Ying Cao, Xuguang Wang, Peng Li, and Wei Xu. Deep recurrent models with\\
+fast-forward connections for neural machine translation. /CoRR/, abs/1606.04199, 2016.\\
+11\\
+--------------

2017/12/04/USA/LongBeachCA/NIPS2017/Attention is All You Need.pdf ADDED Viewed

Binary file (404 kB). View file

2017/12/04/USA/LongBeachCA/NIPS2017/Attention is All You Need_ind.html ADDED Viewed

	@@ -0,0 +1,18 @@

+<!DOCTYPE html><html xmlns="http://www.w3.org/1999/xhtml" lang="" xml:lang="">
+<head>
+<title></title>
+</head>
+<body>
+<a href="Attention is All You Needs.html#1" target="contents" >Page 1</a><br/>
+<a href="Attention is All You Needs.html#2" target="contents" >Page 2</a><br/>
+<a href="Attention is All You Needs.html#3" target="contents" >Page 3</a><br/>
+<a href="Attention is All You Needs.html#4" target="contents" >Page 4</a><br/>
+<a href="Attention is All You Needs.html#5" target="contents" >Page 5</a><br/>
+<a href="Attention is All You Needs.html#6" target="contents" >Page 6</a><br/>
+<a href="Attention is All You Needs.html#7" target="contents" >Page 7</a><br/>
+<a href="Attention is All You Needs.html#8" target="contents" >Page 8</a><br/>
+<a href="Attention is All You Needs.html#9" target="contents" >Page 9</a><br/>
+<a href="Attention is All You Needs.html#10" target="contents" >Page 10</a><br/>
+<a href="Attention is All You Needs.html#11" target="contents" >Page 11</a><br/>
+</body>
+</html>

2017/12/04/USA/LongBeachCA/NIPS2017/Attention is All You Needs.html ADDED Viewed

	@@ -0,0 +1,558 @@

+<!DOCTYPE html><html>
+<head>
+<title></title>
+<style type="text/css">
+<!--
+.xflip {
+    -moz-transform: scaleX(-1);
+    -webkit-transform: scaleX(-1);
+    -o-transform: scaleX(-1);
+    transform: scaleX(-1);
+    filter: fliph;
+}
+.yflip {
+    -moz-transform: scaleY(-1);
+    -webkit-transform: scaleY(-1);
+    -o-transform: scaleY(-1);
+    transform: scaleY(-1);
+    filter: flipv;
+}
+.xyflip {
+    -moz-transform: scaleX(-1) scaleY(-1);
+    -webkit-transform: scaleX(-1) scaleY(-1);
+    -o-transform: scaleX(-1) scaleY(-1);
+    transform: scaleX(-1) scaleY(-1);
+    filter: fliph + flipv;
+}
+-->
+</style>
+</head>
+<body>
+<a name=1></a>Attention&#160;Is&#160;All&#160;You&#160;Need<br/>
+Ashish&#160;Vaswani∗<br/>
+Noam&#160;Shazeer∗<br/>
+Niki&#160;Parmar∗<br/>
+Jakob&#160;Uszkoreit∗<br/>
+Google&#160;Brain<br/>
+Google&#160;Brain<br/>
+Google&#160;Research<br/>
+Google&#160;Research<br/>
+avaswani@google.com<br/>
+noam@google.com<br/>
+nikip@google.com<br/>
+usz@google.com<br/>
+Llion&#160;Jones∗<br/>
+Aidan&#160;N.&#160;Gomez∗&#160;†<br/>
+Łukasz&#160;Kaiser∗<br/>
+Google&#160;Research<br/>
+University&#160;of&#160;Toronto<br/>
+Google&#160;Brain<br/>
+llion@google.com<br/>
+aidan@cs.toronto.edu<br/>
+lukaszkaiser@google.com<br/>
+Illia&#160;Polosukhin∗&#160;‡<br/>
+illia.polosukhin@gmail.com<br/>
+Abstract<br/>
+The&#160;dominant&#160;sequence&#160;transduction&#160;models&#160;are&#160;based&#160;on&#160;complex&#160;recurrent&#160;or<br/>convolutional&#160;neural&#160;networks&#160;that&#160;include&#160;an&#160;encoder&#160;and&#160;a&#160;decoder.&#160;The&#160;best<br/>performing&#160;models&#160;also&#160;connect&#160;the&#160;encoder&#160;and&#160;decoder&#160;through&#160;an&#160;attention<br/>mechanism.&#160;We&#160;propose&#160;a&#160;new&#160;simple&#160;network&#160;architecture,&#160;the&#160;Transformer,<br/>based&#160;solely&#160;on&#160;attention&#160;mechanisms,&#160;dispensing&#160;with&#160;recurrence&#160;and&#160;convolutions<br/>entirely.&#160;Experiments&#160;on&#160;two&#160;machine&#160;translation&#160;tasks&#160;show&#160;these&#160;models&#160;to<br/>be&#160;superior&#160;in&#160;quality&#160;while&#160;being&#160;more&#160;parallelizable&#160;and&#160;requiring&#160;significantly<br/>less&#160;time&#160;to&#160;train.&#160;Our&#160;model&#160;achieves&#160;28.4&#160;BLEU&#160;on&#160;the&#160;WMT&#160;2014&#160;English-<br/>to-German&#160;translation&#160;task,&#160;improving&#160;over&#160;the&#160;existing&#160;best&#160;results,&#160;including<br/>ensembles,&#160;by&#160;over&#160;2&#160;BLEU.&#160;On&#160;the&#160;WMT&#160;2014&#160;English-to-French&#160;translation&#160;task,<br/>our&#160;model&#160;establishes&#160;a&#160;new&#160;single-model&#160;state-of-the-art&#160;BLEU&#160;score&#160;of&#160;41.0&#160;after<br/>training&#160;for&#160;3.5&#160;days&#160;on&#160;eight&#160;GPUs,&#160;a&#160;small&#160;fraction&#160;of&#160;the&#160;training&#160;costs&#160;of&#160;the<br/>best&#160;models&#160;from&#160;the&#160;literature.<br/>
+1<br/>
+Introduction<br/>
+Recurrent&#160;neural&#160;networks,&#160;long&#160;short-term&#160;memory&#160;<a href="">[12]&#160;</a>and&#160;gated&#160;recurrent&#160;<a href="">[7]&#160;</a>neural&#160;networks<br/>in&#160;particular,&#160;have&#160;been&#160;firmly&#160;established&#160;as&#160;state&#160;of&#160;the&#160;art&#160;approaches&#160;in&#160;sequence&#160;modeling&#160;and<br/>transduction&#160;problems&#160;such&#160;as&#160;language&#160;modeling&#160;and&#160;machine&#160;translation&#160;<a href="">[29,&#160;2,&#160;5].&#160;</a>Numerous<br/>efforts&#160;have&#160;since&#160;continued&#160;to&#160;push&#160;the&#160;boundaries&#160;of&#160;recurrent&#160;language&#160;models&#160;and&#160;encoder-decoder<br/>architectures&#160;<a href="">[31,&#160;21,&#160;13].</a><br/>
+∗Equal&#160;contribution.&#160;Listing&#160;order&#160;is&#160;random.&#160;Jakob&#160;proposed&#160;replacing&#160;RNNs&#160;with&#160;self-attention&#160;and&#160;started<br/>
+the&#160;effort&#160;to&#160;evaluate&#160;this&#160;idea.&#160;Ashish,&#160;with&#160;Illia,&#160;designed&#160;and&#160;implemented&#160;the&#160;first&#160;Transformer&#160;models&#160;and<br/>has&#160;been&#160;crucially&#160;involved&#160;in&#160;every&#160;aspect&#160;of&#160;this&#160;work.&#160;Noam&#160;proposed&#160;scaled&#160;dot-product&#160;attention,&#160;multi-head<br/>attention&#160;and&#160;the&#160;parameter-free&#160;position&#160;representation&#160;and&#160;became&#160;the&#160;other&#160;person&#160;involved&#160;in&#160;nearly&#160;every<br/>detail.&#160;Niki&#160;designed,&#160;implemented,&#160;tuned&#160;and&#160;evaluated&#160;countless&#160;model&#160;variants&#160;in&#160;our&#160;original&#160;codebase&#160;and<br/>tensor2tensor.&#160;Llion&#160;also&#160;experimented&#160;with&#160;novel&#160;model&#160;variants,&#160;was&#160;responsible&#160;for&#160;our&#160;initial&#160;codebase,&#160;and<br/>efficient&#160;inference&#160;and&#160;visualizations.&#160;Lukasz&#160;and&#160;Aidan&#160;spent&#160;countless&#160;long&#160;days&#160;designing&#160;various&#160;parts&#160;of&#160;and<br/>implementing&#160;tensor2tensor,&#160;replacing&#160;our&#160;earlier&#160;codebase,&#160;greatly&#160;improving&#160;results&#160;and&#160;massively&#160;accelerating<br/>our&#160;research.<br/>
+†Work&#160;performed&#160;while&#160;at&#160;Google&#160;Brain.<br/>‡Work&#160;performed&#160;while&#160;at&#160;Google&#160;Research.<br/>
+31st&#160;Conference&#160;on&#160;Neural&#160;Information&#160;Processing&#160;Systems&#160;(NIPS&#160;2017),&#160;Long&#160;Beach,&#160;CA,&#160;USA.<br/>
+<hr/>
+<a name=2></a>Recurrent&#160;models&#160;typically&#160;factor&#160;computation&#160;along&#160;the&#160;symbol&#160;positions&#160;of&#160;the&#160;input&#160;and&#160;output<br/>sequences.&#160;Aligning&#160;the&#160;positions&#160;to&#160;steps&#160;in&#160;computation&#160;time,&#160;they&#160;generate&#160;a&#160;sequence&#160;of&#160;hidden<br/>states&#160;ht,&#160;as&#160;a&#160;function&#160;of&#160;the&#160;previous&#160;hidden&#160;state&#160;ht−1&#160;and&#160;the&#160;input&#160;for&#160;position&#160;t.&#160;This&#160;inherently<br/>
+sequential&#160;nature&#160;precludes&#160;parallelization&#160;within&#160;training&#160;examples,&#160;which&#160;becomes&#160;critical&#160;at&#160;longer<br/>sequence&#160;lengths,&#160;as&#160;memory&#160;constraints&#160;limit&#160;batching&#160;across&#160;examples.&#160;Recent&#160;work&#160;has&#160;achieved<br/>significant&#160;improvements&#160;in&#160;computational&#160;efficiency&#160;through&#160;factorization&#160;tricks&#160;<a href="">[18]&#160;</a>and&#160;conditional<br/>computation&#160;<a href="">[26],&#160;</a>while&#160;also&#160;improving&#160;model&#160;performance&#160;in&#160;case&#160;of&#160;the&#160;latter.&#160;The&#160;fundamental<br/>constraint&#160;of&#160;sequential&#160;computation,&#160;however,&#160;remains.<br/>
+Attention&#160;mechanisms&#160;have&#160;become&#160;an&#160;integral&#160;part&#160;of&#160;compelling&#160;sequence&#160;modeling&#160;and&#160;transduc-<br/>
+tion&#160;models&#160;in&#160;various&#160;tasks,&#160;allowing&#160;modeling&#160;of&#160;dependencies&#160;without&#160;regard&#160;to&#160;their&#160;distance&#160;in<br/>the&#160;input&#160;or&#160;output&#160;sequences&#160;<a href="">[2,&#160;16].&#160;</a>In&#160;all&#160;but&#160;a&#160;few&#160;cases&#160;<a href="">[22],&#160;</a>however,&#160;such&#160;attention&#160;mechanisms<br/>are&#160;used&#160;in&#160;conjunction&#160;with&#160;a&#160;recurrent&#160;network.<br/>
+In&#160;this&#160;work&#160;we&#160;propose&#160;the&#160;Transformer,&#160;a&#160;model&#160;architecture&#160;eschewing&#160;recurrence&#160;and&#160;instead<br/>relying&#160;entirely&#160;on&#160;an&#160;attention&#160;mechanism&#160;to&#160;draw&#160;global&#160;dependencies&#160;between&#160;input&#160;and&#160;output.<br/>
+The&#160;Transformer&#160;allows&#160;for&#160;significantly&#160;more&#160;parallelization&#160;and&#160;can&#160;reach&#160;a&#160;new&#160;state&#160;of&#160;the&#160;art&#160;in<br/>
+translation&#160;quality&#160;after&#160;being&#160;trained&#160;for&#160;as&#160;little&#160;as&#160;twelve&#160;hours&#160;on&#160;eight&#160;P100&#160;GPUs.<br/>
+2<br/>
+Background<br/>
+The&#160;goal&#160;of&#160;reducing&#160;sequential&#160;computation&#160;also&#160;forms&#160;the&#160;foundation&#160;of&#160;the&#160;Extended&#160;Neural&#160;GPU<br/>
+<a href="">[20],&#160;</a>ByteNet&#160;<a href="">[15]&#160;</a>and&#160;ConvS2S&#160;<a href="">[8],&#160;</a>all&#160;of&#160;which&#160;use&#160;convolutional&#160;neural&#160;networks&#160;as&#160;basic&#160;building<br/>block,&#160;computing&#160;hidden&#160;representations&#160;in&#160;parallel&#160;for&#160;all&#160;input&#160;and&#160;output&#160;positions.&#160;In&#160;these&#160;models,<br/>the&#160;number&#160;of&#160;operations&#160;required&#160;to&#160;relate&#160;signals&#160;from&#160;two&#160;arbitrary&#160;input&#160;or&#160;output&#160;positions&#160;grows<br/>in&#160;the&#160;distance&#160;between&#160;positions,&#160;linearly&#160;for&#160;ConvS2S&#160;and&#160;logarithmically&#160;for&#160;ByteNet.&#160;This&#160;makes<br/>it&#160;more&#160;difficult&#160;to&#160;learn&#160;dependencies&#160;between&#160;distant&#160;positions&#160;<a href="">[11].&#160;</a>In&#160;the&#160;Transformer&#160;this&#160;is<br/>reduced&#160;to&#160;a&#160;constant&#160;number&#160;of&#160;operations,&#160;albeit&#160;at&#160;the&#160;cost&#160;of&#160;reduced&#160;effective&#160;resolution&#160;due<br/>to&#160;averaging&#160;attention-weighted&#160;positions,&#160;an&#160;effect&#160;we&#160;counteract&#160;with&#160;Multi-Head&#160;Attention&#160;as<br/>described&#160;in&#160;section&#160;<a href="">3.2.</a><br/>
+Self-attention,&#160;sometimes&#160;called&#160;intra-attention&#160;is&#160;an&#160;attention&#160;mechanism&#160;relating&#160;different&#160;positions<br/>of&#160;a&#160;single&#160;sequence&#160;in&#160;order&#160;to&#160;compute&#160;a&#160;representation&#160;of&#160;the&#160;sequence.&#160;Self-attention&#160;has&#160;been<br/>used&#160;successfully&#160;in&#160;a&#160;variety&#160;of&#160;tasks&#160;including&#160;reading&#160;comprehension,&#160;abstractive&#160;summarization,<br/>textual&#160;entailment&#160;and&#160;learning&#160;task-independent&#160;sentence&#160;representations&#160;<a href="">[4,&#160;22,&#160;23,&#160;19].</a><br/>
+End-to-end&#160;memory&#160;networks&#160;are&#160;based&#160;on&#160;a&#160;recurrent&#160;attention&#160;mechanism&#160;instead&#160;of&#160;sequence-<br/>aligned&#160;recurrence&#160;and&#160;have&#160;been&#160;shown&#160;to&#160;perform&#160;well&#160;on&#160;simple-language&#160;question&#160;answering&#160;and<br/>language&#160;modeling&#160;tasks&#160;<a href="">[28].</a><br/>
+To&#160;the&#160;best&#160;of&#160;our&#160;knowledge,&#160;however,&#160;the&#160;Transformer&#160;is&#160;the&#160;first&#160;transduction&#160;model&#160;relying<br/>
+entirely&#160;on&#160;self-attention&#160;to&#160;compute&#160;representations&#160;of&#160;its&#160;input&#160;and&#160;output&#160;without&#160;using&#160;sequence-<br/>aligned&#160;RNNs&#160;or&#160;convolution.&#160;In&#160;the&#160;following&#160;sections,&#160;we&#160;will&#160;describe&#160;the&#160;Transformer,&#160;motivate<br/>self-attention&#160;and&#160;discuss&#160;its&#160;advantages&#160;over&#160;models&#160;such&#160;as&#160;<a href="">[14,&#160;15]&#160;</a>and&#160;<a href="">[8].</a><br/>
+3<br/>
+Model&#160;Architecture<br/>
+Most&#160;competitive&#160;neural&#160;sequence&#160;transduction&#160;models&#160;have&#160;an&#160;encoder-decoder&#160;structure&#160;<a href="">[5,&#160;2,&#160;29].<br/></a>Here,&#160;the&#160;encoder&#160;maps&#160;an&#160;input&#160;sequence&#160;of&#160;symbol&#160;representations&#160;(x1,&#160;...,&#160;xn)&#160;to&#160;a&#160;sequence<br/>of&#160;continuous&#160;representations&#160;z&#160;=&#160;(z1,&#160;...,&#160;zn).&#160;Given&#160;z,&#160;the&#160;decoder&#160;then&#160;generates&#160;an&#160;output<br/>sequence&#160;(y1,&#160;...,&#160;ym)&#160;of&#160;symbols&#160;one&#160;element&#160;at&#160;a&#160;time.&#160;At&#160;each&#160;step&#160;the&#160;model&#160;is&#160;auto-regressive<br/><a href="">[9],&#160;</a>consuming&#160;the&#160;previously&#160;generated&#160;symbols&#160;as&#160;additional&#160;input&#160;when&#160;generating&#160;the&#160;next.<br/>
+The&#160;Transformer&#160;follows&#160;this&#160;overall&#160;architecture&#160;using&#160;stacked&#160;self-attention&#160;and&#160;point-wise,&#160;fully<br/>
+connected&#160;layers&#160;for&#160;both&#160;the&#160;encoder&#160;and&#160;decoder,&#160;shown&#160;in&#160;the&#160;left&#160;and&#160;right&#160;halves&#160;of&#160;Figure&#160;<a href="">1,<br/></a>respectively.<br/>
+3.1<br/>
+Encoder&#160;and&#160;Decoder&#160;Stacks<br/>
+Encoder:<br/>
+The&#160;encoder&#160;is&#160;composed&#160;of&#160;a&#160;stack&#160;of&#160;N&#160;=&#160;6&#160;identical&#160;layers.&#160;Each&#160;layer&#160;has&#160;two<br/>
+sub-layers.&#160;The&#160;first&#160;is&#160;a&#160;multi-head&#160;self-attention&#160;mechanism,&#160;and&#160;the&#160;second&#160;is&#160;a&#160;simple,&#160;position-<br/>
+2<br/>
+<hr/>
+<a name=3></a><img src="Attention is All You Need-3_1.png"/><br/>
+Figure&#160;1:&#160;The&#160;Transformer&#160;-&#160;model&#160;architecture.<br/>
+wise&#160;fully&#160;connected&#160;feed-forward&#160;network.&#160;We&#160;employ&#160;a&#160;residual&#160;connection&#160;<a href="">[10]&#160;</a>around&#160;each&#160;of<br/>
+the&#160;two&#160;sub-layers,&#160;followed&#160;by&#160;layer&#160;normalization&#160;<a href="">[1].&#160;</a>That&#160;is,&#160;the&#160;output&#160;of&#160;each&#160;sub-layer&#160;is<br/>LayerNorm(x&#160;+&#160;Sublayer(x)),&#160;where&#160;Sublayer(x)&#160;is&#160;the&#160;function&#160;implemented&#160;by&#160;the&#160;sub-layer<br/>itself.&#160;To&#160;facilitate&#160;these&#160;residual&#160;connections,&#160;all&#160;sub-layers&#160;in&#160;the&#160;model,&#160;as&#160;well&#160;as&#160;the&#160;embedding<br/>layers,&#160;produce&#160;outputs&#160;of&#160;dimension&#160;dmodel&#160;=&#160;512.<br/>
+Decoder:<br/>
+The&#160;decoder&#160;is&#160;also&#160;composed&#160;of&#160;a&#160;stack&#160;of&#160;N&#160;=&#160;6&#160;identical&#160;layers.&#160;In&#160;addition&#160;to&#160;the&#160;two<br/>
+sub-layers&#160;in&#160;each&#160;encoder&#160;layer,&#160;the&#160;decoder&#160;inserts&#160;a&#160;third&#160;sub-layer,&#160;which&#160;performs&#160;multi-head<br/>attention&#160;over&#160;the&#160;output&#160;of&#160;the&#160;encoder&#160;stack.&#160;Similar&#160;to&#160;the&#160;encoder,&#160;we&#160;employ&#160;residual&#160;connections<br/>around&#160;each&#160;of&#160;the&#160;sub-layers,&#160;followed&#160;by&#160;layer&#160;normalization.&#160;We&#160;also&#160;modify&#160;the&#160;self-attention<br/>sub-layer&#160;in&#160;the&#160;decoder&#160;stack&#160;to&#160;prevent&#160;positions&#160;from&#160;attending&#160;to&#160;subsequent&#160;positions.&#160;This<br/>masking,&#160;combined&#160;with&#160;fact&#160;that&#160;the&#160;output&#160;embeddings&#160;are&#160;offset&#160;by&#160;one&#160;position,&#160;ensures&#160;that&#160;the<br/>predictions&#160;for&#160;position&#160;i&#160;can&#160;depend&#160;only&#160;on&#160;the&#160;known&#160;outputs&#160;at&#160;positions&#160;less&#160;than&#160;i.<br/>
+3.2<br/>
+Attention<br/>
+An&#160;attention&#160;function&#160;can&#160;be&#160;described&#160;as&#160;mapping&#160;a&#160;query&#160;and&#160;a&#160;set&#160;of&#160;key-value&#160;pairs&#160;to&#160;an&#160;output,<br/>where&#160;the&#160;query,&#160;keys,&#160;values,&#160;and&#160;output&#160;are&#160;all&#160;vectors.&#160;The&#160;output&#160;is&#160;computed&#160;as&#160;a&#160;weighted&#160;sum<br/>
+of&#160;the&#160;values,&#160;where&#160;the&#160;weight&#160;assigned&#160;to&#160;each&#160;value&#160;is&#160;computed&#160;by&#160;a&#160;compatibility&#160;function&#160;of&#160;the<br/>query&#160;with&#160;the&#160;corresponding&#160;key.<br/>
+3.2.1<br/>
+Scaled&#160;Dot-Product&#160;Attention<br/>
+We&#160;call&#160;our&#160;particular&#160;attention&#160;&#34;Scaled&#160;Dot-Product&#160;Attention&#34;&#160;(Figure&#160;<a href="">2).&#160;</a>The&#160;input&#160;consists&#160;of<br/>
+queries&#160;and&#160;keys&#160;of&#160;dimension&#160;dk,&#160;and&#160;values&#160;of&#160;dimension&#160;dv.&#160;We&#160;compute&#160;the&#160;dot&#160;products&#160;of&#160;the<br/>
+3<br/>
+<hr/>
+<a name=4></a><img src="Attention is All You Need-4_1.png"/><br/>
+<img src="Attention is All You Need-4_2.png"/><br/>
+Scaled&#160;Dot-Product&#160;Attention<br/>
+Multi-Head&#160;Attention<br/>
+Figure&#160;2:&#160;(left)&#160;Scaled&#160;Dot-Product&#160;Attention.&#160;(right)&#160;Multi-Head&#160;Attention&#160;consists&#160;of&#160;several<br/>attention&#160;layers&#160;running&#160;in&#160;parallel.<br/>
+√<br/>
+query&#160;with&#160;all&#160;keys,&#160;divide&#160;each&#160;by<br/>
+dk,&#160;and&#160;apply&#160;a&#160;softmax&#160;function&#160;to&#160;obtain&#160;the&#160;weights&#160;on&#160;the<br/>
+values.<br/>
+In&#160;practice,&#160;we&#160;compute&#160;the&#160;attention&#160;function&#160;on&#160;a&#160;set&#160;of&#160;queries&#160;simultaneously,&#160;packed&#160;together<br/>into&#160;a&#160;matrix&#160;Q.&#160;The&#160;keys&#160;and&#160;values&#160;are&#160;also&#160;packed&#160;together&#160;into&#160;matrices&#160;K&#160;and&#160;V&#160;.&#160;We&#160;compute<br/>the&#160;matrix&#160;of&#160;outputs&#160;as:<br/>
+QKT<br/>
+Attention(Q,&#160;K,&#160;V&#160;)&#160;=&#160;softmax(&#160;√<br/>
+)V<br/>
+(1)<br/>
+dk<br/>
+The&#160;two&#160;most&#160;commonly&#160;used&#160;attention&#160;functions&#160;are&#160;additive&#160;attention&#160;<a href="">[2],&#160;</a>and&#160;dot-product&#160;(multi-<br/>
+plicative)&#160;attention.&#160;Dot-product&#160;attention&#160;is&#160;identical&#160;to&#160;our&#160;algorithm,&#160;except&#160;for&#160;the&#160;scaling&#160;factor<br/>of<br/>
+1<br/>
+√<br/>
+.&#160;Additive&#160;attention&#160;computes&#160;the&#160;compatibility&#160;function&#160;using&#160;a&#160;feed-forward&#160;network&#160;with<br/>
+dk<br/>
+a&#160;single&#160;hidden&#160;layer.&#160;While&#160;the&#160;two&#160;are&#160;similar&#160;in&#160;theoretical&#160;complexity,&#160;dot-product&#160;attention&#160;is<br/>much&#160;faster&#160;and&#160;more&#160;space-efficient&#160;in&#160;practice,&#160;since&#160;it&#160;can&#160;be&#160;implemented&#160;using&#160;highly&#160;optimized<br/>matrix&#160;multiplication&#160;code.<br/>
+While&#160;for&#160;small&#160;values&#160;of&#160;dk&#160;the&#160;two&#160;mechanisms&#160;perform&#160;similarly,&#160;additive&#160;attention&#160;outperforms<br/>
+dot&#160;product&#160;attention&#160;without&#160;scaling&#160;for&#160;larger&#160;values&#160;of&#160;dk&#160;<a href="">[3].&#160;</a>We&#160;suspect&#160;that&#160;for&#160;large&#160;values&#160;of<br/>dk,&#160;the&#160;dot&#160;products&#160;grow&#160;large&#160;in&#160;magnitude,&#160;pushing&#160;the&#160;softmax&#160;function&#160;into&#160;regions&#160;where&#160;it&#160;has<br/>extremely&#160;small&#160;gradients&#160;<a href="">4.&#160;</a>To&#160;counteract&#160;this&#160;effect,&#160;we&#160;scale&#160;the&#160;dot&#160;products&#160;by<br/>
+1<br/>
+√<br/>
+.<br/>
+dk<br/>
+3.2.2<br/>
+Multi-Head&#160;Attention<br/>
+Instead&#160;of&#160;performing&#160;a&#160;single&#160;attention&#160;function&#160;with&#160;dmodel-dimensional&#160;keys,&#160;values&#160;and&#160;queries,<br/>
+we&#160;found&#160;it&#160;beneficial&#160;to&#160;linearly&#160;project&#160;the&#160;queries,&#160;keys&#160;and&#160;values&#160;h&#160;times&#160;with&#160;different,&#160;learned<br/>
+linear&#160;projections&#160;to&#160;dk,&#160;dk&#160;and&#160;dv&#160;dimensions,&#160;respectively.&#160;On&#160;each&#160;of&#160;these&#160;projected&#160;versions&#160;of<br/>queries,&#160;keys&#160;and&#160;values&#160;we&#160;then&#160;perform&#160;the&#160;attention&#160;function&#160;in&#160;parallel,&#160;yielding&#160;dv-dimensional<br/>output&#160;values.&#160;These&#160;are&#160;concatenated&#160;and&#160;once&#160;again&#160;projected,&#160;resulting&#160;in&#160;the&#160;final&#160;values,&#160;as<br/>depicted&#160;in&#160;Figure&#160;<a href="">2.</a><br/>
+Multi-head&#160;attention&#160;allows&#160;the&#160;model&#160;to&#160;jointly&#160;attend&#160;to&#160;information&#160;from&#160;different&#160;representation<br/>subspaces&#160;at&#160;different&#160;positions.&#160;With&#160;a&#160;single&#160;attention&#160;head,&#160;averaging&#160;inhibits&#160;this.<br/>
+4To&#160;illustrate&#160;why&#160;the&#160;dot&#160;products&#160;get&#160;large,&#160;assume&#160;that&#160;the&#160;components&#160;of&#160;q&#160;and&#160;k&#160;are&#160;independent&#160;random<br/>
+Pd<br/>
+variables&#160;with&#160;mean&#160;0&#160;and&#160;variance&#160;1.&#160;Then&#160;their&#160;dot&#160;product,&#160;q<br/>
+k<br/>
+·&#160;k&#160;=<br/>
+q<br/>
+i=1&#160;iki,&#160;has&#160;mean&#160;0&#160;and&#160;variance&#160;dk&#160;.<br/>
+4<br/>
+<hr/>
+<a name=5></a>MultiHead(Q,&#160;K,&#160;V&#160;)&#160;=&#160;Concat(head1,&#160;...,&#160;headh)W&#160;O<br/>
+where&#160;headi&#160;=&#160;Attention(QW&#160;Q,&#160;KW&#160;K<br/>
+i<br/>
+i&#160;,&#160;V&#160;W&#160;V<br/>
+i&#160;)<br/>
+Where&#160;the&#160;projections&#160;are&#160;parameter&#160;matrices&#160;W&#160;Q<br/>
+i<br/>
+∈&#160;Rdmodel×dk&#160;,&#160;W&#160;K<br/>
+i<br/>
+∈&#160;Rdmodel×dk&#160;,&#160;W&#160;V<br/>
+i<br/>
+∈&#160;Rdmodel×dv<br/>
+and&#160;W&#160;O&#160;∈&#160;Rhdv×dmodel.<br/>
+In&#160;this&#160;work&#160;we&#160;employ&#160;h&#160;=&#160;8&#160;parallel&#160;attention&#160;layers,&#160;or&#160;heads.&#160;For&#160;each&#160;of&#160;these&#160;we&#160;use<br/>dk&#160;=&#160;dv&#160;=&#160;dmodel/h&#160;=&#160;64.&#160;Due&#160;to&#160;the&#160;reduced&#160;dimension&#160;of&#160;each&#160;head,&#160;the&#160;total&#160;computational&#160;cost<br/>is&#160;similar&#160;to&#160;that&#160;of&#160;single-head&#160;attention&#160;with&#160;full&#160;dimensionality.<br/>
+3.2.3<br/>
+Applications&#160;of&#160;Attention&#160;in&#160;our&#160;Model<br/>
+The&#160;Transformer&#160;uses&#160;multi-head&#160;attention&#160;in&#160;three&#160;different&#160;ways:<br/>
+•&#160;In&#160;&#34;encoder-decoder&#160;attention&#34;&#160;layers,&#160;the&#160;queries&#160;come&#160;from&#160;the&#160;previous&#160;decoder&#160;layer,<br/>
+and&#160;the&#160;memory&#160;keys&#160;and&#160;values&#160;come&#160;from&#160;the&#160;output&#160;of&#160;the&#160;encoder.&#160;This&#160;allows&#160;every<br/>position&#160;in&#160;the&#160;decoder&#160;to&#160;attend&#160;over&#160;all&#160;positions&#160;in&#160;the&#160;input&#160;sequence.&#160;This&#160;mimics&#160;the<br/>typical&#160;encoder-decoder&#160;attention&#160;mechanisms&#160;in&#160;sequence-to-sequence&#160;models&#160;such&#160;as<br/><a href="">[31,&#160;2,&#160;8].</a><br/>
+•&#160;The&#160;encoder&#160;contains&#160;self-attention&#160;layers.&#160;In&#160;a&#160;self-attention&#160;layer&#160;all&#160;of&#160;the&#160;keys,&#160;values<br/>
+and&#160;queries&#160;come&#160;from&#160;the&#160;same&#160;place,&#160;in&#160;this&#160;case,&#160;the&#160;output&#160;of&#160;the&#160;previous&#160;layer&#160;in&#160;the<br/>encoder.&#160;Each&#160;position&#160;in&#160;the&#160;encoder&#160;can&#160;attend&#160;to&#160;all&#160;positions&#160;in&#160;the&#160;previous&#160;layer&#160;of&#160;the<br/>encoder.<br/>
+•&#160;Similarly,&#160;self-attention&#160;layers&#160;in&#160;the&#160;decoder&#160;allow&#160;each&#160;position&#160;in&#160;the&#160;decoder&#160;to&#160;attend&#160;to<br/>
+all&#160;positions&#160;in&#160;the&#160;decoder&#160;up&#160;to&#160;and&#160;including&#160;that&#160;position.&#160;We&#160;need&#160;to&#160;prevent&#160;leftward<br/>information&#160;flow&#160;in&#160;the&#160;decoder&#160;to&#160;preserve&#160;the&#160;auto-regressive&#160;property.&#160;We&#160;implement&#160;this<br/>inside&#160;of&#160;scaled&#160;dot-product&#160;attention&#160;by&#160;masking&#160;out&#160;(setting&#160;to&#160;−∞)&#160;all&#160;values&#160;in&#160;the&#160;input<br/>of&#160;the&#160;softmax&#160;which&#160;correspond&#160;to&#160;illegal&#160;connections.&#160;See&#160;Figure&#160;<a href="">2.</a><br/>
+3.3<br/>
+Position-wise&#160;Feed-Forward&#160;Networks<br/>
+In&#160;addition&#160;to&#160;attention&#160;sub-layers,&#160;each&#160;of&#160;the&#160;layers&#160;in&#160;our&#160;encoder&#160;and&#160;decoder&#160;contains&#160;a&#160;fully<br/>connected&#160;feed-forward&#160;network,&#160;which&#160;is&#160;applied&#160;to&#160;each&#160;position&#160;separately&#160;and&#160;identically.&#160;This<br/>consists&#160;of&#160;two&#160;linear&#160;transformations&#160;with&#160;a&#160;ReLU&#160;activation&#160;in&#160;between.<br/>
+FFN(x)&#160;=&#160;max(0,&#160;xW1&#160;+&#160;b1)W2&#160;+&#160;b2<br/>
+(2)<br/>
+While&#160;the&#160;linear&#160;transformations&#160;are&#160;the&#160;same&#160;across&#160;different&#160;positions,&#160;they&#160;use&#160;different&#160;parameters<br/>
+from&#160;layer&#160;to&#160;layer.&#160;Another&#160;way&#160;of&#160;describing&#160;this&#160;is&#160;as&#160;two&#160;convolutions&#160;with&#160;kernel&#160;size&#160;1.<br/>
+The&#160;dimensionality&#160;of&#160;input&#160;and&#160;output&#160;is&#160;dmodel&#160;=&#160;512,&#160;and&#160;the&#160;inner-layer&#160;has&#160;dimensionality<br/>
+dff&#160;=&#160;2048.<br/>
+3.4<br/>
+Embeddings&#160;and&#160;Softmax<br/>
+Similarly&#160;to&#160;other&#160;sequence&#160;transduction&#160;models,&#160;we&#160;use&#160;learned&#160;embeddings&#160;to&#160;convert&#160;the&#160;input<br/>tokens&#160;and&#160;output&#160;tokens&#160;to&#160;vectors&#160;of&#160;dimension&#160;dmodel.&#160;We&#160;also&#160;use&#160;the&#160;usual&#160;learned&#160;linear&#160;transfor-<br/>mation&#160;and&#160;softmax&#160;function&#160;to&#160;convert&#160;the&#160;decoder&#160;output&#160;to&#160;predicted&#160;next-token&#160;probabilities.&#160;In<br/>our&#160;model,&#160;we&#160;share&#160;the&#160;same&#160;weight&#160;matrix&#160;between&#160;the&#160;two&#160;embedding&#160;layers&#160;and&#160;the&#160;pre-softmax<br/>
+√<br/>
+linear&#160;transformation,&#160;similar&#160;to&#160;<a href="">[24].&#160;</a>In&#160;the&#160;embedding&#160;layers,&#160;we&#160;multiply&#160;those&#160;weights&#160;by<br/>
+dmodel.<br/>
+3.5<br/>
+Positional&#160;Encoding<br/>
+Since&#160;our&#160;model&#160;contains&#160;no&#160;recurrence&#160;and&#160;no&#160;convolution,&#160;in&#160;order&#160;for&#160;the&#160;model&#160;to&#160;make&#160;use&#160;of&#160;the<br/>order&#160;of&#160;the&#160;sequence,&#160;we&#160;must&#160;inject&#160;some&#160;information&#160;about&#160;the&#160;relative&#160;or&#160;absolute&#160;position&#160;of&#160;the<br/>tokens&#160;in&#160;the&#160;sequence.&#160;To&#160;this&#160;end,&#160;we&#160;add&#160;&#34;positional&#160;encodings&#34;&#160;to&#160;the&#160;input&#160;embeddings&#160;at&#160;the<br/>
+5<br/>
+<hr/>
+<a name=6></a>Table&#160;1:&#160;Maximum&#160;path&#160;lengths,&#160;per-layer&#160;complexity&#160;and&#160;minimum&#160;number&#160;of&#160;sequential&#160;operations<br/>
+for&#160;different&#160;layer&#160;types.&#160;n&#160;is&#160;the&#160;sequence&#160;length,&#160;d&#160;is&#160;the&#160;representation&#160;dimension,&#160;k&#160;is&#160;the&#160;kernel<br/>size&#160;of&#160;convolutions&#160;and&#160;r&#160;the&#160;size&#160;of&#160;the&#160;neighborhood&#160;in&#160;restricted&#160;self-attention.<br/>
+Layer&#160;Type<br/>
+Complexity&#160;per&#160;Layer<br/>
+Sequential<br/>
+Maximum&#160;Path&#160;Length<br/>
+Operations<br/>
+Self-Attention<br/>
+O(n2&#160;·&#160;d)<br/>
+O(1)<br/>
+O(1)<br/>
+Recurrent<br/>
+O(n&#160;·&#160;d2)<br/>
+O(n)<br/>
+O(n)<br/>
+Convolutional<br/>
+O(k&#160;·&#160;n&#160;·&#160;d2)<br/>
+O(1)<br/>
+O(logk(n))<br/>
+Self-Attention&#160;(restricted)<br/>
+O(r&#160;·&#160;n&#160;·&#160;d)<br/>
+O(1)<br/>
+O(n/r)<br/>
+bottoms&#160;of&#160;the&#160;encoder&#160;and&#160;decoder&#160;stacks.&#160;The&#160;positional&#160;encodings&#160;have&#160;the&#160;same&#160;dimension&#160;dmodel<br/>as&#160;the&#160;embeddings,&#160;so&#160;that&#160;the&#160;two&#160;can&#160;be&#160;summed.&#160;There&#160;are&#160;many&#160;choices&#160;of&#160;positional&#160;encodings,<br/>learned&#160;and&#160;fixed&#160;<a href="">[8].</a><br/>
+In&#160;this&#160;work,&#160;we&#160;use&#160;sine&#160;and&#160;cosine&#160;functions&#160;of&#160;different&#160;frequencies:<br/>
+P&#160;E(pos,2i)&#160;=&#160;sin(pos/100002i/dmodel)<br/>
+P&#160;E(pos,2i+1)&#160;=&#160;cos(pos/100002i/dmodel)<br/>
+where&#160;pos&#160;is&#160;the&#160;position&#160;and&#160;i&#160;is&#160;the&#160;dimension.&#160;That&#160;is,&#160;each&#160;dimension&#160;of&#160;the&#160;positional&#160;encoding<br/>
+corresponds&#160;to&#160;a&#160;sinusoid.&#160;The&#160;wavelengths&#160;form&#160;a&#160;geometric&#160;progression&#160;from&#160;2π&#160;to&#160;10000&#160;·&#160;2π.&#160;We<br/>chose&#160;this&#160;function&#160;because&#160;we&#160;hypothesized&#160;it&#160;would&#160;allow&#160;the&#160;model&#160;to&#160;easily&#160;learn&#160;to&#160;attend&#160;by<br/>relative&#160;positions,&#160;since&#160;for&#160;any&#160;fixed&#160;offset&#160;k,&#160;P&#160;Epos+k&#160;can&#160;be&#160;represented&#160;as&#160;a&#160;linear&#160;function&#160;of<br/>P&#160;Epos.<br/>
+We&#160;also&#160;experimented&#160;with&#160;using&#160;learned&#160;positional&#160;embeddings&#160;<a href="">[8]&#160;</a>instead,&#160;and&#160;found&#160;that&#160;the&#160;two<br/>versions&#160;produced&#160;nearly&#160;identical&#160;results&#160;(see&#160;Table&#160;<a href="">3&#160;</a>row&#160;(E)).&#160;We&#160;chose&#160;the&#160;sinusoidal&#160;version<br/>
+because&#160;it&#160;may&#160;allow&#160;the&#160;model&#160;to&#160;extrapolate&#160;to&#160;sequence&#160;lengths&#160;longer&#160;than&#160;the&#160;ones&#160;encountered<br/>during&#160;training.<br/>
+4<br/>
+Why&#160;Self-Attention<br/>
+In&#160;this&#160;section&#160;we&#160;compare&#160;various&#160;aspects&#160;of&#160;self-attention&#160;layers&#160;to&#160;the&#160;recurrent&#160;and&#160;convolu-<br/>tional&#160;layers&#160;commonly&#160;used&#160;for&#160;mapping&#160;one&#160;variable-length&#160;sequence&#160;of&#160;symbol&#160;representations<br/>
+(x1,&#160;...,&#160;xn)&#160;to&#160;another&#160;sequence&#160;of&#160;equal&#160;length&#160;(z1,&#160;...,&#160;zn),&#160;with&#160;xi,&#160;zi&#160;∈&#160;Rd,&#160;such&#160;as&#160;a&#160;hidden<br/>
+layer&#160;in&#160;a&#160;typical&#160;sequence&#160;transduction&#160;encoder&#160;or&#160;decoder.&#160;Motivating&#160;our&#160;use&#160;of&#160;self-attention&#160;we<br/>consider&#160;three&#160;desiderata.<br/>
+One&#160;is&#160;the&#160;total&#160;computational&#160;complexity&#160;per&#160;layer.&#160;Another&#160;is&#160;the&#160;amount&#160;of&#160;computation&#160;that&#160;can<br/>be&#160;parallelized,&#160;as&#160;measured&#160;by&#160;the&#160;minimum&#160;number&#160;of&#160;sequential&#160;operations&#160;required.<br/>
+The&#160;third&#160;is&#160;the&#160;path&#160;length&#160;between&#160;long-range&#160;dependencies&#160;in&#160;the&#160;network.&#160;Learning&#160;long-range<br/>
+dependencies&#160;is&#160;a&#160;key&#160;challenge&#160;in&#160;many&#160;sequence&#160;transduction&#160;tasks.&#160;One&#160;key&#160;factor&#160;affecting&#160;the<br/>ability&#160;to&#160;learn&#160;such&#160;dependencies&#160;is&#160;the&#160;length&#160;of&#160;the&#160;paths&#160;forward&#160;and&#160;backward&#160;signals&#160;have&#160;to<br/>traverse&#160;in&#160;the&#160;network.&#160;The&#160;shorter&#160;these&#160;paths&#160;between&#160;any&#160;combination&#160;of&#160;positions&#160;in&#160;the&#160;input<br/>and&#160;output&#160;sequences,&#160;the&#160;easier&#160;it&#160;is&#160;to&#160;learn&#160;long-range&#160;dependencies&#160;<a href="">[11].&#160;</a>Hence&#160;we&#160;also&#160;compare<br/>the&#160;maximum&#160;path&#160;length&#160;between&#160;any&#160;two&#160;input&#160;and&#160;output&#160;positions&#160;in&#160;networks&#160;composed&#160;of&#160;the<br/>different&#160;layer&#160;types.<br/>
+As&#160;noted&#160;in&#160;Table&#160;<a href="">1,&#160;</a>a&#160;self-attention&#160;layer&#160;connects&#160;all&#160;positions&#160;with&#160;a&#160;constant&#160;number&#160;of&#160;sequentially<br/>
+executed&#160;operations,&#160;whereas&#160;a&#160;recurrent&#160;layer&#160;requires&#160;O(n)&#160;sequential&#160;operations.&#160;In&#160;terms&#160;of<br/>computational&#160;complexity,&#160;self-attention&#160;layers&#160;are&#160;faster&#160;than&#160;recurrent&#160;layers&#160;when&#160;the&#160;sequence<br/>length&#160;n&#160;is&#160;smaller&#160;than&#160;the&#160;representation&#160;dimensionality&#160;d,&#160;which&#160;is&#160;most&#160;often&#160;the&#160;case&#160;with<br/>sentence&#160;representations&#160;used&#160;by&#160;state-of-the-art&#160;models&#160;in&#160;machine&#160;translations,&#160;such&#160;as&#160;word-piece<br/><a href="">[31]&#160;</a>and&#160;byte-pair&#160;<a href="">[25]&#160;</a>representations.&#160;To&#160;improve&#160;computational&#160;performance&#160;for&#160;tasks&#160;involving<br/>very&#160;long&#160;sequences,&#160;self-attention&#160;could&#160;be&#160;restricted&#160;to&#160;considering&#160;only&#160;a&#160;neighborhood&#160;of&#160;size&#160;r&#160;in<br/>
+6<br/>
+<hr/>
+<a name=7></a>the&#160;input&#160;sequence&#160;centered&#160;around&#160;the&#160;respective&#160;output&#160;position.&#160;This&#160;would&#160;increase&#160;the&#160;maximum<br/>path&#160;length&#160;to&#160;O(n/r).&#160;We&#160;plan&#160;to&#160;investigate&#160;this&#160;approach&#160;further&#160;in&#160;future&#160;work.<br/>
+A&#160;single&#160;convolutional&#160;layer&#160;with&#160;kernel&#160;width&#160;k&#160;&lt;&#160;n&#160;does&#160;not&#160;connect&#160;all&#160;pairs&#160;of&#160;input&#160;and&#160;output<br/>
+positions.&#160;Doing&#160;so&#160;requires&#160;a&#160;stack&#160;of&#160;O(n/k)&#160;convolutional&#160;layers&#160;in&#160;the&#160;case&#160;of&#160;contiguous&#160;kernels,<br/>or&#160;O(logk(n))&#160;in&#160;the&#160;case&#160;of&#160;dilated&#160;convolutions&#160;<a href="">[15],&#160;</a>increasing&#160;the&#160;length&#160;of&#160;the&#160;longest&#160;paths<br/>between&#160;any&#160;two&#160;positions&#160;in&#160;the&#160;network.&#160;Convolutional&#160;layers&#160;are&#160;generally&#160;more&#160;expensive&#160;than<br/>recurrent&#160;layers,&#160;by&#160;a&#160;factor&#160;of&#160;k.&#160;Separable&#160;convolutions&#160;<a href="">[6],&#160;</a>however,&#160;decrease&#160;the&#160;complexity<br/>considerably,&#160;to&#160;O(k&#160;·&#160;n&#160;·&#160;d&#160;+&#160;n&#160;·&#160;d2).&#160;Even&#160;with&#160;k&#160;=&#160;n,&#160;however,&#160;the&#160;complexity&#160;of&#160;a&#160;separable<br/>convolution&#160;is&#160;equal&#160;to&#160;the&#160;combination&#160;of&#160;a&#160;self-attention&#160;layer&#160;and&#160;a&#160;point-wise&#160;feed-forward&#160;layer,<br/>the&#160;approach&#160;we&#160;take&#160;in&#160;our&#160;model.<br/>
+As&#160;side&#160;benefit,&#160;self-attention&#160;could&#160;yield&#160;more&#160;interpretable&#160;models.&#160;We&#160;inspect&#160;attention&#160;distributions<br/>
+from&#160;our&#160;models&#160;and&#160;present&#160;and&#160;discuss&#160;examples&#160;in&#160;the&#160;appendix.&#160;Not&#160;only&#160;do&#160;individual&#160;attention<br/>heads&#160;clearly&#160;learn&#160;to&#160;perform&#160;different&#160;tasks,&#160;many&#160;appear&#160;to&#160;exhibit&#160;behavior&#160;related&#160;to&#160;the&#160;syntactic<br/>and&#160;semantic&#160;structure&#160;of&#160;the&#160;sentences.<br/>
+5<br/>
+Training<br/>
+This&#160;section&#160;describes&#160;the&#160;training&#160;regime&#160;for&#160;our&#160;models.<br/>
+5.1<br/>
+Training&#160;Data&#160;and&#160;Batching<br/>
+We&#160;trained&#160;on&#160;the&#160;standard&#160;WMT&#160;2014&#160;English-German&#160;dataset&#160;consisting&#160;of&#160;about&#160;4.5&#160;million<br/>
+sentence&#160;pairs.&#160;Sentences&#160;were&#160;encoded&#160;using&#160;byte-pair&#160;encoding&#160;<a href="">[3],&#160;</a>which&#160;has&#160;a&#160;shared&#160;source-<br/>target&#160;vocabulary&#160;of&#160;about&#160;37000&#160;tokens.&#160;For&#160;English-French,&#160;we&#160;used&#160;the&#160;significantly&#160;larger&#160;WMT<br/>2014&#160;English-French&#160;dataset&#160;consisting&#160;of&#160;36M&#160;sentences&#160;and&#160;split&#160;tokens&#160;into&#160;a&#160;32000&#160;word-piece<br/>vocabulary&#160;<a href="">[31].&#160;</a>Sentence&#160;pairs&#160;were&#160;batched&#160;together&#160;by&#160;approximate&#160;sequence&#160;length.&#160;Each&#160;training<br/>batch&#160;contained&#160;a&#160;set&#160;of&#160;sentence&#160;pairs&#160;containing&#160;approximately&#160;25000&#160;source&#160;tokens&#160;and&#160;25000<br/>target&#160;tokens.<br/>
+5.2<br/>
+Hardware&#160;and&#160;Schedule<br/>
+We&#160;trained&#160;our&#160;models&#160;on&#160;one&#160;machine&#160;with&#160;8&#160;NVIDIA&#160;P100&#160;GPUs.&#160;For&#160;our&#160;base&#160;models&#160;using<br/>
+the&#160;hyperparameters&#160;described&#160;throughout&#160;the&#160;paper,&#160;each&#160;training&#160;step&#160;took&#160;about&#160;0.4&#160;seconds.&#160;We<br/>trained&#160;the&#160;base&#160;models&#160;for&#160;a&#160;total&#160;of&#160;100,000&#160;steps&#160;or&#160;12&#160;hours.&#160;For&#160;our&#160;big&#160;models,(described&#160;on&#160;the<br/>bottom&#160;line&#160;of&#160;table&#160;<a href="">3),&#160;</a>step&#160;time&#160;was&#160;1.0&#160;seconds.&#160;The&#160;big&#160;models&#160;were&#160;trained&#160;for&#160;300,000&#160;steps<br/>
+(3.5&#160;days).<br/>
+5.3<br/>
+Optimizer<br/>
+We&#160;used&#160;the&#160;Adam&#160;optimizer&#160;<a href="">[17]&#160;</a>with&#160;β1&#160;=&#160;0.9,&#160;β2&#160;=&#160;0.98&#160;and&#160;ǫ&#160;=&#160;10−9.&#160;We&#160;varied&#160;the&#160;learning<br/>
+rate&#160;over&#160;the&#160;course&#160;of&#160;training,&#160;according&#160;to&#160;the&#160;formula:<br/>
+lrate&#160;=&#160;d−0.5<br/>
+model&#160;·&#160;min(step_num−0.5,&#160;step_num&#160;·&#160;warmup_steps−1.5)<br/>
+(3)<br/>
+This&#160;corresponds&#160;to&#160;increasing&#160;the&#160;learning&#160;rate&#160;linearly&#160;for&#160;the&#160;first&#160;warmup_steps&#160;training&#160;steps,<br/>
+and&#160;decreasing&#160;it&#160;thereafter&#160;proportionally&#160;to&#160;the&#160;inverse&#160;square&#160;root&#160;of&#160;the&#160;step&#160;number.&#160;We&#160;used<br/>warmup_steps&#160;=&#160;4000.<br/>
+5.4<br/>
+Regularization<br/>
+We&#160;employ&#160;three&#160;types&#160;of&#160;regularization&#160;during&#160;training:<br/>
+Residual&#160;Dropout<br/>
+We&#160;apply&#160;dropout&#160;<a href="">[27]&#160;</a>to&#160;the&#160;output&#160;of&#160;each&#160;sub-layer,&#160;before&#160;it&#160;is&#160;added&#160;to&#160;the<br/>
+sub-layer&#160;input&#160;and&#160;normalized.&#160;In&#160;addition,&#160;we&#160;apply&#160;dropout&#160;to&#160;the&#160;sums&#160;of&#160;the&#160;embeddings&#160;and&#160;the<br/>positional&#160;encodings&#160;in&#160;both&#160;the&#160;encoder&#160;and&#160;decoder&#160;stacks.&#160;For&#160;the&#160;base&#160;model,&#160;we&#160;use&#160;a&#160;rate&#160;of<br/>Pdrop&#160;=&#160;0.1.<br/>
+7<br/>
+<hr/>
+<a name=8></a>Table&#160;2:&#160;The&#160;Transformer&#160;achieves&#160;better&#160;BLEU&#160;scores&#160;than&#160;previous&#160;state-of-the-art&#160;models&#160;on&#160;the<br/>
+English-to-German&#160;and&#160;English-to-French&#160;newstest2014&#160;tests&#160;at&#160;a&#160;fraction&#160;of&#160;the&#160;training&#160;cost.<br/>
+BLEU<br/>
+Training&#160;Cost&#160;(FLOPs)<br/>
+Model<br/>
+EN-DE<br/>
+EN-FR<br/>
+EN-DE<br/>
+EN-FR<br/>
+ByteNet&#160;<a href="">[15]</a><br/>
+23.75<br/>
+Deep-Att&#160;+&#160;PosUnk&#160;<a href="">[32]</a><br/>
+39.2<br/>
+1.0&#160;·&#160;1020<br/>
+GNMT&#160;+&#160;RL&#160;<a href="">[31]</a><br/>
+24.6<br/>
+39.92<br/>
+2.3&#160;·&#160;1019<br/>
+1.4&#160;·&#160;1020<br/>
+ConvS2S&#160;<a href="">[8]</a><br/>
+25.16<br/>
+40.46<br/>
+9.6&#160;·&#160;1018<br/>
+1.5&#160;·&#160;1020<br/>
+MoE&#160;<a href="">[26]</a><br/>
+26.03<br/>
+40.56<br/>
+2.0&#160;·&#160;1019<br/>
+1.2&#160;·&#160;1020<br/>
+Deep-Att&#160;+&#160;PosUnk&#160;Ensemble&#160;<a href="">[32]</a><br/>
+40.4<br/>
+8.0&#160;·&#160;1020<br/>
+GNMT&#160;+&#160;RL&#160;Ensemble&#160;<a href="">[31]</a><br/>
+26.30<br/>
+41.16<br/>
+1.8&#160;·&#160;1020<br/>
+1.1&#160;·&#160;1021<br/>
+ConvS2S&#160;Ensemble&#160;<a href="">[8]</a><br/>
+26.36<br/>
+41.29<br/>
+7.7&#160;·&#160;1019<br/>
+1.2&#160;·&#160;1021<br/>
+Transformer&#160;(base&#160;model)<br/>
+27.3<br/>
+38.1<br/>
+3&#160;3<br/>
+.<br/>
+·&#160;1018<br/>
+Transformer&#160;(big)<br/>
+28.4<br/>
+41.0<br/>
+2.3&#160;·&#160;1019<br/>
+Label&#160;Smoothing<br/>
+During&#160;training,&#160;we&#160;employed&#160;label&#160;smoothing&#160;of&#160;value&#160;ǫls&#160;=&#160;0.1&#160;<a href="">[30].&#160;</a>This<br/>
+hurts&#160;perplexity,&#160;as&#160;the&#160;model&#160;learns&#160;to&#160;be&#160;more&#160;unsure,&#160;but&#160;improves&#160;accuracy&#160;and&#160;BLEU&#160;score.<br/>
+6<br/>
+Results<br/>
+6.1<br/>
+Machine&#160;Translation<br/>
+On&#160;the&#160;WMT&#160;2014&#160;English-to-German&#160;translation&#160;task,&#160;the&#160;big&#160;transformer&#160;model&#160;(Transformer&#160;(big)<br/>in&#160;Table&#160;<a href="">2)&#160;</a>outperforms&#160;the&#160;best&#160;previously&#160;reported&#160;models&#160;(including&#160;ensembles)&#160;by&#160;more&#160;than&#160;2.0<br/>BLEU,&#160;establishing&#160;a&#160;new&#160;state-of-the-art&#160;BLEU&#160;score&#160;of&#160;28.4.&#160;The&#160;configuration&#160;of&#160;this&#160;model&#160;is<br/>listed&#160;in&#160;the&#160;bottom&#160;line&#160;of&#160;Table&#160;<a href="">3.&#160;</a>Training&#160;took&#160;3.5&#160;days&#160;on&#160;8&#160;P100&#160;GPUs.&#160;Even&#160;our&#160;base&#160;model<br/>surpasses&#160;all&#160;previously&#160;published&#160;models&#160;and&#160;ensembles,&#160;at&#160;a&#160;fraction&#160;of&#160;the&#160;training&#160;cost&#160;of&#160;any&#160;of<br/>the&#160;competitive&#160;models.<br/>
+On&#160;the&#160;WMT&#160;2014&#160;English-to-French&#160;translation&#160;task,&#160;our&#160;big&#160;model&#160;achieves&#160;a&#160;BLEU&#160;score&#160;of&#160;41.0,<br/>outperforming&#160;all&#160;of&#160;the&#160;previously&#160;published&#160;single&#160;models,&#160;at&#160;less&#160;than&#160;1/4&#160;the&#160;training&#160;cost&#160;of&#160;the<br/>previous&#160;state-of-the-art&#160;model.&#160;The&#160;Transformer&#160;(big)&#160;model&#160;trained&#160;for&#160;English-to-French&#160;used<br/>dropout&#160;rate&#160;Pdrop&#160;=&#160;0.1,&#160;instead&#160;of&#160;0.3.<br/>
+For&#160;the&#160;base&#160;models,&#160;we&#160;used&#160;a&#160;single&#160;model&#160;obtained&#160;by&#160;averaging&#160;the&#160;last&#160;5&#160;checkpoints,&#160;which<br/>
+were&#160;written&#160;at&#160;10-minute&#160;intervals.&#160;For&#160;the&#160;big&#160;models,&#160;we&#160;averaged&#160;the&#160;last&#160;20&#160;checkpoints.&#160;We<br/>
+used&#160;beam&#160;search&#160;with&#160;a&#160;beam&#160;size&#160;of&#160;4&#160;and&#160;length&#160;penalty&#160;α&#160;=&#160;0.6&#160;<a href="">[31].&#160;</a>These&#160;hyperparameters<br/>
+were&#160;chosen&#160;after&#160;experimentation&#160;on&#160;the&#160;development&#160;set.&#160;We&#160;set&#160;the&#160;maximum&#160;output&#160;length&#160;during<br/>
+inference&#160;to&#160;input&#160;length&#160;+&#160;50,&#160;but&#160;terminate&#160;early&#160;when&#160;possible&#160;<a href="">[31].</a><br/>
+Table&#160;<a href="">2&#160;</a>summarizes&#160;our&#160;results&#160;and&#160;compares&#160;our&#160;translation&#160;quality&#160;and&#160;training&#160;costs&#160;to&#160;other&#160;model<br/>
+architectures&#160;from&#160;the&#160;literature.&#160;We&#160;estimate&#160;the&#160;number&#160;of&#160;floating&#160;point&#160;operations&#160;used&#160;to&#160;train&#160;a<br/>model&#160;by&#160;multiplying&#160;the&#160;training&#160;time,&#160;the&#160;number&#160;of&#160;GPUs&#160;used,&#160;and&#160;an&#160;estimate&#160;of&#160;the&#160;sustained<br/>single-precision&#160;floating-point&#160;capacity&#160;of&#160;each&#160;GPU&#160;<a href="">5.</a><br/>
+6.2<br/>
+Model&#160;Variations<br/>
+To&#160;evaluate&#160;the&#160;importance&#160;of&#160;different&#160;components&#160;of&#160;the&#160;Transformer,&#160;we&#160;varied&#160;our&#160;base&#160;model<br/>
+in&#160;different&#160;ways,&#160;measuring&#160;the&#160;change&#160;in&#160;performance&#160;on&#160;English-to-German&#160;translation&#160;on&#160;the<br/>development&#160;set,&#160;newstest2013.&#160;We&#160;used&#160;beam&#160;search&#160;as&#160;described&#160;in&#160;the&#160;previous&#160;section,&#160;but&#160;no<br/>checkpoint&#160;averaging.&#160;We&#160;present&#160;these&#160;results&#160;in&#160;Table&#160;<a href="">3.</a><br/>
+In&#160;Table&#160;<a href="">3&#160;</a>rows&#160;(A),&#160;we&#160;vary&#160;the&#160;number&#160;of&#160;attention&#160;heads&#160;and&#160;the&#160;attention&#160;key&#160;and&#160;value&#160;dimensions,<br/>keeping&#160;the&#160;amount&#160;of&#160;computation&#160;constant,&#160;as&#160;described&#160;in&#160;Section&#160;<a href="">3.2.2.&#160;</a>While&#160;single-head<br/>attention&#160;is&#160;0.9&#160;BLEU&#160;worse&#160;than&#160;the&#160;best&#160;setting,&#160;quality&#160;also&#160;drops&#160;off&#160;with&#160;too&#160;many&#160;heads.<br/>
+5We&#160;used&#160;values&#160;of&#160;2.8,&#160;3.7,&#160;6.0&#160;and&#160;9.5&#160;TFLOPS&#160;for&#160;K80,&#160;K40,&#160;M40&#160;and&#160;P100,&#160;respectively.<br/>
+8<br/>
+<hr/>
+<a name=9></a>Table&#160;3:&#160;Variations&#160;on&#160;the&#160;Transformer&#160;architecture.&#160;Unlisted&#160;values&#160;are&#160;identical&#160;to&#160;those&#160;of&#160;the&#160;base<br/>
+model.&#160;All&#160;metrics&#160;are&#160;on&#160;the&#160;English-to-German&#160;translation&#160;development&#160;set,&#160;newstest2013.&#160;Listed<br/>perplexities&#160;are&#160;per-wordpiece,&#160;according&#160;to&#160;our&#160;byte-pair&#160;encoding,&#160;and&#160;should&#160;not&#160;be&#160;compared&#160;to<br/>per-word&#160;perplexities.<br/>
+train<br/>
+PPL<br/>
+BLEU<br/>
+params<br/>
+N<br/>
+dmodel<br/>
+dff<br/>
+h<br/>
+dk<br/>
+dv<br/>
+Pdrop<br/>
+ǫls<br/>
+steps<br/>
+(dev)<br/>
+(dev)<br/>
+×106<br/>
+base<br/>
+6<br/>
+512<br/>
+2048<br/>
+8<br/>
+64<br/>
+64<br/>
+0.1<br/>
+0.1<br/>
+100K<br/>
+4.92<br/>
+25.8<br/>
+65<br/>
+1<br/>
+512<br/>
+512<br/>
+5.29<br/>
+24.9<br/>
+4<br/>
+128<br/>
+128<br/>
+5.00<br/>
+25.5<br/>
+(A)<br/>
+16<br/>
+32<br/>
+32<br/>
+4.91<br/>
+25.8<br/>
+32<br/>
+16<br/>
+16<br/>
+5.01<br/>
+25.4<br/>
+16<br/>
+5.16<br/>
+25.1<br/>
+58<br/>
+(B)<br/>
+32<br/>
+5.01<br/>
+25.4<br/>
+60<br/>
+2<br/>
+6.11<br/>
+23.7<br/>
+36<br/>
+4<br/>
+5.19<br/>
+25.3<br/>
+50<br/>
+8<br/>
+4.88<br/>
+25.5<br/>
+80<br/>
+(C)<br/>
+256<br/>
+32<br/>
+32<br/>
+5.75<br/>
+24.5<br/>
+28<br/>
+1024<br/>
+128<br/>
+128<br/>
+4.66<br/>
+26.0<br/>
+168<br/>
+1024<br/>
+5.12<br/>
+25.4<br/>
+53<br/>
+4096<br/>
+4.75<br/>
+26.2<br/>
+90<br/>
+0.0<br/>
+5.77<br/>
+24.6<br/>
+0.2<br/>
+4.95<br/>
+25.5<br/>
+(D)<br/>
+0.0<br/>
+4.67<br/>
+25.3<br/>
+0.2<br/>
+5.47<br/>
+25.7<br/>
+(E)<br/>
+positional&#160;embedding&#160;instead&#160;of&#160;sinusoids<br/>
+4.92<br/>
+25.7<br/>
+big<br/>
+6<br/>
+1024<br/>
+4096<br/>
+16<br/>
+0.3<br/>
+300K<br/>
+4.33<br/>
+26.4<br/>
+213<br/>
+In&#160;Table&#160;<a href="">3&#160;</a>rows&#160;(B),&#160;we&#160;observe&#160;that&#160;reducing&#160;the&#160;attention&#160;key&#160;size&#160;dk&#160;hurts&#160;model&#160;quality.&#160;This<br/>suggests&#160;that&#160;determining&#160;compatibility&#160;is&#160;not&#160;easy&#160;and&#160;that&#160;a&#160;more&#160;sophisticated&#160;compatibility<br/>function&#160;than&#160;dot&#160;product&#160;may&#160;be&#160;beneficial.&#160;We&#160;further&#160;observe&#160;in&#160;rows&#160;(C)&#160;and&#160;(D)&#160;that,&#160;as&#160;expected,<br/>bigger&#160;models&#160;are&#160;better,&#160;and&#160;dropout&#160;is&#160;very&#160;helpful&#160;in&#160;avoiding&#160;over-fitting.&#160;In&#160;row&#160;(E)&#160;we&#160;replace&#160;our<br/>sinusoidal&#160;positional&#160;encoding&#160;with&#160;learned&#160;positional&#160;embeddings&#160;<a href="">[8],&#160;</a>and&#160;observe&#160;nearly&#160;identical<br/>results&#160;to&#160;the&#160;base&#160;model.<br/>
+7<br/>
+Conclusion<br/>
+In&#160;this&#160;work,&#160;we&#160;presented&#160;the&#160;Transformer,&#160;the&#160;first&#160;sequence&#160;transduction&#160;model&#160;based&#160;entirely&#160;on<br/>attention,&#160;replacing&#160;the&#160;recurrent&#160;layers&#160;most&#160;commonly&#160;used&#160;in&#160;encoder-decoder&#160;architectures&#160;with<br/>multi-headed&#160;self-attention.<br/>
+For&#160;translation&#160;tasks,&#160;the&#160;Transformer&#160;can&#160;be&#160;trained&#160;significantly&#160;faster&#160;than&#160;architectures&#160;based<br/>on&#160;recurrent&#160;or&#160;convolutional&#160;layers.&#160;On&#160;both&#160;WMT&#160;2014&#160;English-to-German&#160;and&#160;WMT&#160;2014<br/>English-to-French&#160;translation&#160;tasks,&#160;we&#160;achieve&#160;a&#160;new&#160;state&#160;of&#160;the&#160;art.&#160;In&#160;the&#160;former&#160;task&#160;our&#160;best<br/>model&#160;outperforms&#160;even&#160;all&#160;previously&#160;reported&#160;ensembles.<br/>
+We&#160;are&#160;excited&#160;about&#160;the&#160;future&#160;of&#160;attention-based&#160;models&#160;and&#160;plan&#160;to&#160;apply&#160;them&#160;to&#160;other&#160;tasks.&#160;We<br/>
+plan&#160;to&#160;extend&#160;the&#160;Transformer&#160;to&#160;problems&#160;involving&#160;input&#160;and&#160;output&#160;modalities&#160;other&#160;than&#160;text&#160;and<br/>to&#160;investigate&#160;local,&#160;restricted&#160;attention&#160;mechanisms&#160;to&#160;efficiently&#160;handle&#160;large&#160;inputs&#160;and&#160;outputs<br/>such&#160;as&#160;images,&#160;audio&#160;and&#160;video.&#160;Making&#160;generation&#160;less&#160;sequential&#160;is&#160;another&#160;research&#160;goals&#160;of&#160;ours.<br/>
+The&#160;code&#160;we&#160;used&#160;to&#160;train&#160;and&#160;evaluate&#160;our&#160;models&#160;is&#160;available&#160;at&#160;<a href="https://github.com/tensorflow/tensor2tensor">https://github.com/</a><br/>
+<a href="https://github.com/tensorflow/tensor2tensor">tensorflow/tensor2tensor.</a><br/>
+Acknowledgements<br/>
+We&#160;are&#160;grateful&#160;to&#160;Nal&#160;Kalchbrenner&#160;and&#160;Stephan&#160;Gouws&#160;for&#160;their&#160;fruitful<br/>
+comments,&#160;corrections&#160;and&#160;inspiration.<br/>
+9<br/>
+<hr/>
+<a name=10></a>References<br/>
+[1]&#160;Jimmy&#160;Lei&#160;Ba,&#160;Jamie&#160;Ryan&#160;Kiros,&#160;and&#160;Geoffrey&#160;E&#160;Hinton.&#160;Layer&#160;normalization.&#160;<i>arXiv&#160;preprint</i><br/>
+<i>arXiv:1607.06450</i>,&#160;2016.<br/>
+[2]&#160;Dzmitry&#160;Bahdanau,&#160;Kyunghyun&#160;Cho,&#160;and&#160;Yoshua&#160;Bengio.&#160;Neural&#160;machine&#160;translation&#160;by&#160;jointly<br/>
+learning&#160;to&#160;align&#160;and&#160;translate.&#160;<i>CoRR</i>,&#160;abs/1409.0473,&#160;2014.<br/>
+[3]&#160;Denny&#160;Britz,&#160;Anna&#160;Goldie,&#160;Minh-Thang&#160;Luong,&#160;and&#160;Quoc&#160;V.&#160;Le.&#160;Massive&#160;exploration&#160;of&#160;neural<br/>
+machine&#160;translation&#160;architectures.&#160;<i>CoRR</i>,&#160;abs/1703.03906,&#160;2017.<br/>
+[4]&#160;Jianpeng&#160;Cheng,&#160;Li&#160;Dong,&#160;and&#160;Mirella&#160;Lapata.&#160;Long&#160;short-term&#160;memory-networks&#160;for&#160;machine<br/>
+reading.&#160;<i>arXiv&#160;preprint&#160;arXiv:1601.06733</i>,&#160;2016.<br/>
+[5]&#160;Kyunghyun&#160;Cho,&#160;Bart&#160;van&#160;Merrienboer,&#160;Caglar&#160;Gulcehre,&#160;Fethi&#160;Bougares,&#160;Holger&#160;Schwenk,<br/>
+and&#160;Yoshua&#160;Bengio.&#160;Learning&#160;phrase&#160;representations&#160;using&#160;rnn&#160;encoder-decoder&#160;for&#160;statistical<br/>machine&#160;translation.&#160;<i>CoRR</i>,&#160;abs/1406.1078,&#160;2014.<br/>
+[6]&#160;Francois&#160;Chollet.&#160;Xception:&#160;Deep&#160;learning&#160;with&#160;depthwise&#160;separable&#160;convolutions.&#160;<i>arXiv</i><br/>
+<i>preprint&#160;arXiv:1610.02357</i>,&#160;2016.<br/>
+[7]&#160;Junyoung&#160;Chung,&#160;Çaglar&#160;Gülçehre,&#160;Kyunghyun&#160;Cho,&#160;and&#160;Yoshua&#160;Bengio.&#160;Empirical&#160;evaluation<br/>
+of&#160;gated&#160;recurrent&#160;neural&#160;networks&#160;on&#160;sequence&#160;modeling.&#160;<i>CoRR</i>,&#160;abs/1412.3555,&#160;2014.<br/>
+[8]&#160;Jonas&#160;Gehring,&#160;Michael&#160;Auli,&#160;David&#160;Grangier,&#160;Denis&#160;Yarats,&#160;and&#160;Yann&#160;N.&#160;Dauphin.&#160;Convolu-<br/>
+tional&#160;sequence&#160;to&#160;sequence&#160;learning.&#160;<i>arXiv&#160;preprint&#160;arXiv:1705.03122v2</i>,&#160;2017.<br/>
+[9]&#160;Alex&#160;Graves.<br/>
+Generating&#160;sequences&#160;with&#160;recurrent&#160;neural&#160;networks.<br/>
+<i>arXiv&#160;preprint</i><br/>
+<i>arXiv:1308.0850</i>,&#160;2013.<br/>
+[10]&#160;Kaiming&#160;He,&#160;Xiangyu&#160;Zhang,&#160;Shaoqing&#160;Ren,&#160;and&#160;Jian&#160;Sun.&#160;Deep&#160;residual&#160;learning&#160;for&#160;im-<br/>
+age&#160;recognition.&#160;In&#160;<i>Proceedings&#160;of&#160;the&#160;IEEE&#160;Conference&#160;on&#160;Computer&#160;Vision&#160;and&#160;Pattern</i><br/>
+<i>Recognition</i>,&#160;pages&#160;770–778,&#160;2016.<br/>
+[11]&#160;Sepp&#160;Hochreiter,&#160;Yoshua&#160;Bengio,&#160;Paolo&#160;Frasconi,&#160;and&#160;Jürgen&#160;Schmidhuber.&#160;Gradient&#160;flow&#160;in<br/>
+recurrent&#160;nets:&#160;the&#160;difficulty&#160;of&#160;learning&#160;long-term&#160;dependencies,&#160;2001.<br/>
+[12]&#160;Sepp&#160;Hochreiter&#160;and&#160;Jürgen&#160;Schmidhuber.&#160;Long&#160;short-term&#160;memory.&#160;<i>Neural&#160;computation</i>,<br/>
+9(8):1735–1780,&#160;1997.<br/>
+[13]&#160;Rafal&#160;Jozefowicz,&#160;Oriol&#160;Vinyals,&#160;Mike&#160;Schuster,&#160;Noam&#160;Shazeer,&#160;and&#160;Yonghui&#160;Wu.&#160;Exploring<br/>
+the&#160;limits&#160;of&#160;language&#160;modeling.&#160;<i>arXiv&#160;preprint&#160;arXiv:1602.02410</i>,&#160;2016.<br/>
+[14]&#160;Łukasz&#160;Kaiser&#160;and&#160;Ilya&#160;Sutskever.&#160;Neural&#160;GPUs&#160;learn&#160;algorithms.&#160;In&#160;<i>International&#160;Conference</i><br/>
+<i>on&#160;Learning&#160;Representations&#160;(ICLR)</i>,&#160;2016.<br/>
+[15]&#160;Nal&#160;Kalchbrenner,&#160;Lasse&#160;Espeholt,&#160;Karen&#160;Simonyan,&#160;Aaron&#160;van&#160;den&#160;Oord,&#160;Alex&#160;Graves,&#160;and&#160;Ko-<br/>
+ray&#160;Kavukcuoglu.&#160;Neural&#160;machine&#160;translation&#160;in&#160;linear&#160;time.&#160;<i>arXiv&#160;preprint&#160;arXiv:1610.10099v2</i>,<br/>2017.<br/>
+[16]&#160;Yoon&#160;Kim,&#160;Carl&#160;Denton,&#160;Luong&#160;Hoang,&#160;and&#160;Alexander&#160;M.&#160;Rush.&#160;Structured&#160;attention&#160;networks.<br/>
+In&#160;<i>International&#160;Conference&#160;on&#160;Learning&#160;Representations</i>,&#160;2017.<br/>
+[17]&#160;Diederik&#160;Kingma&#160;and&#160;Jimmy&#160;Ba.&#160;Adam:&#160;A&#160;method&#160;for&#160;stochastic&#160;optimization.&#160;In&#160;<i>ICLR</i>,&#160;2015.<br/>
+[18]&#160;Oleksii&#160;Kuchaiev&#160;and&#160;Boris&#160;Ginsburg.&#160;Factorization&#160;tricks&#160;for&#160;LSTM&#160;networks.&#160;<i>arXiv&#160;preprint</i><br/>
+<i>arXiv:1703.10722</i>,&#160;2017.<br/>
+[19]&#160;Zhouhan&#160;Lin,&#160;Minwei&#160;Feng,&#160;Cicero&#160;Nogueira&#160;dos&#160;Santos,&#160;Mo&#160;Yu,&#160;Bing&#160;Xiang,&#160;Bowen<br/>
+Zhou,&#160;and&#160;Yoshua&#160;Bengio.&#160;A&#160;structured&#160;self-attentive&#160;sentence&#160;embedding.&#160;<i>arXiv&#160;preprint<br/>arXiv:1703.03130</i>,&#160;2017.<br/>
+[20]&#160;Samy&#160;Bengio&#160;Łukasz&#160;Kaiser.&#160;Can&#160;active&#160;memory&#160;replace&#160;attention?&#160;In&#160;<i>Advances&#160;in&#160;Neural</i><br/>
+<i>Information&#160;Processing&#160;Systems,&#160;(NIPS)</i>,&#160;2016.<br/>
+10<br/>
+<hr/>
+<a name=11></a>[21]&#160;Minh-Thang&#160;Luong,&#160;Hieu&#160;Pham,&#160;and&#160;Christopher&#160;D&#160;Manning.&#160;Effective&#160;approaches&#160;to&#160;attention-<br/>
+based&#160;neural&#160;machine&#160;translation.&#160;<i>arXiv&#160;preprint&#160;arXiv:1508.04025</i>,&#160;2015.<br/>
+[22]&#160;Ankur&#160;Parikh,&#160;Oscar&#160;Täckström,&#160;Dipanjan&#160;Das,&#160;and&#160;Jakob&#160;Uszkoreit.&#160;A&#160;decomposable&#160;attention<br/>
+model.&#160;In&#160;<i>Empirical&#160;Methods&#160;in&#160;Natural&#160;Language&#160;Processing</i>,&#160;2016.<br/>
+[23]&#160;Romain&#160;Paulus,&#160;Caiming&#160;Xiong,&#160;and&#160;Richard&#160;Socher.&#160;A&#160;deep&#160;reinforced&#160;model&#160;for&#160;abstractive<br/>
+summarization.&#160;<i>arXiv&#160;preprint&#160;arXiv:1705.04304</i>,&#160;2017.<br/>
+[24]&#160;Ofir&#160;Press&#160;and&#160;Lior&#160;Wolf.&#160;Using&#160;the&#160;output&#160;embedding&#160;to&#160;improve&#160;language&#160;models.&#160;<i>arXiv</i><br/>
+<i>preprint&#160;arXiv:1608.05859</i>,&#160;2016.<br/>
+[25]&#160;Rico&#160;Sennrich,&#160;Barry&#160;Haddow,&#160;and&#160;Alexandra&#160;Birch.&#160;Neural&#160;machine&#160;translation&#160;of&#160;rare&#160;words<br/>
+with&#160;subword&#160;units.&#160;<i>arXiv&#160;preprint&#160;arXiv:1508.07909</i>,&#160;2015.<br/>
+[26]&#160;Noam&#160;Shazeer,&#160;Azalia&#160;Mirhoseini,&#160;Krzysztof&#160;Maziarz,&#160;Andy&#160;Davis,&#160;Quoc&#160;Le,&#160;Geoffrey&#160;Hinton,<br/>
+and&#160;Jeff&#160;Dean.&#160;Outrageously&#160;large&#160;neural&#160;networks:&#160;The&#160;sparsely-gated&#160;mixture-of-experts<br/>layer.&#160;<i>arXiv&#160;preprint&#160;arXiv:1701.06538</i>,&#160;2017.<br/>
+[27]&#160;Nitish&#160;Srivastava,&#160;Geoffrey&#160;E&#160;Hinton,&#160;Alex&#160;Krizhevsky,&#160;Ilya&#160;Sutskever,&#160;and&#160;Ruslan&#160;Salakhutdi-<br/>
+nov.&#160;Dropout:&#160;a&#160;simple&#160;way&#160;to&#160;prevent&#160;neural&#160;networks&#160;from&#160;overfitting.&#160;<i>Journal&#160;of&#160;Machine</i><br/>
+<i>Learning&#160;Research</i>,&#160;15(1):1929–1958,&#160;2014.<br/>
+[28]&#160;Sainbayar&#160;Sukhbaatar,&#160;arthur&#160;szlam,&#160;Jason&#160;Weston,&#160;and&#160;Rob&#160;Fergus.&#160;End-to-end&#160;memory<br/>
+networks.&#160;In&#160;C.&#160;Cortes,&#160;N.&#160;D.&#160;Lawrence,&#160;D.&#160;D.&#160;Lee,&#160;M.&#160;Sugiyama,&#160;and&#160;R.&#160;Garnett,&#160;editors,<br/>
+<i>Advances&#160;in&#160;Neural&#160;Information&#160;Processing&#160;Systems&#160;28</i>,&#160;pages&#160;2440–2448.&#160;Curran&#160;Associates,<br/>
+Inc.,&#160;2015.<br/>
+[29]&#160;Ilya&#160;Sutskever,&#160;Oriol&#160;Vinyals,&#160;and&#160;Quoc&#160;VV&#160;Le.&#160;Sequence&#160;to&#160;sequence&#160;learning&#160;with&#160;neural<br/>
+networks.&#160;In&#160;<i>Advances&#160;in&#160;Neural&#160;Information&#160;Processing&#160;Systems</i>,&#160;pages&#160;3104–3112,&#160;2014.<br/>
+[30]&#160;Christian&#160;Szegedy,&#160;Vincent&#160;Vanhoucke,&#160;Sergey&#160;Ioffe,&#160;Jonathon&#160;Shlens,&#160;and&#160;Zbigniew&#160;Wojna.<br/>
+Rethinking&#160;the&#160;inception&#160;architecture&#160;for&#160;computer&#160;vision.&#160;<i>CoRR</i>,&#160;abs/1512.00567,&#160;2015.<br/>
+[31]&#160;Yonghui&#160;Wu,&#160;Mike&#160;Schuster,&#160;Zhifeng&#160;Chen,&#160;Quoc&#160;V&#160;Le,&#160;Mohammad&#160;Norouzi,&#160;Wolfgang<br/>
+Macherey,&#160;Maxim&#160;Krikun,&#160;Yuan&#160;Cao,&#160;Qin&#160;Gao,&#160;Klaus&#160;Macherey,&#160;et&#160;al.&#160;Google’s&#160;neural&#160;machine<br/>translation&#160;system:&#160;Bridging&#160;the&#160;gap&#160;between&#160;human&#160;and&#160;machine&#160;translation.&#160;<i>arXiv&#160;preprint<br/>arXiv:1609.08144</i>,&#160;2016.<br/>
+[32]&#160;Jie&#160;Zhou,&#160;Ying&#160;Cao,&#160;Xuguang&#160;Wang,&#160;Peng&#160;Li,&#160;and&#160;Wei&#160;Xu.&#160;Deep&#160;recurrent&#160;models&#160;with<br/>
+fast-forward&#160;connections&#160;for&#160;neural&#160;machine&#160;translation.&#160;<i>CoRR</i>,&#160;abs/1606.04199,&#160;2016.<br/>
+11<br/>
+<hr/>
+</body>
+</html>