各デコーダは、セルフ・アテンション機構、エンコーディングに関するアテンション機構、ffサブレイヤの3コンポーネントで構成されている。