リザバー計算に触発された軽量型Transformerの提案：パラメタ共有を用いた計算の効率化と性能評価

手法の検証には独英翻訳タスクを用い，BLEU近年，自然言語処理（NLP）分野において，Trans-スコアなどを指標にVanillaTransformerやReservoirformer[1]は機械翻訳や言語モデル，文生成など数多Transformerと比較する．結果として，最大15%超くのタスクで顕著な成果を示している．一方で，近のパラメタ削減とBLEU≈28の精度維持が同時に可年の大規模化傾向[2,3]により，モデルのパラメタ能であり，パラメタ共有層の増加により学習の立ち数は数十億を超える例も珍しくなく，膨大な学習・上がりに遅れを生じるが，最終性能には大きく影響推論コストが問題視されてきた．とりわけ研究開発しないことが示された．提案アーキテクチャの離散コストや環境負荷の増大はGreenAI[4]の観点から力学系としての特徴づけを行うこと（例えば，カオも深刻であり，軽量かつ効率的なTransformerの設ス性の役割の理解[7]）は，NLPを非線形ダイナミ―3103―.クスの視点から理解することや，よりよい学習器の設計につながると考えられる．