(57)【要約】  本明細書は、通信システムにおけるエンドツーエンド学習に関し、複数の送信機ニュートラルネットワークと複数の受信機ニューラルネットワークを、複数の送信機−受信機ニューラルネットワークペアに編成することであって、送信機−受信機ニューラルネットワークペアが、マルチキャリア送信システムの複数のサブキャリア周波数帯域のそれぞれに対して定義される、編成することと、マルチキャリア送信システムの複数のシンボルを複数の送信ブロックに配置することと、送信機−受信機ニューラルネットワークペアのうちの１つに前記送信ブロックのそれぞれをマッピングすることと、マッピングされた送信機−受信機ニューラルネットワークペアを使用して、各シンボルを送信することと、各送信機−受信機ニューラルネットワークペアについての損失関数を使用して、送信および受信ニューラルネットワークの少なくともいくつかの重みを訓練することと、を説明する。【選択図】図５
2021500813.tif 000002
【特許請求の範囲】
【請求項１】
複数の送信機ニュートラルネットワークと複数の受信機ニューラルネットワークを、複数の送信機−受信機ニューラルネットワークペアに編成することであって、送信機−受信機ニューラルネットワークペアが、マルチキャリア送信システムの複数のサブキャリア周波数帯域のそれぞれに対して定義される、編成することと、
前記マルチキャリア送信システムの複数のシンボルを複数の送信ブロックに配置することと、
前記送信機−受信機ニューラルネットワークペアのうちの１つに前記送信ブロックのそれぞれをマッピングすることと、
前記マッピングされた送信機−受信機ニューラルネットワークペアを使用して、各シンボルを送信することと、
各送信機−受信機ニューラルネットワークペアについての損失関数を使用して、前記送信および受信ニューラルネットワークの少なくともいくつかの重みを訓練することと
を含む、方法。
【請求項２】
前記送信されたシンボルの推定を生成するために、前記複数の受信機ニューラルネットワークにおいて受信された各シンボルをマッピングすることをさらに含む、請求項１に記載の方法。
【請求項３】
前記送信および受信ニューラルネットワークの前記少なくともいくつかの重みが、確率的勾配降下法を使用して訓練される、請求項１または２に記載の方法。
【請求項４】
前記損失関数が、ブロックエラー率に関するものである、請求項１〜３のいずれか１項に記載の方法。
【請求項５】
各シンボルが、前記マッピングされた送信機−受信機ニューラルネットワークペアの前記送信機ニューラルネットワークから前記受信機ニューラルネットワークにチャネルを介して送信される、請求項１〜４のいずれか１項に記載の方法。
【請求項６】
前記チャネルが、前記複数の送信機および受信機ニューラルネットワークペアのそれぞれに共通である、請求項５に記載の方法。
【請求項７】
前記チャネルが、１つまたは複数の計算層を備えるモデルである、請求項５または６に記載の方法。
【請求項８】
前記送信機−受信機ニューラルネットワークペアへの前記送信ブロックのそれぞれの前記マッピングを最適化することをさらに含む、請求項１〜７のいずれか１項に記載の方法。
【請求項９】
前記送信ブロックのそれぞれの前記マッピングが、強化学習を使用して最適化される、請求項８に記載の方法。
【請求項１０】
異なるシンボルにまたがるデータビットをインターリーブすることをさらに含む、請求項１〜９のいずれか１項に記載の方法。
【請求項１１】
搬送波周波数オフセットニューラルネットワークモジュールを使用して、搬送波周波数オフセットを補正することをさらに含む、請求項１〜１０のいずれか１項に記載の方法。
【請求項１２】
チャネル等化ニュートラルネットワークモジュールを使用して、チャネル等化を行うことをさらに含む、請求項１〜１１のいずれか１項に記載の方法。
【請求項１３】
前記マルチキャリア送信システムが、直交周波数分割多重システムである、請求項１〜１２のいずれか１項に記載の方法。
【請求項１４】
請求項１〜１３のいずれか１項に記載の方法を行うように構成された装置。
【請求項１５】
計算装置によって実行されると、請求項１〜１３のいずれか１項に記載の方法を前記計算装置に行わせるコンピュータ可読命令。
【請求項１６】
コンピュータ可読コードが格納されたコンピュータ可読媒体であって、前記コンピュータ可読コードが、少なくとも１つのプロセッサによって実行されると、
複数の送信機ニュートラルネットワークと複数の受信機ニューラルネットワークを、複数の送信機−受信機ニューラルネットワークペアに編成することであって、送信機−受信機ニューラルネットワークペアが、マルチキャリア送信システムの複数のサブキャリア周波数帯域のそれぞれに対して定義される、編成することと、
前記マルチキャリア送信システムの複数のシンボルを複数の送信ブロックに配置することと、
前記送信機−受信機ニューラルネットワークペアのうちの１つに前記送信ブロックのそれぞれをマッピングすることと、
前記マッピングされた送信機−受信機ニューラルネットワークペアを使用して、各シンボルを送信することと、
各送信機−受信機ニューラルネットワークペアについての損失関数を使用して、前記送信および受信ニューラルネットワークの少なくともいくつかの重みを訓練することと
の実行を引き起こす、コンピュータ可読媒体。
【請求項１７】
装置であって、
少なくとも１つのプロセッサと、
コンピュータプログラムコードを含む少なくとも１つのメモリであって、前記コンピュータプログラムコードは、前記少なくとも１つのプロセッサによって実行されると、前記装置に、
複数の送信機ニュートラルネットワークと複数の受信機ニューラルネットワークを、複数の送信機−受信機ニューラルネットワークペアに編成することであって、送信機−受信機ニューラルネットワークペアが、マルチキャリア送信システムの複数のサブキャリア周波数帯域のそれぞれに対して定義される、編成すること、
前記マルチキャリア送信システムの複数のシンボルを複数の送信ブロックに配置すること、
前記送信機−受信機ニューラルネットワークペアのうちの１つに前記送信ブロックのそれぞれをマッピングすること、
前記マッピングされた送信機−受信機ニューラルネットワークペアを使用して、各シンボルを送信すること、ならびに
各送信機−受信機ニューラルネットワークペアについての損失関数を使用して、前記送信および受信ニューラルネットワークの少なくともいくつかの重みを訓練すること
を行わせる、少なくとも１つのメモリと
を備える、装置。
【請求項１８】
複数の送信機ニュートラルネットワークと複数の受信機ニューラルネットワークを、複数の送信機−受信機ニューラルネットワークペアに編成するための手段であって、送信機−受信機ニューラルネットワークペアが、マルチキャリア送信システムの複数のサブキャリア周波数帯域のそれぞれに対して定義される、手段と、
前記マルチキャリア送信システムの複数のシンボルを複数の送信ブロックに配置するための手段と、
前記送信機−受信機ニューラルネットワークペアのうちの１つに前記送信ブロックのそれぞれをマッピングするための手段と、
前記マッピングされた送信機−受信機ニューラルネットワークペアを使用して、各シンボルを送信するための手段と、
各送信機−受信機ニューラルネットワークペアについての損失関数を使用して、前記送信および受信ニューラルネットワークの少なくともいくつかの重みを訓練するための手段と
を備える、装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本明細書は、通信システムにおける学習に関する。
【背景技術】
【０００２】
単純な通信システムは、送信機、送信チャネル、および受信機を含む。このような通信システムの設計は、典型的には、システムの各部分の別々の設計および最適化を伴う。代替アプローチは、通信システム全体を単一のシステムとして考えること、および、システム全体を最適化しようとすることである。従来技術においていくつかの試行が行われてきたが、この分野におけるさらなる改善および実装形態の余地が残っている。
【発明の概要】
【０００３】
第１の態様において、本明細書は、複数の送信機ニュートラルネットワークと複数の受信機ニューラルネットワークを、複数の送信機−受信機ニューラルネットワークペアに編成することであって、送信機−受信機ニューラルネットワークペアが、マルチキャリア送信システムの複数のサブキャリア周波数帯域のそれぞれに対して定義される、編成することと、マルチキャリア送信システムの複数のシンボルを複数の送信ブロックに配置することと、送信機−受信機ニューラルネットワークペアのうちの１つに前記送信ブロックのそれぞれをマッピングすることと、マッピングされた送信機−受信機ニューラルネットワークペアを使用して、各シンボルを送信することと、各送信機−受信機ニューラルネットワークペアについての損失関数を使用して、送信および受信ニューラルネットワークの少なくともいくつかの重みを訓練することと、を含む方法を説明する。送信および受信ニューラルネットワークの少なくともいくつかの重みは、確率的勾配降下法を使用して訓練されてもよい。損失関数は、ブロックエラー率に関するものであってもよい。マルチキャリア送信システムは、直交周波数分割多重システムであってもよい。
【０００４】
方法は、送信されたシンボルの推定を生成するために、複数の受信機ニューラルネットワークにおいて受信された各シンボルをマッピングすることをさらに含んでもよい。
【０００５】
各シンボルは、マッピングされた送信機−受信機ニューラルネットワークペアの送信機ニューラルネットワークから受信機ニューラルネットワークにチャネルを介して送信されてもよい。チャネル（ｃｈａｎｎｅｌ）は、複数の送信機および受信機ニューラルネットワークペアのそれぞれに共通であってもよい。さらに、チャネルは、計算モデルであってもよい。
【０００６】
第１の態様は、例えば強化学習（ｒｅｉｎｆｏｒｃｅｍｅｎｔ  ｌｅａｒｎｉｎｇ）を使用して、送信機−受信機ニューラルネットワークペアへの前記送信ブロックのそれぞれのマッピングを最適化することをさらに含んでもよい。
【０００７】
第１の態様は、異なるシンボルにまたがるデータビットをインターリーブ（ｉｎｔｅｒｌｅａｖｅ）することをさらに含んでもよい。
【０００８】
第１の態様は、搬送波周波数オフセットニューラルネットワークモジュールを使用して、搬送波周波数オフセットを補正することをさらに含んでもよい。代替として、または、さらに、第１の態様は、チャネル等化ニュートラルネットワークモジュールを使用して、チャネル等化（ｃｈａｎｎｅｌ  ｅｑｕａｌｉｚａｔｉｏｎ）を行うことを含んでもよい。
【０００９】
第２の態様において、本明細書は、第１の態様について説明されたようないずれかの方法を行うように構成された装置を説明する。
【００１０】
第３の態様において、本明細書は、計算装置によって実行されると、第１の態様について説明されたようないずれかの方法を計算装置に行わせるコンピュータ可読命令を説明する。
【００１１】
第４の態様において、本明細書は、コンピュータ可読コードが格納されたコンピュータ可読媒体であって、コンピュータ可読コードが、少なくとも１つのプロセッサによって実行されると、複数の送信機ニュートラルネットワークと複数の受信機ニューラルネットワークを、複数の送信機−受信機ニューラルネットワークペアに編成することであって、送信機−受信機ニューラルネットワークペアが、マルチキャリア送信システムの複数のサブキャリア周波数帯域のそれぞれに対して定義される、編成することと、マルチキャリア送信システムの複数のシンボルを複数の送信ブロックに配置することと、送信機−受信機ニューラルネットワークペアのうちの１つに前記送信ブロックのそれぞれをマッピングすることと、マッピングされた送信機−受信機ニューラルネットワークペアを使用して、各シンボルを送信することと、各送信機−受信機ニューラルネットワークペアについての損失関数を使用して、送信および受信ニューラルネットワークの少なくともいくつかの重みを訓練することと、の実行を引き起こす、コンピュータ可読媒体を説明する。
【００１２】
第５の態様において、本明細書は、装置であって、少なくとも１つのプロセッサと、コンピュータプログラムコードを含む少なくとも１つのメモリであって、コンピュータプログラムコードは、少なくとも１つのプロセッサによって実行されると、装置に、複数の送信機ニュートラルネットワークと複数の受信機ニューラルネットワークを、複数の送信機−受信機ニューラルネットワークペアに編成することであって、送信機−受信機ニューラルネットワークペアが、マルチキャリア送信システムの複数のサブキャリア周波数帯域のそれぞれに対して定義される、編成すること、マルチキャリア送信システムの複数のシンボルを複数の送信ブロックに配置すること、送信機−受信機ニューラルネットワークペアのうちの１つに前記送信ブロックのそれぞれをマッピングすること、マッピングされた送信機−受信機ニューラルネットワークペアを使用して、各シンボルを送信すること、ならびに各送信機−受信機ニューラルネットワークペアについての損失関数を使用して、送信および受信ニューラルネットワークの少なくともいくつかの重みを訓練すること、を行わせる、少なくとも１つのメモリと、を備える装置を説明する。
【００１３】
第６の態様において、本明細書は、複数の送信機ニュートラルネットワークと複数の受信機ニューラルネットワークを、複数の送信機−受信機ニューラルネットワークペアに編成するための手段であって、送信機−受信機ニューラルネットワークペアが、マルチキャリア送信システムの複数のサブキャリア周波数帯域のそれぞれに対して定義される、手段と、マルチキャリア送信システムの複数のシンボルを複数の送信ブロックに配置するための手段と、送信機−受信機ニューラルネットワークペアのうちの１つに前記送信ブロックのそれぞれをマッピングするための手段と、マッピングされた送信機−受信機ニューラルネットワークペアを使用して、各シンボルを送信するための手段と、各送信機−受信機ニューラルネットワークペアについての損失関数を使用して、送信および受信ニューラルネットワークの少なくともいくつかの重みを訓練するための手段と、を備える装置を説明する。
【００１４】
実施形態の例が、次に、以下の概略的な図面を参照しながら、非限定的な例として説明される。
【図面の簡単な説明】
【００１５】
【図１】図１は、例示的な通信システムのブロック図である。
【図２】図２は、図１のシステムの例示的な実装形態において使用され得る送信機のブロック図である。
【図３】図３は、図１のシステムの例示的な実装形態において使用され得る受信機のブロック図である。
【図４】図４は、例示的なＯＦＤＭフレームを示す図である。
【図５】図５は、例示的な実施形態によるマルチキャリア送信システムのブロック図である。
【図６】図６は、図５のシステムの例示的な使用を示す流れ図である。
【図７】図７は、例示的な搬送波周波数オフセットモジュールを示すブロック図である。
【図８】図８は、例示的なチャネル等化モジュールのブロック図である。
【図９】図９は、例示的な実施形態による処理システムの構成要素のブロック図である。
【図１０】図１０ａ及び図１０ｂは、コンピュータによって実行されると、実施形態による動作を行うコンピュータ可読コードを格納する、それぞれ、取外し可能メモリユニットおよびコンパクトディスク（ＣＤ）である、有形媒体を示す図である。
【発明を実施するための形態】
【００１６】
図１は、参照番号１によって全体的に示された例示的な通信システムのブロック図である。通信システム１は、送信機２、チャネル４、および受信機６を備える。送信機２は、シンボルｓを受信し、エンコードし、エンコードされたシンボルを、チャネル４を介して受信機に送信する。受信機６は、チャネル４から信号を受信し、受信されたシンボルをデコードして、完全なシステムでは送信機において受信されたシンボルｓと同一であるはずの、デコードされた出力シンボル
【数１】
2021500813.tif 000003
を提供する。
【００１７】
ニューラルネットワークを使用して送信機２および受信機６を実行することによって、ニューラルネットワークは、システム１のエンドツーエンド（ｅｎｄ−ｔｏ−ｅｎｄ）の実行を最適化するために、一緒に訓練されることが可能である。
【００１８】
図１に示されるように、システム１は、送信機入力ベクトルｓを受信する。入力ｓは、送信機２によってエンコードされる。送信機２のニューラルネットワークは、チャネル４を使用して送信するための信号に入力ｓを変換するために使用される。ニューラルネットワークは、複数の層を含むことができる（いわゆる、ディープニューラルネットワーク）。例えば、送信機ニューラルネットワークは、訓練可能な重みを伴ういくつかの層、および、固定された重みを伴ういくつかの層を有してもよい。同様に、受信機６は、チャネルの出力を、出力
【数２】
2021500813.tif 000004
に変換するために使用される。受信機６のニューラルネットワークは、複数の層を含むことができる（いわゆる、ディープニューラルネットワーク）。例えば、受信機ニューラルネットワークは、訓練可能な重みを伴ういくつかの層、および、固定された重みを伴ういくつかの層を有してもよい。
【００１９】
通信システムの背景において、出力
【数３】
2021500813.tif 000005
は、典型的には、入力ｓの受信機のベストの推測である。受信機６は、出力
【数４】
2021500813.tif 000006
が入力ｓにどれほど正確にマッチするかを監視する損失関数を含んでもよい。損失関数の出力は、次に、送信機のニューラルネットワーク、および／または、受信機のニューラルネットワークの重みを訓練する際に使用されることが可能である。
【００２０】
本明細書は、上述の基本的な通信システム１を、直交周波数分割多重（ＯＦＤＭ）などのマルチキャリア送信に拡張する実施形態を説明する。
【００２１】
ＯＦＤＭに典型的なものとして、Ｎ個のサブキャリアを伴うＳ個のＯＦＤＭシンボルのフレームを考察する。このようなフレームは、したがって、周波数ドメインにおけるＮ．Ｓの複素数値のシンボルからなっており、
【数５】
2021500813.tif 000007
で表される。以下において、ニューラルネットワーク（ＮＮ：ｎｅｕｒａｌ  ｎｅｔｗｏｒｋ）を使用して、このようなフレーム上でデータをどのように送信し、受信するかについての方法を説明する。
【００２２】
ｋ＝１、…、Ｋのとき、それぞれ
【数６】
2021500813.tif 000008
および
【数７】
2021500813.tif 000009
と名付けられた、Ｋ≧１のニューラルネットワークの２つのコレクションを考察する。これらのニューラルネットワークは、マッピング
【数８】
2021500813.tif 000010
を定義する。
【００２３】
言い換えれば、
【数９】
2021500813.tif 000011
は、集合
【数１０】
2021500813.tif 000012
からの整数をｎk次元の複素数値ベクトルにマッピングし、一方で、
【数１１】
2021500813.tif 000013
は、ｎk次元の複素数値ベクトルをＭk個の可能なクラス上の確率ベクトルにマッピングする。これらのマッピングがニューラルネットワークとして、どのように実行されることが可能であるかを、図２および図３においてそれぞれ説明する。
【００２４】
（ＯＦＤＭなどの）マルチキャリア送信システムを実行するために、図１の通信システムは、（図５を参照しながら下記で詳細に説明されるような）並行に動作する複数の送信機、および、並行に動作する複数の受信機を提供するために修正される。
【００２５】
図２は、いくつかの並列送信機モジュールのうちの１つとして使用されてもよい、参照番号１０によって全体的に示された、送信機のブロック図である。送信機１０は、複数のうちのｋ番目の送信機である。
【００２６】
図２に示されるように、送信機１０は、入力ｓを受信し、出力ベクトルｘを提供し、ここで、
【数１２】
2021500813.tif 000014
および
【数１３】
2021500813.tif 000015
である。送信機は、埋込みモジュール１２、１つまたは複数のニューラルネットワーク１４の高密度（ｄｅｎｓｅ）層、複素数ベクトル生成器１６、および正規化モジュール１８を含む。
【００２７】
入力ｓは、埋込みモジュール２２に供給され、ｓをｎemb次元の実数値ベクトルに変換する
【数１４】
2021500813.tif 000016
を埋め込む。
【００２８】
埋込み層１２は、任意選択として、（多層パーセプトロン（ＭＬＰ）としても知られる）ＲｅＬＵ、シグモイド、ｔａｎｈ、線形等などの、種々の可能な活性化関数によって、いくつかの高密度ニューラルネットワーク（ＮＮ）層１４が後に続くことが可能である。ニューラルネットワーク１４の最終的な層は、２ｎkの出力次元および線形活性化関数を有する。高密度層が使用されない場合、ｎemb＝２ｎである。
【００２９】
ニューラルネットワーク１２の出力は、マッピング
【数１５】
2021500813.tif 000017
を通じて（複素数ベクトル生成器１６によって）複素数値ベクトルにコンバートされ、このマッピングは、
【数１６】
2021500813.tif 000018
として実行されることが可能である。
【００３０】
電力、振幅、または他の制約が満たされることを保証する（正規化モジュール１８において）正規化が適用される。正規化処理の結果は、送信機１０の送信ベクトルｘである（ここで、
【数１７】
2021500813.tif 000019
である）。複素数ベクトルの生成および正規化の順序は、反転されることが可能であるということに留意されたい。
【００３１】
図３は、いくつかの並列受信モジュールのうちの１つとして使用されてもよい、参照番号２０によって全体的に示された、受信機のブロック図である。受信機２０は、複数のうちのｋ番目の受信機である。送信機１０の出力は、（上述のチャネル４などの）チャネルを介して、受信機２０において受信される。
【００３２】
図３に示されるように、受信機２０は、ベクトルｙを受信し、ここで、
【数１８】
2021500813.tif 000020
であり、出力
【数１９】
2021500813.tif 000021
を提供する。受信機２０は、実数ベクトル生成器２２、１つまたは複数のニューラルネットワーク２４の高密度層、ソフトマックスモジュール２６、およびａｒｇ  ｍａｘモジュール２８を含む。
【００３３】
受信されたベクトル
【数２０】
2021500813.tif 000022
は、（実数ベクトル生成器２２によって）マッピング
【数２１】
2021500813.tif 000023
を通じて２ｎk次元の実数値ベクトルに変換され、
【数２２】
2021500813.tif 000024
として実行されることが可能である。結果は、場合によっては異なる活性化関数（例えば、ＲｅＬＵ、ｔａｎｈ、シグモイド、線形）によって、いくつかの高密度ニューラルネットワーク層（ニューラルネットワーク２４）に供給される。最後の層は、（ソフトマックスモジュール２６によって）ソフトマックス活性化が適用されるＭkの出力次元を有する。これは、確率ベクトル
【数２３】
2021500813.tif 000025
を生成し、この要素
【数２４】
2021500813.tif 000026
は、
【数２５】
2021500813.tif 000027
と解釈されることが可能である。メッセージについての確かな判定が、（ａｒｇ  ｍａｘモジュール２８によって）
【数２６】
2021500813.tif 000028
として取得される。
【００３４】
フレームは、それぞれｂl個のシンボルから成る、ｌ＝１、…、ＬのときのＬ個の送信ブロックＢlに分けられる。このようにして、ｌ番目のブロックは、ｂlのサブキャリアシンボル座標の集合
【数２７】
2021500813.tif 000029
として定義されることが可能であり、ここで、
【数２８】
2021500813.tif 000030
は、サブキャリアインデックスであり、
【数２９】
2021500813.tif 000031
は、ＯＦＤＭシンボルインデックスである。
【００３５】
図４は、参照番号３０によって全体的に示された例示的なＯＦＤＭフレームを示す。ＯＦＤＭフレーム３０は、９個の送信ブロック（Ｂ１〜Ｂ９）に分けられた８個のサブキャリア（Ｎ）を伴う１２個のＯＦＤＭシンボル（Ｓ）からなるフレームを示す。ｌ＝１、…Ｌのときのｂl∈｛ｎ1，…，ｎK｝を必要とすることに留意されたい。ブロックは、隣接したシンボルからなる必要はない。
【００３６】
図５は、例示的な実施形態による、参照番号４０によって全体的に示された、マルチキャリア送信システムのブロック図である。送信システム４０は、送信機入力ベクトル４２、第１の送信機ニューラルネットワーク４４、第２の送信機ニューラルネットワーク４５、第３の送信機ニューラルネットワーク４６、送信機出力ベクトル４８、マッピングモジュール５０、チャネル５２、アンマッピングモジュール５４、送信機入力ベクトル５６、第１の受信機ニューラルネットワーク５８、第２の受信機ニューラルネットワーク５９、第３の受信機ニューラルネットワーク６０、および受信機出力ベクトル６２を備える。３つの送信機および受信機ニューラルネットワークが上述されたが、３つだけでなく、Ｌ個の送信機および受信機ニューラルネットワークがあることが図５からわかる。
【００３７】
送信機ニューラルネットワーク４４〜４６のそれぞれは、上述の送信機１０の実装形態であってもよい。同様に、受信機ニューラルネットワーク５８〜６０のそれぞれは、上述の受信機２０の実装形態であってもよい。
【００３８】
チャネル５２は、（例えば、ノイズ、アップサンプリング、フィルタリング、チャネルインパルス応答による畳み込み、リサンプリング、時間／周波数／位相オフセット、等といった）通信チャネルで発生するはずの変換をモデル化するために使用されるネットワークを含んでもよい。ネットワークは、典型的には、チャネルへの入力（すなわち、送信機出力ベクトル４８）の一連の確率変換である。一般に、チャネルモードを実行するネットワークの重みは、訓練可能ではない。
【００３９】
チャネルモデル５２は、原則として、実際のチャネルと置き替えられることが可能であるが、（システム４０のニューラルネットワークを訓練するときに物理チャネルをセットアップする必要がないことなど）チャネルモデルを使用することによるいくつかの実用的な長所がある。また、実際のチャネルの伝達関数は訓練中には知られていないので、実際のチャネルをここで使用するのは簡単ではない。可能な回避法は、２段階訓練処理を使用することであり、ここで、システムは、確率チャネルモデルを使用してエンドツーエンドから最初に訓練され、受信機は、実際のデータ送信に基づいて、微調整されるだけである。他の配置も可能である。
【００４０】
システムの使用時、送信機ニューラルネットワーク４４〜４６、および受信機ニューラルネットワーク５８〜６０は、送信機−受信機ニューラルネットワークペアに編成される。例えば、第１の送信機ニューラルネットワーク４４、および第１の受信機ニューラルネットワーク５８は、第１の送信機−受信機ニューラルネットワークペアを形成してもよく、データのブロックは、第１の送信機ニューラルネットワーク４４から第１の受信機ニューラルネットワーク５８にチャネル５２を介して送られる。
【００４１】
上述のように、フレームは、それぞれｂl個のシンボルから成る、ｌ＝１、…、ＬのときのＬ個の送信ブロックＢlに分けられる。このようにして、ｌ番目のブロックは、ｂl個のサブキャリアシンボル座標の集合
【数３０】
2021500813.tif 000032
として定義されることが可能であり、ここで、
【数３１】
2021500813.tif 000033
は、サブキャリアインデックスであり、
【数３２】
2021500813.tif 000034
は、ＯＦＤＭシンボルインデックスである。
【００４２】
次に、ｌ＝１、…、ＬのときのｎΦ(l)＝ｂlのような任意のマッピング
【数３３】
2021500813.tif 000035
を定義する。このマッピングを使用して、Ｌ個の入力の集合｛ｓ1，…，ｓL｝を定義し、ここで、
【数３４】
2021500813.tif 000036
である。マッピングは、どのブロックに、各入力がマッピングされることになるかを判定する。
【００４３】
各入力ｓlは、次に、対応する
【数３５】
2021500813.tif 000037
に供給され、そのｂl次元の複素数シンボル表現
【数３６】
2021500813.tif 000038
すなわち、
【数３７】
2021500813.tif 000039
を生み出す。
【００４４】
次に、ベクトル
【数３８】
2021500813.tif 000040
は、
【数３９】
2021500813.tif 000041
としてフレーム
【数４０】
2021500813.tif 000042
にマッピングされる。
【００４５】
フレームは、次に、典型的なＯＦＤＭ方式に従って送信され、すなわち、長さＰのサイクリックプレフィックスまたはゼロプレフィックスが追加される（図５のマッピングモジュール５０を参照）
【数４１】
2021500813.tif 000043
の各列のＮ点逆離散フーリエ変換（ＩＤＦＴ）が計算される。これは、チャネル上で送信されることが可能なフレームの複素数ベースバンド時間ドメイン表現を生じる。
【００４６】
チャネル５２は、多数のハードウェア効果（例えば、量子化、クリッピング、自動利得制御（ＡＧＣ）、アップサンプリング、フィルタリング、（周波数オフセット（ＳＦＯ）をサンプリングする）別の周波数でのリサンプリング、搬送波周波数オフセット（ＣＦＯ：ｃａｒｒｉｅｒ  ｆｒｅｑｕｅｎｃｙ  ｏｆｆｓｅｔ））、ならびに、伝搬現象（例えば、ノイズおよび／または干渉の追加、ランダムまたは決定論的なチャネルインパルス応答による畳み込み（ｃｏｎｖｏｌｕｔｉｏｎ））、をシミュレートできるいくつかの計算層として表現される。これらのチャネル層は、典型的には、訓練可能なパラメータを有していない。
【００４７】
受信機側では、受信された時間ドメイン信号
【数４２】
2021500813.tif 000044
は、（列方向のＮ点離散フーリエ変換（ＤＦＴ）を介したサイクリックプレフィックスの除去の後）（アンマッピングモジュール５４において）周波数ドメインにコンバートされる。これは、受信されたフレーム
【数４３】
2021500813.tif 000045
を生じる。
【００４８】
各送信ブロック
【数４４】
2021500813.tif 000046
の受信されたシンボルは、以下のように
【数４５】
2021500813.tif 000047
から抽出される。
【数４６】
2021500813.tif 000048
【００４９】
ベクトルｙlは、
【数４７】
2021500813.tif 000049
に供給され、ｉ番目の要素が
【数４８】
2021500813.tif 000050
と解釈されることが可能な確率ベクトル
【数４９】
2021500813.tif 000051
を生み出す。ｌ番目のブロック上の送信されたメッセージの推定
【数５０】
2021500813.tif 000052
は、したがって、
【数５１】
2021500813.tif 000053
である。
【００５０】
システム４０は、直交周波数分割多重（ＯＦＤＭ）または類似のシステムなど、マルチキャリア通信システムにおけるエンドツーエンド学習を行うために使用される。下記で詳細に説明されるように、送信機ニューラルネットワーク４４〜４６および受信機ニューラルネットワーク５８〜６０は、システム４０の性能を最適化するために訓練される。
【００５１】
ニューラルネットワークを訓練することは、特定の入力を考慮して、ネットワークの出力が、いくつかの所望の対応する値に近くなるように、ニューラルネットワークのパラメータ（または重み）を更新することを指す。これを行うために、ネットワークの出力および所望の値がどれほど近いかについて、最初に、いくつかの測定を必要とする。この測定は、典型的には、所望の値と出力された値を受け取り、いくつかの測定に応じてこれらの値の相違を返す損失関数Ｌとして定義される。この相違は、損失として知られる。ゼロの損失は、典型的には、所望の値と最適な値との間に相違がないことを表し、値が大きければ大きいほど、相違が大きくなることを示す。ここで、ニューラルネットワークの訓練を、損失を最小化するようにパラメータを更新することと、言い換えることができる。
【００５２】
非常に多くの場合、閉形式解を伴うこれらのパラメータを見つけることができず、勾配降下などの反復的方法を用いる必要がある。勾配降下は、所与の点において、パラメータを、これらのパラメータについて損失関数の勾配の逆方向に更新することが最大の損失低減になるという観測を使用する。パラメータが更新された後、勾配は再計算され、これは、各反復によって損失値が、もはや著しく減少しない収束点まで、または、いくつかのユーザ指定の反復限界まで、繰り返される。従来の、またはバッチの、勾配降下は、各反復時に、全ての所与の入力および所望の値に対する損失を使用してこの勾配を計算する。各反復時にサンプル全体を分析することは非常に非効率なので、収束は、比較的長時間かかるはずである。代わりに、ほとんどのニューラルネットワークは、確率的勾配降下法（ＳＧＤ：  ｓｔｏｃｈａｓｔｉｃ  ｇｒａｄｉｅｎｔ  ｄｅｓｃｅｎｔ）として知られる手順を使用して訓練される。ＳＧＤは、各反復時に、単一のまたは少数の入力と所望の値とのペアを使用して勾配を推定する。ほとんどのシナリオにおいて、ＳＧＤは、適切なパラメータ値をまだ見つけている間に、はるかに速く収束点に達する。
【００５３】
Ｋ個のニューラルネットワーク（ＮＮ）の送信機−受信機ペアＮＮkTXとＮＮkRXがあり、ここで、ｋ＝１、２…Ｋであることを仮定する。Ｋ個のニューラルネットワークの送信機−受信機ペアは、以下の損失関数を使用して確率的勾配降下法によって訓練されることが可能であり、
【数５２】
2021500813.tif 000054
ここで、ｌ＝１、…、Ｌのときの
【数５３】
2021500813.tif 000055
は、正の重みファクタであり、
【数５４】
2021500813.tif 000056
は、ｓlと
【数５５】
2021500813.tif 000057
の間の（低密度（ｓｐａｒｓｅ））カテゴリのクロスエントロピである。
【００５４】
Ｋ個のニューラルネットワークの送信機−受信機ペアの訓練は、以下のように実行されることが可能である。
・  Ｎ、Ｓ、Ｋ、ならびに次元ｎ1、…、ｎKを固定する
・  ｋ＝１、…、Ｋのときの
【数５６】
2021500813.tif 000058
および
【数５７】
2021500813.tif 000059
の層の重みおよびバイアスを初期化する
・  以下を要求される限り繰り返す
〇  ｌ＝１、…、Ｌのときのｂl∈｛ｎ1，…，ｎK｝になるように、ランダムなＬを選び、可能な値の集合を形成し、（いくつかの可能な確率的方式に従って）フレームをＬ個のブロックに分ける。
〇  ｌ＝１、…、ＬのときのｎΦ(l)＝ｂlを満たすマッピングΦを選ぶ。
〇  ランダムメッセージ
【数５８】
2021500813.tif 000060
を生成する。
〇  上述のようなランダムチャネル実現でメッセージを送信し、受信する。
〇  損失Ｌを計算し、ｌ＝１、…、Ｌのときの
【数５９】
2021500813.tif 000061
および
【数６０】
2021500813.tif 000062
の重みを更新するためにＳＧＤステップを適用する。
【００５５】
図６は、図５のシステムの例示的な使用を示す、参照番号７０によって全体的に示されたアルゴリズムを示す流れ図である。
【００５６】
アルゴリズム７０は動作７２で始まり、ここで、送信機ニューラルネットワーク４４〜４６および受信機ニューラルネットワーク５８〜６０は、送信機−受信機ニューラルネットワークペアに編成される。
【００５７】
次に、動作７４において、送信のためのシンボルは、送信ブロックに配置される。送信ブロックは、送信機−受信機ニューラルネットワークペアにマッピングされる（動作７６）。データのフレームがブロックに分けられる方式、および／または、送信機−受信機ペアへのブロックのマッピングは、経時的に変化する可能性がある。これは、例えば、送信機で利用可能な情報（例えばチャネル状態情報）、および／または受信機からのフィードバックに依存することがある。この場合、Φ（ｌ）として上述されたマッピング関数は、Φ（ｌ，ｔ，θ）として表現されてもよく、ここで、ｔは、時間インデックスであり、θは、追加パラメータのベクトルである。
【００５８】
マッピングΦ（ｌ）は、ブロックの送信のために、どのニューラルネットワークが使用されるかを決定し、したがって、使用されるコンステレーションおよびレートを定義する。例えば、
【数６１】
2021500813.tif 000063
のレートは、ｌｏｇ2（Ｍk）／ｎkビット／チャネルの使用である。これは、従来の通信システムにおける適応符号化および変調（ＡＣＭ）に似ている。
【００５９】
シンボルが送信機−受信機ペアにマッピングされると、アルゴリズムは、動作７８に移動し、ここで、シンボルは、チャネル５２を介して送信される。このようにして、各送信機−受信機ペア（ＮＮkTXとＮＮkRX）は、チャネルとともに、最適化されることが可能なオートエンコーダを形成する。
【００６０】
シンボルが送信され（動作７８）、送信機−受信機ニューラルネットワークペアの受信機において受信されると、個々の送信機および受信機ニューラルネットワークは、訓練されることが可能になり（動作８０）、このことにより、各送信機−受信機ニューラルネットワークペアにエンドツーエンド学習を行う。
【００６１】
上述のように、送信機−受信機ペアのそれぞれは、訓練を通じて最適化されることが可能なオートエンコーダを形成する。例えば強化学習を使用して、受信機からのフィードバック（例えば、デコードの成功／失敗）に基づいて、同様にマッピング関数Φ（ｌ）を最適化することもできる。
【００６２】
各メッセージｓlは、長さｌｏｇ2（ＭΦ（ｌ））のバイナリベクトルにマッピングされることが可能である。１つのメッセージを表現するビットは、複数のフレームまたは複数の送信ブロックにわたってインターリーブされることが可能である。これは、フェーディングに対する多様性、したがって堅牢性を向上させる。
【００６３】
上述の実施形態のうちのいくつかは、確率的勾配降下法（ＳＧＤ）を使用する。多くの既知の用途において、ＳＧＤは、メッセージのミニバッチに対して実行される。この原理は、本明細書において説明される実施形態にも適用されることが可能である。
【００６４】
いくつかの実施形態において、フレーム内のシンボルのいくつかは、例えば、チャネル推定、および／または搬送波周波数オフセット（ＣＦＯ）推定のために、活用されることが可能なパイロットトーンなど、他のデータの送信のために予約されてもよい。
【００６５】
図７は、参照番号９０によって全体的に示された例示的な搬送波周波数オフセット（ＣＦＯ）モジュールを示すブロック図である。図７に示されるように、例示的なＣＦＯモジュール９０は、ＣＦＯニューラルネットワーク９２およびＣＦＯ補償モジュール９４を備える。
【００６６】
ＣＦＯは、サブキャリア間の直交性を消失させる可能性があるので、ＯＦＤＭまたは類似の方式に強いインパクトを有する可能性のあるハードウェアの欠点である。図７に示されるように、受信された時間ドメイン信号
【数６２】
2021500813.tif 000064
に基づいて、ＮＮCFOと呼ばれる、別のニューラルネットワークによって、
【数６３】
2021500813.tif 000065
を推定することをここで提案する。ＮＮCFOは、任意のタイプのニューラルネットワークであることが可能であり、入力
【数６４】
2021500813.tif 000066
（または、そのベクトル化されたバージョン）についての実数スカラーを出力する。パラメータ
【数６５】
2021500813.tif 000067
は、次に、ＣＦＯ補償アルゴリズムに供給されて、補償された時間ドメイン信号を生み出し、フレーム抽出およびデコードのために使用される補償された時間ドメイン信号
【数６６】
2021500813.tif 000068
を生み出す。このようなアルゴリズムは、以下のように機能することが可能である。仮に、
【数６７】
2021500813.tif 000069
が、
【数６８】
2021500813.tif 000070
として与えられるとする。
【００６７】
ＣＦＯ推定および補償手順は、エンドツーエンド学習処理に統合されることが可能である。ＣＦＯを推定するのではなく、複素数スカラー、例えばｆ、を推定し、補償関数
【数６９】
2021500813.tif 000071
を実行することができる。
【００６８】
ＣＦＯ推定は、複数のおよび可能な変化するニューラルネットワークによって生成されるフレーム全体に依存するということに留意されたい。フレーム内の固定位置にパイロットトーンを有することが役立つ可能性がある。同様に、ニューラルネットワーク層、すなわち、決定論的なおよび微分可能な関数として表現されることが可能である限り、ＣＦＯ推定／補償のための他の任意の従来のアルゴリズムが使用されることが可能であるということに留意されたい。
【００６９】
図８は、参照番号１００によって全体的に示された例示的なチャネル等化モジュールのブロック図である。図８に示されるように、例示的なチャネル等化モジュール１００は、チャネル等化ニューラルネットワーク１０２、およびチャネル等化モジュール１０４を備える。
【００７０】
上述のＣＦＯ補償と同様に、ニューラルネットワーク１０２を使用して、観測
【数７０】
2021500813.tif 000072
または
【数７１】
2021500813.tif 000073
から複素数値ベクトル
【数７２】
2021500813.tif 000074
を推定するチャネル等化のための方法を提案する。このベクトルは、等化された出力
【数７３】
2021500813.tif 000075
または
【数７４】
2021500813.tif 000076
を生み出すために、決定論的なチャネル等化アルゴリズムによって使用される。例えば、
【数７５】
2021500813.tif 000077
は、逆時間ドメインチャネルインパルス応答、または、周波数ドメインサブキャリアチャネル係数として解釈されることが可能である。この解釈に応じて、チャネル等化ブロックは、
【数７６】
2021500813.tif 000078
による
【数７７】
2021500813.tif 000079
の畳み込みを計算するか、
【数７８】
2021500813.tif 000080
を
【数７９】
2021500813.tif 000081
のｎ番目の行に掛ける。
【００７１】
上述のＣＦＯ補償と同様に、チャネル等化手順は、エンドツーエンド訓練処理に統合されることが可能である。
【００７２】
当然、特定の実装形態は、ＣＦＯモジュール９０とチャネル等化モジュール１００の両方を組み込んでもよい。
【００７３】
本明細書は、直交周波数分割多重（ＯＦＤＭ）を使用する応用例を全体的に説明してきた。これは、全ての実装形態に不可欠というわけではない。いくつかの実装形態は、修正されたＯＦＤＭシステムであるとみなされてもよい。他の実装形態は、ＯＦＤＭ、または修正されたＯＦＤＭシステムではない、マルチキャリア通信システムであってもよい。
【００７４】
完全を期すために、図９は、（例えば、送信機または受信機ニューラルネットワークといった）以前に説明されたモジュールの１つまたは複数の構成要素の概略図であり、これらは、以下に、総称的に処理システム１１０と呼ばれる。処理システム１１０は、プロセッサ１１２、プロセッサの近くに連結され、ＲＡＭ１２４およびＲＯＭ１２２で構成されたメモリ１１４、ならびに、任意選択として、ハードウェアキー１２０およびディスプレイ１２８を備えることもできる。処理システム１１０は、ネットワークへの接続のための、例えば、有線でもワイヤレスでもよいモデムといった、１つまたは複数のネットワークインターフェース１１８を含んでもよい。
【００７５】
プロセッサ１１２は、他の構成要素のそれぞれに、その動作を制御するために接続される。
【００７６】
メモリ１１４は、不揮発性メモリ、ハードディスクドライブ（ＨＤＤ）、またはソリッドステートデバイス（ＳＳＤ）を含んでもよい。メモリ１１４のＲＯＭ１２２は、中でも、オペレーティングシステム１２５を格納し、ソフトウェアアプリケーション１２６を格納してもよい。メモリ１１４のＲＡＭ１２４は、データの一時的な格納のためにプロセッサ１１２によって使用される。オペレーティングシステム１２５は、プロセッサによって実行されると、アルゴリズム７０の態様を実行するコードを含んでもよい。
【００７７】
プロセッサ１１２は、任意の適切な形式であってもよい。例えば、これは、マイクロコントローラ、複数のマイクロコントローラ、プロセッサ、または複数のプロセッサであってもよい。
【００７８】
処理システム１１０は、スタンドアロンコンピュータ、サーバ、コンソール、またはそのネットワークであってもよい。
【００７９】
いくつかの実施形態において、処理システム１１０は、また、外部ソフトウェアアプリケーションと関連付けられてもよい。これらは、リモートサーバデバイスに格納されたアプリケーションであってもよく、リモートサーバデバイス上で部分的または排他的に動いてもよい。これらのアプリケーションは、クラウドホスト型アプリケーションと称され得る。処理システム１１０は、リモートサーバデバイスに格納されたソフトウェアアプリケーションを利用するために、リモートサーバデバイスと通信してもよい。
【００８０】
図１０ａおよび図１０ｂは、コンピュータによって実行されると、上述の実施形態による方法を行ってもよいコンピュータ可読コードを格納する、それぞれ、取外し可能メモリユニット１６５およびコンパクトディスク（ＣＤ）１６８である有形的表現媒体を示す。取外し可能メモリユニット１６５は、コンピュータ可読コードを格納する内部メモリ１６６を有する、例えばＵＳＢメモリスティックといった、メモリスティックであってもよい。メモリ１６６は、コネクタ１６７を介してコンピュータシステムによってアクセスされてもよい。ＣＤ１６８は、ＣＤ−ＲＯＭまたはＤＶＤまたは類似のものであってもよい。有形ストレージ媒体の他の形式が、使用されてもよい。
【００８１】
本発明の実施形態は、ソフトウェア、ハードウェア、アプリケーションロジック、または、ソフトウェア、ハードウェア、およびアプリケーションロジックの組合せで実行されてもよい。ソフトウェア、アプリケーションロジック、および／またはハードウェアは、メモリ、または任意のコンピュータ媒体に常駐してもよい。実施形態の例において、アプリケーションロジック、ソフトウェア、または命令セットは、様々な従来のコンピュータ可読媒体のうちの任意の１つで維持される。本文書の文脈において、「メモリ」または「コンピュータ可読媒体」は、コンピュータなどの命令実行システム、装置、もしくはデバイスによって、または、これらと共に使用するために、命令を含めること、格納すること、通信すること、伝搬させること、または輸送することができる任意の非一時的媒体または手段であってもよい。
【００８２】
適切な場合、「コンピュータ可読ストレージ媒体」、「コンピュータプログラム製品」、「現実に具体化されたコンピュータプログラム」等、または「プロセッサ」もしくは「処理回路機器」等への言及は、シングル／マルチプロセッサアーキテクチャおよびシーケンサ／並列アーキテクチャなどの異なるアーキテクチャを有するコンピュータだけでなく、フィールドプログラマブルゲートアレイＦＰＧＡ、特定用途向け集積回路ＡＳＩＣ、信号処理デバイス、および他のデバイスなどの特殊回路も包含するものと理解されたい。コンピュータプログラム、命令、コード、等への言及は、固定機能デバイス、ゲートアレイ、プログラマブルロジックデバイス、等のためのプロセッサ、または構成された設定もしくは構成設定のための命令として、ハードウェアデバイスのプログラム可能コンテンツなどの、プログラム可能プロセッサファームウェアのためのソフトウェアを表現するものと理解されたい。
【００８３】
本出願において使用されるように、用語「回路機器」は、（ａ）ハードウェアのみの回路の実装形態（アナログおよび／またはデジタル回路だけの実装形態など）、ならびに、（ｂ）（適用できる場合）（ｉ）プロセッサの組合せ、または、（ｉｉ）サーバなどの装置に様々な機能を実行させるように一緒に機能するプロセッサ／ソフトウェアの一部（デジタルシグナルプロセッサを含む）、ソフトウェア、およびメモリ、などの回路とソフトウェア（および／またはファームウェア）の組合せ、ならびに、（ｃ）ソフトウェアまたはファームウェアが物理的になくても動作のためにソフトウェアまたはファームウェアを必要とするマイクロプロセッサまたはマイクロプロセッサの一部などの回路、の全てを指す。
【００８４】
必要に応じて、本明細書において論じられる異なる機能は、互いに異なる順序で、および／または並行に行われてもよい。さらに、必要に応じて、上述の機能の１つまたは複数は任意選択であってもよく、または、組み合わされてもよい。同様に、図６の流れ図は単なる例であり、そこに描写された様々な動作は、省略されること、再配置されること、および／または組み合わされることが行われてもよいということも理解されよう。
【００８５】
実施形態の上述の例は、純粋に例証的なものであり、本発明の範囲を限定するものではないということが理解されよう。他の変形形態および変更形態は、本明細書を読めば当業者には明らかであろう。
【００８６】
その上、本出願の開示は、本明細書において明示的または暗黙的に開示されたいずれかの斬新な特徴、もしくは、特徴のいずれかの斬新な組合せ、または、そのいずれかの一般化を含むものと理解されたく、本出願、またはそこから導出されたいずれかの出願の審査中、いずれかのこのような特徴、および／またはこのような特徴の組合せを含めるために、新しい請求項が策定されることもある。
【００８７】
本発明の様々な態様が、独立請求項の中で提示されるが、本発明の他の態様は、単に特許請求の範囲において明示的に提示された組合せではなく、独立請求項の特徴とともに、記述された実施形態および／または従属請求項からの特徴の他の組合せを含む。
【００８８】
上記は様々な例を記述するが、これらの記述は、限定的な意味で見られるべきではないということも、本明細書において留意されたい。むしろ、添付の特許請求の範囲に規定されたように、本発明の範囲から逸脱することなく行われてもよい、いくつかの変形形態および変更形態がある。
【図１】
2021500813.tif 000082
【図２】
2021500813.tif 000083
【図３】
2021500813.tif 000084
【図４】
2021500813.tif 000085
【図５】
2021500813.tif 000086
【図６】
2021500813.tif 000087
【図７】
2021500813.tif 000088
【図８】
2021500813.tif 000089
【図９】
2021500813.tif 000090
【図１０（ａ）】
2021500813.tif 000091
【図１０（ｂ）】
2021500813.tif 000092
【国際調査報告】
2021500813.tif 000093
2021500813.tif 000094
2021500813.tif 000095