(57)【要約】【課題】無線基地局に対する無線端末の配置に偏りが生じても、通信品質の低下を抑える。【解決手段】  複数の無線端末と複数の無線基地局とが行う無線通信を制御する無線通信制御方法であって、無線基地局と当該無線基地局に帰属する無線端末との間の無線通信品質、及び他の無線基地局における帰属する他の無線端末との間の無線通信品質に基づく品質測定情報を無線端末それぞれに通知する通知工程と、通知された品質測定情報に基づいて、無線通信品質を向上可能な無線基地局のいずれかを新たな帰属先として選択する帰属情報を算出する算出工程と、算出した帰属情報に基づいて無線端末の帰属先を更新するように帰属情報を記録する記録工程とを含むことを特徴とする無線通信制御方法。【選択図】図１０
2020141176.tif 000002
【特許請求の範囲】
【請求項１】
複数の無線端末と複数の無線基地局とが行う無線通信を制御する無線通信制御方法であって、
無線基地局と当該無線基地局に帰属する無線端末との間の無線通信品質、及び他の無線基地局における帰属する他の無線端末との間の無線通信品質に基づく品質測定情報を無線端末それぞれに通知する通知工程と、
通知された品質測定情報に基づいて、無線通信品質を向上可能な無線基地局のいずれかを新たな帰属先として選択する帰属情報を算出する算出工程と、
算出した帰属情報に基づいて無線端末の帰属先を更新するように帰属情報を記録する記録工程と
を含むことを特徴とする無線通信制御方法。
【請求項２】
前記算出工程は、
無線基地局と無線端末の間の現在の品質測定情報に基づく無線通信品質を離散的に表した状態と、無線基地局それぞれに帰属する無線端末の組合せを表した行動とを用いて、無線通信品質を向上可能な無線基地局のいずれかを新たな帰属先として選択する帰属情報を算出すること
を特徴とする請求項１に記載の無線通信制御方法。
【請求項３】
前記算出工程は、
前記状態と前記行動との離散的な組合せを示すＱテーブルが含む複数の要素から、利得が最大となる要素を選択することにより、無線通信品質を向上可能な無線基地局のいずれかを新たな帰属先として選択する帰属情報を算出すること
を特徴とする請求項２に記載の無線通信制御方法。
【請求項４】
前記算出工程は、
無線基地局と無線端末の間の品質測定情報に基づいて報酬を算出し、算出した報酬を用いて前記Ｑテーブルが含む複数の要素の利得の更新を繰り返すこと
を特徴とする請求項３に記載の無線通信制御方法。
【請求項５】
前記算出工程は、
無線端末がいずれの無線基地局に帰属しているかを示す行列と、利得が所定値以上であるか否かを示す行列との積を前記状態とすること
を特徴とする請求項４に記載の無線通信制御方法。
【請求項６】
前記算出工程は、
無線基地局と無線端末の間の無線通信におけるデータレート、要求データレート、平均パケットサイズ、及び無線基地局の帯域使用率に基づいて利得を算出すること
を特徴とする請求項５に記載の無線通信制御方法。
【請求項７】
前記算出工程は、
帰属情報の算出対象となる１つの無線端末、帰属情報の算出対象となる無線端末の近傍に位置する他の無線端末、及び、特定された１つ以上の無線端末のいずれかに対して、前記状態及び前記報酬を算出すること
を特徴とする請求項６に記載の無線通信制御方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、無線通信制御方法に関する。
【背景技術】
【０００２】
現在、多様な無線通信システムが広く普及している。例えば、免許帯の無線通信システムであるセルラシステムは、現在第４世代の無線通信規格が商用化されており、径が大小のセルを組み合わせながら、移動無線端末を収容している。また、免許不要帯で普及している無線通信システムとしては、まず無線ＬＡＮシステムが挙げられ、国内では２．４／５／６０ＧＨｚ帯の無線周波数を利用して数〜数十ｍの径に存在する無線端末に対して広帯域な無線通信が提供されている。また、別の免許不要帯の無線通信システムとして挙げられるＬＰＷＡ（Low Power Wide Area）は、数〜数ｋｍの広大な径に存在する無線端末に対して低消費電力で無線通信を提供できることから、モノのインターネットサービスを収容することに適している。
【０００３】
このように、多様な無線通信システムの中から、無線サービスの要求に応じて適した無線通信システムを選択できる無線通信環境が普及している。また、無線通信システム群のうち、大容量を目的としたものは、エリア容量増大のために無線基地局の高密度化が進んでいる。例えば、無線端末の周りに十分無線通信を実施できるほどの強い受信電力で検出される無線基地局が１台以上存在するような無線環境が増えている。
【０００４】
結果として、無線端末が選択できる無線アクセスの自由度は、無線通信システムの種類及び無線基地局台数の両面で、大きくなっている。この自由度を活かして、複数の無線アクセスに同時接続してロードバランシングやフレーム冗長送信を行う無線通信プロトコルが開発されている（例えば非特許文献１参照）。例えば、セルラ回線と無線ＬＡＮ回線を同時に用いることにより、無線通信環境を安定化させることができる。
【０００５】
無線端末主導の自律分散制御によって無線仮想インターフェースの無線基地局帰属先制御を実施する構成は、制御演算処理の簡便さから有力な構成の１つである。しかしながら、この場合、従来技術では段階的に以下の３点の課題が生じる。
【０００６】
１点目の課題は、無線基地局での輻輳が生じやすいという点である。従来の技術では、無線通信伝送レート最大化の観点から、主に無線端末での受信電力が最大の無線基地局へ接続される。しかしながら、大容量を要する無線仮想インターフェースがある無線基地局の周りに集中している場合、該無線基地局の無線通信の最大伝送レートを超えて輻輳し、各無線仮想インターフェースの要求を満足できなくなる。
【０００７】
２点目の課題は、従来技術では、無線通信環境の安定性を考慮した無線通信制御アルゴリズムとはなっていないが、この場合に観測された無線通信環境を入力した時に、無線通信品質が劣化してしまう設定を出力してしまう可能性がある点である。例えば、１点目に挙げた課題を克服し、無線基地局の利用率の情報を収集する手段を具備して、無線端末がある時点についての適切な無線基地局を選択できるとする。しかしながら、観測された無線通信環境が瞬時的なものである場合、例えば、無線仮想インターフェースの出入りが激しい場合などに、該無線基地局は、一時的に当初の無線仮想インターフェースのトラヒックの収容には成功できるが、新たな無線仮想インターフェースが該無線基地局へ帰属してきた場合に、直ちに輻輳が生じる。
【０００８】
３点目の課題は、無線端末が収集する情報の状態数が膨大であり、統計的な手法で制御を実施する手法が適用できない点である。２点目の課題を克服するには、強化学習やパターンマッチングなどの統計的な制御手法により、情報収集によって取得された無線通信環境が安定なのか不安定なのか、各場合で各無線仮想インターフェースが帰属すべき無線基地局はいずれなのか、といった判断機能を経験的に取得するアプローチが有効となる。
【０００９】
しかしながら、上記制御手法では、いずれも無線通信環境を事前に離散化された状態として定義したうえで、現時点で取得された無線通信環境がどの状態に属するかを判定した後に、該状態における無線仮想インターフェースの適切な帰属先無線基地局を決定するという手順を踏む必要がある。一方で、信号の受信強度やトラヒックのデータレートなど、無線通信品質情報のほとんどは、連続値で定義される。よって、各数値の型でそのまま離散状態を定義してしまうと、あまりに膨大な状態数となり、状態の判定処理が収束しなくなるという課題がある。
【先行技術文献】
【非特許文献】
【００１０】
【非特許文献１】Atefeh Hajijamali Arani, 外４名, "Distributed Learning for Energy-Efficient Resource Management in Self-Organizing Heterogeneous Networks", IEEE TRANSACTIONS ON VEHICULAR TECHNOLOGY, OCTOBER 2017, VOL. 66, NO. 10, p.9287-9303
【発明の概要】
【発明が解決しようとする課題】
【００１１】
本発明は、無線基地局に対する無線端末の配置に偏りが生じても、通信品質の低下を抑えることができる無線通信制御方法を提供することを目的とする。
【課題を解決するための手段】
【００１２】
本発明の一態様にかかる無線通信制御方法は、複数の無線端末と複数の無線基地局とが行う無線通信を制御する無線通信制御方法であって、無線基地局と当該無線基地局に帰属する無線端末との間の無線通信品質、及び他の無線基地局における帰属する他の無線端末との間の無線通信品質に基づく品質測定情報を無線端末それぞれに通知する通知工程と、通知された品質測定情報に基づいて、無線通信品質を向上可能な無線基地局のいずれかを新たな帰属先として選択する帰属情報を算出する算出工程と、算出した帰属情報に基づいて無線端末の帰属先を更新するように帰属情報を記録する記録工程とを含むことを特徴とする。
【００１３】
本発明の一態様にかかる無線通信制御方法は、前記算出工程は、無線基地局と無線端末の間の現在の品質測定情報に基づく無線通信品質を離散的に表した状態と、無線基地局それぞれに帰属する無線端末の組合せを表した行動とを用いて、無線通信品質を向上可能な無線基地局のいずれかを新たな帰属先として選択する帰属情報を算出することを特徴とする。
【００１４】
本発明の一態様にかかる無線通信制御方法は、前記算出工程は、前記状態と前記行動との離散的な組合せを示すＱテーブルが含む複数の要素から、利得が最大となる要素を選択することにより、無線通信品質を向上可能な無線基地局のいずれかを新たな帰属先として選択する帰属情報を算出することを特徴とする。
【００１５】
本発明の一態様にかかる無線通信制御方法は、前記算出工程は、無線基地局と無線端末の間の品質測定情報に基づいて報酬を算出し、算出した報酬を用いて前記Ｑテーブルが含む複数の要素の利得の更新を繰り返すことを特徴とする。
【００１６】
本発明の一態様にかかる無線通信制御方法は、前記算出工程は、無線端末がいずれの無線基地局に帰属しているかを示す行列と、利得が所定値以上であるか否かを示す行列との積を前記状態とすることを特徴とする。
【００１７】
本発明の一態様にかかる無線通信制御方法は、前記算出工程は、無線基地局と無線端末の間の無線通信におけるデータレート、要求データレート、平均パケットサイズ、及び無線基地局の帯域使用率に基づいて利得を算出することを特徴とする。
【００１８】
本発明の一態様にかかる無線通信制御方法は、前記算出工程は、帰属情報の算出対象となる１つの無線端末、帰属情報の算出対象となる無線端末の近傍に位置する他の無線端末、及び、特定された１つ以上の無線端末のいずれかに対して、前記状態及び前記報酬を算出することを特徴とする。
【発明の効果】
【００１９】
本発明によれば、無線基地局に対する無線端末の配置に偏りが生じても、通信品質の低下を抑えることができる。
【図面の簡単な説明】
【００２０】
【図１】一実施形態にかかる無線通信システムの構成例を示す図である。
【図２】無線基地局が品質測定情報を交換する情報交換経路を示す図である。
【図３】一実施形態にかかる無線基地局の構成例を示す図である。
【図４】一実施形態にかかる無線端末の構成例を示す図である。
【図５】Ｑテーブルを用いた制御処理の概要を示す図である。
【図６】Ｑテーブルを用いた学習処理の概要を示す図である。
【図７】一実施形態にかかる無線通信システムの実施例を示す図である。
【図８】無線送信電力、チャネル係数、帰属先無線基地局の集合、無線仮想インターフェースの集合及び無線端末の集合の表記例を示す図である。
【図９】一実施形態にかかる無線通信システムの他の実施例を示す図である。
【図１０】無線通信制御アルゴリズムにおける各無線端末の制御を示すフローチャートである。
【発明を実施するための形態】
【００２１】
以下に、図面を用いて無線通信システムの一実施形態を説明する。図１は、一実施形態にかかる無線通信システム１０の構成例を示す。図１に示すように、無線通信システム１０は、複数の無線基地局２０がネットワーク１００に対してそれぞれスイッチ１０２を介して接続されている。ここで、無線基地局２０それぞれは、ネットワーク１００を介した有線通信経路によって互いに接続されている。また、無線基地局２０は、無線通信によって他の無線基地局２０との間で通信を行うことも可能にされている。
【００２２】
無線基地局２０の周囲には、無線基地局２０との間で無線通信を行う複数の無線端末３０が位置している。無線端末３０は、例えばＲＳＳＩ（Received Signal Strength Indicator）の強度などの物理的な信号によって無線基地局２０に対する帰属を決定する１つ以上の無線物理インターフェース、及び、受信信号を演算処理した結果に応じて無線基地局２０に対する帰属を決定する１つ以上の無線仮想インターフェースのいずれかによって無線基地局２０に接続される。無線仮想インターフェースは、例えば強化学習によって無線基地局２０に対する無線端末３０の帰属先を制御する。
【００２３】
ここで、無線端末３０は、無線基地局２０から通知される品質測定情報に基づいて、帰属する無線基地局２０を選択する自律分散制御を行う。品質測定情報は、無線基地局２０が帰属する無線端末３０との間の無線通信品質を測定した情報と、他の無線基地局２０における無線端末３０との間の無線通信品質を測定した情報とを含むものとする（図３等を用いて後述）。なお、無線端末３０は、周辺の１つ以上の無線基地局２０に対して帰属可能であり、遠方の無線基地局２０に対しては帰属外となる。
【００２４】
図２は、無線通信システム１０における無線基地局２０が品質測定情報などの情報を互いに交換する情報交換経路を示す。図２において太矢印で示した情報交換経路は、有線区間（有線通信経路）と無線区間（無線通信経路）の２種類に分類される。有線区間では、スイッチ１０２及びネットワーク１００を介して情報が交換される。無線区間には、無線基地局２０が他の無線基地局２０との間で無線通信を直接行う区間と、無線基地局２０が無線端末３０を介して他の無線基地局２０と無線通信を行う区間とがある。つまり、無線端末３０は、無線基地局２０と他の無線基地局２０との間の通信を中継することも可能にされている。
【００２５】
例えば、無線端末３０が無線基地局２０の相互の通信を中継しない場合には、無線基地局２０は、自局が測定した品質測定情報を周囲の他の無線基地局２０へ送信することにより、それぞれの品質測定情報を交換する。
【００２６】
また、無線端末３０が無線基地局２０の相互の通信を中継する場合には、無線基地局２０は、自局が測定した品質測定情報を周囲の無線端末３０へ通知する。そして、無線端末３０は、通知された品質測定情報を周囲の他の無線基地局２０へ通知する。無線端末３０は、複数の無線通信アプリケーションを実行し、情報を中継する場合に無線通信規格（無線通信方式）を他の無線通信規格に変換し、他の無線通信規格で無線基地局に通知するように構成されてもよい。また、無線端末３０及び無線基地局２０は、互いに複数の無線通信規格によって無線通信を行う複数の無線通信アプリケーションを備え、品質測定情報が無線通信アプリケーションそれぞれにおける無線通信品質に基づくようにされてもよい。
【００２７】
図３は、一実施形態にかかる無線基地局２０の構成例を示す。図３に示すように、無線基地局２０は、アンテナ部２１、無線通信部２２、通信Ｉ／Ｆ部２３、品質測定部２４、情報通知部２５、要求情報評価部２６、要求応答通知部２７及び帰属情報記録部２８を有する。
【００２８】
無線基地局２０は、アンテナ部２１を介して所定の規格の電波を送受信し、無線通信部２２が行う処理により、無線端末３０及び他の無線基地局２０との間で無線通信を行う。無線通信部２２は、高周波（RF：Radio Frequency）の信号を処理するＲＦ部２２０と、無線通信メディアアクセス制御（ＭＡＣ）の機能を備えたＭＡＣ機能部２２２とを有する。通信Ｉ／Ｆ部２３は、ネットワーク１００（図１）などによって構成される有線区間を介して通信を行うインターフェースである。
【００２９】
品質測定部２４は、無線環境測定部２４０及びトラヒック測定部２４２を有し、当該無線基地局２０（自局）に帰属する無線端末３０との間の無線通信品質を測定し、自局の無線通信品質に基づく品質測定情報を品質測定情報算出処理によって算出して取得する。無線環境測定部２４０は、無線通信の環境の測定を行い無線環境情報を取得する。トラヒック測定部２４２は、無線通信のトラヒックの測定を行いトラヒック情報を取得する。品質測定情報は、例えば無線環境情報及びトラヒック情報に基づいて算出される。また、品質測定情報は、無線通信における受信電力、要求データレート及び無線基地局の帯域の使用率を含んでもよい。
【００３０】
無線基地局２０は、他の無線基地局２０（他局）において帰属する無線端末３０との間の無線通信品質を示す品質測定情報に関しては、通信Ｉ／Ｆ部２３を介して有線区間の情報を取得し、無線通信部２２を介して無線区間の情報を取得する。そして、品質測定部２４は、自局及び他局から取得した品質測定情報を集約させる。
【００３１】
情報通知部２５は、品質測定部２４が集約させた品質測定情報を無線通信部２２を介して無線端末３０へ通知する。
【００３２】
要求情報評価部２６は、無線通信部２２を介して無線端末３０から後述する帰属要求を受けると、無線端末３０の帰属の可否（帰属先の変更・更新の可否）を判断する。
【００３３】
要求応答通知部２７は、要求情報評価部２６が無線端末３０の帰属先の更新を許可した場合、その旨を要求応答として無線端末３０へ無線通信部２２を介して通知する。
【００３４】
帰属情報記録部２８は、要求情報評価部２６が無線端末３０の帰属先の更新を許可した場合、無線端末３０の帰属先を管理する管理情報を更新して記録する。
【００３５】
図４は、無線端末３０の構成例を示す。図４に示すように、無線端末３０は、アンテナ部３１、無線通信部３２、制御情報算出部３３、帰属先要求部３４及び帰属先記録部３５を有する。
【００３６】
無線端末３０は、アンテナ部３１を介して所定の規格の電波を送受信し、無線通信部３２が行う処理により、無線基地局２０との間で無線通信を行う。無線通信部３２は、高周波の信号を処理するＲＦ部３２０と、無線通信メディアアクセス制御（ＭＡＣ）の機能を備えたＭＡＣ機能部３２２とを有する。そして、無線端末３０は、無線通信部３２を介して無線基地局２０が送信する品質測定情報を取得する。
【００３７】
制御情報算出部３３は、状態算出部３３０、報酬算出部３３２、Ｑテーブル管理部３３４及び帰属先算出部３３６を有し、例えば強化学習を用いた無線仮想インターフェースによって無線基地局２０への帰属先を制御する。
【００３８】
状態算出部３３０は、無線通信部３２を介して品質測定情報を取得し、品質測定情報を離散的に表す”状態”を算出する。
【００３９】
報酬算出部３３２は、品質測定情報に基づく”報酬”を算出する。
【００４０】
Ｑテーブル管理部３３４は、離散的な”状態”それぞれにおける”行動”が選択された場合の利得を格納したＱテーブルを保持・管理し、報酬算出部３３２が算出した”報酬”を用いて、利得を補正する。なお、利得は、無線基地局２０と無線端末３０の間の無線通信におけるデータレート、要求データレート、平均パケットサイズ、及び無線基地局２０の帯域使用率等に基づいて算出される。
【００４１】
帰属先算出部３３６は、Ｑテーブル管理部３３４が管理するＱテーブルに基づいて帰属先算出処理を行い、無線通信品質を向上可能な無線基地局２０のいずれかを新たな帰属先として選択する帰属情報を算出する。例えば、帰属先算出部３３６は、無線通信品質を高めるために最適な無線基地局２０を新たな帰属先として選択する帰属情報を算出する。
【００４２】
帰属先要求部３４は、帰属している無線基地局２０、又は帰属先算出部３３６が算出した帰属情報により選択される無線基地局２０などに対し、帰属先を変更する許可を求める帰属要求を無線通信部３２を介して通知する。
【００４３】
帰属先記録部３５は、無線端末３０が帰属先の更新を許可する要求応答を無線基地局２０から受信した場合、帰属先算出部３３６が算出した帰属情報に基づいて帰属先を更新するように帰属情報を記録する。つまり、帰属先記録部３５は、帰属先を管理する管理情報を帰属情報によって更新する。
【００４４】
次に、無線通信システム１０が実行する無線通信制御アルゴリズム（無線通信制御方法）について説明する。
【００４５】
まず、無線端末３０がある行動によって無線仮想インターフェースを無線基地局２０に帰属させると、無線基地局２０は、帰属している無線端末３０及び周囲の無線端末３０の無線仮想インターフェース群の現在の無線通信品質を測定し、自局の無線通信品質に基づく品質測定情報を品質測定情報算出処理によって算出する。
【００４６】
無線基地局２０は、必要に応じて他の無線基地局２０（他局）おいて帰属する無線端末３０との間の無線通信品質を示す品質測定情報を取得するように情報交換を行い、自局及び他局から取得した品質測定情報を集約させる。
【００４７】
そして、無線基地局２０は、集約させた品質測定情報を無線端末３０へ通知する。
【００４８】
無線端末３０は、通知された品質測定情報に基づいて、現在の状態と他の無線端末３０へ与える報酬を算出する。報酬は、Ｑテーブル管理部３３４が管理するＱテーブルを補正する値であり、図１２等を用いて後述する。
【００４９】
無線端末３０は、状態及び報酬を用いて、図５を用いて説明する制御処理、及び図６を用いて説明する学習処理を実施する。
【００５０】
図５は、Ｑテーブルを用いた制御処理の概要を示す。Ｑテーブルは、離散的な状態と行動の組合せで区画化されており、区画ごとに状態における行動が選択された時の利得が格納されている。状態は、現在の品質測定情報を離散的に表している。行動は、無線通信制御アルゴリズムにおける制御対象パラメータであり、無線仮想インターフェースによる基地局への帰属先の組合せを示している。
【００５１】
図５に示すように、制御情報算出部３３は、例えば状態３を算出し、Ｑテーブルの中から現在の状態に該当する区画群を抽出し、該区画群の中から利得が最大である１区画を選択することにより、次時点でとるべき行動（例えば行動４）を選択する制御処理を行う。
【００５２】
図６は、Ｑテーブルを用いた学習処理の概要を示す。無線端末３０は、現在の行動（例えば行動２）を帰属先記録部３５が記録している。制御情報算出部３３は、例えば状態３を算出し、報酬（Ｑテーブルの利得の補正値：例えばａ）を算出して、Ｑテーブルの中から現在の状態・行動に該当する１区画を選択し、選択した１区画の利得を報酬によって補正する学習処理を行う。
【００５３】
無線端末３０は、上述した処理を逐次的に繰り返すことにより、各状態における適切な行動を推定する機能を試行錯誤による統計的なパラメータチューニングによって取得していく。
【００５４】
次に、一実施形態にかかる無線通信システムの第１実施例について説明する。
【００５５】
図７は、一実施形態にかかる無線通信システムの実施例を示す。無線通信システムの第１実施例では、無線基地局台数Ｂ、無線端末台数Ｋ、無線仮想インターフェース数Ｆであるとすると、各無線端末の各無線仮想インターフェースの帰属状況を示す行列Ａは、下式（１）によって表される。
【００５６】
【数１】
2020141176.tif 000003
【００５７】
また、帰属関係は、下式（２）によって表される。
【００５８】
【数２】
2020141176.tif 000004
【００５９】
また、無線送信電力、チャネル係数、帰属先無線基地局の集合、無線仮想インターフェースの集合及び無線端末の集合は、図８に示したように記すこととする。
【００６０】
ここで、無線端末ｋが達成する無線伝送レートは、下式（３）、（４）によって表される。
【００６１】
【数３】
2020141176.tif 000005
【００６２】
【数４】
2020141176.tif 000006
【００６３】
また、無線基地局ｂから無線端末ｋの無線仮想インターフェースｆへの要求トラヒックにより生じる時間占有率は、下式（５）によって表される。
【００６４】
【数５】
2020141176.tif 000007
【００６５】
なお、無線基地局ｂは、文献（A.H. Arani, M.J. Omidi, A. Mehbodniya and F. Adachi, “A Distributed Learning-based Users Association for Heterogeneous Networks”, Trans. on Emerging Telecommun. Techno., vol.28, no.11, DOI: 10.1002/ett.3192, April 2017）に示されているように、下式（６）の条件を満たす時に輻輳する。
【００６６】
【数６】
2020141176.tif 000008
【００６７】
また、無線基地局ｂから無線端末ｋの無線仮想インターフェースｆへのファイルの送信遅延時間は、下式（７）によって表される。
【００６８】
【数７】
2020141176.tif 000009
【００６９】
なお、無線端末ｋの無線仮想インターフェースｆにおける許容遅延時間Ｔｋｆは、別途定められることとする。
【００７０】
次に、状態及び報酬の算出に用いる条件式（式（８）〜（１２））について説明する。
【００７１】
帰属関係を示す要素は、上式（１）、（２）を用いて説明したように、例えば下式（８）によって表される。
【００７２】
【数８】
2020141176.tif 000010
【００７３】
また、１つの無線仮想インターフェースが１つの無線基地局にしか帰属していないか否かは、下式（９）によって規定される。
【００７４】
【数９】
2020141176.tif 000011
【００７５】
また、無線仮想インターフェースの要求データレート（最小レート制約）が満たされているか否かは、下式（１０）に示すように、利得が所定値以上であるか否かによって規定される。
【００７６】
【数１０】
2020141176.tif 000012
【００７７】
また、無線仮想インターフェースの最大遅延制約が満たされているか否かは、下式（１１）に示すように、許容遅延時間以下であるか否かによって規定される。
【００７８】
【数１１】
2020141176.tif 000013
【００７９】
また、無線基地局の利用率が輻輳するもの（オーバーロード）になっているか否かは、下式（１２）によって規定される。
【００８０】
【数１２】
2020141176.tif 000014
【００８１】
次に、図９等を用いて無線通信制御アルゴリズムで用いる状態・行動・報酬の設計方法について説明する。図９は、一実施形態にかかる無線通信システムの他の実施例を示す。
【００８２】
無線基地局は、上述したように、例えば近傍の帰属している無線端末の無線仮想インターフェースへφｂ，Ｒｋｆ，ａｂｋｆ（ｔ），γｂｋｆ（ｔ）を通知する。無線端末は、通知された情報に基づいて状態、行動、報酬を算出する。
【００８３】
状態は、下式（１３）によって示される。
【００８４】
【数１３】
2020141176.tif 000015
【００８５】
ここで、状態空間のサイズは、下式（１４）によって表される。
【００８６】
【数１４】
2020141176.tif 000016
また、下式（１５）に示すように、各仮想インターフェースは、１つの無線基地局のみを利用可能となっている。
【００８７】
【数１５】
2020141176.tif 000017
【００８８】
報酬は、下式（１６）にも示すように、品質測定情報に基づいて算出されるｃ１ｋとｃ２ｋをウェイトｗｋで結合して設計される。
【００８９】
【数１６】
2020141176.tif 000018
【００９０】
下式（１７）は、例えば無線基地局ｂの帰属を示している。
【００９１】
【数１７】
2020141176.tif 000019
【００９２】
ｃ１ｋ，ｃ２ｋは、それぞれ下式（１８），（１９）によって表されるように、任意の範囲の無線端末の帰属先の無線基地局と無線仮想インターフェースとにおける無線通信のデータレート、要求データレート、無線基地局の利用率の情報からなり、該情報が無線基地局から無線端末へ通知される。
【００９３】
【数１８】
2020141176.tif 000020
【数１９】
2020141176.tif 000021
【００９４】
なお、無線基地局ｂのローカルなフィードバックによって報酬を算出する場合には、ｃ２ｋは、下式（２０）によって表される。
【００９５】
【数２０】
2020141176.tif 000022
【００９６】
ここで、負荷正規化係数Ｎ（ｔ）は、下式（２１）によって表されるとする。
【００９７】
【数２１】
2020141176.tif 000023
【００９８】
また、無線仮想インターフェースの最小レート制約及び最大遅延制約を考慮して報酬を算出する場合には、ｃ２ｋは、下式（２２）によって表される。
【００９９】
【数２２】
2020141176.tif 000024
【０１００】
ここで、Ｍ（ｔ）は、下式（２３）によって表されるとする。
【０１０１】
【数２３】
2020141176.tif 000025
【０１０２】
無線基地局は、帰属している無線端末が状態及び報酬を算出すると、情報収集対象となる無線端末及び無線仮想インターフェースが自局に帰属していない場合、他の無線基地局との間で情報交換を行って帰属していない無線端末における状態及び報酬を取得する。
【０１０３】
行動は、下式（２４）によって表される。
【０１０４】
【数２４】
2020141176.tif 000026
【０１０５】
図１０は、無線通信制御アルゴリズムにおける各無線端末の制御を示すフローチャートである。各無線端末ｋは、初期時点ｔ＝０において、Ｑテーブルを初期化する（Ｓ１００）。また、無線端末ｋは、状態については初期時点ｔ＝０では算出できないので、ランダムに決定する（Ｓ１０２）。
【０１０６】
以降、無線端末ｋは、時点ごと（Ｓ１０４）に以下の逐次処理を繰り返す。グリーディ係数εは、時点ループを更新するたびに１以下の正の実数で定義される減衰率λが乗算され、時間を経るにつれて判断条件を満たさない行動の選択が支配的になるように調整する役割をする。
【０１０７】
すなわち、無線端末ｋは、まず１以下の乱数ｐを生成し、グリーディ係数ε未満であるか否かを判断する（Ｓ１０６）。無線端末ｋは、乱数ｐがグリーディ係数ε未満である場合には、可能な選択肢の中から行動をランダムに選択し、次の行動ｙｋ（ｔ）とする（Ｓ１０８）。無線端末ｋは、乱数ｐがグリーディ係数ε未満でない場合には、Ｑテーブルを参照し、現在の状態において利得が最大となる行動をｙｋ（ｔ）として選択する（Ｓ１１０）。
【０１０８】
各無線基地局ｂは、それぞれ無線基地局自身がオーバーロードとなっているか否かを判定し、オーバーロードでない場合には帰属先結果を無線端末へフィードバックし、オーバーロードである場合には帰属させる無線端末を選択して他の無線端末をドロップする（Ｓ１１２）。
【０１０９】
無線端末ｋは、行動を実施した後に、無線基地局が無線通信品質の測定及び無線基地局間の情報交換を行った後の品質測定情報のフィードバックを取得し、ｙｋ（ｔ）によって状態Ｓｋ（ｔ＋１）及び報酬Γｋ（ｔ）を算出する（Ｓ１１４）。そして、無線端末ｋは、報酬Γｋ（ｔ）を下式（２５）に代入し、ＱテーブルのＱ（ｘｋ（ｔ），ｙｋ（ｔ））を更新して（Ｓ１１６）、状態の置き換えを行う（Ｓ１１８）。
【０１１０】
【数２５】
2020141176.tif 000027
【０１１１】
このように、実施形態にかかる無線通信システムは、品質測定情報に基づいて算出された帰属情報によって帰属先を更新するので、無線基地局に対する無線端末の配置に偏りが生じても、通信品質の低下を抑えることができる。
【０１１２】
また、実施形態にかかる無線通信システムは、周波数利用効率の向上だけでなく、無線基地局での輻輳を可能な限り回避し、かつ、連続的な無線通信品質を離散化された状態に変換し、情報収集によって取得された品質測定情報が安定であるか否か、各場合で各無線仮想インターフェースが帰属すべき無線基地局はいずれなのか、といった判断機能を効果的に実施できる強化学習による制御手法を適用可能にされている。
【０１１３】
また、実施形態にかかる無線通信システムは、運用と並行して各無線端末間で強化学習の学習結果を共有し、その学習結果により、障害発生箇所に応じて、集中制御局による中央集中制御と、無線端末による分散制御とに切り換えることができる。換言すれば、両方の制御方式で、障害発生箇所に応じたそれぞれの切り換え動作に対応して学習結果を用いた最適化が可能である強化学習の方法には何らかの特徴があると考えられる。
【符号の説明】
【０１１４】
１０・・・無線通信システム、２０・・・無線基地局、２２・・・無線通信部、２３・・・通信Ｉ／Ｆ部、２４・・・品質測定部、２５・・・情報通知部、２６・・・要求情報評価部、２７・・・要求応答通知部、２８・・・帰属情報記録部、３０・・・無線端末、３２・・・無線通信部、３３・・・制御情報算出部、３４・・・帰属先要求部、３５・・・帰属先記録部、１００・・・ネットワーク、３３０・・・状態算出部、３３２・・・報酬算出部、３３４・・・Ｑテーブル管理部、３３６・・・帰属先算出部
【図１】
2020141176.tif 000028
【図２】
2020141176.tif 000029
【図３】
2020141176.tif 000030
【図４】
2020141176.tif 000031
【図５】
2020141176.tif 000032
【図６】
2020141176.tif 000033
【図７】
2020141176.tif 000034
【図８】
2020141176.tif 000035
【図９】
2020141176.tif 000036
【図１０】
2020141176.tif 000037