(57)【要約】本発明の方法は、送信／再送される各パケットにつき、LLC通信プロトコル（これはISO-OSIモデルのデータリンク層のトップサブレイヤである）を通して（LLC論理）、自律的にノード毎に、単一ノード上で、利用可能な複数の通信装置の中から使用される特定の通信装置を判定するステップを含み、前記ノードのそのサブセットに対して前記パケットは送信され（ルーティング論理）（すなわち、それが送信される先の隣接ノードの数及びセット）、当該特定の通信装置は、利用可能な複数のものの中から使用され、実行される再送の最大回数を、分散自己学習アルゴリズムを使用することで判定し、当該アルゴリズムは、既に実行された送信の回数にしたがって、各ノードが最善の動作モードを学習及び選択することを可能にする。
2019502282.tif 000002
【特許請求の範囲】
【請求項１】
水中通信センサネットワークにおいて、パケットの送信／再送のそれぞれで、ノードのセットを選択する方法において、前記パケットは前記セットへ送信され、前記セットは各ノードにつき、LLC（論理リンク制御）層の送信／再送ポリシーを管理するモジュールとルーティングモジュールとを含み、前記方法は、
自己学習アルゴリズムを用いるステップであって、前記自己学習アルゴリズムは、各パケットにつき、自律的に且つ承認メッセージの明示の交換無く、このパケットが既に送信された回数を考慮して、このパケットの再送先のノードの最適セットを判定する（ルーティング論理）、ステップと、
実行される再送の最大回数を判定して、前記通信ネットワークの特定の特徴にしたがって最善の動作モードを選択するステップと、を含む方法。
【請求項２】
先行する請求項に記載の方法において、ネットワーク状況が変化すると、分散された前記自己学習アルゴリズムを用いて、各ノードは、受信者として選択されるノードの数とアイデンティティとの観点で、及び／又は、パケットにつき試行される再送の回数の観点で、自身のポリシーを修正可能である、方法。
【請求項３】
先行する請求項のいずれか１項に記載の方法において、前記アルゴリズムは全てのノードにつき同一であり、Q学習に基づく、方法。
【請求項４】
請求項１に記載の方法において、前記LLCサブレイヤはノードの再送論理を管理し、当該管理は、
ノードは、パケットを送信（再送の場合は再送）する必要があるとき、前記ノードの前記ルーティングモジュールとインタフェース接続して、前記パケットの送信先である前記ノードを識別し、その目的で、前記LLCサブレイヤは前記ネットワーク層へ、前記パケットが既に（失敗して）送信された回数を送信し、後者から、前記パケットの送信先のノードのセット（概して、そのパケットの再送回数の関数であるセット）を受信するステップと、
前記ノードがパケットを送信してタイマを開始した後、オーバーヒアリング技術を用いて暗示の承認を待機し、それにより、もし前記パケットの送信先の少なくとも１つのノードがそれを再送する場合、前記パケットは成功裏に送信されたと考慮され、次のパケットの送信へ移るステップと、
代わりに、もし前記パケットの複製が検出されない場合、何らのノードもそれを受信しなかったと想定し、前記パケットは後退期間後に再送されるステップと、
各パケットが多くともK回送信されると、その後に前記パケットは拒絶され、前記パラメータKは評価された負荷に基づいて動的に設定されるステップと、
を連続して実行することで実現される、方法。
【請求項５】
先行する請求項のいずれか１項に記載の方法において、前記自己学習アルゴリズムにおいて、各ノードiでは、パケットの状態sは前記パケットが送信された回数によって示され（もし前記パケットがまだ送信されていないならs=0であり、もし前記パケットが既に一度送信されているならs=1である、等）、可能なアクションaは前記パケットの送信可能先のノードの異なるサブセットであり、
（前記パケットが前記ノードjだけに送信されるならa={j}であり、
前記パケットが前記ノードj1及びj2へ送信されるならa={j1,j2}であり、
前記パケットが前記ノードj1,j2,…,jnへ送信されるならa={j1,j2,…,jn}である等）
各状態につき、前記自己学習アルゴリズムは、変数のセット
2019502282.tif 000025
を追跡し、各値s及びaにつき、
2019502282.tif 000026
は、前記ノードiが状態sのとき、前記アクションaの実行に関連付けられたコスト（すなわち、既にs回送信されたパケットのセットaにおけるノードへの送信に関連付けられた合計コスト）に関して前記ルーティングモジュールのローカル評価を示す、方法。
【請求項６】
先行する請求項のいずれか１項に記載の方法において、前記アルゴリズムは、前記ノードがパケットをいつ送信する必要があるかにかかわらず、評価値
2019502282.tif 000027
を更新する第１のステップと、当該評価値に基づいて、前記パケットの送信先のノードのセットを選択する第２のステップとを実行する、方法。
【請求項７】
先行する請求項のいずれか１項に記載の方法において、前記更新するステップでは、それは
2019502282.tif 000028
の新たな値を、既にs回送信されたパケットのセットaにおけるノードの現在の送信に関連付けられた合計コストと、０と１との間に含まれる因子ガンマによって減じられた、そのパケットの更なる可能な再送コストの平均コストとの合計として算出し、
既にs回送信されたパケットのセットaのノードへの現在の送信に関連付けられた前記合計コストは、次の３つの項目：
i.前記アクションaに関連付けられたノードのセットに対するパケットの送信コストと、
ii.セットaのノードによって費やされる、前記パケットを宛先へ伝送するコストであって、当該コストは前記セットaに属する各ノードjの送信コストの合計として定義され、当該送信コストの各々は前記ノードiによって送信されたパケットが前記ノードjに到達する可能性により重み付けされる、コストと、
iii.前記パケットの可能な損失に関連付けられたコストであって、送信回数が最大回数に達した後に前記パケットが拒絶されるときのコストであり、前記パケットの前記損失に関連付けられたペナルティを示す定数Lと、前記パケットが前記受信者ノードのいずれによっても受信されない可能性との積によって定義されるコストと、
の合計と等しく、
前記合計において、上記項目i及びiiiは適用上の要件に基づいて（負でない重みであってその合計が１と等しい重みにより）重み付けされ、
更に、もし再送回数sが再送の最大回数kよりも小さければ、前記パケットが損失されたものとしてまだ考慮されていない限り、上記項目iiiは考慮されない、方法。
【請求項８】
先行する請求項のいずれか１項に記載の方法において、前記様々な評価値が一旦更新されると、前記受信者ノードの選択は、最善のコスト（最低のコスト）が関連付けられた前記セットaに向けられる、方法。
【請求項９】
請求項１に記載の方法において、
各ノードは前記隣接ノードから正しく受信された前記パケットの数を算出及び格納し、当該算出は全てのパケットにつき、前記ノードが前記パケットの受信者か否かにかかわらず実行され、
前記ノードjは、前記ノードiによって送信されたパケットを正しく受信したとき、前記パケットの通し番号から、前記ノードによって送信されたパケットの数niを判定し、前記リンクの品質の評価値として、前記受信されたパケットと前記送信されたパケットとの割合を使用し、当該割合は適切な幅のスライディング時間窓に関して算出され、前記水中チャネルの有標の動的性質を考慮した評価を得る、方法。
【請求項１０】
先行する請求項のいずれか１項に記載の方法において、
再送の最大回数Kは、０．５と、衝突時間（すなわち、パケット送信時間と最大のネットワーク伝達時間（ネットワーク自体のサイズに基づいて評価可能な値）との合計）及び前記ネットワークトラフィックの積と、の割合より大きい最小の整数と等しく、ローカルに観測されるトラフィックに基づいて各ノードによって評価可能な値である、方法。
【請求項１１】
先行する請求項のいずれか１項に記載の方法において、自動的に、ノード毎に、利用可能な複数の装置の中から使用される特定の通信装置を判定するステップを含む、方法。
【請求項１２】
請求項１１及び５に記載の方法において、前記自己学習アルゴリズムにおいて、各ノードiでは、パケットの状態sは、前記パケットが送信された回数によって示され（もし前記パケットがまだ送信されていなければs=0であり、もし前記パケットが既に一度送信されていればs=1である等）、前記可能なアクションaは、使用される前記通信装置と、前記パケットの送信可能先であるノードの異なるサブセットとを特定し、
もし前記パケットが前記装置m1を用いて前記ノードjだけに送信されればa={m1, [j]}であり、
もし前記パケットが前記装置m2を用いてj1及びj2へ送信されればa={m2, [j1,j2]}であり、
もし前記パケットが前記装置m1を用いて前記ノードj1,j2,…,jnへ送信されればa={m1,[j1,j2,…,jn]}である等の、
方法。
【請求項１３】
請求項１１及び７に記載の方法において、前記セットaのノードに対してs回既に送信されたパケットの現在の送信に関連付けられた全体コストは、
i.前記アクションaによって特定される前記通信装置を用いたパケット送信コストと、
ii.前記セットaの前記ノードによって、前記パケットを宛先へ伝送するために使用されるコストであって、前記セットaに属する各ノードjの送信コストの合計として定義されるコストであり、当該送信コストのそれぞれが前記ノードiによって送信された前記パケットが前記ノードjに到達する可能性（使用される前記特定の通信装置に依存する可能性）によって重み付けされる、コストと、
iii.前記パケットの可能な損失に関連付けられたコストであって、再送の最大回数に到達した後に前記パケットが拒絶されたときのコストであり、当該損失は、前記パケットの前記損失に関連付けられた前記ペナルティを示す定数Lと、前記パケットが前記受信者ノードのいずれによっても受信されない可能性との積として定義される、コストと、
の３つの項目の合計に等しい、方法。
【請求項１４】
請求項１１に記載の方法において、
各ノードは前記様々な通信装置を用いて前記隣接ノードから正しく受信された前記パケットの数を算出及び格納し、前記算出は前記パケットの全てに対し、前記ノードが前記パケットの受信者であるか否かにかかわらず実行され、
前記ノードjは、前記装置mを用いて前記ノードiによって送信されたパケットを正しく受信すると、前記パケットの通し番号から、前記装置を用いて前記ノードによって送信された前記パケットの数
2019502282.tif 000029
を判定し、mに対応するリンクの品質の評価値として、受信された前記パケットと送信された前記パケットとの割合を用い、当該割合は適切な幅のスライディング時間窓に関して算出され、前記水中チャネルの有識の動的性質を考慮した評価を得る、方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、水中センサネットワーク内の通信の区分に関し、より具体的には、ネットワークノードによってパケットを再送するための論理（ロジック）について動的に判定してネットワーク自体の性能を最適化する方法に関する。
【背景技術】
【０００２】
UWSN（Underwater  Wireless  Sensor  Network：水中無線センサネットワーク）の使用は、特に、広範に適用可能である（例えば環境の監視、重大なインフラと沖合のプラットフォームとの監視、港及び海岸の監視等）。
【０００３】
水中センサネットワーク（図１）は、ノードのセットで構成され、適切に配置されて関心領域を覆い、様々な深さに配置される。それらのいくつかは、可動自律車両であってよい。各ノードは、センサと、１以上の通信装置とを備える。ノードは周囲から、環境データを収集する。これは、ローカルでの処理ステップの後、１以上のデータ収集装置又はシンクノード（これは適用種別に基づいて他の場所でデータを格納／処理／送信する）に送信される。データ交換はまた、装置の状態についてのコマンド又は情報を送信することに関してよい。
【０００４】
ノード間での通信ネットワークを作成することは、水中環境内での通信を特徴づける様々な問題を解決することを要求する。まず、水中環境により電磁波の使用（これは水中で顕著に減じられる）に対して課される制限を考慮すると、通信は、今日まで、音響波を介して典型的に取得されてきた。このことは、（秒単位での）伝達遅延が非常に生じることを示唆し、（毎秒数キロバイトで）伝送帯域が制限されることを意味する。更に、複数の実験活動によって十分に実演されるように、現在、かなりの不均一性と、品質の差異と、ノード間の通信チャネルの非対称性とが存在する。このとき、伝送特性は非常に、様々な条件（例えば深さ、温度、塩分濃度、海底の輪郭、地上風の条件、生成される雑音、迂回する船舶等、経時的に（短期間であっても）頻繁には予想不可能なその他のものに一層依存する条件等）に依存する。
【０００５】
この状況で、水中センサネットワークの適用の重大な側面をとりわけ考慮すると、主な課題の１つは、信頼可能な通信（すなわち、様々なノードによって生成されるパケットがシンクノードへ（合理的な時間内に）伝送されることを保証する容量）である。
【０００６】
通信容量を増加させる第１の解決手段は氾濫（フラッディング）技術である。これは、音響通信に内在する同報通信を利用する。各パケットは、全てのノードへ宛先指定される。パケットを受信する各ノードはそれを、同報通信モードにて再び返信する。しかし、一方で、この解決手段が、パケットがシンクノードへ到達する可能性や電力消費の観点でのコストを最大化するなら、ネットワークトラフィックとネットワーク破壊の対応リスクは、衝突数が増えるにつれて増加し（このとき、情報量の多大な削減と、結果として生じる遅延の制御不能な増大とが生じる）、この解決手段は不満足なもの又はほぼ実行不可能なものになる。
【０００７】
利点と氾濫技術の簡略性とを維持して上記の不利点を防止するために、様々なアプローチが限定的な氾濫解決手段を採用する。このとき、各ノードは、各パケットを他のノードの限定セットへ送信する。もし各ノードがそれ自身のトラフィックをただ１つのノードに送信すれば、単一パスとなる（すなわち、何らの冗長性もない古典的単一パスルーティングである）。もし１以上のノードが自身のトラフィックを複数のネットワークノードに送信すれば、複数のネットワークパスが存在する。したがって、冗長性が存在する。ルーティングは、複数パスルーティングである。
【０００８】
通信の信頼性を増加させるための他の解決手段は、再送技術を使用することを含む。各パケットが送信されるには、送信ノードは待機状態となる。このときそれは、宛先ノードによる受信承認を待機する。水中センサネットワークではネットワーク帯域が足りないことを考慮すると、暗示の承認が広く使用される。すなわち、同報通信の通信手段を利用して、パケットは成功裏に送信されたものとして考慮される（ただし、ノードが、パケットを送信した先の少なくとも１つのノードがそれを再送することを検出する場合）。代わりに、もしパケットの複製が検出されない場合、何らのノードもそれを受信しなかったことが想定され、パケットは後退（バックオフ）期間後に再送される。パケットは、所定回数再送され、その後拒絶される。この場合、再送の最大回数は重要な役割を果たす。すなわち、再送について非常に高い値は、伝送可能性を増大させるが、同時に、ネットワーク待ち時間（レイテンシ）を増大させ、電力消費を増大させ、今度はネットワークトラフィックを増大させる。
【０００９】
本発明を基礎づけるこの進歩的考えは、中継ノード（ルーティング機能）の選択ポリシーを再送ポリシーと組み合わせることを含み、送信の信頼性、ネットワーク待ち時間及び電力消費の観点で、性能を最適化する。選択処理は、各ノードによって実行される（したがって、分散される）アルゴリズムを適用することによって、動的且つ適応性のある方法で実行される。これは、当該ノードが、最善の数や、各パケットの送信先の隣接セットや、各パケットを再送する最大回数を動的に学習及び選択することを可能にする。
【００１０】
最適化は各ノードによって、交換されるローカル情報に基づいて、ローカル（局所的に）に実行され、ノードの動作モードの定義を可能にする。異なるノードは、異なる方法で振る舞う（すなわち、ネットワークの一部は、単一パスプロトコルに従い、一方でネットワークの他の領域は複数パスプロトコル又は氾濫プロトコルを使用する）。
【先行技術文献】
【非特許文献】
【００１１】
【非特許文献１】[SuBa98] R. S. Sutton and A. G. Barto, Reinforcement Learning: An Introduction. Cambridge Univ. Press, 1998.
【非特許文献２】[BaPe14] S. Basagni, C. Petrioli, R. Petroccia and D. Spaccini. "CARP: A Channel-aware Routing Protocol for Underwater Acoustic Wireless Networks", in press, Elsevier Ad Hoc Networks and Physical Communication. 2014.
【非特許文献３】[HuFe10] T. Hu and Y. Fei, “QELAR: A Machine Learning Based Adaptive Routing Protocol for Energy Efficient and Lifetime Extended Underwater Sensor Networks”, IEEE Transactions on Mobile Computing, Vol. 9, N. 6, pp.796-808, June 2010.
【非特許文献４】[PlWa14] R. Plate, C. Wakayama, “Utilizing kinematics and selective sweeping in reinforcement learning based routing algorithms for underwater networks”, in press, Elsevier Ad Hoc Networks and Physical Communication. 2014.
【特許文献】
【００１２】
【特許文献１】米国特許出願公開第２０１２／１９２０２６号明細書
【特許文献２】米国特許出願公開第２００４／０７１０８２号明細書
【発明の概要】
【発明が解決しようとする課題】
【００１３】
先行技術において、適応性のあるルーティング解決手段[BaPel4]、[HuFelO]、[PlWal4]が提案される。しかしこれらの解決手段は、性能の観点での限界を提示し、本提案の解決手段と比較して適応性の使用が非常に制限されることを把握する。２つの特許出願[US2026]（US 2012/192026 A1 (CHEN REN-JR [TW] ET AL) 26 July 2012）及び[US1082]（US 2004/071082 A1 (BASU ANINDYA [US] ET AL) 15 April 2004）に関し、同一の考慮事項が適用されてよい。第１の特許は、ルーティング戦略を提案せず、パケットの再送技術だけを提案する。しかし、本発明による提案はそれとは異なる。というのも、本願の再送戦略は、ネットワークノード間でのフィードバックの明示的交換を想定しないからである。他方で特許[US2004/071082]は、単一パス種別につき排他的であるルーティングプロトコルに関し、パケットの再送の回数が変化するときに何らの動的性質を提供しない。
【００１４】
事実上、本発明は、層横断的な「メタプロトコル」のローカル論理を導入する処理の定義を可能にし、ネットワークが、異なるプロトコルに応じて経時的に動作することを可能にし、ネットワークの異なる部分がプロトコル論理にしたがって動作することを可能にする。これは、性能を最適化するための本質的な特徴であり、先行技術の解決手段には全く存在しない。
【課題を解決するための手段】
【００１５】
水中センサネットワークの分野において、本発明は、中継ノード（すなわち、シンクノードへのルーティングのためにパケットを送信する先のノード）の選択ポリシーを、再送ポリシーと組み合わせることを含み、これにより、送信の信頼性と電力消費と（及び／又はこれらの組合せ）の観点から最善の性能を獲得する。特に：
・送信モードと、既に実行されたパケット再送の回数に応じてパケットが転送される先のノードとの動的判定についての方法が提案される。
・方法は全体的に分散される。各ノードは、ノードのセットを自律的に判定し、すでに実行された送信回数に応じて転送する。
・方法が全てのノードにつき同一である。
・方法は動的である。すなわち、ネットワーク状況が変化するとき、自己学習アルゴリズム（これは今度は分散される）を用いて、各ノードはそれ自体のポリシーを、宛先として選択されるノードの数とアイデンティティとの観点、及び／又は、所定のパケットにつき試行される再送の回数の観点で修正可能である。
【００１６】
仮に方法が分散され、各ノードにつき同一であっても、それは隣接ノード間でのローカル情報の交換に基づくネットワーク条件の学習に基づき（すなわち、「隣接ノード」は、互いによって実行された送信を正しく受信する容量を有することを意味するノードである）、また、事実、ネットワークを導いてその全体性能を最適化し、システムのノードが異なる方法で動作することを可能にする可能性を利用する（異なる数の中継装置が各送信につき選択され、異なる数の再送がノードによって使用される）。
【００１７】
本発明の更なる特徴は、添付の図面を参照して、後述の説明から明確である。
【図面の簡単な説明】
【００１８】
【図１】標準的な水中ネットワークの概念図である。
【図２】OSIプロトコルスタックの概念である。
【図３】LLCサブレイヤの実行フローを示す。
【図４】次のホップのノードの学習及び選択のためのモジュールを詳細に示す。
【図５】ネットワークトラフィックの関数としてのPDR（すなわち、シンクノードによって正しく受信されるパケットの数と、ノードによって生成されるパケットの数との間のパケット伝送率）を示し、発明による、既知のQELAR及びEFloodプロトコルと共に、CARMAプロトコルを比較して示すものである。
【図６】図６は、シンクノードへのデータビットの正しい伝送のためにネットワークによって消費される電力の異なるプロットを、図５の３つの参照プロトコルにおけるネットワーク負荷の関数として示す。
【図７】図７は、図５及び６の３つの異なるプロトコルにおいて、パケットの生成とシンクノードへの正しい伝送との間で、時間として定義される平均待ち時間を比較する。
【図８】図８は、低トラフィック及び高トラフィックの場合にビット情報の成功裏の伝送のために、ネットワークノードによって消費される電力を示す。
【発明を実施するための形態】
【００１９】
図面を参照すると、図１の水中センサネットワークは、関心領域を覆って適切に配置される複数のノードから成る。ノードが固定されるか可動車両によって示されるかにかかわらず、各ノードは、センサと１以上の通信装置とを含む。ノードは周囲から環境データを収集する。これは、ローカル処理の後、１以上のシンクノードに送信される。これは、適用種別に基づいてどこかでデータを格納／処理／転送する。
【００２０】
本発明は、層横断的な解決手段であり、ネットワーク層（ルーティング）と、データリンク層のLCC（論理リンク制御）サブレイヤとを統合する。
【００２１】
提案される方法は、自律的に、送信／再送される（LCC論理）各パケットにつき、ノード毎、ノードのどのサブセットにそれが送信されるか（ルーティング論理）を判定することと、実行される再送の最大回数とを含む。
【００２２】
この目的で、各ノードにつき、モジュールが提供される。これは、LLC層（ISO-OSIモデルのデータリンク層のトップサブレイヤ）の送信及び再送のポリシーを管理する。またルーティングモジュールは、Q学習に基づく自己学習アルゴリズムを用いて、各パケットにつき、これが既に送信された回数にしたがって、ノードの最適セットを判定する。それに対してこのパケットは再送される（下記に詳述）。
【００２３】
LCC（論理リンク制御サブレイヤ）
LLCサブレイヤは、図２に示されるノードの再送論理を管理する。ノードがパケットを送信する（又は、再送の場合は、パケットを再送する）必要があるとき、それはルーティングモジュールとインタフェース接続（矢印A及びB）し、パケット送信先のノードを識別する。この目的で、LLCサブレイヤはルーティングモジュールへ、当該パケットが既に（失敗して）送信された回数を送信し、後者から、パケット送信先のノードのセットを受信する（概してセットは、パケットの再送回数の関数である）。
【００２４】
ノードのセットの算出は、時々ではなく、周期的に実行されてよい。しかし、連続した再送間での時間がしばしば非常に長いことを考慮すると、提案される解決手段は好ましい。
【００２５】
パケットが送信されタイマが開始した後、ノードは待機状態となり、オーバーヒアリング技術を用いて暗示の承認を待機する。すなわち、パケット送信先のノードの少なくとも１つがそれを再送すれば、パケットは送信されたものとして考慮され、代わりに、パケットの何らの複製も送信されなければ、ノードのいずれもパケットと受信しなかったと想定される。前者の場合、次のパケットが送信される。後者の場合、パケットは、後退として示される待機時間の後に再送される。
【００２６】
各パケットは各ノードによって、最大でK回送信され、その後パケットは拒絶される。本書記載のように、パラメータKは、ネットワークトラフィックの強度の評価値にしたがって動的に設定される。
【００２７】
ルーティングモジュール
ルーティングモジュールは、ルーティング論理を管理し、各パケットにつき、それが既に送信された回数にしたがって、それの（再）送信先のノードの最適セットを判定する。
【００２８】
提案された解決手段は、一般的な数学的な強化学習技術（Q学習[SuBa9]として既知）に基づく。Q学習方法は、Q関数（Q値）に基づき、これは、システムの各可能な状態についての各可能なアクションに関連付けられたコストの評価値を示す。反復的に、アルゴリズムは、様々な評価値を更新し、これらに基づいて、最小限のコストでのアクションを、実行される活動として示す。
【００２９】
ルーティングモジュールによって使用される特定のアルゴリズムは、後述され、図４に示される。各ノードでは、パケットの状態は、これが送信された回数で示される（もしs=0なら、パケットはまだ送信されていない。もしs=1なら、パケットは既に一回送信された等）。一方で可能なアクションaは、パケット送信先のノードの様々なサブセットである（もしa={j}ならパケットはそのノードののみ送信され、もしa={j1,j2}なら、パケットはj1及びj2へ送信され、もしa={j1,j2,…,jn}ならパケットはノードj1,j2,…,jnへ送信される等）。
【００３０】
各状態／アクションペア(s,a)につき（すなわち、再送回数と可能な宛先のセットとにより形成されるペア）、各ノードiのルーティングモジュールは、Q関数Qi(s,a)（すなわち、状態sのときにアクションaの実行に関連付けられたコストであって、セットaにおいてノードへs回既に送信されたパケットを送信するコスト（２−７行目））を評価する。
【数１】
2019502282.tif 000003
学習アルゴリズムの擬似コード
【００３１】
一旦様々な評価値が更新されると、宛先ノードの選択は、セットaに向けられる。これに対して最善のコストが関連付けられる（９行目）。
【００３２】
値Qi(s,a)（５行目）の算出のための可能性
2019502282.tif 000004
は、ノードiによって送信されたパケットがノードjによって正しく受信される可能性Pi,jから出発して取得される（下記の通り）。
【数２】
2019502282.tif 000005
2019502282.tif 000006
2019502282.tif 000007
【００３３】
学習技術の動作の核心は、様々な状態／アクションペアに関連付けられたコスト関数の仕様である。これは事実上、中継セットの選択の論理を判定する。
【００３４】
本開示で提案される解決手段において、各アクションに関連付けられたコスト関数
2019502282.tif 000008
は次のように定義される。
【数３】
2019502282.tif 000009
ただし、
2019502282.tif 000010
は、アクションに対応するノードのセットへのパケット送信コストと等しい。
2019502282.tif 000011
は、下流ノードがパケットと宛先へ伝送するコストである（隣接ノードと交換される情報に基づいて算出される）。
2019502282.tif 000012
は、可能なパケット損失に関連付けられたコストである（ただし、これが、最大回数の再送に達した後に拒絶されたとき）。we及びwl（ただしwe+wl=1）は、重みであり、適用上の要件に基づいて選択される。
【００３５】
下流ノードのコストについての式は、
【数４】
2019502282.tif 000013
ただしcjはノードjが宛先へパケットを送信する下記のコストと等しい。
【数５】
2019502282.tif 000014
この値はノードによって周期的に同報通信される。一方で
2019502282.tif 000015
についての式は、
【数６】
2019502282.tif 000016
ただしLはパケット損失（再送の最大回数に達した後にこれが拒絶されるとき）に関連付けられたペナルティである。その積は、パケットが失われた可能性である。
【００３６】
リンク品質の評価
各ノードは隣接ノードから正しく受信されたパケットの数nを追跡する。この算出は、ノードが単一パケットの受信者であるか否かにかかわらず、全てのパケットにつき実行される。一旦ノードjが、ノードiによって送信されたパケットを正しく受信すれば、それは次のように、パケットの通し番号から、ノードによって送信されたパケットの数nを判定し、そこからリンク品質を評価する。
【数７】
2019502282.tif 000017
【００３７】
ただし、リンク品質Pijは、ノードiによって送信されたパケットがノードjによって正しく受信される確率を示す。水中チャネルの有識の動的性質を考慮した評価を得るために、値ni及びnijは、適切な幅のスライディング時間窓に関して算出される。
【００３８】
再送の最大回数Kの動的設定
Kはプロトコルの基本的なパラメータである。低い値は、ネットワークトラフィックを制限することに貢献するが、送信の成功確率が低くなる。代わりに、Kの値が高いと、パケットが受信される確率を増大させるが、ネットワークトラフィックが増大する。低トラフィックでの適切な値のKは、トラフィックが維持される状況で、ネットワーク高負荷の状況をもたらし得る。よって、ネットワーク破壊をもたらす。提案される解決手段では、パラメータKは、送信の平均数G（これは、パケット送信に必要な時間と等しい長さの時間窓において実行される）が0.5と等しいように動的に設定される（考え方は、非スロット同報通信ALOHAとしてのネットワークの層２の動作に近い。これについては、ネットワークの送信容量のピークはG=0.5のときに得られることが知られている）。最大のネットワーク負荷につき次の近似を用いる。
G = tcol λ K
ただしtcolは衝突時間、すなわち、パケットの送信時間と最大のネットワーク伝達時間（ネットワーク自体の規模に基づいて評価可能な値）との合計であり、λはネットワーク内のトラフィック（ローカルに観察されるトラフィックに基づいて各ノードによって動的に評価可能な値）を示す。再送の最大回数につき、次の式が得られる。
【数８】
2019502282.tif 000018
表記[X]はxより大きい最小の整数を示す。
【００３９】
通信装置の動的選択についての拡張例
水中通信ネットワークの効率性が同時的に異種の通信装置（これは、ビットレート、動作周波数、送信範囲、通信時の信頼性等に関して異なってよい）を用いて増大されることは共通認識である。このことは、水中環境の可変状況と、異なる種別のネットワークとに対する一層の適応性を可能にする。この状況で、本発明は自律的に、ノード毎に、パケット送信先のノードのサブセットに加えて、特定の通信装置（これは利用可能な複数の装置の中から用いられる）を選択することにつき容易に拡張可能である。これを時刻するために、上記のモデルを次のように変更する必要がある。
【００４０】
可能なアクションaは、ノードの異なるサブセット（パケットの送信先）だけでなく、利用可能な複数の装置の中から用いられる通信装置（もしa={m1, [j]}なら、パケットは、装置m1を用いてノードjだけに送信される。もしa={m2, [j1,j2]}なら、パケットはj1及びj2へ送信され、もしa={m1,[j1,j2,…,jn]}なら、パケットは装置m1を用いてノードj1,j2,…,jnへ送信される等）をも特定する。
【００４１】
例えば異なるレベルの電力消費又は送信容量が異なる装置に関連付けられることを考慮すると、パケット送信コスト
2019502282.tif 000019
はまた、パケット送信のために選択された特定の通信装置mを考慮する。
【００４２】
ノードiによって送信されたパケットがノードjによって正しく受信される可能性は、
2019502282.tif 000020
として定義される。というのもそれは、使用される特定の装置mに依存するからである。それは次のように算出される：ノードjは、一旦ノードiによって送信されたパケットを、装置mを用いて正しく受信すると、パケットの通し番号から、当該装置を用いて当該ノードによって送信されたパケットの数
2019502282.tif 000021
を判定し、mに対応するリンクの品質の評価値として、割合
【数９】
2019502282.tif 000022
を用いる。ただし、
2019502282.tif 000023
は、装置mを用いてノードiによって送信され、jによって受信されたパケットの数である。
【００４３】
実験結果
本発明の利点を強調するために、模擬実験によって得られた実験結果がここに示される。CARMAの性能は、QELAR[HuFelO]（ノード間で均一な電力消費を得るよう試行するが複数パスを考慮しない強化学習に基づくプロトコル）の性能、及び、EFlood[BaPel4]（衝突を低減しプロトコルの頑健性を増大させるために明示される、氾濫プロトコルの改良版）の性能と比較される。模擬実験される水中環境は、Trondheim（トロンハイム）の湾の沖にある、ノルウェーのフィヨルドの一部に対応する。水中環境の模擬実験のために必要な全ての情報は、World  Ocean  Database（http://mw.nodc.noaa.QOV/0C5/W0A05/prwoaQS.html）と、General  Bathymetric  Chart  of  the  Oceans(GEBCO)（http://www.gebco.net）と、National  Geophysical  Data  Center  Deck41データベースhttp://www.ngdc.noaa.gov/mgg/geology/deck41.html）とから取得される。
【００４４】
この実験では、4km×1kmの領域に異なる深さ（10mから240mまでの範囲）でランダムに配置された４０ノード（３９ノードとシンクノードとの合計）の静的ネットワークが考慮される。ネットワークトラフィックは、毎秒パラメータλパケットのポアソン（Poisson）処理にしたがって生成される。ただし、λは0.01、0.02、0.04、0.0666及び0.1のセット内の想定値である。更なる３つの異なるパケットサイズ（すなわち、50B、500B及び1000B）が考慮される。
【００４５】
プロトコルの性能は、次の性能メトリックを用いて評価される。
・パケット伝送率（PDR）、すなわち、シンクノードへ伝送されるパケットの割合は、シンクノードによって正しく受信されたパケットと、ノードによって生成された全てのパケットとの分数として定義される。
・端末間待ち時間は、パケット生成と、それがシンクノードで正しく受信されることとの間で経過する時間として定義される。
・ビット毎の消費は、データビットがシンクノードへ伝送されるために、ネットワーク内で消費される電力として定義される。
【００４６】
模擬実験の結果
図５、６及び７は、記載される模擬実験内の３つのプロトコルの性能を示す。その結果は、1000Bのパケットサイズを示し、これは考慮された３つ全てのプロトコルの最善の性能に対応する（他のパケットサイズについての性能は表１に要約される）プロトコル間で同一状況での比較を得るために、QELAR及びEFloodの特徴パラメータは、それぞれの著者によって提案される最適値に設定される。
【表１】
2019502282.tif 000024
【００４７】
パケット伝送率について。各プロトコルにつき測定されたPDRが図５に示される。結果は予想と一致する。特に、PDRは、ネットワークトラフィックが増加するにつれて減少する。というのも、パケット間の衝突と、そこに占めるチャネルを検出する可能性は増加するからである。いかなる場合でも、CARMAは最善の性能を示す。ネットワークトラフィックが非常に高いとき、そのPDRは100%から85%へ減少する。
【００４８】
CARMAの性能は次の３つの要因に基本的に依存する。
１）プロトコルは発信源からシンクノードへパケットを送信するのに必要な全体的な送信回数を最小限にし、結果的に、パケットを宛先へ伝送する可能性が最も高いルート（進路）を識別可能である。
２）複数パスでパケットを転送することは、再送が増加するにつれて、プロトコルの頑健性を増加させる。
３）再送の最大回数Kは、トラフィックに基づいて動的に算出されるので、トラフィックが高いときに再送の回数を減らし、パケット間衝突を結果的に低減させる。全てのプロトコルの中で、EFloodは、送信回数が多いことを理由に、最悪の性能を示す。このことは、負荷が増加するにつれて、衝突の数が増えることにつながる。他方、QELARはネットワーク内トラフィックが低い限りは良い性能を示す。しかし、そのPDRは、トラフィックが増加するときにすぐに落ちる。その理由は、それが再送回数に対し動的制御を行っていないことと、それが通信リンクの品質をCARMAほど正確に評価しないことである。負荷のとき、パケットのオーバーヒアリングの困難性（これはリンク品質を評価するためにQELARによって使用される主なメカニズムである）は、正確な評価から程遠く、結果的に、非最適なルーティング判定となる。
【００４９】
ビット毎の消費量について。図６はシンクへのデータビットの伝送のための電力消費を示す。EFloodは、とりわけ低トラフィック状況において、ビット伝送につき最も消費するプロトコルである。EFloodは氾濫（フラッディング）に基づくプロトコルであることと、その性質上、多い送信回数と対応する高い電力消費とによって特徴づけられることに留意されたい。CARMA及びQELARは、低トラフィック強度では良い性能を示す。CARMAはパケットサイズが小さい場合にかなりの消費を低減可能である（表１）。しかし、トラフィックレベルが増加するにつれて、QELARの性能は、再送回数が多いことと、シンクノードへ正しく伝送されるデータビットの数が少ないこととの結果として落ちる。
【００５０】
図８は、ビット毎の消費がネットワークノード間でどのように変化するかを示す。低い及び高い負荷レベルに対応する２つの状況が考慮される。電力効率は、CARMAにおいては非常に均一である。一方それは、他の２つのプロトコルにおいて、大きい変化を示す。
【００５１】
端末間待ち時間について。図７は、シンクノードへのパケット伝送についての平均待ち時間を示す。予想された通り、トラフィックレベルが増加するにつれて、パケット伝送に必要な時間が増加する。CARMAは、考慮される全ての状況において、パケットを最短の時間で伝送する。パケット伝送のために必要な再送回数を低減することで、CARMAは待ち時間につき、効率的に動作する。代わりにEFloodは、長い待ち時間を提示する。これは、送信ノードを脱同期させるために導入される遅延に依存する。しかし、それはネットワークトラフィックに無関係に類似のままである。EFloodでは、各パケットは各ノードによってたった一度だけ送信される（再送はない）。このことは待ち時間を限定させるが、低PDRである。QELARは、低トラフィックレベルにて、CARMAのそれと比較可能な待ち時間を提示する（ただし、それが、トラフィックレベルが増加するにつれて非常に増加することを除く）。その理由は、QELARプロトコルが、高い再送率（トラフィックが低いときは150%を超える）と、暗示の承認を受信する困難性とによって特徴づけられるからである。このことは、パケットを正しくルーティングする容量を危険にさらす。
【００５２】
本発明の主題を形成する方法についての好適な実施形態が示される。しかし、請求項によって定義される本発明の保護範囲から逸脱すること無く、当業者によって多くの修正及び変形がなされてよいことは自明である。
【図１】
2019502282.tif 000030
【図２】
2019502282.tif 000031
【図３】
2019502282.tif 000032
【図４】
2019502282.tif 000033
【図５】
2019502282.tif 000034
【図６】
2019502282.tif 000035
【図７】
2019502282.tif 000036
【図８】
2019502282.tif 000037
【国際調査報告】
2019502282.tif 000038
2019502282.tif 000039