ランド研究所の「機械学習による航空支配」を実装する（その１８）： 2D問題 mission_4 Reward shaping による改良

本記事は、ランド研究所の「機械学習による航空支配」を実装する（その１８）です。

[Air Dominance Through Machine Learning: A Preliminary Exploration of Artificial Intelligence–Assisted Mission Planning, 2020](https://www.rand.org/pubs/research_reports/RR4311.html)


使用したコードは、下記 GitHub の mission_4 フォルダにあります。

> https://github.com/DreamMaker-Ai/AirDominance_2D_RL

強化学習アルゴリズムは、これまでと同様に、[SAC](https://arxiv.org/abs/1801.01290) を用いました。


#1. 報酬シェーピング

報酬シェーピングでは、学習時にプランナーのサーチ空間を制限して、望ましい方向に学習を意図的に誘導するために、（毎ステップで密に）報酬を与えます。

ここで「望ましい方向」とは、あくまで設計者たる「私が望ましい」と思っている方向なだけであって、それがベストな方向であるとは限りません。たぶん、ほとんどの場合は、もっと良い解が解空間のどこかに存在するのではないかと思います。

このように、報酬シェーピングは、ニューラルネットの持つ可能性を限定してしまうような気がして、私はあまり好きではないので、今回まで敢えて使わずに来ました。とはいえ、現状の強化学習では、報酬シェーピングは正しく使えば威力を発揮します。逆に言えば、報酬シェーピング無しでは、上手くいかないことが多いのが現状の強化学習レベルですので、これは今後に期待するしかありません。

報酬シェーピングを有効に使うためには、ドメイン知識が重要なのですが、今回の例題では常識で考えれば十分だと思いますので、以下の方針で報酬を与えました。（かなり試行錯誤しました）。

```
(1) 不要な遠回りを避けるために、ステップ毎に負のペナルティ-0.1を与える。
(2) Decoy が未だ生きていて、
　２−１）Decoy が SAM に接近している、
　且つ
　２−２）Decoy と Fighters の内の少なくとも一機との間で「同期（説明は後出）」が取れていて、且つ、その Fighter が SAM に接近しつつある、
　且つ、
　２-３）Decoy のほうが、その Fighter よりも先に SAM の射程内に入る位置関係になっている、
時、Decoy の SAM への指向度合いに応じた報酬を与える。
```

Decoyが生きているかどうかは、Decoy.alive > 0.5 で判定できます。

２−１）の Decoy が SAM に接近しているかどうかは、下図のように、Decoy の速度ベクトルと、Decoy に対する SAM の相対位置ベクトルの間の角度θdで判定できます。

２−２）の「同期」ですが、これは、
 ```Fighter_speed x cooldown time + fighter の内の1機の搭載ウェポンの射程 > SAM の射程```
と定義しました。これは、cooldown 期間中に、少なくとも1機の Fighter の搭載ウェポンが、SAM を射程内に収めることが出来る位置関係にあることを意味しています。また、「その fighter が SAM に近づいている」は、```その fighter の θf が小さい```
て表すことができます。

２－３）は、SAM と Decoy, Fighter 間の各距離を比べれば判定できます。

Decoy の SAM への指向度合いに応じた報酬は、θdの大きさで与えることができます。

![図1.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/33503c37-15ff-2381-0fe6-630a5f68b033.png)

以上をふまえ、ステップ毎に与えるステップ報酬は、次のコードで与えました。

    def get_reward_mission_4(self, done, fighter_1, fighter_2, fighter_3, decoy, sam):
        reward = -0.1

        # cond_1
        cond_1 = (decoy.alive > .5)

        # cond_2
        v_d = self.make_v(decoy)
        r_ds = self.make_r(sam, decoy)
        _, cos_d = self.compute_heading_error(v_d, r_ds)
        cond_2 = (cos_d > np.cos(10 * np.pi / 180))

        # cond_3
        fighters = ['fighter_1', 'fighter_2', 'fighter_3']

        cos_f_list = []
        r_f_list = []
        for f in fighters:
            fighter = eval(f)
            v_f = self.make_v(fighter)
            r_fs = self.make_r(sam, fighter)
            _, cos_f = self.compute_heading_error(v_f, r_fs)
            cos_f_list.append(cos_f)
            r_f_list.append(np.linalg.norm(r_fs, ord=2) - np.linalg.norm(r_ds, ord=2))

        cond_3_list = []
        for i in range(len(fighters)):
            con1 = (0 < r_f_list[i] <= sam.cooldown_max_count * self.resolution)
            con2 = (cos_f_list[i] > np.cos(10 * np.pi / 180))
            cond_3_list.append(con1 and con2)

        cond_3 = (True in cond_3_list)

        cond_4_list = []
        for i in range(len(fighters)):
            con1 = (0 < r_f_list[i])
            cond_4_list.append(con1)

        cond_4 = not (False in cond_4_list)

        cond = (cond_1 and cond_2 and cond_3 and cond_4)
        if cond:
            alpha = 0.1
            reward += alpha * cos_d

        if done:
            if (fighter_1.alive > .5) and (fighter_2.alive > .5) and (fighter_3.alive > .5) and \
                    (sam.alive < .5):
                reward = 1
            else:
                reward = -1

        return reward



#2. 学習履歴
以下では、報酬シェーピング無しで、何とか学習を進めることが出来た cooldown time step N=40 (97.297 secに対応) の場合の例を以下に示します。

各下図で、茶色のラインが報酬シェーピング無し、水色のラインが報酬シェーピング有りの場合の学習履歴です。報酬シェーピングは、非常に有効なことが判ります。

##2.1 報酬シェーピングの効果

報酬シェーピングにより、学習が誘導されるので、学習が加速されているのが分かります。

![episode length mean_trail.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/0e9d1362-a059-ba79-2b81-99736a0f164e.jpeg)

![episode reward mean_trial.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/bb1eb7dc-6160-b406-c26b-329e5f6d8f69.jpeg)


下図は、報酬シェーピング無しの場合のエピソード報酬（1 or -1）の分布です。

![episode_reward_id_2.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/7d1b15b7-2983-338b-ce40-698dc1a53395.png)

下図は、報酬シェーピングによって、エピソード報酬の分布が狭い範囲内で安定したものになることを示しています。

![episode rewrad_id_12.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/1c8f0355-13bb-44a1-5fe3-7e4737713123.png)

下図も、報酬シェーピング無しの場合には、エピソード報酬（1 or -1）が、安定しないことを示しています。

![ID_2_reward.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/c438d31b-5edb-de91-e4f7-b8ca19d02d26.png)

報酬シェーピングにより、安定したエピソード報酬が得られるようになります。

![ID_12_reward.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/9a68c478-0749-d7de-0c1d-a2db020ad12d.png)

下図は、100エピソードでテストした場合の成功率の分布です。報酬シューピングにより、以下の効果が得られることが分かります。
- 学習が早くなる
- 学習が安定する（成功率が安定する）
- 高い性能が得られる（高い成功率が得られる）

![test_history.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/4a8ad194-0ebe-6868-c24a-d3864325582a.png)


##2.2 Small cooldown time

報酬シェーピング有の条件で、SAM のcooldown timeを変えてトレーニングした際の学習履歴を下図に示します。Cool down timeは、40 time steps (97.3 sec)、20 time steps (48.6 sec)、10 time steps (24.3 sec)で実施しました。いずれの場合も、トレーニングに成功しています。

※　さらに、5 time steps（12.2 sec）でも試みましたが、これは学習が進みませんでした。もし、cooldown time が十数秒よりも短いのであれば、今回のように、Decoy と Fighter を別々のエンティティとするのではなく、１つのパッケージとしてプランニングしたほうが良いと思います。

![episode reward mean_trial (1).jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/78478ffc-1295-f86a-de8e-6266548cf1c7.jpeg)

![episode length mean_trail (1).jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/619c4cfe-bdea-be47-1a55-00ab842131ae.jpeg)

![episode reward.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/b89fe599-c2e9-212a-78f3-86922a90cb4c.png)

![episode_length.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/d331c7b2-96d7-c496-5832-e250d3f14179.png)



#3. 学習結果

トレーニング中に 100 エピソードでテストを行い成功率を計算た結果を示します。上に示した平均エピソード長や平均エピソード報酬の履歴からは読み取れませんが、N=40 (97.23sec)の場合に比べると、cooldown time が短い N=20 (48.6 sec), 10 (24.3 sec) のケースは少し学習が難しいのが判ります。

![learning_history.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/9d507119-9f66-d3f2-71fb-102dc6d3b16b.png)


#4. 汎化能力
学習時のミッション条件（ノミナル条件）を外挿するミッション条件で、プランナーの汎化能力（ロバストネス）を調べました。

学習時の条件は、下記のとおりです。

```
Nominal mission conditions:
 - Fighters Initial range to SAM: [30,50] km
 - Fighters Initial heading error to SAM: 0 deg
 - Decoy Initial range to SAM: [30,50] km
 - Decoy Initial heading error to SAM: 0 deg
```

汎化能力確認条件

```
Fighetr と Decoy の距離変動と Initial heading error に対するロバストネス:
 - Fighters Initial range to SAM: [50, 70] km, [70, 90] km
 - Fighters Initial heading error to SAM: [-180, 180] deg
 - Decoy Initial range to SAM: [50, 70] km, [70, 90] km
 - Decoy Initial heading error to SAM: [-180, 180] deg
```

![Robustness to Initial heading error & Initial range (1).png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/8db434d7-b45b-0e3a-3c6a-8fab32a7cc47.png)


##4.1 Decoy の初期距離が遠方のミッションに対するロバストネス

SAM に対する Decoy の初期位置が、トレーニング時よりも遠方にある場合、Fighters は Decoy が近づいてくるのを待って、正確なタイミングで SAM の射程内に進入しなければなりません。

```
 - Fighters Initial range to SAM: [30, 50] km
 - Fighters Initial heading error to SAM: [-180, 180] deg
 - Decoy Initial range to SAM: [50,70] km, [70, 90] km, [90, 110] km
 - Decoy Initial heading error to SAM: [-180, 180] deg
```




![Robustness to Range difference (Decoy).png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/0f8923f0-c65c-ec09-c8fa-628fb4cda0da.png)


##4.2 Fighter の初期距離が遠方のミッションに対するロバストネス

SAM に対する Fighters の初期位置が、トレーニング時よりも遠方にある場合、Decoy は Fighters が近づいてくるのを待って、正確なタイミングでSAMの射程内に進入しなければなりません。

```
 - Fighters Initial range to SAM: [50,70] km, [70, 90] km, [90, 110] km
 - Fighters Initial heading error to SAM: [-180, 180] deg
 - Decoy Initial range to SAM: [30, 50] km
 - Decoy Initial heading error to SAM: [-180, 180] deg
```


![Robustness to Range difference (Fighter).png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/7131469f-c47b-363f-aa0e-855d26c7f0a5.png)




#5. プランニング例

以下にプランニング例を示します。
3つの青い丸がFighters、その外側の大きな円が搭載ウェポンの射程、水色の丸がDecoy、赤い丸がSAM、その外側の円がSAMの射程を表しています。

個々の解説は省略しますが、報酬シェーピングから予想されるような動きとなっています。（意表を突いた動きにはならないので、個人的には、物足りなさを感じます）。

##5.1 Nominal mission conditions
Fighters Initial range to SAM: [30,50] km
Fighters Initial heading error to SAM: 0 deg

Decoy Initial range to SAM: [30,50] km
Decoy Initial heading error to SAM: 0 deg

###5.1.1 成功プラン

```
{
  "mission_id": "mission_4",
  "mission_condition": "d1",
  "result": "success",
  "fighter_1": {
    "alive": 1,
    "firing_range": 11.5
  },
  "fighter_2": {
    "alive": 1,
    "firing_range": 10.5
  },
  "fighter_3": {
    "alive": 1,
    "firing_range": 11.5
  },
  "sam_1": {
    "alive": 0,
    "firing_range": 0,
    "cooldown_on": 1,
    "cooldown_max_count": 10,
    "cooldown_counter": 7
  }
}
```
![sac_success_21.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/b90f57bc-1df4-aa96-aa9c-1ea101f721da.gif)


```
{
  "mission_id": "mission_4",
  "mission_condition": "d1",
  "result": "success",
  "fighter_1": {
    "alive": 1,
    "firing_range": 7.0
  },
  "fighter_2": {
    "alive": 1,
    "firing_range": 10.0
  },
  "fighter_3": {
    "alive": 1,
    "firing_range": 8.0
  },
  "sam_1": {
    "alive": 0,
    "firing_range": 0,
    "cooldown_on": 1,
    "cooldown_max_count": 10,
    "cooldown_counter": 9
  }
}
```
![sac_success_7.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/0e55ad71-d072-52d4-390d-32ca5d294ab8.gif)

```
{
  "mission_id": "mission_4",
  "mission_condition": "d1",
  "result": "success",
  "fighter_1": {
    "alive": 1,
    "firing_range": 13.5
  },
  "fighter_2": {
    "alive": 1,
    "firing_range": 13.0
  },
  "fighter_3": {
    "alive": 1,
    "firing_range": 11.0
  },
  "sam_1": {
    "alive": 0,
    "firing_range": 0,
    "cooldown_on": 1,
    "cooldown_max_count": 10,
    "cooldown_counter": 8
  }
}
```
![sac_success_2.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/3f1d1574-1115-b048-dbc2-ee1ace314874.gif)



###5.1.2 失敗プラン
僅かなタイミングの違いなのですが、上手くいかないケースもあります。

```
{
  "mission_id": "mission_4",
  "mission_condition": "d1",
  "result": "fail",
  "fighter_1": {
    "alive": 0,
    "firing_range": 10.0
  },
  "fighter_2": {
    "alive": 1,
    "firing_range": 12.0
  },
  "fighter_3": {
    "alive": 1,
    "firing_range": 13.5
  },
  "sam_1": {
    "alive": 0,
    "firing_range": 14.0,
    "cooldown_on": 0,
    "cooldown_max_count": 10,
    "cooldown_counter": 0
  }
}
```
![sac_fail_25.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/fdd3150d-8864-bc99-6ed5-34866245fe74.gif)

```
{
  "mission_id": "mission_4",
  "mission_condition": "d1",
  "result": "fail",
  "fighter_1": {
    "alive": 1,
    "firing_range": 11.0
  },
  "fighter_2": {
    "alive": 1,
    "firing_range": 10.0
  },
  "fighter_3": {
    "alive": 0,
    "firing_range": 9.0
  },
  "sam_1": {
    "alive": 1,
    "firing_range": 13.0,
    "cooldown_on": 0,
    "cooldown_max_count": 10,
    "cooldown_counter": 0
  }
}
```
![sac_fail_29.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/33c13f25-622e-1cd3-a692-e1f73a0928f4.gif)




##5.2 距離変動と Initial heading error に対するロバストネス
Fighters Initial range to SAM: [70, 90] km
Fighters Initial heading error to SAM: [-180, 180] deg

Decoy Initial range to SAM: [70, 90] km
Decoy Initial heading error to SAM: [-180, 180] deg

###5.2.1 成功プラン

```
{
  "mission_id": "mission_4",
  "mission_condition": "d1",
  "result": "success",
  "fighter_1": {
    "alive": 1,
    "firing_range": 15.0
  },
  "fighter_2": {
    "alive": 1,
    "firing_range": 16.0
  },
  "fighter_3": {
    "alive": 1,
    "firing_range": 14.0
  },
  "sam_1": {
    "alive": 0,
    "firing_range": 0,
    "cooldown_on": 1,
    "cooldown_max_count": 10,
    "cooldown_counter": 9
  }
}
```
![sac_success_1.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/59ce77c2-4133-38a2-5ce8-22c5420609e1.gif)

```
{
  "mission_id": "mission_4",
  "mission_condition": "d1",
  "result": "success",
  "fighter_1": {
    "alive": 1,
    "firing_range": 10.0
  },
  "fighter_2": {
    "alive": 1,
    "firing_range": 12.0
  },
  "fighter_3": {
    "alive": 1,
    "firing_range": 14.0
  },
  "sam_1": {
    "alive": 0,
    "firing_range": 0,
    "cooldown_on": 1,
    "cooldown_max_count": 10,
    "cooldown_counter": 9
  }
}
```
![sac_success_26.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/1e2f90b8-aed6-27f6-69c6-631dbea31fb3.gif)



###5.2.2 失敗プラン

```
{
  "mission_id": "mission_4",
  "mission_condition": "d1",
  "result": "fail",
  "fighter_1": {
    "alive": 0,
    "firing_range": 17.5
  },
  "fighter_2": {
    "alive": 1,
    "firing_range": 15.0
  },
  "fighter_3": {
    "alive": 1,
    "firing_range": 13.5
  },
  "sam_1": {
    "alive": 0,
    "firing_range": 18.0,
    "cooldown_on": 0,
    "cooldown_max_count": 10,
    "cooldown_counter": 0
  }
}
```

![sac_fail_0.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/35ae2a94-4bba-f6f3-7efd-2344709651d5.gif)



```
{
  "mission_id": "mission_4",
  "mission_condition": "d1",
  "result": "fail",
  "fighter_1": {
    "alive": 1,
    "firing_range": 14.0
  },
  "fighter_2": {
    "alive": 0,
    "firing_range": 14.0
  },
  "fighter_3": {
    "alive": 1,
    "firing_range": 13.0
  },
  "sam_1": {
    "alive": 1,
    "firing_range": 17.0,
    "cooldown_on": 0,
    "cooldown_max_count": 10,
    "cooldown_counter": 0
  }
}
```

![sac_fail_21.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/57d8b20f-4795-aa3c-77d0-ed9e2279be7e.gif)



##5.3 Decoy の初期距離が遠方のミッションに対するロバストネス

SAM に対する Decoy の初期位置が、トレーニング時よりも遠方にある場合、Fighters は Decoy が近づいてくるのを待って、正確なタイミングで SAM の射程内に進入しなければなりません。このようなプランニングが出来るかどうか確認します。

Fighters Initial range to SAM: [30, 50] km
Fighters Initial heading error to SAM: [-180, 180] deg

Decoy Initial range to SAM: [90, 110] km
Decoy Initial heading error to SAM: [-180, 180] deg

###5.3.1 成功プラン

```
{
  "mission_id": "mission_4",
  "mission_condition": "d1",
  "result": "success",
  "fighter_1": {
    "alive": 1,
    "firing_range": 12.0
  },
  "fighter_2": {
    "alive": 1,
    "firing_range": 13.0
  },
  "fighter_3": {
    "alive": 1,
    "firing_range": 13.5
  },
  "sam_1": {
    "alive": 0,
    "firing_range": 0,
    "cooldown_on": 1,
    "cooldown_max_count": 10,
    "cooldown_counter": 7
  }
}
```
![sac_success_22.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/0e6a1180-8292-5ba8-184a-7ac4b94d0dfc.gif)


```
{
  "mission_id": "mission_4",
  "mission_condition": "d1",
  "result": "success",
  "fighter_1": {
    "alive": 1,
    "firing_range": 10.5
  },
  "fighter_2": {
    "alive": 1,
    "firing_range": 11.5
  },
  "fighter_3": {
    "alive": 1,
    "firing_range": 9.5
  },
  "sam_1": {
    "alive": 0,
    "firing_range": 0,
    "cooldown_on": 1,
    "cooldown_max_count": 10,
    "cooldown_counter": 10
  }
}
```
![sac_success_27.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/38f15cbc-e911-b722-baf8-a20c75a63a31.gif)



###5.3.2 失敗プラン

```
{
  "mission_id": "mission_4",
  "mission_condition": "d1",
  "result": "fail",
  "fighter_1": {
    "alive": 0,
    "firing_range": 12.5
  },
  "fighter_2": {
    "alive": 0,
    "firing_range": 11.5
  },
  "fighter_3": {
    "alive": 1,
    "firing_range": 14.5
  },
  "sam_1": {
    "alive": 0,
    "firing_range": 15.5,
    "cooldown_on": 0,
    "cooldown_max_count": 10,
    "cooldown_counter": 0
  }
}
```
![sac_fail_2.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/0d1103e6-dc7c-7408-90f2-5109443df122.gif)




##5.4 Fighter の初期距離が遠方のミッションに対するロバストネス

SAM に対する Fighters の初期位置が、トレーニング時よりも遠方にある場合、Decoy は Fighters が近づいてくるのを待って、正確なタイミングでSAMの射程内に進入しなければなりません。このような正確性が要求されるタイミングをプランニング出来るかどうか確認します。

Fighters Initial range to SAM: [90, 110] km
Fighters Initial heading error to SAM: [-180, 180] deg

Decoy Initial range to SAM: [30, 50] km
Decoy Initial heading error to SAM: [-180, 180] deg

###5.4.1 成功プラン

```
{
  "mission_id": "mission_4",
  "mission_condition": "d1",
  "result": "success",
  "fighter_1": {
    "alive": 1,
    "firing_range": 13.0
  },
  "fighter_2": {
    "alive": 1,
    "firing_range": 14.0
  },
  "fighter_3": {
    "alive": 1,
    "firing_range": 13.0
  },
  "sam_1": {
    "alive": 0,
    "firing_range": 0,
    "cooldown_on": 1,
    "cooldown_max_count": 10,
    "cooldown_counter": 8
  }
}
```
![sac_success_0.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/79ac2910-5fa5-189a-cb3f-c9280fbc4ee6.gif)

```
{
  "mission_id": "mission_4",
  "mission_condition": "d1",
  "result": "success",
  "fighter_1": {
    "alive": 1,
    "firing_range": 20.5
  },
  "fighter_2": {
    "alive": 1,
    "firing_range": 16.5
  },
  "fighter_3": {
    "alive": 1,
    "firing_range": 18.5
  },
  "sam_1": {
    "alive": 0,
    "firing_range": 0,
    "cooldown_on": 1,
    "cooldown_max_count": 10,
    "cooldown_counter": 8
  }
}
```

![sac_success_12.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/99bfae21-330c-c91c-10d5-b985955f9dcc.gif)


###5.4.2 失敗プラン

```
{
  "mission_id": "mission_4",
  "mission_condition": "d1",
  "result": "fail",
  "fighter_1": {
    "alive": 1,
    "firing_range": 8.5
  },
  "fighter_2": {
    "alive": 0,
    "firing_range": 7.5
  },
  "fighter_3": {
    "alive": 1,
    "firing_range": 9.5
  },
  "sam_1": {
    "alive": 1,
    "firing_range": 11.5,
    "cooldown_on": 0,
    "cooldown_max_count": 10,
    "cooldown_counter": 0
  }
}
```

![sac_fail_19.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/366937/1a89fbab-6a30-5e57-ccd5-aa05b632e981.gif)



#（その１９）へ続く
ランド研究所のレポートの実装は今回で終了です。
（その１９）では、全体の総括、今回やり残した事、やりながらこうすればよかったと思った事、今後の研究課題などを纏めておきたいと思います。

# 過去記事へのリンク
- [ランド研究所の「機械学習による航空支配」を実装する（その1）：レポートのまとめ](https://qiita.com/DreamMakerAi/private/95e0aad16e450cb0c53d)
- [ランド研究所の「機械学習による航空支配」を実装する（その2）：1次元問題について](https://qiita.com/DreamMakerAi/items/72c90f9df5339dedd9cd)
- [ランド研究所の「機械学習による航空支配」を実装する（その3）： 1D simulator for GAN と Random mission planner の実装）](https://qiita.com/DreamMakerAi/private/1a0e25a9f673e531ee6f)
- [ランド研究所の「機械学習による航空支配」を実装する（その4）： conditional GAN の実装とトレーニング](https://qiita.com/DreamMakerAi/private/3a416d5cb64d9b7e86db)
- [ランド研究所の「機械学習による航空支配」を実装する（その5）：トレーニング結果の分析](https://qiita.com/DreamMakerAi/items/6c78181b71c470632fcf)
- [ランド研究所の「機械学習による航空支配」を実装する（その６）：トレーニング・データの重要性と GAN の性能向上](https://qiita.com/DreamMakerAi/private/b8ae6c9afd28e90b5b5c)
- [ランド研究所の「機械学習による航空支配」を実装する（その７）：1D simulator for RL の実装](https://qiita.com/DreamMakerAi/private/f008fa9981c3ad74c3cc)
- [ランド研究所の「機械学習による航空支配」を実装する（その８）： Stable Baselines による強化学習](https://qiita.com/drafts/37e6a18810b83d759d81/edit)
- [ランド研究所の「機械学習による航空支配」を実装する（その９）： 少し複雑な環境](https://qiita.com/DreamMakerAi/private/f4d3e35c07ab053608ea)
- [ランド研究所の「機械学習による航空支配」を実装する（その１０）：GAN / 強化学習プランナーの連携を考える](https://qiita.com/DreamMakerAi/private/6cb416e42fc35a7a425c)
- [ランド研究所の「機械学習による航空支配」を実装する（その１１）： ２次元問題の概要](https://qiita.com/DreamMakerAi/private/3572afde356ba5719123)
- [ランド研究所の「機械学習による航空支配」を実装する（その１２）： 2D simulator for mission_1 の実装](https://qiita.com/DreamMakerAi/private/af22d730bf8cbff23fdd)
- [ランド研究所の「機械学習による航空支配」を実装する（その１３）： 2D 問題 mission_1 を強化学習する](https://qiita.com/DreamMakerAi/private/2922e4ad82e8e8c2a059)
- [ランド研究所の「機械学習による航空支配」を実装する（その１４）： Relative Observation による mission planner の能力アップ](https://qiita.com/DreamMakerAi/private/fb2b9971c0894d4cc49b)
- [ランド研究所の「機械学習による航空支配」を実装する（その１５）： 2D問題 mission_2](https://qiita.com/DreamMakerAi/items/63f6313247cd778030dd)
- [ランド研究所の「機械学習による航空支配」を実装する（その１６）： 2D問題 mission_3](https://qiita.com/DreamMakerAi/private/815fc203798f4ea14701)
- [ランド研究所の「機械学習による航空支配」を実装する（その１７）： 2D問題 mission_4](https://qiita.com/DreamMakerAi/private/6337377d19b62ecf0bfa)