論文まとめ：BIRD DISTRIBUTION MODELLING USING REMOTE SENSING AND CITIZEN SCIENCE DATA

# 1. はじめに
ICLR2023より以下の論文
[1] M. Teng, et. al. BIRD DISTRIBUTION MODELLING USING REMOTE SENSING AND CITIZEN SCIENCE DATA. ICLR2023
のまとめ

- arXiv: 
https://arxiv.org/abs/2305.01079

以下に注目してまとめる
- 市民観測データをどう利用するのか
- 予測モデルはどのようなものか

# 2. 概要
- 生物種の分布を予測するモデル
- 市民の観測データをターゲットとして利用し、入力として衛星画像（NIR）、環境データを利用する

生物種分布予測におけるタイプとしては以下のように

![スクリーンショット 2024-02-22 8.47.25.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/116706/48e78bf1-6273-48e6-ae5a-c2449ea482d6.png)

分布予測の対象は全領域ではなく特定のポイント（論文中でhotspotと表現）である。

# 3. 予測モデル
## 3.1 モデル全体
以下はモデル全体図。
![スクリーンショット 2024-02-22 11.52.33.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/116706/fb8ff59d-2319-142b-e0da-b9a81e705526.png)
衛星画像とはResNet系に入力し、それとは別に緯度経度をencoderに入力する。両者はconcateしてMLPし、推論する。

## 3.2 生物観測データ、環境データの取得
各hotspotにおける生物観測データ、環境データ（気候データと土壌データ）を取得する
こんな感じか？
![スクリーンショット 2024-02-22 11.50.18.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/116706/c3e34fc5-49c1-3657-8e0d-caa87ed1914e.png)


## 3.3 衛星画像・環境データのmodel(ResNet-18)

モデルの一部はResNet-18を用いる。このモデルへのinputとして
1. 衛星画像（NIR）
1. 環境データ（気候データ、土壌データ）

を利用する。よってNeural Netに入力できるよう、衛星画像はhotspotを中心に切り取り、気候は画像化して1channelに、土壌も画像化して1channelとし、計３channelとする。

以下はResNet-18への入力のイメージ。

![スクリーンショット 2024-02-22 11.50.42.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/116706/5ff7d97a-89e1-dfe9-a667-4c659429e435.png)

## 3.4 緯度経度のencoder
以下のような[2]に記載されたencoderと同一のものを用いている。

![スクリーンショット 2024-02-22 11.56.36.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/116706/48d4e2de-454e-20f6-6d1d-94241be30502.png)

外観すると、緯度経度をsin, cosでwarpし、それをresidualなMLPに送っている。

## 3.5 生物の範囲情報を利用
生物種によっては「この範囲に生存する」という情報があるので、<font color="red">（推論時？学習時？）</font>に存在しない範囲にはmaskをかけて確立０とする。

## 3.6 soft-masking
ablation studyで効果が無いようなので略。



# loss
binary cross entropy とする。$y\_h^s$ をホットスポット h、生物種 s における生存の有無、$\hat{y}\_h^s$ をその推論確立として、

```math
\begin{eqnarray}
\mathcal{L}_{CE} &=& \frac{1}{N_h} \sum_h f(n_h) \mathcal{L}_{h} \\
&=& \frac{1}{N_h} \sum_h \sum_{s(species)} f(n_h) \left( -y_h^s \log (\hat{y}_h^s) - (1-y_h^s) \log (1-\hat{y}_h^s) \right) \\
\end{eqnarray}
```
とする。$f(n\_h)$ は観測者が多いホットスポットほどより重要とするための重み関数。

# メトリクス
MSE, MAE, Top-k, Top-30, Top-10で評価する。

後者２つは観測者数の多い３０種、または１０種で推論値の確率の高いものとを比較してaccuracyを求める（？）

３番目はホットスポットによっては生物種が少ない点を考慮して、ホットスポットで観測された k 種のみとする場合。

# 結果
以下は各要素ごとの５つのメトリクス値。

![スクリーンショット 2024-02-22 12.27.51.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/116706/7b06360b-c94b-def3-9c5f-1b01699cfd6f.png)

要点をまとめると
1. 衛星画像のみより環境変数のみの方がおおよそ精度が良い
1. 衛星画像＋環境変数の方がいずれか単体より精度が良い
1. これにRM（生物種の範囲データ）を加えたものは最も精度が良い
1. 緯度経度情報を加えても精度が上がったとは言い難い
1. 観測者数によるhotspotごとのlossへの重み付けは効果が微妙

というところか。

# 感想
<font color="red">市民の撮影したデータを使う手法ということで興味を持って読んでみたが、それをtargetとして利用しているだけのようだ。</font>

<font color="red">そうすると、そのような手法自体が有効かどうかの判定がほしいが、他の手法との比較がなされていない。</font>

<font color="red">一方で、衛星画像の使い方やそれに環境変数のスカラーを加える手法など、学ぶ点は多い。</font>

# reference
[2] Oisin Mac Aodha, Elijah Cole, and Pietro Perona. Presence-only geographical priors for fine- grained image classification. In Proceedings of the IEEE/CVF Internatio。nal Conference on Com- puter Vision, pp. 9596–9606, 2019.