JSAI2021, 2D1-OS-6-03

緯度経度情報追加による行動履歴分散表現の高精度化

佐賀健志 田中宏季 中村哲
理化学研究所 革新知能統合研究センター 観光情報解析チーム
奈良先端科学技術大学院大学 知能コミュニケーション研究室

2021/6/11
2021©Saga Riken-AIP TIA1

研究背景

移動経路の傾向分析を行うことで効果的な観光戦略や商品開発等に活用– 問題点：データ量が膨大かつ多様で分析が難しい

比較
できない

経路の長さや通過箇所がバラバラ– 経路の意味を固定長のベクトル化：分散表現
比較できる

2021/6/11

2021©Saga Riken-AIP TIA

2/10

分散表現に基づく分析
分散表現を用いた移動系列の類似度による人流解析 [Crivellari+ 2019]– 行動近接性（移動系列の意味的な近さ）を考慮– Mesh2Vec (Word2Vecを人の移動系列に適用)

ID:12345
ID:12344

ID:12565
ID:12123
各地点のID番号

2021/6/11

2021©Saga Riken-AIP TIA

3/10

BiLSTMに基づく分散表現の導入
今回のベースラインモデル

BiLSTM分散表現と階層的クラスタリングによる人流解析 [田中ら 2020]– BiLSTMを用いることで移動系列のコンテキストを考慮した分散表現を獲得• 行動予測ではなく行動分析を目的としているため順路の順方向・逆方向を区別しない– 階層的クラスタリングを用いることで類似した系列をグルーピング– 系列の分散表現 -> 階層的クラスタリング

類似度を考慮してグルーピング

各地点のID系列

2021/6/11

2021©Saga Riken-AIP TIA

4/10

研究目的
先行研究
– 入力として離散的なMesh-IDのみを使用
ID:12345, Lat: 35.01, Long: 135.13

先行研究の課題– 各地点の位置（緯度経度）情報が明示的に示されていない

ID:12344
Lat...Long...
ID:12565
Lat...Long..
ID:12123
Lat...Long..

離散的なMesh-IDと連続的な緯度経度情報に基づいた分散表現の獲得
及び階層的クラスタリングを通した妥当性の検討

2021/6/11

2021©Saga Riken-AIP TIA

移動系列のID系列

5/10

提案手法の概要
目的：時系列分散表現に基づく人流クラスタリング
提案：– 入力として位置情報を追加したBi-LSTMによる移動系列の分散表現の獲得– 階層的クラスタリングを用いた入力への位置情報追加の妥当性検討

移動系列の分散表現獲得（表現獲得）

分散表現を用いたクラスタリング（グルーピング）+緯度経度情報
2021/6/11

2021©Saga Riken-AIP TIA

明示的に位置情報を入力

位置関係を正確に考慮した分散表現の獲得を目指す

6/10

概略図

Step.2

Step.1

移動系列の分散表現獲得（表現獲得）

分散表現を用いたクラスタリング（グルーピング）+緯度経度情報
2021/6/11

2021©Saga Riken-AIP TIA

7/10

具体的な概略図
Step.2

次のMesh-ID予測

Step.1

次の緯度経度予測
分散表現
Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Mesh-ID系列（埋め込み層含む）

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Mesh-ID系列（埋め込み層含む）

緯度経度系列

緯度経度系列2021/6/11

2021©Saga Riken-AIP TIA

8ベースラインモデルと提案モデル

次のMesh-ID予測

次のMesh-ID予測

次の緯度経度予測
Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Mesh-ID系列（埋め込み層含む）

Mesh-ID系列（埋め込み層含む）

緯度経度系列

提案モデル

ベースラインモデル
2021/6/11

2021©Saga Riken-AIP TIA

9提案モデルの詳細

次のMesh-ID予測
次の緯度経度予測
Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Mesh-ID系列（埋め込み層含む）
緯度経度系列2021/6/11

2021©Saga Riken-AIP TIA

予測対象 :- 最終Mesh-ID- 最終緯度(Lat)- 最終経度(Long)

損失関数（最適化対象） :Lmesh: 交差エントロピー損失
L{Lat,Long} : 二乗平均誤差α, β: 定数（1:1）

10

実験設定
階層的クラスタリング– クラスタ決定法：ウォード法– 距離指標：コサイン距離– クラスタ距離閾値 ：1.2

データセット（提供：Agoop Corp）– 対象地域– メッシュ幅– 総メッシュ数（面積より算出）– 対象期間– BiLSTM学習対象ユーザ数– クラスタリング対象ユーザ数

2021/6/11： 東京都： 100m： 219,396（うち81,897が対象期間に含まれる）： 7-10月, 2020年： 8,768,203： 242021©Saga Riken-AIP TIA

11/10

実験結果・考察 (1)- Top-1 Accuracy- 予測対象クラス数81,897

ベースラインモデル(Mesh-IDのみ)
Mesh-ID交差エントロピー損失

2021/6/11

提案モデル(Mesh-ID + 緯度経度)
Mesh-ID交差エントロピー損失提案モデル(Mesh-ID + 緯度経度)
緯度損失(MSE)

2021©Saga Riken-AIP TIA

12

実験結果・考察 (2)
緯度経度情報をモデルの入力に加えることで位置情報を考慮した分散表現が獲得でき、クラスタリング結果も妥当なものになった

13

12

従来手法
2021/6/11

提案手法
2021©Saga Riken-AIP TIA

13

まとめまとめ
Bi-LSTMの入力としてMesh-IDと位置情報(緯度経度)を与えることで正確に位置情報を考慮した分散表現を生成し、クラスタリング結果の妥当性を示した
今後の課題

クラスタリング結果の解釈手法の検討
入力データのフィルタリング形式の検討

2021/6/11

2021©Saga Riken-AIP TIA

14/10

付録

2021/6/11

2021©Saga Riken-AIP TIA

15 / Z

デモシステム2021/6/11

2021©Saga Riken-AIP TIA

16

実験設定

解析対象データ（提供：Agoop Corp）
– 場所
: 東京都
– 期間
: 7-10/2020– 位置精度: < 100m– 最小系列長: 30– Subcategory: departure/arrival• 仕様の関係からiOS端末のみ対象

機械学習モデル : Bi-LSTM
クラスタリング : 凝集型階層的クラスタリング

2021/6/11

2021©Saga Riken-AIP TIA

17/10

行動近接性2021/6/11

2021©Saga Riken-AIP TIA

18

コーフェン相関係数

2021/6/11

2021©Saga Riken-AIP TIA

19

コサイン類似度

2021/6/112021©Saga Riken-AIP TIA

20

Ward法2021/6/112021©Saga Riken-AIP TIA

21

次のMesh-ID予測

次のMesh-ID予測

次の緯度経度予測

次の緯度経度予測

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

2021/6/11

Bi-LSTM
Bi-LSTM

Bi-LSTM

Bi-LSTM

Mesh-ID系列（埋め込み層含む）

Mesh-ID系列（埋め込み層含む）

緯度経度系列

緯度経度系列2021©Saga Riken-AIP TIA

Bi-LSTM22

次のMesh-ID予測

次のMesh-ID予測

次の緯度経度予測

次の緯度経度予測

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Mesh-ID系列（埋め込み層含む）

Mesh-ID系列（埋め込み層含む）
緯度経度系列2021/6/11

2021©Saga Riken-AIP TIA

23

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

Bi-LSTM

緯度系列

経度系列

埋め込み層
Mesh-ID系列

2021/6/11

2021©Saga Riken-AIP TIA

24