Eppstein's Algorithm (Find the K shortest paths) 解説と実装 (Python)

**K Shortest Path Problem (KSP)** とは, K番目(ある文脈では1~K番目)に短いパスを見つける問題です。 多重有向グラフについて始点と終点を固定した上でK shortest path problelmを解く方法として Eppsteinの アルゴリズムを実装しました[1]。

キーポイントについては, 以下のブログに簡潔にまとめられているため, こちらを参考にしてください。
[Finding the k Shortest Paths (SICOMP'98)](http://iwiwi.hatenadiary.jp/entry/2013/12/26/001253) [2]

計算量についてまとめると, グラフ$G$のノード数を$n$, エッジ数を$m$とすると, 
Path Graph $P$の作成に$O(m+n\log n)$
それを用いて第1~K最短路を導出するのに$O(K)$, すなわち全体で$O(m+n\log n + K)$となります。
Yenのアルゴリム[[3]](https://qiita.com/nariaki3551/items/821dc6ffdc552d3d5f22)では$O(Kn(m+n\log n))$なので, これと比較すると大幅に計算長が削減されていることが分かります。


以下のグラフ$G$で, アルゴリズムの流れをざっと見ていきたいと思います。
source(始点)はCで, target(終点)はHです。
> ちなみに, このグラフはYenのalgorithmの英語版Wiki[[4]](https://en.wikipedia.org/wiki/Yen%27s_algorithm)から引っ張ってきたものです。

<img src="https://qiita-image-store.s3.amazonaws.com/0/154548/241c95f3-e9fe-2f0a-a44e-898fefb1e904.png", width=500>



## 心の声1
sourceとtarget固定のK Shortest Path Problem(s-t KSP)を解くのは難しいが,
target非固定で、かつ枝の重みが全て正のグラフでのK Shortest Path Proble(s-? KSP)は, 単純な最良幅優先探索で解くことができる。

元の(s-t KSP)を, パスをノードとしたグラフを作って(s-? KSP)を解く問題に帰着できないだろうか?

## 枝のポテンシャルの計算

### 最短路木の作成

終点固定の最短路木$T$を作成します。
> pred, distance = nx.dijkstra\_predecessor\_and\_distance(G.reverse(), source=target)
> T = G.edge\_subgraph((i, pred[i][0]) for i in pred if pred[i]) 

<img src="https://qiita-image-store.s3.amazonaws.com/0/154548/0897da68-5638-3d27-7838-6212fbc56cd4.png", width=500>


### 枝のポテンシャルの計算
枝$e$のポテンシャル$\delta\left(e\right)$を

$\delta\left(e\right) := l\left(e\right) + d\left(head\left(e\right), target\right) - d\left(tail\left(e\right), target\right)$

と定めます。$l(e)$は枝$e$の長さ, $head(e)$, $tail(e)$は枝$e$の終点, 始点, $d(u, v)$ はノード$u$から$v$への最短距離です。$d(u, target)$は先に求めた最短路技から簡単に計算できます。

**このポテンシャルは枝$e$を通ると, どれだけ最短距離から遠ざかるか**を表すものであり、実際最短路木に含まれる枝に関してはこの値は$0$です。

<img src="https://qiita-image-store.s3.amazonaws.com/0/154548/a8b09ea4-e639-6482-facb-b129ea6562f3.png", width=500>


これは, $G-T$の枝で構成されるPotential Graphです。枝の重みは先ほど定義したポテンシャル値になっています。

## 心の声2
グラフ上のパス$p$から$G-T$の枝の順序つき部分集合への単射が存在する($sidetrack(p)$)。

> パス上でsourceから通る順に順序をつける

さらに, $sidetrack(p)$の最後尾の枝$lastsidetrack(p)$を取り除いたものを$prefix(sidetrack(p))$とすると, これもグラフ上のパスに対応しており, さらに元のパスよりも必ず短い(広義)。つまり, $prefix(sidetrack(p))$を親, $sidetrack(p)$を子として, パス長についてヒープ木[5]を作成すれば, (s-? KSP)に落とし込める!!

そこで, $sidetrack$はどのように構成すれば良いだろうか?


## $H_G$の作成

$H_G(v)$とはノード$v$から最短路木$T$の枝のみを使って辿り着くことができる$G-T$の枝を節として, そのポテンシャル値でヒープ木にしたものです。

<img src="https://qiita-image-store.s3.amazonaws.com/0/154548/bb75ee77-8df2-f032-783e-f347f34c84ee.png", width=800>


この$H_G$を効率よく作成するために, $H_{out} \rightarrow H_T \rightarrow H_G$ の順に各ノードについてヒープ木を作成していきます。 $H_{out}, H_T$の定義については, ここでは省きます。(論文[1]を参考にしてください)
> 後ろのソースコードでは, プログラムの簡潔化のため, 若干論文の$H_G$作成方法を変えていますが、第k最短路導出には問題ありません。

### $H_{out}$
<img src="https://qiita-image-store.s3.amazonaws.com/0/154548/0e4011ad-3217-c810-e316-b9732c4f25de.png", width=800>

### $H_T$
<img src="https://qiita-image-store.s3.amazonaws.com/0/154548/0bb4a28e-55e8-b4c6-4831-ad45170b682c.png", width=800>

ヒープ木を管理する`heap_tree.py`を作成しました。 2分ヒープ木は配列によって管理できますが、今回は木構造として管理しています。(なので、新しい点の挿入時におけるリンクの張り替えがめんどうでした笑
実は第k最短路を導出するだけであれば、$H_{out}$, $H_T$共に, 1分ヒープ木で十分です。

## Path Graph $P$の作成
$H_G(v)$をまとめてグラフ$P$とします($P$はこの時点では非連結な森です)。
ヒープ木$H_G$の枝の重みは, 子のポテンシャル値 - 親のポテンシャル値とします。(**heap edge**)

また, $G-T$の枝を通ったときにどのノードに行くのかを表す枝を追加します。重みは通る枝のポテンシャル値。(**cross edge**)(図中: 赤色)

そしてノード$RootNode$を追加して, $H_G(source)$の根$h(source)$に枝を張り(重みは$\delta(h(source))$(図中: 緑色) $P$は完成です。

<img src="https://qiita-image-store.s3.amazonaws.com/0/154548/cc76164e-36dd-93d0-a315-b6e73c7aa457.png", width=800>

$RootNode$からのパスが元グラフ$G$でのあるパスに相当します。Path Graph $P$において, 再終点と cross edge を通ることが$G-T$のある一辺(cross edgeの始点)を通ることを表します。

あとは, この$RootNode$からtop_kをとるだけです(幅優先探索で $O(k \log k)$)。
Frederickson のアルゴリズムを用いれば $O(k)$でいけるそうですが, 今回は実装していません。

## 結果
左図が$P$上の$RootNode$からのパス, 右図がそれに対応する$G$上のパスです。
![1_Shortest_Path-1.png](https://qiita-image-store.s3.amazonaws.com/0/154548/58523f91-2704-90cb-01ee-bdfcf5679a75.png)
![2_Shortest_Path-1.png](https://qiita-image-store.s3.amazonaws.com/0/154548/d4775ab1-a0f2-432c-7c37-acd134c731bf.png)
![3_Shortest_Path-1.png](https://qiita-image-store.s3.amazonaws.com/0/154548/2953928d-7989-4983-b18e-b5e0ce496894.png)
![4_Shortest_Path-1.png](https://qiita-image-store.s3.amazonaws.com/0/154548/e6c9b3c9-e174-41a0-3e6f-267f0c06934a.png)
![5_Shortest_Path-1.png](https://qiita-image-store.s3.amazonaws.com/0/154548/0c4812d3-2784-1aba-82d7-b8b85fa8d4e9.png)
![6_Shortest_Path-1.png](https://qiita-image-store.s3.amazonaws.com/0/154548/21326285-5b54-19df-b973-eb40acda9c4c.png)
![7_Shortest_Path-1.png](https://qiita-image-store.s3.amazonaws.com/0/154548/70c6310e-aced-de48-f5df-f9f6edcea8a1.png)
![8_Shortest_Path-1.png](https://qiita-image-store.s3.amazonaws.com/0/154548/d03e05d1-7971-27b3-7ce1-fe51026ee045.png)


## 参考文献
[1] Eppstein, David. "Finding the k shortest paths." SIAM Journal on computing 28.2 (1998): 652-673.
[2] Finding the k Shortest Paths (SICOMP'98), http://iwiwi.hatenadiary.jp/entry/2013/12/26/001253
[3] 図解: Yen's algorithm (Find the K shortest paths), https://qiita.com/nariaki3551/items/821dc6ffdc552d3d5f22
[4] Yen's algorithm, https://en.wikipedia.org/wiki/Yen%27s_algorithm
[5] 二分木 (binary tree) とヒープ (heap), http://www.geocities.jp/m_hiroi/light/pyalgo03.html

## ソースコード
1. [heap_tree.py](https://gist.github.com/nariaki3551/7f64d701d61ff47f1bf450e6602844fe)
2. [eppstein.ipynb (Jupyter notebook)](https://gist.github.com/a2ddb9fcb848981cf9f578d083f2015f)
3. [eppstein_multi.ipynb (Jupyter notebook)](https://gist.github.com/8a3268a1ca4299d1bdde9287c3176912) \* 多重辺に対応