巡回セールスマン問題から始まる数理最適化

この記事は [BrainPad AdventCalendar 2017](https://qiita.com/advent-calendar/2017/brainpad) 8日目の記事です。
今回は数理最適化を取り上げてみようと思います。

# ビジネス課題と数理最適化

BrainPadでは、データ分析に基づいて様々なビジネス課題に取り組んでいますが、業務貢献に寄与する最終段階で頻繁に検討されるのが数理最適化です。そこでは、様々な要素（例えば商品）に関する予測などを行った結果に基づき、どのような要素（商品）の組合せや割合が利益を最大化するのかを求めたりします。

今回はそのような問題の基礎例として、典型的な離散数理最適化問題である、”巡回セールスマン問題”を取り上げ、その定式化と解法の例を紹介できればと思います。

# 巡回セールスマン問題

巡回セールスマン問題とは、下左図のような各拠点を**必ず一回だけ通る**という制約のもとで、**距離が最小**となる**巡回ルート**を見つける問題です。この例では$４８$拠点ですが、この例でも（初期拠点は固定しても一般性を失わないので）$47! \sim 10^{60}$ 通りのルートが存在し、しらみつぶしに探索していては、とても最小となる解は見つかりません。

![スクリーンショット 2017-12-07 22.02.26.png](https://qiita-image-store.s3.amazonaws.com/0/214087/6752c163-c94d-1b53-45d7-b7ab199b1002.png)

そこで、数学的なアプローチを使ってより効率的に探索することで、リーズナブルな時間で解を見つけよう、とするわけです。実は世の中には最適化問題の解を見つける賢いライブラリ（ソルバー）が存在しており、様々な工夫が内部で施され、我々が詳細まで踏み込まなくても課題を解決できるように工夫されています。（詳細が気になる方は、まずは、[[これなら分かる最適化数学―基礎原理から計算手法まで]](https://www.amazon.co.jp/%E3%81%93%E3%82%8C%E3%81%AA%E3%82%89%E5%88%86%E3%81%8B%E3%82%8B%E6%9C%80%E9%81%A9%E5%8C%96%E6%95%B0%E5%AD%A6%E2%80%95%E5%9F%BA%E7%A4%8E%E5%8E%9F%E7%90%86%E3%81%8B%E3%82%89%E8%A8%88%E7%AE%97%E6%89%8B%E6%B3%95%E3%81%BE%E3%81%A7-%E9%87%91%E8%B0%B7-%E5%81%A5%E4%B8%80/dp/4320017862/ref=pd_cp_14_2?_encoding=UTF8&psc=1&refRID=9NNS0PJZ7GQC9SE6S65P)などを参照いただくのがよいのかと思います。）

ソルバーには有償、無償、様々なものがありますが、今回は無償ソルバーCBCのpythonラッパーであるPuLPを用いて最適化問題を定式化、実行してみます。では、実際に定式化と実装を行ってみましょう。

# 問題の定式化

まずは、問題を数式に書き下してみると、解決すべき問題の見通しが良くなります。さらに、よく用いられる最適化のソルバーは、この数式を直感的に実装出来るように工夫されています。

先程の巡回セールスマン問題を定式化してみると、以下のようになります。

![スクリーンショット 2017-12-07 23.37.03.png](https://qiita-image-store.s3.amazonaws.com/0/214087/c25eb71f-c464-85a4-80aa-5ad2829d7b2c.png)

ここで $x_{ij}$ は、拠点iから拠点jに移動する場合に $1$ 、移動しない場合 $0$ となる二値の変数で、$c_{ij}$ がその間の移動距離を表す定数で、一般的に $i,j$ に対して非対象です。式 $(１)$ は ***総距離の最小化*** を表し、式 $(２)$ と $(３)$ が各拠点を **必ず一回だけ通る** という条件を表していることはすぐに分かると思います。

これでなんとなく、当初の目的が定式化されたように感じますが、実はこのままでは我々が求めたい巡回路の解は得られません。このままでは、下図の様な”部分巡回路”が解に含まれており、この様な解を除去しないと本当に欲しい **巡回ルート** のみに探索が絞られていないのです。

![スクリーンショット 2017-12-07 23.48.24.png](https://qiita-image-store.s3.amazonaws.com/0/214087/ba7b3b8e-4abb-0389-255f-72bf9c305aee.png)

部分巡回路の除去のためには様々なアプローチがあるのですが、その内の一つが式$(4)$で表される、”MTZ（ポテンシャル）制約”、と呼ばれている条件式です。そこでは、各拠点に補助変数 $u_{i}$ を導入して、訪問した順番に**昇順**で番号が振られるようになっています。部分巡回路が発生した場合は、番号が巡回の何処かで必ず降順になってしまうので、そのような解はこの制約によって除外されます。（正確には、スタート拠点 $i=0$では、$u_0=0$ とし、このスタート拠点の一点だけは降順が許されるように条件付けます。）

実際には昇順の番号が初めから振られるわけではなく、変数である$x_{i,j}$や$u_{i}$を上記、条件のなかで探索していく内に、自動的に訪問順序による番号が各拠点に付与されていきます。式 $(4)$ を見ていただくと、"BigM"と記載されていますが、これは”任意の大きい数”という意味です。もし拠点 $i$ から $j$ に移動した場合は $x_{i,j}=1$ となりますので、この式は $u_{i} + 1 \le u_{j}$ となり、 $u_{j}$ には $u_{i}+1$ より大きな値が入らなくてはなりません。一方、移動しない場合は $x_{i,j}=0$ ですので、この式は有効的には $- \text{BigM}\le u_{j}$ となり、 $u_{j}$ は $u_{i}$ に依らず任意の値を取って良い（ $u_{i}$ より小さくても良い）、ということになります。即ち、BigMの導入は $x_{ij}$ よるif分岐を可能にしていることが分かります。

パズルみたいですね。  

# 問題の実装

さて、ここまで来ると後は実装なのですが、PuLPの場合は大変簡単で、以下のような手続きで最適化モデルと変数を定義し、評価指標と条件式を随時モデルに登録していくだけです。

まずはPuLPのインストールですが、予想通り

```python
pip install pulp
```

一発。

定式化の実装については、（好き好きありましょうが）以下の通り大変直感的に行えます。

```python
import pulp as pp

# 最適化モデルの定義
mip_model = pp.LpProblem("tsp_mip", pp.LpMinimize)


# 変数の定義
for i in range(N):
    for j in range(N):
        if i != j:
            x[i, j] = pp.LpVariable("x(%s,%s)"%(i, j), cat="Binary")

for i in range(N):
    u[i] = pp.LpVariable("u(%s)"%(i), cat="Continuous", lowBound=1.0, upBound=(N - 1.0))

# 評価指標（式（１））の定義＆登録
objective = pp.lpSum(c_[i, j] * x[i, j] for i in range(N) for j in range(N) if i != j)
mip_model += objective
  
  
#　条件式(2)の登録
for i in range(N):
    mip_model += pp.lpSum(x[i, j] for j in range(N) if i != j) == 1

# 条件式(3)の登録
for i in range(N):
    mip_model += pp.lpSum(x[j, i] for j in range(N) if i != j) == 1

# 条件式(4) (MTZ制約)
for i in range(N)
    for j in range(N):
        if i != j:
            mip_model += u[i] + 1.0 - BigM * (1.0 - x[i, j]) <= u[j]


# 最適化の実行
status = mip_model.solve()

# 結果の把握
print("Status: {}".format(pp.LpStatus[status]))
print("Optimal Value [a.u.]: {}".format(objective.value()))
```

PuLP以外の他のライブラリも多かれ少なかれ同様の手続きで実装が可能です。簡単ですね。

# 実行結果

さて、一旦の実装が出来ましたので、実際に実行してみた結果をプロットしたのが、以下です。想定どおり、ちゃんと巡回路になっていますね。返り値の```status```も```optimal```で、実際算出された距離、```objective.value()```、も尤もらしそうです。

![newplot (1).png](https://qiita-image-store.s3.amazonaws.com/0/214087/f78a4d87-9538-45ed-197e-592ef960473f.png)

今回の課題ではどうにか解くことができましたが、一方、実際の業務課題への適用を考えると、業務適用に耐えられるようなリーズナブルな時間で問題が解けるかは大変重要で、配慮が必要な点です。

そこで、先程の実装を、拠点数を変化させながら実際に解いてみた際の実行時間をプロットしたのが以下の図の（緑）です。

![スクリーンショット 2017-12-08 2.18.31.png](https://qiita-image-store.s3.amazonaws.com/0/214087/a5884472-470f-12fc-7cf9-e4d1e29176d5.png)

縦軸が対数になっていることにご注意ください。ローカルの貧弱なPCで実行したものとはいえ、$30$拠点近くになると、残念ながら一般的な業務適用には耐えられない実行時間となることが分かります。

その為、最適化問題においては、尤もらしい初期解を与えるなど、より短い時間で解くための様々な工夫が模索されています。今回の問題でも、定式化に少々の工夫をすると、（赤）にまで計算時間を**二桁！**減らすことができます。今回用いたのは切除平面法という発見的方法を用いたものです（詳しくは章末に挙げた参考資料などをご参考ください）。

また、実際の業務適用に際しては、業務課題に応じた時間内で如何に解くか以外にも、人手による微調整の余地をどの程度残しどのように最適化問題に再度反映させるか、など配慮する必要があり、分析官の腕の見せ所となっています。

# まとめ

今回は、ビジネス課題の解決においても頻繁に用いられる数理最適化の典型例として、巡回セールスマン問題を取り上げてみました。
その一見パズルのような定式化と容易な実装とともに、実際の業務適用においては、一層の工夫や配慮が必要であることが分かっていただければ幸いです。

もしさらなるご興味がありましたら、その他の離散最適化の例やアプローチ方法については
- [[今日から使える!組合せ最適化]](https://www.amazon.co.jp/%E4%BB%8A%E6%97%A5%E3%81%8B%E3%82%89%E4%BD%BF%E3%81%88%E3%82%8B-%E7%B5%84%E5%90%88%E3%81%9B%E6%9C%80%E9%81%A9%E5%8C%96-%E9%9B%A2%E6%95%A3%E5%95%8F%E9%A1%8C%E3%82%AC%E3%82%A4%E3%83%89%E3%83%96%E3%83%83%E3%82%AF-KS%E7%90%86%E5%B7%A5%E5%AD%A6%E5%B0%82%E9%96%80%E6%9B%B8-%E7%A9%B4%E4%BA%95/dp/4061565443/ref=pd_sim_14_2?_encoding=UTF8&psc=1&refRID=V2MFZ59PTW4PM24N6YYJ)
- [[あたらしい数理最適化: Python言語とGurobiで解く]](https://www.amazon.co.jp/%E3%81%82%E3%81%9F%E3%82%89%E3%81%97%E3%81%84%E6%95%B0%E7%90%86%E6%9C%80%E9%81%A9%E5%8C%96-Python%E8%A8%80%E8%AA%9E%E3%81%A8Gurobi%E3%81%A7%E8%A7%A3%E3%81%8F-%E4%B9%85%E4%BF%9D-%E5%B9%B9%E9%9B%84/dp/4764904330)
などを、連続最適化については
- [[基礎系 数学 最適化と変分法]](https://www.amazon.co.jp/%E5%9F%BA%E7%A4%8E%E7%B3%BB-%E6%95%B0%E5%AD%A6-%E6%9C%80%E9%81%A9%E5%8C%96%E3%81%A8%E5%A4%89%E5%88%86%E6%B3%95-%E6%9D%B1%E4%BA%AC%E5%A4%A7%E5%AD%A6%E5%B7%A5%E5%AD%A6%E6%95%99%E7%A8%8B-%E5%AF%92%E9%87%8E/dp/4621088548/ref=pd_sim_14_77?_encoding=UTF8&psc=1&refRID=CDF1BJ7K2QQW5QEW9PFJ)
-  [[機械学習のための連続最適化]](https://www.amazon.co.jp/%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92%E3%81%AE%E3%81%9F%E3%82%81%E3%81%AE%E9%80%A3%E7%B6%9A%E6%9C%80%E9%81%A9%E5%8C%96-%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92%E3%83%97%E3%83%AD%E3%83%95%E3%82%A7%E3%83%83%E3%82%B7%E3%83%A7%E3%83%8A%E3%83%AB%E3%82%B7%E3%83%AA%E3%83%BC%E3%82%BA-%E9%87%91%E6%A3%AE-%E6%95%AC%E6%96%87/dp/406152920X/ref=pd_cp_14_4?_encoding=UTF8&psc=1&refRID=PXQYJ1H2XB9EQ4SETV4E)
などを参照いただくとよいかと思います。

またBrainPadでは、最適化に関して以下のような試験的なアプローチも行っています。
- [Adiabatic Quantum Computing Conference 2017](http://www.brainpad.co.jp/topics/2017/06/20/5594)
- [物理のいらない量子アニーリング入門](http://blog.brainpad.co.jp/entry/2017/04/20/160000)

最適化の技術は、深層学習や強化学習の発展とともに今後もより一層発展していくものと思われますので、引き続き注意深く見守っていきたいと思っています。