多言語からみるマルチコアの活かし方

# 多言語からみるマルチコアの活かし方
# はじめに
近年では1つのCPUに複数のコアが搭載されたマルチコアが一般的になっています。
しかし、現状のプログラミング言語ではエンジニアが意識せずにマルチコアをしたプログラムを作ることは難しいです。
そこで、様々な言語から見たマルチコアの活かし方について説明していきます。

# プロセスとスレッド
プロセスとは1つ１つのアプリケーションといった実行中のプログラムのことで、スレッドは CPU利用の単位です。プロセスは次のように1つ以上のスレッドを持っており、CPUのコア数分だけスレッドを処理することができます。(また、近年では[SMT](https://ja.wikipedia.org/wiki/%E5%90%8C%E6%99%82%E3%83%9E%E3%83%AB%E3%83%81%E3%82%B9%E3%83%AC%E3%83%83%E3%83%87%E3%82%A3%E3%83%B3%E3%82%B0)という技術によって1つの物理コアで2スレッドといった複数のスレッドを処理することができます。2コア4スレッドみたいなやつです)
![スレッドとプロセス.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/301673/0c198ee5-513e-19fe-fec6-eab3d7de56e8.png)
![スレッドとプロセスとCPU.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/301673/97b0f0b7-5bd7-9f49-cd4a-04f5410875af.png)
マルチコアを有効活用してプログラムを実行するためにはCPUが処理できるコア数に対して適切な数のスレッドをプログラム側で生成する必要があります。コア数以上のスレッドを生成する事も可能ですが、CPUはコア数分のスレッドしか処理を行うことができず、実行するスレッドの切り替えにより処理が遅くなってしまう問題が発生します。

# 並列と並行
並列(parallel)と並行(concurrent)という似たような言葉が存在しますが、違うものを示します。
並列(parallel)とは複数の処理を同時に行うことで、複数のコアで複数のスレッドを処理するような場合を示します。(シングルコアでは複数処理を同時に実行できないため並列を実現することはできません。)
![並列.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/301673/b0182cc8-610b-1e7b-a09e-088bb00fa7d2.png)
並行(concurrent)とは複数の処理を切り替えながら同時に実行しているようにすることで、1つのスレッドで複数の処理を切り替えながら実行するような場合を示します。
![並行.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/301673/194da887-9150-d1c1-e418-372240a79964.png)
複数のスレッドで処理を切り替えながら実行することも可能なため、並列かつ並行を実現することも可能です。

# C10K問題
WebサーバーのApacheではユーザのリクエスト毎にプロセスを生成する方式を取っており、クライアントが約1万台に達すると、Webサーバーのハードウェア性能に余裕があるにも関わらず、レスポンス性能が大きく下がるというC10K問題というものが存在していました。(C10K問題の具体的な原因は[こちらの記事](https://knowledge.sakura.ad.jp/24148/)が分かりやすかったです。)
そこで、nginxやNode.jsではシングルスレッドで非同期I/Oに処理をすることにより、並行に処理を行を行うことでC10K問題を解決しようとしました。

# Node.js
前述したように、Node.jsはシングルスレッドで動作をし、async/awaitといった非同期処理で並行に処理を行うというアプローチがされています。イメージとしては下図のように、外部APIアクセスをする際に結果が返ってくるまでの時間に他の処理を行い、結果が取得できたらその処理の続きを行うようなイメージです。(詳細はこちらの[記事](https://engineer.recruit-lifestyle.co.jp/techblog/2019-12-13-node-async-io/)が分かりやすかったです。)
![非同期.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/301673/441cbaae-b184-90e9-fc3e-76d9f59a960d.png)
従って標準の非同期処理を行う場合は、マルチコアの性能を引き出すことができません。そこでNode.jsでは[Cluster](https://nodejs.org/api/cluster.html)を用いて[プロセスを複数作成](https://postd.cc/setting-up-a-node-js-cluster/)するか、[worker_threads](https://nodejs.org/api/worker_threads.html)を用いてスレッドを複数作成する必要があります。このようにマルチコアコアを活かすためには、プログラム側からプロセスかスレッドを複数作成してあげる必要があり、マルチスレッドでは変数の値の共有を行うことができますが、マルチプロセスではメモリ空間が分離され、変数の値の共有ができないというそれぞれの[メリット・デメリット](https://stackoverflow.com/questions/56656498/how-is-cluster-and-worker-threads-work-in-node-js)が存在します。

# RubyやPythonで起こるGIL
Node.jsでは、プロセスかスレッドを複数作成してあげることでマルチコアを活かすことができました。しかし、RubyやPythonでは[グローバルインタプリタロック(GIL)](https://ja.wikipedia.org/wiki/%E3%82%B0%E3%83%AD%E3%83%BC%E3%83%90%E3%83%AB%E3%82%A4%E3%83%B3%E3%82%BF%E3%83%97%E3%83%AA%E3%82%BF%E3%83%AD%E3%83%83%E3%82%AF)というものが存在し、複数のスレッドを作成しても並列に実行することができません。(正確にはC言語で実装されたCPythonとCRubyの場合ですが、ここでは省略します。)
従って、これらの言語でマルチコアを活かそうとした場合、マルチスレッドでは実現できず、プロセスを複数作成してあげる必要があります。

# Go言語でのgoroutine
Go言語では、goroutineというものを用いて非同期処理を並列・並行に実現しており、デフォルトでCPUのコア数が設定された`GOMAXPROCS`というものが設定されています。この値の数だけスレッドが用意され、そのスレッドの中で軽量スレッドであるgoroutineを実行します。
CPUのコア数が4の`GOMAXPROCS=4`の場合のイメージとしては下図です。
![goroutine.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/301673/abab6576-8784-bae9-ebaf-c1617f1c66a2.png)
このようにgoroutineを用いることによりマルチコアを活かして並列・並行にプログラムの実行を行えます。
（goroutineが軽量な理由については[こちらの記事](https://christina04.hatenablog.com/entry/why-goroutine-is-good)が分かりやすかったです。)

# Rustでのasync/await
Rustでは、async/awaitを用いて非同期処理を行えます。この際、どのランタイムを用いるかによって非同期処理のスレッドの実行割当方法を選択できます。
人気があるランタイムとしては、[tokio](https://github.com/tokio-rs/tokio)が挙げられます。tokioではコア数に対してスレッドが生成され、そのスレッドに非同期処理が渡されるというgoroutineと同様のマルチコアの活かし方が実現できます。(他の割当方法や、Rustでの非同期処理については[こちらの記事](https://tech-blog.optim.co.jp/entry/2019/11/08/163000)が分かりやすかったです。特に[ここの実行モデルについて](https://tech-blog.optim.co.jp/entry/2019/11/08/163000#%E5%AE%9F%E8%A1%8C%E3%83%A2%E3%83%87%E3%83%AB)が分かりやすいです。)

# さいごに
RubyやPythonでは仕組み上マルチスレッドにすることが難しく、Node.jsの非同期処理は、そのままではマルチコアを活かすことができませんでした。
しかし、近年人気のあるGo言語やRustでは非同期処理を呼ぶ事により、エンジニアが意識せずに並列・並行処理を行え、マルチコアを活かすことができます。
マルチコアのCPUが一般的になってきた現代に、Go言語やRustが人気がある事も納得です。

# 参考
[【図解】CPUのコアとスレッドとプロセスの違い,コンテキストスイッチ,マルチスレッディングについて](https://milestone-of-se.nesuke.com/sv-basic/architecture/cpu/)
[プロセスとスレッドとタスクの違いを知ってUnity非同期完全理解に近付く](https://qiita.com/4_mio_11/items/3b83c11bb0fac4844604)
[Node.jsの非同期I/Oについて調べてみた](https://engineer.recruit-lifestyle.co.jp/techblog/2019-12-13-node-async-io/)
[いまさら聞けないNode.js](https://knowledge.sakura.ad.jp/24148/)
[Pythonで並列処理をするなら知っておくべきGILをできる限り詳しく調べてみた](https://qiita.com/ttiger55/items/5e1d5a3405d2b3ef8f40)
[goroutineはなぜ軽量なのか](https://christina04.hatenablog.com/entry/why-goroutine-is-good)
[Rustの非同期プログラミングをマスターする](https://tech-blog.optim.co.jp/entry/2019/11/08/163000#%E3%83%A9%E3%83%B3%E3%82%BF%E3%82%A4%E3%83%A0%E3%81%A7%E9%9D%9E%E5%90%8C%E6%9C%9F%E3%82%BF%E3%82%B9%E3%82%AF%E3%82%92%E8%B5%B7%E5%8B%95%E3%81%99%E3%82%8B)