Aether

グループコミットによってトランザクションのスループットを大幅に引き上げる技法について昨日の記事で書いたが、この技法ではロック期間は結局ディスクのヘッドシークの長さになる。
むしろロガーとのコミュニケーションコストやログ待ちの時間を考えると個々のロック保持期間は微妙に長くなってさえいる。
また、各スレッドはロガーによって永続化されるまでトランザクションの完了を待たなくてはならないので、1回のログ操作に詰め込めるトランザクション数はスレッドの数が上限になる。
つまりスループットを上げる為にはより多くのスレッドを並列して動かす必要がある。
更には、ロガーのバッファにトランザクションログを送付する際にも、ロックが衝突する可能性もある。複数のワーカーが同時にロガーにログを送付しようとするとそこもボトルネックになりうる。

そこで提案されているのが[Aether](http://dl.acm.org/citation.cfm?id=1920928)である。読みはおそらく「エーテル」で、ファイナル・ファンタジーでMPが回復するアイテムと語源は同じ。以下に貼り付ける図などはこの論文の抜粋である。

Aetherの中で提案されている改善は

- Early Lock Release
- Flush Pipelining
- Buffer Consolidation

の3つである。それぞれに付いて説明する。

### Early Lock Release

ロガーにログを送付した**後**なら**ロックを解放して良い**というアルゴリズムである。
ただし、ロガーがログを永続化し終えた**後**でしかユーザにトランザクションの完了を報告してはならない所がポイントである。面白い事に、これは一切グループコミット、つまりS2PLのセマンティクスを破壊せず、ACID特性を守り続ける事ができている。それでいて、遅いディスクIOの間ロックを保持し続けなくて良くなるので同じデータにアクセスする後続のトランザクションが処理を続行できるという利点がある。
実は、この**Early Lock Release**(以下**ELR**)はこの論文が最初の登場ではないが、提案として適切にベンチマークを取ったのはこの提案が初であるとの事である。
論文に載っている評価は以下である。

![aether-elr.png](https://qiita-image-store.s3.amazonaws.com/0/1716/e412d437-d630-8200-002d-c509075717f4.png)

TPC-Bという更新系ベンチマークにおいてSkewつまり操作対象の偏り（横軸）を増やす程にロックの衝突率が増えるが、Early Lock Releaseを適用した場合には大きな高速化が得られる（縦軸）。特に遅いディスクにおいての性能差が顕著だが、高速なSSD（遅延100us）を使っている場合であっても2倍程度の高速化を実現している。

### Flush Pipelining

各トランザクションスレッドはロガーがログを永続化するまで待機し、その後でユーザにトランザクションの完了を報告する。
さて、ロガーがどのように永続化を待機するかというと、まさかSpinで待つわけにも行かないので`condition_variable`などを使って待機する事になる。(Spin、つまりforループで待っていたらそのCPUコアは食いつぶされるのでCPUコア数以上のスレッドを走らせても性能が出せない。かと言って`yield()`で待ってもコンテキストスイッチのコストが重い）その`condition_variable`はロガーから`notify_all`で呼び出されるまでトランザクションスレッドを寝かせる物でスレッド数が増えるとそれだけコンテキストスイッチのコストが掛かる。

![aether-fp.png](https://qiita-image-store.s3.amazonaws.com/0/1716/d5dbc106-e487-c1df-dcf0-859e2d45613c.png)

この図の左のように、クライアントが増える程にCPU使用率（左縦軸）が上がるが、コンテキストスイッチの数（右縦軸）も増大している。これがトランザクションの性能の阻害となる。

実はロガーにログを転送してロックを手放して即クライアントに完了を報告してしまえば、そのスレッドは二度とそのトランザクションに触らなくて良いので`condition_variable`の`notify`が不要になって性能が向上する(Asynchronous Commit)。しかし「クライアントに完了を報告したがログを永続化する前にシステムがクラッシュ」というシナリオでDurability違反が発生してしまう。
それではダメなのでロガーにログを転送した段階ではクライアントに完了を報告せず、ロガーにトランザクションを永続化させた後で「クライアントに完了を報告する」という動作をデーモンスレッドがアタッチして一気に行う。そうすることでコンテキストスイッチの回数を大幅に削減することができる。

テクニックとしては割と実装レベルの工夫のように見えるが割と性能に影響が大きい。

![aether-fp-ac.png](https://qiita-image-store.s3.amazonaws.com/0/1716/f9b72ddd-45ae-20ce-7214-453596852ca3.png)

Flush PipeliningはこのようにAsynchronous Commitに逼迫する性能をたたき出している。しかもAsynchronous CommitのようなDurability違反もしていない。

### Consolidation ArrayとDecoupling Buffer Fill

ロガーにログを永続化させる場合、大雑把には以下のステップを踏むことになる

1. ロガーのバッファのロックを獲得する
2. バッファに自分のログを書き込む
3. ロックを開放する

このステップはトランザクションスレッドが増える程にロックの衝突度合いが高まり全体のパフォーマンスを大きく損なう事が予見される。
なので2つの技法を使う事でログバッファにログを書き込む操作に並列性を注入する。

#### Consolidation Array

ロガーのロックを獲得できなかった際にカーネルにCPUを返却すると巨大なオーバーヘッドがかかるので基本的にロックはスピンで待ちたい。だがスピンで待つとそれ自体がキャッシュコヒーレントのトラフィックを発生させ大きな遅延を発生させる。なので適当なバックオフ時間を設けて1マイクロ秒後にリトライ→失敗したら2マイクロ秒後→それでも失敗したら4マイクロ秒…という感じにわざと空ループでアクセスせずに待つ方が全体のスループットを高める事が多い（これを指数時間バックオフと言う）。
だが、どうせカーネルにCPUを返さずに空ループを回すのだからもう少し有効な事に使いたい。それがConsolidation Arrayの基本的な考え方である。
すごく平たく言うと「ログバッファを獲得できなかったスレッド同士がくっついて代表者を決め、その代表者が獲得したロックでみんなが一斉に書き込む」という手順である。
そのためにロガーのバッファとは別に小さな配列を用意する、便宜上*ConsolidationArray*と呼ぶ。そして以下のステップで利用する。

1. ログバッファの獲得を試みる（`try_lock`）
2. 失敗したら乱数を出して*ConsolidationArray*の中のどれか1つを選ぶ。選んだ場所を便宜上*Slot*と呼ぶ
3. そのSlotの中で最初の自分が到着者であれば、自分が書きたいログの長さだけバッファオフセットの数値をずらして、そのSlotの状態を*OPEN*にしてログバッファの獲得を待つ。
  1. 自分より先に到着しているスレッドが居て、なおかつそのSlotが*OPEN*であれば自分の書きたいログの長さだけオフセットの数値をずらしてNotifyされるまで寝る。これをJOINと呼ぶ。
  2. 自分より先に到着しているスレッドが居て、なおかつそのSlotが*CLOSED*であれば2からやり直し
4. ログバッファのロックが獲得できたらSlotの状態を*CLOSED*に書き換え、合計で変動したバッファオフセット分だけログバッファを獲得、同SlotにJOINしたスレッドを起こす。
5. 起きたスレッドはそれぞれ自分の指定したオフセットの位置に自分のログを書き込む
6. 書き終えたら完了

#### Decoupling Buffer Fill

こちらは割と素直である。
ログを転送する、端的に言うと`memcpy`を行っている間にもロックを握りしめている必要は無いので、ロックを獲得してバッファ内の自分が書き込みたい場所を獲得したら`memcpy`前にロックを手放すのである。それでロックの保持期間を減らして並列度を高める事ができる。これは特に個々のログが大きい場合に大きな効果が期待できる。
しかし、それでは自分より若いトランザクションのログが書き終わるよりも先に自分がログを終えてしまう可能性がある。なので、自分より若いトランザクションがすべてを書き終えるまで待機を行う。
なので上で書かれている4.のステップでロックを手放し、6.のステップで自分より若いトランザクションの完了を待つというロジックを足すだけである。なのでConsolidation Arrayと容易に両立できる。

さて、**ELR**と**Flush Pipelining**と**Consolidation Array&Decoupling Buffer Fill**のアルゴリズムを組み合わせた高速ロギング手法が**Aether**であるがそのパフォーマンスは以下の様に改善をしている。(ベースラインは[Shore-MT](https://sites.google.com/site/shoremt/)というDB研究者向けの実験DBである）

![aether.png](https://qiita-image-store.s3.amazonaws.com/0/1716/53cfe460-a114-ba9c-011a-fd82a0eb976a.png)

見て分かるように、**FlushPipelining**と**ELR**が導入された時点で約68%程高速化しており、最後のログ周りはさほど大きな改善をしていない。論文中ではまだシステムが小さいからでこれからコア数を増大させていけば更にログ周りの改善が効いてくるはずと書かれているが、追試に期待したいところである。

今日の記事はびっくりするほど長くなった。
長くなったが言いたいことは簡潔である。
S2PLのセマンティクスに違反しない範囲でも人類はここまでアルゴリズムを改良できた。