Spanner

これまで多くのトランザクションの要素技術を説明してきた。
Googleの公開している論文[Spanner: Google's Globally-Distributed Database](https://research.google.com/archive/spanner.html) は公開当初、要求される専門技術の多さからよくわからないと言っている人が多かったが、これまでに説明した要素技術をベースにすると理解しやすい。

# Spannerとは

複数のデータセンターに跨ってデータベースの内容を複製し続ける事で高い可用性を実現するという構想は数多くあった。
しかしそれらの分散データベースは実用的な速度を実現しようとすると、データモデルがただのRDBより単純化して使いにくかったりトランザクションをサポートしなかったりと、アプリケーションの一貫性を実現するのが難しい。
現にGoogleの社内でもBigtableなどを用いたアプリケーションは複数あるものの、それぞれでそのデータモデルの上で無理やりトランザクションを再実装するためにあれこれ頑張った事例が多くそこでエンバグする事態が多発していたとSpannerの論文には書いてある。
そこで、一貫性とデータセンター間複製と性能とを鼎立する為に新たに設計されたのがSpannerである。

## データモデル

いわゆるリレーショナル・データベースであり、SQL-Likeなクエリ言語をサポートする。（厳密にはキーバリューストアであるがクエリ言語がSQL-Likeなので)
個々のテーブルは複数のTabletという単位に自動的にshardingされたShared-Nothing構成となり。それぞれのTabletは複数のマシンでPaxosを用いて内容を全複製したShared-Everything構成からできている。JOIN対象のデータがインターリーブされていたりなどクエリを高速化するための工夫が複数入っているが、トランザクションと直接の関係は無いので省略する。
個々の行は値の他にタイムスタンプ付きのバージョン情報と過去のデータを保持する。つまり追記型のストレージであり、バージョンを指定することで任意の過去のデータを読みに行く事ができる。

## トランザクションサポート

1つのトランザクション操作が複数のTabletに跨るか、1つのTabletに完結するかで使われる機能が違うが、複数のTabletに跨る操作の時はそれぞれのTabletの中のPaxosリーダーの間でTwo Phase Commit(2PC)を行って合意する。2PCは参加者が途中で音信不通になるとそこで停止するプロトコルだが、個々の参加者がPaxosで冗長化されているので停止の心配はない(ということになっている)。2PC及びPaxosの詳細に関しては並行制御とはやや遠い話なのでこの記事では扱わない。

読み書きをするトランザクションを実現するための並行制御には**Strict 2 Phase Lock**を用いる。
すべてのトランザクションが**Strict 2 Phase Lock**を用いるならそこで並行性の問題は解決するのだが、Spannerでは読み込みオンリートランザクションか、読み書きトランザクションかで動作が異なる。「読み書きトランザクションの中でたまたま書き込みをしないもの」と「読み込みオンリートランザクション」はそもそも別物で、トランザクション開始時にユーザが明示的に宣言する必要がある。

トランザクションが読み込みオンリーの場合には、開始時にそのトランザクションは読み込みオンリートランザクションとしての実行パスを通るのだが、これを高速化するためにLockを用いずにデータをNon-Blockingに読み出す。Lockを用いずにデータを読み出すトランザクションであれば**OCC**で説明したように、ValidationのステップでRead-Setを再度読んでバージョン番号の一致を確認すれば良い。が、Spannerはそれを選ばず、**MVCC**による隔離を行う事で、Read-Setのvalidation不一致によるリトライすら不要にしてReadを高速化した。MVCCには複数の実装があるがSpannerが採用しているのはROMV(Read-Only Multi-Version)と呼ばれるものである。

さて、**MVCC**によってReadをNon-Blockingにすると、Writeとの調停が問題になる。
具体的には以下のようなケースの場合

![mv_readskew.png](https://qiita-image-store.s3.amazonaws.com/0/1716/b317f636-eb8f-100d-3895-21e21fcc06b0.png)

トランザクションT1はxとyの値が読みたいだけなのだが、途中でトランザクションT2が挟まって2つの値の最新版を作成してしまう。T1はT2の更新する2つの値の内片方だけを読んでしまうのでこれはSerialな実行結果にならない。いわゆるRead Skew Anomalyである。
T1は本来であれば(x0, y0)もしくは(x2, y2)の値を読んで欲しい、それを実現できそうな方法を列挙してみると

- x0を読んだ段階でT1がx0の値をロックすれば良いかというと、そもそも読み込みオンリートランザクションは読み書きトランザクション側をブロッキングしたくないのでロックするわけには行かない
- 例えばxとyの論理バージョンクロックを更新のたびにインクリメントさせるとしても、xとyが常に同時に更新されるとも限らないのでどのバージョンを読むべきかの手がかりとしては使えない
- WriteされたデータにすべてそのWriteが依存するデータの情報を保存すると（この場合、y2の書き込みの中にx2も更新したよというメタデータを埋め込む）トランザクションが増える程にメタデータが膨れ上がる
- 実時間のタイムスタンプをつけるとすると`x`と`y`が別のマシンに置かれているとして、`y`の載ったマシンの時刻が⊿t秒遅れていたら、T1側が特定のタイムスタンプt1を指定してそれぞれをReadした時に、t1の時刻のx0と、t1+⊿tの時刻のy2を読みだしてしまって結局(x0, y2)を読みだしてしまう事になる。(⊿tが充分小さければいいのだが）

# Spannerの実装

Spannerが最終的に提供する一貫性モデルである**External Consistency**に付いて説明し、それをナイーブな方法では実現できない事を示し、Spannerがそれをどう解決したかを説明する。


### External Consistency

あるトランザクションが終わった**後**に始まったトランザクションは、前に終わったトランザクションより必ず**大きい**タイムスタンプを得る、という言葉に直すと何を当然の事をと言いたくなるような一貫性保証の事を**External Consistency**と呼ぶ。トランザクションの開始・完了という論理的な概念に対して実時間の関係を定義している点が新しい。図で表すと

![ext_con.png](https://qiita-image-store.s3.amazonaws.com/0/1716/1223a09a-aa50-8f8f-59cf-cbd1bb5f655f.png)

この図中で「Tx1が完全に終わった後にTx2が始まった」なら「_time2_は_time1_より大きい」という条件が常に満たされるのが**External Consistency**である。

### なぜExternal Consistencyは破られるか

値が1つしか無ければ、**S2PL**でロックしている以上、タイムスタンプとしてサーバ側の時刻を使用していればいくつのトランザクションが同時に書き換えに来ても、ロック中の時刻がタイムスタンプに採用されるのでロックによってタイムスタンプの順序はトランザクションの完了順へと直列化される。
しかし値が複数あり、それぞれが別のサーバ内で動いていたりしたら

![ext_noncon.png](https://qiita-image-store.s3.amazonaws.com/0/1716/504719b2-3346-095f-43f5-f859b27e4d83.png)

図中では_time1_の**後**に_time2_が来ているが、yを持っているサーバやクライアントのタイムスタンプのズレ⊿tが_time2 - time1_より大きかったら、yに記録されるタイムスタンプはxに記録されたタイムスタンプより過去の値となってしまい**External Consistencyは破られる**。

![ext_dltt.png](https://qiita-image-store.s3.amazonaws.com/0/1716/66c0602a-3685-a5be-85d8-1510bb66fe09.png)


値が2つ程度ならその都度ネゴってタイムスタンプを決定しても良いがSpannerが相手にしているのは合計で億オーダーの行数を持つ数千マシンに跨るデータなのでその中でネゴるなど正気の沙汰ではない。
なので、昔から「分散システムでタイムスタンプを使うのは現実的ではない」というのが通説となっていた。

## Spannerはどう解決したか

論文には小難しい式が書いてあるが、実際の所大した事はない。
Spannerが導入したのは**Commit Wait**という手法で、一言で表すなら「⊿tが_time2 - time1_より小さくなるよう余計な時間ロックを握りしめれば良い」というだけのものである。

システム内のサーバには可能な限り正確な時刻を獲得させる為にTrueTimeAPIという物を用いる。そのためにデータセンタに小型の原子時計をもたせるとかそんな話がインターネット界隈をどよめかせたが
- 参考: [グーグル「Spanner」：地球大のリアルタイム・データベース](http://wired.jp/2012/11/28/google-spanner-time/)
- 参考: [Spanner再論　— Cyber-Physical Systemsとしての大規模分散データベース](https://www.facebook.com/notes/fujio-maruyama/spanner%E5%86%8D%E8%AB%96-cyber-physical-systems%E3%81%A8%E3%81%97%E3%81%A6%E3%81%AE%E5%A4%A7%E8%A6%8F%E6%A8%A1%E5%88%86%E6%95%A3%E3%83%87%E3%83%BC%E3%82%BF%E3%83%99%E3%83%BC%E3%82%B9/10203874319595896/) ←こっちは僕の理解と大きく異なるのでおすすめしない

実際のところ時刻の正確さはアルゴリズムの正しさとは何の関係もなく、NTPを使っても実現可能であるしもっと言うとNTPすら無くても良い。現にSpannerのオープンソースクローンの立ち位置にある[CockroachDB](https://github.com/cockroachdb/cockroach)は公式のドキュメントに「[原子時計なんて普通ないからNTPでいいよ](https://www.cockroachlabs.com/docs/frequently-asked-questions.html#since-cockroachdb-is-inspired-by-spanner-does-it-require-atomic-clocks-to-synchronize-time)」と書いている。

#### TrueTime API

Spannerの論文を読むとGPSやデータセンタから正確な時刻を獲得するAPIの事を**TrueTimeAPI**と呼ぶかのように早とちりしそうになるが、正確には**Spanner内の時刻のズレをε以下に抑える**ように時刻を頻繁に再同期したり、どうしても時刻がズレすぎるマシンを故障としてSpannerからキックしたりする。
さて、システム内の時刻のズレがε以下に抑えられたということは、システム内で一番早い時刻を見ているマシンの時間はシステム内で一番遅い時刻を見ているマシンと比べて2εの時差を持つことになる。

![truetime.png](https://qiita-image-store.s3.amazonaws.com/0/1716/6d511369-a442-9425-3997-946b0dc6e659.png)

つまり、タイムスタンプのズレ⊿tの最大値が2εであるという事が保証できるようになる。
後は先ほどのケースでの_time2_ - _time1_ が⊿tより常に小さくなる方法を考えるだけである。

#### Commit Wait

読み書きを行うトランザクションは**S2PL**で走り、読み書きするデータのロックを獲得する。
そのトランザクションでロックを獲得した**後**でTrueTimeAPIで獲得した時刻を時刻_t1_とおき、そこに2εを足した値が「自分の時刻がシステム内で一番遅かったと仮定した場合の、システム内で一番速いシステムが取りうるタイムスタンプ」である。**それをそのトランザクションの使用するのタイムスタンプとする**。

![spanner_commit.png](https://qiita-image-store.s3.amazonaws.com/0/1716/49d885a7-2141-548c-8777-a07c834bcdd7.png)

このようにトランザクションに与えるタイムスタンプを決定することで時刻がブレても

![ext_saved.png](https://qiita-image-store.s3.amazonaws.com/0/1716/663015a4-5bd3-32e4-067c-ec3aaeb69324.png)

Tx1より**後**にTx2が始まったならその2つの間の時刻が許容限界ギリギリまでブレていてもその2つに振られるタイムスタンプは順序関係を守る。

そして、トランザクションが読み書きを終えて、ログを書き込んで永続化して、ロックを手放すタイミングで _t1 + 2ε_ が必ず経過したと言える時間までわざとロック期間を引き伸ばすという待機時間を導入する。これが**Commit Wait**である。これによってタイムスタンプ値が書き込まれる時刻はシステム内のどのマシンから見ても必ずロックが取られているという状態を保っているので一貫性が保証される。

#### Read-Only Muliti-version Portocol

Spannerの最大の特徴は、分散環境で**MVCC**を実現した事である。MVCCと言っても複雑なものではなく、読み書きトランザクションが**S2PL**を使っている点では理解しやすい。読み込みトランザクションはタイムスタンプのみを用いる事で一切ロックに触れる事なくデータを読み出せる。
具体的には読み出しを行おうとした瞬間に**TrueTimeAPI**で獲得した値に2εを足す事で、「自分の時刻がシステム内で一番遅かったと仮定した場合の、システム内で一番速いシステムが取りうるタイムスタンプ」を獲得できる。そのタイムスタンプより小さい値を持つ最新の過去データを各サーバに問い合わせて獲得すれば良い。

#### 原子時計は必要だったの？

**Commit-Wait**の際の時刻が短い方がロック期間が短くできるので並列度が上がる。つまり時刻が正確なら正確なほど、書き込みレイテンシが短くなり、書き込みスループットが増える。

## まとめ

Spannerは割とシンプルなアルゴリズムなので大仰に構えなくて良いし原子時計が無くても実現は一応できる。