マイクロサービスの Saga パターンについて

[以前の記事](https://qiita.com/yasuabe2613/items/3bff44e662c922083264)で『Microservice Patterns』について要約したが、その中の一つの Saga パターンについて、もう少し詳しく掘り下げてみる。

## どういう文脈で Saga パターンを使うか？
各サービスがそれぞれの *Bounded Context* (整合性の境界)で自前のデータストア（[Database per Service](https://microservices.io/patterns/data/database-per-service.html)）を持っているマイクロサービスアーキテクチャで、複数サービスにまたがるワークフローのデータ整合性を維持したい。

## どういう制約のもとで Saga パターンを使うか？
以下のような事情で、分散トランザクションは使いたくない。

- モダンでメジャーな NoSQL やメッセージブローカではサポートされていないものが多い。
- CAP 定理の認知度が高まって、**C**onsistency を絶対視する風潮が見直され、**A**vailability をより重視するシステムも増えている。
- 分散トランザクションは大きな同期プロセス間通信システムとも見ることもでき、可用性を損ねる要因になりうる。[^anti_availability]
- トランザクションが提供するような「*幻想*[^illusion]」に頼らなくても、実際、現実世界は結果整合性で回っている。[^starbucks]

[^illusion]: "... illusion that the world consists of a single globally strongly consistent present"(『Reactive Microsystems』) または "... the illusion that each transaction has exclusive access to the data" (『Microservice Patterns』)

[^starbucks]: [Not even Starbucks uses two-phase commit](www.enterpriseintegrationpatterns.com/ramblings/18_starbucks.html).

[^anti_availability]: [Two-phase commit is the anti-availability protocol.](https://queue.acm.org/detail.cfm?id=2953944) (Pat Helland)


## Saga とはどんなパターンか？
『Microservice Patterns』では第4章全体が Saga パターンの記述で文量が多い。ここではポイントを絞ってみる。

### Saga
複数のマイクロサービスの**ローカルトランザクション**（後述）を[非同期メッセージング](https://microservices.io/patterns/communication-style/messaging.html)でつなげて、サーガと呼ばれるワークフローを構成するパターン。上の「制約」に書いたとおり分散トランザクションは使わず、**Compensation**[^compensation]（補償）と **countermeasures** で、結果整合性（Eventual consistency）を実現する。

[^compensation]: "Don't ask permission--Guess, Apologize, and Compensate" (Reactive Microsystems)、"It is often easier to ask for forgiveness than to ask for permission"(Grace Hopper)

### Choreography 型と Orchestration 型
Saga パターンの型としては、Choreography 型と Orchestration 型の二つがある。前者は、各サービスが互いの実行結果に応じて協調して処理を実行し、最終的にワークフローを完遂するもので、単純で小規模なマイクロサービスシステムに向いている。

後者は、中央集権的な**オーケストレータ**がサーガの進行を管理するもので、Choreography 型に比べてより複雑で大規模なフローにも向いている。以降、Orchestration 型での構成をメインに記述する。

### ローカルトランザクション
オーケストレータからのメッセージを契機に各マイクロサービスにより実行され、ローカルな ACIDトランザクションとしてその都度コミットまたはロールバックされるサーガ内のステップ。必要に応じてオーケストレータにリプライを返すことになるが、データの更新とメッセージングがアトミックになるように、*Transactional Messaging*[^transactional_messaging] のパターン群などを併用する必要がある。
[^transactional_messaging]: [Transactional outbox](https://microservices.io/patterns/data/application-events.html),[Transaction log tailing](https://microservices.io/patterns/data/transaction-log-tailing.html), [Polling publisher](https://microservices.io/patterns/data/polling-publisher.html) などのようなマイクロサービスパターン
 

### ローカルトランザクションの種類
ローカルトランザクションには以下のような種類がある。

#### Compensatable Transaction
補償 (compensate)可能な、つまり状況に応じて後で変更を打ち消すことができるローカルトランザクション。実際に補償を実行する **Compensating Transaction**（後述）と対になる。

#### Pivot Transaction
サーガの構成として、前半に Compensatable なトランザクションの一群を置き、後半に **Retriable**（次に記述）な一群を置く。ここで Compensatble と Retriable の境界に位置するローカルトランザクションを Pivot Transaction と呼ぶ。Compensatable でも Retriable でもないか、あるいは「最後の Compensatable」かつ「最初の Retriable」であるかの場合がある。

#### Retriable Transaction
Pivot 以降にまとめて置かれるトランザクションで、ロールバック不要で成功が保証されているもの。たとえば、永続化された Aggregate の**状態**（後述）を「承認待ち」から「承認済み」に変更するだけのようなトランザクション。

#### Compensating Transaction
Compensatable Transaction に付随するもので、サーガが中止される場合には、対応する実行済み Compensatable Transaction と逆順で実行される。ACID トランザクションのロールバックに相当するが、変更を中止するというより、打ち消すトランザクションを実行するという点で、Git の revert コミットに近いイメージ。

### 状態
サーガの進行状況を表す状態と、各サービスがもつドメインのデータの状態の二つがある。前者はサーガの進行状況をステートマシンとして表したもので、ステップごとに永続化される。テスタビリティを高める効果もある。

後者は各サービスが担当する Aggregate の状態フィールドで、例えば、「承認待ち」、「承認済み」、「却下」といったものになる。後述の **semantic lock** としても機能する。

### Countermeasure
「制約」に書いたとおり分散トランザクションを使わないため、ミドルウェア的な排他制御が行われず ACID の I（Isolation）が欠如して **ACD** となる。このため複数のサーガが並行して実行される際、そのままでは *Lost Update*[^lost_update] や *Dirty Read* [^dirty_read] といった「異常（anomaly）」が生じうる。これを防ぐ技法が countermeasure で、**Semantick Lock**、*Commutative Updates*[^commutative_updates]、*Pessimistic View*[^pessimistic_view]、*Reread Value*[^reread_value]、*Version File*[^version_file]、*By Value*[^by_value] といったものがある。Saga パターンでは Semantic Lock を中心に、必要に応じて他の countermeasure を併用する。

[^lost_update]: あるサーガによる変更を、他のサーガが変更前のデータを使って上書きしてしまうこと。
[^dirty_read]: 進行途中の別サーガによる変更を読み取ってしまうこと。その別サーガがその変更をキャンセルすると整合性が壊れる。
[^commutative_updates]: 更新操作が可換になるように、つまり実行順序によらず整合性が維持されるよう工夫する技法。**Lost Updates** 防止に効果がある

[^pessimistic_view]: 不整合を発生させ得るステップをサーガの終盤に寄せるなど、ビジネスリスクを最小化するよう構成する技法 。**Dirty Read** 防止に効果。
[^reread_value]: Dirty Write 防止のために、更新前に念のためもう一度読み込んでみる技法. **Lost Updates** 防止に効果。参考：[Optimistic Offline Lock pattern](https://martinfowler.com/eaaCatalog/optimisticOfflineLock.html).
[^version_file]: 非可換な操作群を記録しておいて、必要に応じて組み替えて可換にする技法。
[^by_value]: リクエストの内容によって動的にロジックを切り替える. 場合によっては分散トランザクションも使う。

### Semantic Lock
従来の DBMS によるロックではなく、アプリケーションレベルで実装するロック。各サービスが担当する [Aggregate](https://microservices.io/patterns/data/aggregate.html) ごとに状態フィールドを管理する。

排他制御の振る舞いは要件による。例えばロック検出時の処理は以下のような選択肢がある。

- 単に失敗する。サービス側の実装が楽な反面、クライアント側でリトライする負担が生じうる。
- 旧来の ACID のようにブロックする。クライアントの負担が減る一方で、デッドロック検知の仕組みを自前で実装するなどの負担も生じうる。

## 参考文献
- [Microservice Patterns](https://www.manning.com/books/microservices-patterns)
- [Reactive Microsystems](https://www.lightbend.com/blog/reactive-microsystems-the-evolution-of-microservices-at-scale-free-oreilly-report-by-jonas-boner)
- [Semantic ACID Properties in Multidatabases Using Remote Procedure Calls and Update Propagations.](https://www.researchgate.net/publication/220280465_Semantic_ACID_Properties_in_Multidatabases_Using_Remote_Procedure_Calls_and_Update_Propagations)
- https://microservices.io/patterns/data/saga.html