みずほ銀行の障害の流れを図示してみました

お世話になります。

こちらのサイトにて、
https://xtech.nikkei.com/atcl/nxt/column/18/01157/092200045/
みずほ銀行の障害の記録が詳細に描かれており、インフラエンジニアにとって大変参考になる情報でしたので、個人用メモに図示してみました。

あくまでエンジニアとして技術的視点からの障害対策のシナリオの勉強用のため、特定の団体・人物に対して精神的苦痛を惹起するような意図は一切ありません。
万一、問題があれば修正いたしますのでご連絡ください。

誤りがありましたらコメントご指摘いただけますと助かります。


##概要
>みずほ銀行で2021年8月20日、営業店の窓口業務が全面停止するトラブルが発生した。前日の19日午後8時53分ごろに営業店端末と勘定系システムをつなぐサブシステムで、データベース（DB）サーバーがディスク装置の故障をきっかけに停止したためだ。待機系DBサーバーへの切り替えも失敗、副データセンター（DC）に処理を切り替えた。

##想像図
![Slide1.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/790864/c7633b30-33eb-19b7-60dc-cb416562a628.jpeg)

##トラブル発生
>システム障害の発端は8月19日午後7時40分、業務チャネル統合基盤のデータベース（DB）サーバーのディスク装置が1台故障したことだった。 

![Slide2.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/790864/780b0ba1-3356-9d6f-f073-4808eaccbbf1.jpeg)

>DBサーバーのディスクはミラーリングしてあるので、すぐにミラーディスクに切り替わった。また新しいミラーディスクを作るために、スペアディスクへのデータコピーも始まった。

![Slide3.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/790864/7910381f-388e-dc2f-3ad2-3c150d7a19d4.jpeg)

##二次障害発生
>しかし午後8時52分、ミラーディスクも故障してしまう。まだスペアディスクへのデータコピーは完了していなかったため、ディスクからデータを読み出せなくなり、DBサーバーが停止した。 

![Slide4.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/790864/d2bc348f-d506-dd7e-3e2e-386cb85efa6a.jpeg)

>みずほ銀行はこのDBサーバーを冗長構成にしていた。稼働系から待機系にトランザクションログを常時転送してDBを二重化する仕組みだ。本来であれば稼働系が停止すると、待機系に自動的に切り替わるはずだった。 

![Slide5.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/790864/4bdc01df-2e9f-9c97-5a87-0c376353a78e.jpeg)

>しかし今回の障害では、稼働系のディスク故障によって待機系へのログ転送が停止し、待機系のデータの最新性を保証できないとシステムが判断したため、稼働系から待機系への自動切り替えが失敗した。DBサーバーの障害によって業務チャネル統合基盤が全面停止し、営業店端末が使えなくなった。 

（注）ここは業務基盤上のVM全体ではなく、DBのフェイルオーバーのことだと思いますが、スペース的な理由でこのような絵になっています。
![Slide6.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/790864/46f74ec4-8c87-9dbf-dc91-bb7a141cb585.jpeg)

##待機系からの復旧への挑戦
>みずほ銀行は勘定系システムを東京・多摩にある正データセンター（DC）で運用し、災害対策用システムを千葉の副DCで運用している。千葉DCにもDBサーバーの稼働系と待機系があり、多摩DCからログを転送してDBを二重化していた。後から分かることだが、千葉DCにある待機系DBサーバーだけは、多摩DCのDBサーバーが停止した後も正常に稼働していた。 

![Slide7.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/790864/cfc7eab1-1e44-e109-d311-5c356a1874f9.jpeg)

>しかしみずほ銀行は事前に決めていた手順に従い、多摩DCでDBサーバーの再稼働を目指した。手順ではDBサーバーの自動切り替えに失敗した後は、（1）稼働系と待機系を手動で切り替える、（2）待機系単独でDBサーバーを復旧する、との順番だった。

![Slide8.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/790864/335ac3df-c280-f8e6-e762-e953699b0143.jpeg)

>まず午後10時37分から、待機系を手動で稼働系へ切り替え始めた。しかし待機系のDBサーバーを再起動しても、システムの設定が待機系のまま変わらなかったため、切り替えに失敗した。 

![Slide9.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/790864/6342532c-b623-fed9-b0fc-57a89769813a.jpeg)

>午後11時57分からは稼働系DBサーバーの電源を強制的にオフにする作業を始めた。手動切り替えに失敗した理由として、稼働系のOSが正常に終了できていないことが考えられたためだ。しかし8月20日午前1時12分、稼働系の電源を強制的にオフにしたうえで待機系を再起動しても、切り替えはできなかった。 

![Slide10.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/790864/5a02b1c2-a94b-d1d2-b4c7-4ffa8208ac2c.jpeg)

##さまざまな試行錯誤
>少し前の午前0時29分、富士通が新しい復旧策を提案した。稼働系DBサーバーの物理ディスクを直接抜き差しするとの手法だ。富士通は「他社実績を踏まえれば短時間で着手でき、復旧する可能性がある」と述べていた。そこでみずほ銀行は午前1時50分、当初考えていた（2）の待機系単独での復旧を試す前に、物理ディスクの抜き差しを試すと決定した。 

![Slide11.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/790864/b102aa98-af53-3e6f-9411-c04548f59742.jpeg)

>午前2時26分、みずほ銀行は物理ディスクの抜き差しではなく、待機系単独での復旧を目指す方針に切り替えた。物理ディスクの抜き差し後の同期処理に、さらに1時間半を要すると分かったためだ。 

![Slide12.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/790864/1a7fe8c8-4c9b-e8a7-5d37-7665a49149ff.jpeg)

>午前3時4分、待機系DBサーバーは単独で起動したが、システムは復旧しなかった。APサーバーが異常終了してしまったためだ。午前4時12分、APサーバーが異常終了した理由が「停止している稼働系DBサーバーに接続しようとしているため」だと判明した。そこでAPサーバーの設定変更を試みたが、これにも失敗する。 

![Slide13.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/790864/61f5b362-337d-bc03-094e-ecd0e0f5ad8a.jpeg)
![Slide14.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/790864/e1265bab-5249-22d3-2c2a-141bec35e9e3.jpeg)

>午前6時45分、富士通から稼働系で物理ディスクを抜き差ししても復旧できなかったとの報告があった。もはや多摩DCで復旧できる望みは完全に絶たれた。そこでみずほ銀行は午前7時10分、ようやく千葉DCへの切り替えを決定し、作業に着手した。

![Slide15.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/790864/c0fe28b4-0279-919d-8832-1164e076f754.jpeg)

##災害対策DCからの復旧へ
>午前9時45分、千葉DCで業務チャネル統合基盤が復旧した。これによって営業店端末などが利用できるようになった。午前11時58分、業務チャネル統合基盤で日替わり処理が完了し、システムが全面的に復旧した。 

![Slide16.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/790864/072ee3bb-b289-c3d3-d18b-1f74fd4bee65.jpeg)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/790864/c3eaec77-dbb8-1886-8be6-4d1b7cceb586.png)

##感想
・災害リカバリ用のDCへ基盤全体を移行する手順がなかったにも関わらず、数時間で手順書を作成して、VMクローンふくめ3時間程度で復旧というのは早いと思いました。
・ディスクのAB列がほぼ同時に壊れるというのが不思議ですが、ハードウェアRAIDの障害でしょうか。同じく、稼働系のOS（またはハイパーバイザ）が古いディスクをホールドしてしまっているというのもRAIDやSANといった物理機器の不具合の可能性？
・それをふまえると、今後はオンプレではHCIのような、DAS（筐体内ディスク）をソフトウェア的に定義するストレージ（SDS）が主流になっていくと感じました。
・もちろんクラウドであればこのような低層設計が不要になります。北陸銀行が勘定系ふくめ全てAzureに移行したというニュースがありましたが驚きました。https://ascii.jp/elem/000/001/980/1980111/