モニタリングとモデル・ライフサイクル管理でモデルを長持ちさせるには

急速に進化する昨今のビジネスシーンにおいて、機械学習（ML）モデルのパワーを活用することは、競争優位性を獲得するための重要な要素となっています。しかし、単にモデルを導入するだけでは十分ではありません。モデルの継続的な妥当性と影響力を確保するには、モニタリングと管理に対する包括的なアプローチが必要です。モニタリングは、モデルのパフォーマンスを評価するだけでなく、ビジネススポンサーやステークホルダーにとって実用的な洞察に変換するダイナミックなプロセスです。

さらに、本番環境に展開されるプロジェクトの数が増えるにつれて、モデルの持続可能性が最も重要になります。モデルの精度が高くても、それが有意義なビジネス成果を促進できなければ、ほとんど意味がありません。このことは、ドリフトを定期的にチェックし、変化するデータに適応し、進化するビジネス目標に合わせることを含む、持続的なモデル管理の必要性を強調しています。
![stephen-walker-gTS-ZsbZEzk-unsplash.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1196881/9d6a4348-5d18-5f00-144b-c2dd1e3e753b.jpeg)


## 機能モニタリング

機能モニタリングは、ビジネスモデルのパフォーマンスの主要機能をビジネススポンサー/オーナーに伝えるために使用されます。ビジネスの観点からは、機能モニタリングは、予測モデルの最終結果とそれが製品にどのような影響を与えるかを実証する機会を提供するため、非常に重要です。伝えることができる機能情報の種類はさまざまであり、業界とユースケースに大きく依存します。表示されるデータの種類の例としては、ケースのコンタクト数、システム内の壊れたフローの数、パフォーマンスのドリフトの測定などがあります。


#### *実際の使用例*

業界や機能の必要性に基づいた機能モニタリングの用途には、以下のようなものがあります：

- 不正：予測された不正イベントの数、予測の尤度の推移、偽陽性予測の数、およびローリング不正数値；
- 解約削減：予測された解約イベントの数、解約予測の主要変数、解約者に対するマーケティング戦略の効率性（電子メールの開封率など）
- 価格設定：プライシング・モデルの主要変数、プライシング・ドリフト、経時的なプライシング変動、製品間のプライシング変動、1日/年あたりのマージン評価の推移、平均的なトランスフォーメーションレート

ほとんどの状況において、ビジネススポンサーはドリフトの兆候を早期に検出する機能を持たなければなりません。これは、スポンサーがモデルの特性を簡単に確認し、その履歴を表示し、ドリフトの妥当性を判断し、適切な措置を講じることで可能になります。例えば、特定の年齢層（20～30歳など）の顧客を増やすマーケティングキャンペーンを実施した場合、そのグループの消費行動が相対的に一貫性を欠くため、転化率の予測が不正確になる可能性があります。

さらに、ビジネススポンサーは、高レベルの技術的エラーへのアクセスが提供されている必要があります。例えば、プライシング・モデルに特定のカテゴリーからのデータが欠けている場合、ビジネスオーナーが戦略に影響を与える要因を認識できるよう、欠落しているデータを通知する必要があります。


#### *なぜこれが重要なのか？*

ナレッジの透明性とは、あらゆる機会に組織全体で常に共有され、伝えられなければなりません。コミュニケーションに遅れが生じると、組織内で機械学習テクノロジーを使用することの重要性と価値が損なわれる可能性があります。


#### *解決策*

「ある日、CEOが会社のWebサイトでおかしなレコメンドを見つけました。私たちは、リビルド・チェーンの一部が5日間も誰にも気づかれずに壊れていたことに気づきました。しかし、私たちはこのことは内緒にしておくことにしました。」

成功するコミュニケーション戦略とは、効果的な組織の中心に位置づけられるものです。そのような戦略では通常、複数のチャネルを組み合わせます：

1: イベントを迅速かつ継続的に伝達するチャネル - これは、以下のようなイベントがチームメンバーにシームレスに伝達されるチャネルである：

- 本番稼働した新しいモデル、本番稼働下での異常値
- 過去24時間におけるモデル性能の低下または上昇

2: 電子メールベースの日報チャンネル。このようなレポートは、以下のような重要なデータを簡潔にまとめたものでなければならない：

- 核となる指標を含む主題
- 特定のモデル基準に一致する上位n人の顧客
- 3つのモデル指標（例えば、技術指標、高レベルの長期指標、短期のビジネス指標）

3: ドリルダウン機能を備えたWebベースのダッシュボード。利用を促進するために、他のチャネルは常にダッシュボードへのリンクを含むべきである。

4: Slackのようなリアルタイム通知プラットフォームは、関係者に柔軟な購読オプションを提供する一般的なオプションである。モニタリングダッシュボードを構築する場合、TableauやQlikのような可視化ツールも含む。


## 持続可能なモデルライフサイクル管理

モデルのモニタリングやビジネススポンサーの関与などの問題について説明してきましたが、本番環境に導入されるアナリティクスワークフローの数が飛躍的に増加するにつれ、持続可能性の問題は緊急性と重要性を増しています。

アナリティクス機能のプロトタイピングから堅牢なアナリティクスの本番稼動までの道のりは、以下のステップで簡素化できます：

1. モデルとワークフロー全体を、迅速かつ効果的な方法で本番環境にデプロイする。
2. モデルのドリフトを監視・管理し、定期的または事前に定義したトリガーに従ってモデルを再トレーニングする。
3. データやビジネスニーズの変化に応じて、本番環境のモデルが可能な限りその目的を果たし続けるようにする。

この最後のポイントは、ほとんどの組織が苦労したことがなく、実際にはまだこのような機会に遭遇したことすらないものです。しかし、本番稼動中のモデルのライフサイクルを維持することは、モデルの展開と管理を成功させるための代償であるため、今、心に留めておくことが極めて重要です。


#### *なぜこれが重要なのか？*

モデル管理はしばしばモデルの性能に関するもので、主要なメトリクスは一般的に、スコアリングされたデータセットの精度に関するものです。しかし、モデルの有用性とは、ビジネス指標の観点から測定されます。つまり、モデルの精度が優れていても、それがビジネスに何の影響も与えないのであれば、それがどのように有用であるとみなされるでしょう？例えば、解約予測モデルは、解約を正確に予測しますが、解約を減らす方法についての洞察を提供しません。

また、精度が高くても、持続可能性が問題になります。ドリフトの定期的な手動チェックは、たとえ毎月最も効率的な方法で行われたとしても、チェックが必要なモデルの数が増えるにつれて、すぐに扱いにくくなります。ビジネス指標のモニタリングが加われば、作業量と複雑さはさらに大変なものになります。

そして最後に、データは常に変化しています。データソースは変更され、新しいものが追加され、そのデータをめぐって新たな洞察が展開されます。つまり、モデルは常に更新され、単純な再トレーニングでは対応できないような方法で改良される必要があり、持続可能性に関するチームの努力の大部分はここに集中する必要があります。


#### *解決策*

持続可能な方法でモデルのライフサイクルを管理し、モデルのライフサイクルを延長するためには、以下のことができる必要があります：

- すべてのモデルを一元的に管理し、モデルのパフォーマンスを完全に可視化する。APIを通じてモデルのドリフトを測定・追跡し、可能な限り自動化されたモデルの再トレーニングと更新を提供する中心的な場所を持つ。
- モデルを特定のビジネス指標に照らして評価するためのWebアプリやその他のツールを構築し、モデルを設計するデータサイエンティストからアナリティクス製品のエンドユーザーに至るまで、全員がモデルの目標について足並みを揃えられるようにする。
- データサイエンティストやデータエンジニアの時間を解放し、既存モデルのドリフトやパフォーマンスの遅れへの対処だけでなく、より良いモデルの作成に集中できるようにする。


## 持続可能な道筋を描く

機械学習モデルのライフサイクルを維持するには、全体的な可視化、自動再トレーニング、パフォーマンス追跡のための中央管理ハブが必要です。ビジネス指標に照らしてモデルを評価するツールを構築することで、ステークホルダー間の整合性が確保されます。最終的には、データサイエンティストやエンジニアのリソースを解放することで、ドリフトやパフォーマンスの遅れとの戦いではなく、モデルの改善に集中できるようになります。

アジリティーとイノベーションによって定義される状況において、機能モニタリングは、機械学習モデルの真の可能性を引き出すための要として浮上します。機能モニタリングは、機械学習モデルの妥当性とインパクトを保証するだけでなく、企業が十分な情報に基づいた意思決定を行い、進化する現実に適応する力を与えます。産業が進化し続ける中、機能モニタリングとビジネスの成功の共生関係は、間違いなく機械学習の領域における原動力であり続けるでしょう。


## DataikuのMLOps

Dataikuの主要機能の1つであるMLOpsをチェックすることで、本番環境における機械学習モデルやプロジェクトを効果的に導入、監視、管理することができます。詳しくは[こちらのページ](https://www.dataiku.com/ja/製品/の主要機能/MLOps/)をご覧ください。

<br>
<br>
<br>

*原文：[Ensure the Longevity of Your Models With Monitoring & Model Lifecycle Management](https://blog.dataiku.com/ensure-the-longevity-of-your-models-with-monitoring-model-lifecycle-management)*