システム運用における生成AIの活用について～NRI 実践事例付き～
株式会社野村総合研究所
ITアーキテクチャーコンサルティング部
木村 誠明
マネージドサービス推進部
浜崎 佑樹

登壇者プロフィール：木村 誠明（きむら ともあき）
経歴
2002年株式会社野村総合研究所入社
金融系業務システムの開発・保守運用に携わり多くの障害対応を経験。
現在はITサービスマネジメントの専門家として、社内外のシステム運用の改善に携わるとともに、障害対応力向上のための研修講師も手掛ける。

システム障害対応の教科書の著者

発信等
2020/3

技術評論社 システム障害対応の教科書

2021/9日経クロステック レジリエンシーでシステム障害に備える4年ぶりの改訂版⇒

2023/2 週間金融財政事情
共同化・クラウド化で地銀システムの障害対応リスクが増大
2024/4 技術評論社 【改訂新版】システム障害対応の教科書

Copyright（C） Nomura Research Institute, Ltd. All rights reserved.

1

登壇限

はじめに生成AIを活用し、システム運用を革新するための気づきを得られることを企図しています• 免責、商標、登録商標について
本資料に記載された内容は情報提供のみを目的としています。本資料を用いた運用は読者自身の判断と責任において行ってください。これらの運用の結果について著者及び所属元、出版社は責任を負いません
記載内容は記載時点の情報を記載していますので最新ではない可能性があります
本文中に記載されている本文中に記載されている製品の名称は、一般に関係各社の商標または登録商標ですなお、本文中ではTM、®などのマークを省略しています

Copyright（C） Nomura Research Institute, Ltd. All rights reserved.

2

システム運用における生成AIの活用について～基本編～
6.6章生成AIの活用編を中心にお話します※AI自体の解説は専門書籍をお読みください

Copyright（C） Nomura Research Institute, Ltd. All rights reserved.

3

登壇限

目次
1. システム運用の変革と生成AIが必要とされる背景
2. システム運用におけるAIの活用の歴史
3. 生成AIがサポートする領域と使いこなすためのスキル
4. GAI-Opsに対応するツールや環境
5. 生成AIを活用するために必要なこと
6. 弊社実践事例（浜崎より）

AI関連は変化が早い、一旦、初歩的内容を整理して、運用への活用を考えてみたい
AI活用の歴史やスキル、環境のお話などをさせていただいて、最後に実践事例として、弊社での活用をご紹介
Copyright（C） Nomura Research Institute, Ltd. All rights reserved.

4

登壇限

システム運用の変革と生成AIが必要とされる背景

システム運用は伝統的運用からSREにシフト
生成AIはエンジニアの価値を最大化する有効な手段
伝統的運用（手作業）

SRE

生成AI

Copyright（C） Nomura Research Institute, Ltd. All rights reserved.

5

登壇限

システム運用の変革と生成AIが必要とされる背景

システム運用は伝統的運用からSREにシフト
生成AIはエンジニアの価値を最大化する有効な手段

デジタルビジネスの成功の要はエンジニア
生成AIはパフォーマンスを最大化させる
Copyright（C） Nomura Research Institute, Ltd. All rights reserved.

6

登壇限

システム運用におけるAI活用の歴史

AI活用の歴史は古く、AI-Opsと言っても何を指すかは様々～2000年代
A
Iの流
行
り

運用
活用
例

人工知能AI ルールベース

2010年代2020年代※GAI-Ops：従来のAI-Ops区別するために呼称

人の知見をルールとして設定し、再現する
機械学習ML・深層学習DL データを学習し予測・識別生成AI（GenerativeAI）
大規模な学習済みモデル（pre-trained）で画像・テキスト等を生成する

エキスパートシステム
チャットボット
対応レコメンド

問い合わ
せ管理

監視・インシ
デント管理

ナレッジ
管理

Anomaly監視
外れ値検知
予測アラート監視・インシ
デント管理

キャパ管
理

GAI-Ops※
DevOpsプロセス全般において人の判断を支援する
完全自動化ではない（human in the Loop）
企画

設計

開発

リリース

問い合わ
ナレッジ
問題管
監視・インシ
デント管理
せ管理
管理
理
セキュリ
キャパシ
保守作業
他
ティ管理
ティ管理
Copyright（C） Nomura Research Institute, Ltd. All rights reserved.

7

登壇限

生成AIがサポートする領域と使いこなすためのスキル

生成AIが非定形業務領域をサポート
活用にむけた新しいスキルがプロンプトエンジニアリングという手法
反復的アプローチ
プロンプトエンジニアリング

検証する・承認する・仕上げる

自動テスト/リリース実行（CICD）・
自動復旧、オーケストレーション等

GAI-Opsでカバーする領域（従来は人の領域）

人の領域
Human in the Loop

従来DevOps基盤（実行基盤）領域

例：エラー分析、修正コードを生成

レビュー、承認実行する情報を集める・情報を整理ドラフトを生成する（創造性重視）ドラフトを生成する（正確性重視）非定型領域は、従来高スキルエンジニアの領域
Copyright（C） Nomura Research Institute, Ltd. All rights reserved.

8

登壇限

GAI-Opsに対応するツールや環境

多くのDevOpsプロセス/ユースケースをカバーする製品も登場
SaaS系が強く、ChatGPTの汎用性も高い

Copyright（C） Nomura Research Institute, Ltd. All rights reserved.

9

登壇限

GAI-Opsに対応するツールや環境独自のナレッジを活用する手法

LLMのカスタマイズ技術

プロンプト
エンジニアリング

AIから望ましい出力を得るために、指示や命令を設計、最適化する

概要

指示だけでカスタマイズ

RAG（Retrieval-Augmented Generation：検索拡張生成）

LLMによるテキスト生成に独自の検索を組み合わせることで、回答精度を向上させる技術
独自知識を利用し、ハルシネーションを抑止したい

ファインチューニング

事前に学習されたモデルを微調整する技術

実現難易度
低高

Copyright（C） Nomura Research Institute, Ltd. All rights reserved.

10

登壇限

ご参考：生成AIのシステム運用への適用例

障害対応のプロセスの一部がAIによって代替されていくと推察
凡例
機械学習 生成AI（汎用、プロンプト）
生成AI+RAG 従来通りの手法

Copyright（C） Nomura Research Institute, Ltd. All rights reserved.

11

生成AIを活用するために必要なこと

登壇限

多くのDevOpsプロセスに適用できるが、乗り越えるべき課題もある

Copyright（C） Nomura Research Institute, Ltd. All rights reserved.

12