Cloud Operator Days Tokyo 2024

GAIOps生成AI活用で変化が加速するIT運用〜より良く活用するための7つの選択肢〜

ユニアデックス株式会社
テクノロジーサービス本部技術戦略部
藤田 勝貫ユニアデックス株式会社
お客さまビジネスの持続的優位性実現に向けて伴走し、次世代ICTインフラ・デジタル活用を全体最適化するパートナー

社名

ユニアデックス株式会社（UNIADEX, Ltd.)

代表者

代表取締役社長 田中 建（たなか けん）

住所/TEL〒135-8560

東京都江東区豊洲1-1-1

03-5546-4900（大代表）設立

1997年3月4日

資本金7億5,000万円

従業員数

2,699名(2024年4月1日現在)

売上高

1,383億円（2023年3月期）

1©️2024 UNIADEX, Ltd. All rights reserved.

1©️2024 UNIADEX, Ltd. All rights reserved.

講師紹介
藤田 勝貫
Masatsugu.Fujita@uniadex.co.jp
ユニアデックス株式会社技術戦略部人工知能ビジネス創出協会正会員・運営委員
三井業際研究所生成AI調査委員

主業務：
新技術調査／適用
AI／データ活用の業務適用
当社保守サービスへのAI適用
2©️2024 UNIADEX, Ltd. All rights reserved.

この講演の内容について◼GAIOps： GAI ＋ AIOps：GAI（生成AI;Generative AI）を駆使したシステム運用高度化（AIOps）

本日のセッション内容：

社内AIOps適用を進めるにあたり、技術面の選択肢に、当社がどう考えて何を選択したかご紹介

様々な進化が起きている中、自社に活かすには？
次のアクションにつながるきっかけに3©️2024 UNIADEX, Ltd. All rights reserved.

当社における生成AIの活用

生成AIのビジネス活用について
当社では生成AIを駆使して、以下の業務に活用を開始しています。

➢ BIPROGYグループ内共通チャットシステム◆ 社内ナレッジや社内規則について、チャットが回答する仕組みが提供されています。
◆ 各自、様々な文章生成業務への活用を行っており、社内SNSなどで知見を共有しています。

➢ システム開発業務への適用◆ システム構築や開発に生成AIを利用して、開発効率の向上を図っています。

本日のテーマ➢ システム保守／運用業務への適用◆

問合せへの回答生成や、パッチ適用判断の支援にAIを活用しています。

5©️2024 UNIADEX, Ltd. All rights reserved.

システム保守・運用の高度化へ生成AIを活用
ユニアデックスでは、ITサービス高度化のためデータ活用したAIOpsの社内適用を行っています。
ベンダーによる製品情報（不具合情報／脆弱性情報）や熟練エンジニアのナレッジを活用して、お客様のIT資産情報と掛け合わせることでより適切な行動を推論し、お客様や担当エンジニアのITサービス運用の支援を行うことを推進しています。

データによる新たな気付き

不具合情報

社外情報

脆弱性情報
バッチ/バージョン
情報

収集

生成AI
データ活用
照会

コール対応履歴

社内情報

契約／構成情報障害履歴エンジニア・ノウハウ

客先情報

システム稼働状況
パッチ適用履歴

出力

可視化
予測
最適化
エンジニアを支援

6©️2024 UNIADEX, Ltd. All rights reserved.

保守サポートへの生成AI活用 全体像
業務への適用

サポートナレッジ活用基盤

検索

製品主管部

コンタクトセンター／ヘルプデスク

生成

常駐先

問合せ内容に必要な情報を検索活用し、効率化・サービス向上へ
7©️2024 UNIADEX, Ltd. All rights reserved.

実証結果の一例◼ 問合せの内容をプロンプトとして与え、実際の回答と比較◼ 確認したユースケースの半分程度は、ほぼ回答として流用が可能
プロンプト：UCS から以下の TRAP が出力された。原因追及希望。→Default Keyring’s certificate is invalid

実際にお客様に行っている回答例

ChatGPTの回答

デフォルトキーリングの証明書が無効な場合、UCS Managerへの接続時に警告が表示され デフォルトキーリングの証明書が無効な場合、UCS Managerへの接続時に警告ます。この警告は、UCS ManagerとのSSL接続で使用される1年間の自己署名証明書の期限が表示されます。UCS Manager 2.0(3a)もしくは2.1(1a)以降では、自己署名証が切れた場合に表示されます。
明書の期限が切れても問題は発生しませんでしたが、それ以降は警告が表示さデフォルトキーリングの証明書を再作成することで、自己証明書の有効期間を1年間延長す れます。この警告は、UCS ManagerとのSSL接続で使用される1年間の自己署ることができます。再作成のコマンドは、以下になります。
名証明書の期限が切れた場合に表示されます。
FabricInterconnect へ SSH でログイン後"scope security"
デフォルトキーリングの証明書を再作成することで、自己証明書の有効期間を1"scope keyring default"年間延長することができます。再作成のコマンドは、"scope security"、"scope"set regenerate yes"
keyring default"、"set regenerate yes"、"commit-buffer"です。再作成後、"commit-buffer""show keyring detail"コマンドで新しい有効期間を確認できます。
以上で再作成が行われます。
再作成後、"show keyring detail"コマンドで新しい有効期間を確認できます。
なお、デフォルトキーリングの再作成は、FI-AとFI-Bが正常にクラスタを組ん
なお、デフォルトキーリングの再作成は、FI-AとFI-Bが正常にクラスタを組んでいる場合 でいる場合に実行する必要があります。クラスタが正常に組まれていない場合に実行する必要があります。クラスタが正常に組まれていない場合は、再作成はできませ は、再作成はできません。
んので、その他障害が発生していないことをご確認の上、ご対応頂ければと思います。
上記ご対応頂き、証明書が更新されたことをご確認いただけますでしょうか。
以上が、デフォルトキーリングの証明書が無効な警告に関する情報です。

回答文作成

回答文作成

４時間４分

8©️2024 UNIADEX, Ltd. All rights reserved.

生成AI導入にあたり検討が必要な、７つの選択肢

生成AI導入にあたり検討した７項目
1.
2.
3.
4.
5.
6.
7.

適用業務の選定
内製化するポイント見極め
モデル選定
社内データの活用方法
機密データの取扱い
検索手法の選定開始時期の見極め紹介する選択は、当社が2023年4月当時実施したもの
時期や各社の状況によって正解が異なります10©️2024 UNIADEX, Ltd. All rights reserved.

選択肢１

適用業務の選定◼ 問い：どの業務から適用していくか？
◼ 選択：以下の２点➢ ①問合せ回答／問題解析（ナレッジ活用）➢ ②脆弱性対策（ベンダーパッチ情報解析）
選定基準

課題の重要度

データの存在実現性

困り度
効果測定の定量化

データ整形の手間（継続運用性）

リファレンスアー
キテクチャ、事例
11©️2024 UNIADEX, Ltd. All rights reserved.

選択肢２ 内製化ポイントの見極め◼ 問い：どこを内製化するか？
◼ 選択：以下の４点に分けて整理➢ モデルのみ外部製品を利用して、その他は内製化（今後お客様に提供するサービス、エンジニアスタディ部分）

運用

アプリ開発

データ運用

埋め込みプロンプトを含む

プロンプトエンジニアリング

チャットシステム

AIモデル（LLM）

基盤構築

基本的には外部サービスをアプリケーションとデータ基盤

API経由で利用
12©️2024 UNIADEX, Ltd. All rights reserved.

選択肢３ モデル選定◼ 問い：どのモデル（LLM ）を使用するか？
◼ 選択：AzureOpenAIServiceのGPT

採用の利点

LLMとしての性能

セキュリティ

他サービス連携

運用性／コスト

アプリとデータを含めたガバナンス

AzureMachineLearning13©️2024 UNIADEX, Ltd. All rights reserved.

選択肢４ 社内データの活用方法◼ 問い：RAGなのかFineTuningなのか◼ 選択：RAG➢ マイクロソフトの論文を参照➢

Fine-Tuning or Retrieval? Comparing Knowledge Injection in LLMs(30-Jan-2024 Microsoft)

01. プロンプトエン

ジニアリングこれだけでは社内データ活用は難しい

02. RAG03. ファインチュー

04. トレーニング（検索拡張）

ニング（フルスクラッチ）関連の文書内容を検索して使用

追加データを使って差分学習する方法

独自データから独自LLMを作成する方法

14©️2024 UNIADEX, Ltd. All rights reserved.

選択肢５ 機密データの活用方法◼ 問い：機密データをどのように扱うか？
◼ 選択：機密レベルによって対応を分ける

ガイドライン選定

匿名化

ローカル処理

生成AI利用ガイドラインや倫理規定等

一括匿名化／自動匿名化
による機密情報削除

インターネット経由では利用しない（ローカルLLM）
15©️2024 UNIADEX, Ltd. All rights reserved.

選択肢６

検索手法の選定◼ 問い：RAGに使用する検索手法は何を使うか？
◼ 選択：テキスト検索を採用➢ 構造化データが多くそれほど長文でない（チャンク分け不要）➢ サイロ化されており収集の機動力が必要➢ 選択指針は、検索の精度と性能、運用性のトレードオフ

検索手法

テキスト検索ベクトル検索セマンティック検索

検索エンジンの全文検索

データ整形の手間（継続運用性）

リファレンスアー
キテクチャ、事例
16©️2024 UNIADEX, Ltd. All rights reserved.

選択肢７ 開始時期の見極め◼ 問い：いつ始めるか？
◼ 選択：キーマンを中心に即日開始➢ 失敗も重要な知見になります➢ 以下は当社のしくじりポイントです
計画に時間をかけ過ぎてしまうどの予算で活動をすべきか右往左往

関係者が多くスピードが出ない

開発重視、実証に時間をさけない

途中で追加作業が見つかり要員不足

etc. （企業文化やスキルにより様々）

17©️2024 UNIADEX, Ltd. All rights reserved.

参考：選択ワークシート
検討項目

ユニアデックス本プロジェクト

適用業務

AIOps
・問合せ回答／問題解析（ナレッジ活用）
・脆弱性対策（ベンダーパッチ情報解析）

２

内製化ポイント

運用：
アプリ：
モデル：
基盤：

３

モデル選定

Azure OpenAI Service(AOAI)のGPT

４

社内データ活用方法

RAG

5

機密データ活用方法

機密レベルにより定義（ローカル処理併用）

6

検索手法

テキスト検索（構造化データ中心）

7

開始時期

2023.4〜

１

貴社選択

自社開発
自社開発
サービス利用
自社構築

18©️2024 UNIADEX, Ltd. All rights reserved.

関連サービス：COEサービス for ITSMのご紹介
特徴1『セルフ型サービスポータルの提供』

特徴２『構成情報とマッチングしたコンテンツ配信』※セルフ型サービスポータルのトライアル環境をご用意しておりますので、ご要望の際は担当営業にお申し付け下さい。

特徴３『障害時のワンストップ対応』

特徴４『他サービスと連携したカスタムサービスの提供』

19©️2024 UNIADEX, Ltd. All rights reserved.

関連サービス：自社専用生成AI環境構築サービス
ChatGPTを使った企業専用環境と支援サービスを提供します①生成AI アプリケーション②アプリケーション実行環境③適用支援サービス
アプリケーション

プロンプト

自社のデータ専用
UI

API

各種PoC
支援サービス

生成AIに自社のデータをセキュアに使えるようにします20©️2024 UNIADEX, Ltd. All rights reserved.

まとめ

生成AIは「インターネットに匹敵する技術革新」→あらゆる産業での利活用が期待される→各社の積極的投資／開発→政策面の後押しもある積極的に試し、業務革新／新ビジネス創出の好機に

21©️2024 UNIADEX, Ltd. All rights reserved.

ご清聴ありがとうございました

わたしたちは、単にお客さまに商品を販売し、サポートサービスを提供するだけの存在ではありません。
ICTインフラの専門家として、お客さまの課題を的確に捉え、『全体感』を考慮した上で、臨機応変に最適化を支援する。そしてお客さまに多くの “気づき”や“感動” をもっていただく。
お客さまを深く理解した上で、包み込むようなサービスを提供できる、エクセレントサービスカンパニーといわれるようになりたいと思っています。
そのためにも、これまで以上にお客さまに寄り添い、お客さまと一緒の目線で社会の未来を想い描き、ビジネスの成功をお手伝いしていきます。お客さまとは必ずそこから始めます。
そしてやり遂げます。そう言い切る裏づけとなる高技術と人間力を、貪欲に身につけてまいります。
©️2024 UNIADEX, Ltd. All rights reserved.

22