アクセンチュア社内用チャットボット「Randy-san」にChatGPTを活用した話

みなさん、初めまして！アクセンチュアAIグループの鈴木 博和です。 
連日、ChatGPTに関するQiitaの記事が話題を集めていますね。 

今日は、ChatGPTを含む大規模言語モデル（LLM）の可能性や、当社で活用しているチャットボット「Randy-san」への導入事例をご紹介します。

# ジェネレーティブAIがビジネスにもたらす価値

膨大なデータを処理できる大規模言語モデル（LLM）の特徴は、言語を通じて伝えられるもの、つまり文書、メール、チャット、動画、音声などを取り込んで学習している点にあります。例えば、企業がこれまで蓄積してきたビジネスや製品／サービスに関する知識・ノウハウ、マーケット情報、顧客データなどについて、あらゆる情報を俯瞰して捉え理解するポテンシャルを持っています。 

そのため、「ジェネレーティブAIはホワイトカラーの業務のあらゆる場面に組み込まれ、業務を強力に支援する時代に突入した」との主張もあるわけです。

現在、ジェネレーティブAIは画像・文章・コードの自動生成、翻訳、要約、検索、対話などの分野で広く活用することが可能であり、業務の在り方を根本から変化させるのではと期待されています。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2636007/2d3d4df1-c822-c7e9-7736-5cbc39ebbe12.png)

一方で、ジェネレーティブAIが潜在的に抱えるリスクもあります。入力された機密情報や個人情報が学習に用いられることによる情報漏えいのリスクや、生成されたアウトプットに誤りが含まれる可能性があるという信頼性の問題、差別的な表現やバイアス・ステレオタイプが反映されたアウトプットになってしまうという倫理上のリスク、学習データとして使われるデータの著作権／プライバシー侵害などのリスクがあり、それらを理解した上で活用する必要があります。

今回はアクセンチュア社内のチャットボット活用事例から、ChatGPT導入の検討事項、社員への導入までのステップ、またChatGPTと新しい知識とを融合し、思考の連鎖(Chain of Thought)を使った受け答えができるチャットボットの活用方法、作成方法、セキュリティリスクにどう向き合ったかについて解説していきます。 

# 【1章】チャットボット革命！Randy-sanで社内問い合わせ対応を劇的に変える！ 

近年、企業のデジタルトランスフォーメーション（DX）が加速し、AI技術の活用がますます注目されています。その中でも、問題解決方法を劇的に変えるチャットボットが再び注目されています。この章では、社内手続きや問い合わせをサポートするAIコンシェルジュ「Randy-san」にChatGPTを導入して問い合わせ対応をさらに円滑にした事例を紹介し、ChatGPT版社内チャットボット導入のイロハについてご説明します。 

## 1-1. Randy-sanとは？</h3>

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2636007/4c31b929-3525-1339-86f6-f9f898cd3ad6.png)

Randy-sanは、アクセンチュア従業員の生産性向上を実現するAIコンシェルジュです。社内手続きや業務に関する問い合わせに対応し、時間をかけずに解決策を提供します。例えば、給与・福利厚生・プロジェクトに関する問い合わせ、会社情報などの人事に関する情報、そして社内テクノロジーサービス、法務、総務から経費申請など、幅広い業務に対応しています。

## 1-2. Randy-san活用のメリット

![スクリーンショット 2023-04-21 14.56.23.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2636007/1afba670-c3af-1a78-08c7-79a47d39e9e5.png)
*Randy-sanの導入効果

Randy-sanを活用することで、従業員の手間が大幅に削減され、生産性や働きやすさが向上します。例えば、煩雑な手続きの調査にかかる時間が短縮されたり、24時間365日いつでも問い合わせできることもあり、本業に専念できるようになったり、人には直接聞きにくい内容の問い合わせについてもチャットボットであれば気兼ねなく確認することができます。

旧Randy-sanの取り組みについては下記の記事をご覧下さい。
https://news.mynavi.jp/techplus/article/20180201-578951/

## 1-3. さらなる活用方法
Randy-sanは単に問い合わせ対応だけでなく、社内イベントの告知など、様々なシーンでアクセンチュア社内でも様々なシーンで活用してきました。チャットボットサービス自体はかなり成熟した領域に入っていると認識していましたが、その状況がChatGPTの登場によって一変しました。 
これまでのように人間があらかじめFAQを用意しAIにそれを答えさせる、という以上のことが可能になったのです。前述のようにLLMの言語能力の高さは驚嘆すべきものであり、これを活用すればRandy-sanをさらに良く（賢く）できる、と考えたのです。Randy-sanは大きな転換点を迎えたといえます。 
![MicrosoftTeams-image (25).png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2636007/6ab61971-6dc1-f3f4-1884-9a93714e3345.png)
![MicrosoftTeams-image (29).png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2636007/e73ba77a-3b67-1ad6-410c-ae69a4272fb8.png)
＊Randy-sanの画面


:::note info
まとめ 
チャットボット技術を活用したRandy-sanは、従業員の生産性向上や働き方改革に大きく貢献できるツールです。
アクセンチュア社内でも業務効率や働く環境の改善に役立ててきました。ChatGPTなどのLLMの登場によりさらなる機能やサービスの導入が可能になると考えておりデジタルトランスフォーメーション（DX）の加速に寄与していくことでしょう。
:::

# 【2章】ChatGPTを導入するにあたっての考慮ポイント

## 2.1 はじめに
ChatGPTはOpenAIが開発した革新的な大規模言語モデルで、自然言語処理タスクに卓越した能力を持っています。本章では、社内チャットボットにChatGPTを活用する際に留意すべきポイントを、AIガバナンスの観点から明らかにします。 


## 2-2. ChatGPT導入時の検討ポイント
社内チャットボットが扱う情報は、企業の機密情報や個人情報を含むことがあります。データの取り扱いや保管方法に注意を払い法令や社内ガイドラインに則った対策をしなければ情報漏洩等のリスクが高まります。またジェネレーティブAIには前述の通り誤りが含まれる可能性がありますので、そういったリスクへの手当も必要になります。つまりAIのガバナンスが重要になるということです。 
これはチャットボットに限った話ではなく、AIを活用する取り組み全体に言えることなのですが、メディア等でも昨今ジェネレーティブAIのリスクについて触れられる機会も増えていますので、少し話はそれますがAIガバナンスについて説明したいと思います。 

## 2-3. AIガバナンスとは何か？
AIガバナンスとは「AIをどのように扱い、管理・統治して運用するかに関する基本的な考え方および枠組み」のことを指します。
AIガバナンスを正しく理解するためには、「責任あるAI（レスポンシブルAI）」「AI倫理」という2つの言葉を理解する必要があります。

### 2-3-1.「責任あるAI（レスポンシブルAI）」 : RAI
企業の社会的責任とAIガバナンスに基づいて設計され、適切にAIを構築・展開・運用するための方法論を「責任あるAI（レスポンシブルAI）」と言います（アクセンチュアが提唱）。ここで大切なことは、どのようなAIであっても、その根本で「人間中心のデザイン（意思決定の中心には常に人間がいる）」を貫くことです。社内チャットボットにジェネレーティブAIを活用する場合、正確な回答を出力するためにどうするかだけでなく、人間によるモニタリングやユーザに対し注意事項を周知すること、適切なUIの設計なども含まれます。 


### 2-3-2.「AI倫理」
そして人間の社会に道徳や法律があるように、AIにも「責任あるAI」であるために守るべき行動規範が存在します。それが「AI倫理」です。ジェネレーティブAIはとても強力な文明の利器ですが、あまりに強力すぎる利器は諸刃の剣でもあります。最初に述べたようなリスクがあることに留意し、開発者・利用者ともに倫理観を持って取り組む必要があります。 

「責任あるAI」についてより詳細にご関心がある方は弊社がウェブで公開している<a href="https://www.accenture.com/_acnmedia/PDF-153/Accenture-Responsible-AI-Governance-Guidebook-JP.pdf">「責任あるAIガバナンスガイドブック」</a>もぜひご覧ください。

## 2-4. ジェネレーティブAI活用におけるリスク軽減策 
![スクリーンショット 2023-04-21 15.17.30.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2636007/54bb983a-6ae2-ffd8-963e-7dd82357650f.png)
ジェネレーティブAIを活用する場合、（１）事前に検討しなければならないリスクと（２）利用時に検討しなければならないリスクの大きく2つがあります。 

（１）のリスクには近年欧米を中心に進んでいる法規制対応をどう進めるかという問題や学習に使われているデータが著作権侵害していないかという問題などがあります。 
また、米大学が銃乱射事件の被害に対するお悔やみメールをAIで生成して送付したことについて不適切であると炎上してしまった事例（ちゃんとAIで生成した旨は記載されていた）など、使い方や内容に大きな不備はないもののレピュテーションリスクにつながる事例もあります。 
Randy-sanではChatGPTを活用する前にその利用規約を確認したうえで、社内の機密情報を処理することを考慮しサービス利用契約の際にオプトアウトを申請するなどの対策を行っています。 

（２）については、インプットとアウトプットそれぞれに検討すべき項目があります。インプットについては不用意に個人を特定できる内容を入力しないよう、UIで注意を促すような工夫をしています。アウトプットについては誤りが含まれる可能性があることも考慮し、必ず回答引用元のURLを提示するような工夫を設け、さらにログをモニタリングして問題のある使い方をしていないか人間でも確認するようにしています。 
 
:::note info
まとめ
AI利活用においてはAIガバナンスが重要です。企業の社会的責任とAIガバナンスに基づいて設計され、適切にAIを構築・展開・運用するための方法論が「責任あるAI（レスポンシブルAI）」です。一方、「責任あるAI」を実現するために守るべき行動規範が「AI倫理」です。大きな効果とともにリスクについても取り上げられることが多いジェネレーティブAIを活用していくにはリスクについて理解し、そのリスクを軽減するための施策も検討する必要があります。 
:::

## 【第3章】開発メンバーの声：アクセンチュア会津チームが語る新Randy-sanの開発裏話
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2636007/73dd402c-9e4b-d814-3539-ea27092db614.png)

今回の開発を主導した 『アクセンチュア・イノベーションセンター福島（AIF）』のメンバー、渡邉優紀さんにも話を伺いました！
＊AIFは東北・福島の地で“地方創生“、“先端デジタル技術の実証実験“に取り組んでいるチームです。

### ①今回苦労した点はなんですか？
「ChatGPTが新しい技術すぎて社内、社外の中でも聞ける人が少なかったいなかったことですね。 
また社内データが個人情報保護や、情報漏洩の観点からどうすれば扱えるのかという点も課題と感じていました。 
一方で、チームのメンバーは新技術を触れることにワクワクしており、非常に積極的で、東京にいるAIチームも協力してこうやったらできるのでは？とコミュニケーションが活発に行われていました。そのため検討や実装・検証スピードが上がり素早いローンチが実現しました。」 
未開拓の部分が多い中、チームの知見を持ち寄って活発に議論し、素早く実装・検証していったのが大きなポイントですね。 

### ②従来のRandy-sanと新Randy-sanの棲み分けにはどのような注意を払いましたか？

「旧型ではWatson Assistant、新型ではChatGPTを利用していますが、性能比較やコスト比較などを実施し、どのように移行させるか社内でも何度も議論しました。
新型のRandy-sanでは社員が活用する際に自動でアンケートを取っており、解決できていないものについても性能改善に役立てています。

なのでどんどんデータが溜まって、解答の精度が上がっている状態です。」 
コストも勘案しながら検討を進めた点と、自動でアンケートを取得し改善につなげていく、Human-in-the-Loopの仕組みが重要ですね。 


### ③新Randy-san活用と旧Randy-sanでは社員の使い方は異なりますか？
「現在利用者数も急増しており旧型Randy-sanと比較して新型Randy-sanは一日あたりの利用者数が5倍となっています。」 
反響がすごいですね。アクセンチュア社員、こういう依頼を出したらこういう風に返すのかっていうパターンをいろいろ試している方が多く、やはり好奇心旺盛だなー、と感じています。4月7日ローンチしたばかりですが、新入社員の皆さんも色々と試して頂いてますね！ 

### ④新Randy-sanによってどのようなポジティブな影響が出ていますか？
「会津のAIチームはITアウトソーシングに携わることが多いのですが、今回は新しい技術を活用するということでチームのワクワク感は相当なものでした。今もチームの熱量は高いです。
現在ChatGPT版を出したことによって、技術的に興味があるとか、お客さまにも紹介したいという声が多数上がっています。また現在福島大学の授業も一部担当させて頂いているのですが、学生さんも興味を持って聞いて頂いているように見受けられたので世の中のAIに対しての期待が高まっていることを今回のローンチを通じて強く感じています。」 
チーム一丸となって取り組む中で、新しいものを作り上げていく興奮はぜひ体験すべきですね！ 

# 最後に

人工知能(AI)やアナリティクス、自動化などの領域は、技術の進歩とともにお客様からのニーズも劇的に高まっています。今回のChatGPTのように新しいテクノロジー導入に積極的にチャレンジしその知見・経験・ノウハウを駆使し、日々イノベーションを創出しているのがAIグループ（Applied Intelligence）です。

また今回のチャットボットの開発は会津チームとのコラボレーションとなっております。アクセンチュアは、日本各地に拠点を構えていますが、実は東北・福島の地で“地方創生“、“先端デジタル技術の実証実験“に取り組んでいることを皆さんはご存知ですか？ぜひご興味がある方は福島採用情報ページもご覧下さい。

https://www.accenture.com/jp-ja/careers/explore-careers/area-of-interest/ai-and-analytics-careers

https://www.accenture.com/jp-ja/services/ai-artificial-intelligence-index

https://www.accenture.com/jp-ja/about/accenture-innovation-center-fukushima

https://www.accenture.com/jp-ja/careers/local/aif

最後にアクセンチュアでは優秀なエンジニアを募集しております。クラウド、モバイルエンジニアとしての活動に興味がある方はぜひエンジニア採用ページもご覧下さい！

https://www.accenture.com/jp-ja/careers/local/engineer

# 参考URL
1. I&D推進のキーワード、「イノベーション」は多様な人たちによる多様なチームで実現できる:https://diversityworksjp.org/?p=13355
2. 世界の50人に選ばれたアクセンチュア篠原氏｢心理的安全性が高パフォーマンスに繋がる｣ 
https://www.mashingup.jp/2023/01/263883_lgbtq.html
3. アクセンチュア、AIと人を連携させる「AI Hubプラットフォーム」:https://news.mynavi.jp/techplus/article/20180201-578951/
4. AIガバナンスとは何か？ AI開発のガイドラインに「倫理」を組み込む方法:https://www.sbbit.jp/article/cont1/107486
5. AI活用は意思決定の領域にまで拡大。金融業界におけるAI活用と「責任あるAI」の実現に向けて：https://financialservicesblog.accenture.com/ai-utilization-expands-into-the-realm-of-decision-making-in-the-financial-industry?lang=ja_JP
6. Accenture-Responsible-AI-Governance-Guidebook
https://www.accenture.com/_acnmedia/PDF-153/Accenture-Responsible-AI-Governance-Guidebook-JP.pdf