ジェネレーティブAIに対して考えるべき3つのこと

本記事は、[fastcompany](https://www.fastcompany.com/90883613/3-things-to-consider-with-generative-ai)の翻訳です。![real_esrgan2_QQ20230424122900.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2298092/b2f980dc-7809-e37c-d15d-76d8d6476708.png)
人工知能（AI）は、決して新しいものではありません。少なくとも100年前から、科学者たちは人工知能を搭載した機械の概念に心を奪われてきました。この一連の技術をめぐる話題が主流になるのは、AI機能の急速な発展が突然やってきたかのようなものに見られますが、そうではありません。それはテキスト、画像、音声、合成データなど、さまざまな種類のコンテンツを生成できる「**ジェネレーティブAI**」という、画期的なAIが注目されているからです。

生成的AIの概念は、ChatGPTのようなツールのバイラルな広がりにより、昨年末に爆発的に広まりました。スタートアップのOpenAIが開発したこのチャットボットは、2022年11月に一般公開されました。 このプログラムの人気を語る必要もなく、 推定によると、ChatGPTは1月に1億人の月間アクティブユーザーに達し、史上最も急速に成長した消費者向けアプリとなりました。

インターネットのミームはさておき、ChatGPTのようなAIを搭載したツールがもたらす大きなインパクトは、冗談では済まされません。 既存のワークフローの改善やプロセスの合理化から、手作業の自動化、複雑な情報の要約まで、その潜在的なメリットは非常に大きいです。 そして、ヘルスケアから製造業に至るまで、さまざまな業界に恩恵をもたらすことができます。 同時に、慎重に進めることも絶対に必要です。 diginomicaが最近警告したように、ジェネレーティブAIは「**意図的な誤報と偶発的なエラーのパンデミックにつながる**」可能性があります。

ジェネレーティブAIの使用に関する議論は続いています。現在、そして将来の私たちの社会のあり方に対する潜在的な影響の全容を評価しようとするとき、多くの人が答えよりも疑問を持っていることに気づいています。 しかし、1つだけ確かなのは、進化するAI革命の背景でビジネスがどのように機能するかを適切にサポートするために、適切な構造、プロセス、専門知識が必要であることです。 ジェネレーティブAIの人気の高まりは、このことをはっきりと示しています。 ここでは、それを実現しようとする組織が考慮すべき点をいくつか紹介します。


## グッドガバナンスの実践

ジェネレーティブAIの導入を目指す企業は、強力なガバナンス対策を実施し、明確に定義されたガイドラインを遵守する必要があります。 新興テクノロジーと同様に、プライバシー、データセキュリティ、AIモデル内のアルゴリズムの透明性、サイバーセキュリティの脆弱性はすべて、倫理的・法的コンプライアンスに関連するリスクを軽減するために優先されなければなりません。

Info-TechのInfrastructure and Operational Priorities 2023レポートによると、AIガバナンスとデータガバナンスの両方が、テクノロジーリーダーが今後1年間、脅威と機会の間を行き来しながら検討すべき上位6つの優先事項の中に含まれています。

企業は、十分な注意を払ってデータを保存しなければなりません。そこで指定されたデータスチュワードと、組織的なアーキテクチャが必要です。強力な監視を維持し、運用の非効率性を減らすために、企業は、ジェネレーティブAIが浸透しているすべての領域/サイロを認識し、それぞれが一貫性を持って管理されていることを確認する必要があります。

また、法整備も重要な役割を担っています。政策立案者がジェネレーティブAIの普及に遅れをとる一方で、コンプライアンスやガバナンスの基準に関する明確なモデルはまだ存在していません。このため、IT部門は独自のリスク管理ガバナンスモデルを定義する負担を強いられています。

## バイアスの最小化

ジェネレーティブAIは単なるツールであり、他のツールと同様に、良い方向にも悪い方向にも使うことができます。 以前のAIの反復と同じ、ジェネレーティブAIは系統的なバイアスを悪化させる可能性があり、これは永遠に断てられない障害となるでしょう。

企業は、モデルを訓練するためのデータを収集する際、バイアスを避けるために厳格でなければなりません。これは、内在するバイアスを考慮し、可能な限り全人類を代表するようなデータセットを意識的にキュレーション、クリーニングすることを意味します。

モデルの設計や開発は、作り手の個人的なバイアスを裏切ることにもなりかねません。AIモデルの出力を定期的に監査し、さまざまなソースと協力し、機械学習のバイアスを軽減する技術などの戦略を、冗長性を中核として適用する必要があります。機械学習では何年も前から理解されていますが、バイアスに取り組むことはまだ簡単なことではなく、モデルの精度を持続的に維持するためには、開発者の継続的な精進が必要でしょう。

従来のAIでは、こうした問題の一部を軽減する取り組みがすでに見られますが、ジェネレーティブAIでもこの傾向が続くことが不可欠です。例えば、インクルードは、企業の従業員データを分析し、給与、昇進、従業員ライフサイクルなどの指標について、多様性、公平性、包摂（DEI）に関する洞察を引き出すAIプラットフォームを開発しました。これは、企業がAIを使ってバイアス、この場合は職場のDEIに取り組む方法を示しています。

## 意図して実施する

新しいテクノロジーと同様、ジェネレーティブAIもそれだけで採用するのではなく、意図的に、厳格なコスト・ベネフィット分析に従って採用する必要があります。

ジェネレーティブAIへの投資効果を検討する企業は、ステークホルダーの痛みを軽減できる分野を特定することから始める必要があります。人々のニーズが最優先されなければならず、ジェネレーティブAIがどのように成果を向上させるかを示す思慮深いロードマップが必要である。

これには、業務の効率化とそれに伴う生産性の向上や、AIモデルの出力を利用した新しい消費財のイノベーションなどが考えられます。 前者の代表的な例は、ベンチャーキャピタルのSignalFire社で、タームシートを長い法的文書に変えるなど、様々なバックオフィス機能にAIを使用しています。 マイクロソフトとグーグルは最近、AIを活用した検索プラットフォームを立ち上げました。 BingのAIチャットボットとBardは、企業のアウトリーチ活動を自動化し、従業員をより重要な業務に従事させることができます。

これらの製品の発売には、課題がなかったわけではありません。 例えば、Bardが質問に不正確に答えてウイルス騒動に発展したり、MicrosoftのBingチャットボットがユーザーと何度か奇妙なやり取りをして話題になったりしました。 マイクロソフトは、AIチャットボットに制限を設けることでこの問題に素早く対応しました。 AIが私たちの社会で強力な役割を果たすことは間違いありませんが、生成されたAI製品は市場に出る前に厳格にテストされる必要があります。  戦略的利益に自信を持ったら、発売されるものが手段を選ばない、信頼できる製品であることを確認するというのは、企業たちがこうした状況から学ぶべきことでしょう。

最後、ジェネレーティブAIに興味を持つ方に、AIモデルを搭載した画像編集ツール：AI[画像鮮明化](https://vanceai.com/ja/sharpen-ai/)、AI[描画](https://vanceai.com/ja/image-generator/)をおすすめします。