『これからのAI、正しい付き合い方と使い方 「共同知能」と共生するためのヒント』読了

ソフトバンクとOpenAIが提携して日本企業向けにサービスを作ったり、
DeNAの南場社長がAIにフルコミットするというニュースをみて、
さすがにAIについてキャッチアップせないかんと思い立ち、本屋へ
AIの権威が書いてるとの文字を見て、以下を即購入

[これからのAI、正しい付き合い方と使い方 「共同知能」と共生するためのヒント](https://amzn.to/4jcImWc)
イーサン・モリック (著), 久保田 敦子 (翻訳)


内容もはじめの一冊にはちょうど良く、備忘録がてら感想を記録する

## あらすじ
本書は大規模言語モデル（LLM）を中心としたAI技術の仕組みや、その活用方法、
倫理的な課題について解説されている
そのためとりあえずAIって何？どう使っていけばいいの？という方におすすめである


## 1章　LLMは「異星人」
大規模言語モデル（LLM）の仕組みは簡単に言うと「次の単語の予測」である
わかりやすく言うとスマホで文字を打っている時に予測変換を出す機能を
突き詰めた結果がLLMとなる

予測するためのデータが少なかったときはてんで予測が的外れであったが、
技術革新により膨大なデータを渡せるようになった結果、
あるポイントで急に予測のレベルが上がるという

実際この言語生成のメカニズムは詳しくわかっておらず、理解できないロジック・信念
をもって言葉をはなすLLMはまるで「異世界人」のようと本書は例えている


## 2章　AIの危険性
そんな「異世界人」は我々にはない価値観で動くため、倫理を簡単に越えるリスクがある
そのため最終的な出力のベクトル調整を人間が行う必要がある

もしこれがなければAIは平気で差別的な発言をするし、犯罪集団に加担して爆弾の作り方を
教えてしまうだろう

また勉強させるデータがステレオタイプに偏れば、生成される文脈もステレオタイプとなる
そしてそれを受けとった我々がさらにステレオな考えとなる負の連鎖も起きうる


## 3章　AI使用の基本原則
AIを使用する際には以下の原則を守るべきと著者はいう

#### ①どんなことにも使用しろ、特に自分の仕事には
これはAIの得意/不得意の境界線を知ることが目的になります。実際に使用してみないと
どこで嘘が出るのか、どの仕事を任せられるかが判断できないそう。
これからAIに精通した各分野の専門家がニーズになってくる

#### ②AIの判断に人を関与させること
今はAIが嘘をつく可能性があるが、今後さらに正確になったとき判断を
AIに任せがちとなってしまう
だがそんな状況でもAIの判断の中に積極的に入る必要があると著者はいう
それには専門性が必要で結局のところ専門性のある人は淘汰されない

#### ③AIを人として扱う
冒頭のとおりAIに感情は存在しない
その意識を持った上でペルソナ(どんな役割か、してほしいこと)を与えて
人として扱うとよいアウトプットを得られる

AIは可能性の高い単語をならべるので、ありきたりな回答になりやすい
そこでペルソナを与えることでパターンを打ち破れる

また共同編集者として扱い、会話のキャッチボールを繰り返すことで
よりよい出力に仕上げる使い方も有効となる

#### ④今使ってるAIは劣悪だと考える
AGIに向けて開発が激化する今、より新しく賢いAIが出てくる
その変化に適応するため、情報を取り入れ、新しいAIを使用すること

個人的に同期のAI毎にも向き不向きがあるのでやりたいことで、
使い分けていく必要があると思う

## 4章　(スキップ)
AIを人として扱う方法論がテーマだか、読了のためスキップ
次回読んだ際に、追記する

## 5章 アイデア作りのパートナー
特に印象的だったのが、本章の「AIを創造のパートナーとして活用する」という考え方だ
トークンの繋がりしか考えないため、幻覚を見せることがある
だが思いもしない繋がりを見つけるのがAIの得意分野でこれを創造性に生かす
同率の法則(より多くのアイデアからの方が良い成功例が出る)からみれば、
AIを使わない手はない

「あなたは～の専門家です」
「新しい視点で斬新なアイデアを20個出してください」
「互いに異なるアイデアを20個出して」
「ステップバイステップで考えて：
といった指示を与えることで、普遍的でないアイデアを多く出す
その後人間がそれらアイデアがら良いものを取り出す

AIはアイデア出しが得意、人間はアイデア精査が得意なのでうまく分けるとよい


## 6章 仕事での使い方
AIは作業効率を向上させる一方で、単純な仕事を代替し、新人の成長機会を
奪う可能性も指摘されていた
特に「基礎知識はアウトソーシングできるが、専門家には基礎が必要」という
パラドックスは興味深い

この矛盾を解決するために、AIを指導者として活用するという考え方には、
新たな可能性を感じた


## 7章 教育への影響
教育への影響は、電卓が学校へ導入された時に近いという
科目によって使用可能か分かれるようになるだろうが、AIを理解した
カリキュラムの成熟が重要となってくるだろう

そう考えると安心するが、宿題(知識定着に有用)に使われるのはまずく、
どう宿題のAI制限を行うかが課題となるだろう


## 8章 コーチとAI
今までは上司が新人に仕事を任せ、新人が技術を磨いていた
だがこれらの仕事をAIに任せられるようになり、新人の仕事が減り、
新人が育ちづらくなる可能性を示唆している

AIの回答を正しく評価できるのは専門家のみで、この可能性はパラドックスとなっている
AIは基礎知識をアウトソーシングしやすいが、基礎こそ専門家に必要といったように

ただAIをコーチとして使い、新人の技術を成熟することで
この問題を解決できる可能性を秘めていると著者はいう


## 9章 AIの未来
最終章では、AIの未来について議論されている
AIは指数関数的に成長しており、今後どこまで進化するかを予測することは難しいが、
おこりうるパターンは４つ

#### ①これ以上進化しない
仮に成長が止まったとしても、現状の生成AIは私たちの生活に影響を与えるのは
確実なため生成AIとの向き合い方を考えていかないといけない

#### ②緩やかに成長し、AGIに到達しない
緩やかな成長の場合、法の整備やAIに慣れる猶予があり、
比較的うまくいくだろうといわれている

#### ③指数関数的に成長し、AGIを実現
AGI（人間のように様々なタスクを高水準でこなせる）の到達するシナリオでは
悪意のある使用への対応が間に合わないリスクをはらむ
ただしうまく使用できれば労働時間の短縮やベーシックインカムの導入が進み、
私たちは自由な時間の意義を考える必要が生まれてくる
OpenAI社が仮想通貨を配って、疑似的にベーシックインカムのテストをしているのは
ここら辺が背景にあるのかもしれないとふと思った

#### ④AGIを超えて、ASIに到達する
AGIが実現すると、AIがAIを開発するようになり飛躍的に成長した結果、
人知を超えた(Super)ASIとなるシナリオがある
この場合初めて人間以外が主導権を握るようになり、将来予測が不能となる

　
個人的には②か③だと思われるが、最近の動向的にAGIの到達は
できるできないでなく、いつできるかの議論に代わってきている気がする..
そのため③が有力だと個人的には思っている

少なくともエンジニアとしては、常に最新の技術をキャッチアップし、
AIと共生する方法を模索する必要があると感じた

## おわりに
本書を通じてAIの仕組みから、ただのツールとして使用するのでなく、
適切に活用するための考え方を学ぶことができた

AIに仕組み上、データのスケールを上げてけば比例的に性能は向上しており、
その比率から最近AGIはほぼ確実といわれている
大きく影響を受ける職業エンジニアとして、AIの仕組みや限界を理解し、適切に使いこなすことが、
今後ますます重要となり、AIの成長に常にアンテナを張らねばとおもｔｔ