書籍「ChatGPT大規模言語モデルの進化と応用」レビュー

# はじめに

本記事は、書籍「ChatGPT大規模言語モデルの進化と応用」のレビュー記事です。リックテレコム社様から献本を頂いて拝読したため、本書の感想やおすすめのポイントをまとめます。

# 本書の超概要
本書は、慶應義塾大学で特任助教をされているシン アンドリュー氏と、日本マイクロソフトのクラウドソリューションアーキテクトを経て現職はKEEN株式会社でソフトウェアエンジニアをしている小川航平氏によって共著で2024年4月に出版された書籍になります。OpenAI社によって提供され、近年の生成AIの盛り上がりを牽引している代表的なモデルであるChatGPTをメイントピックとして、これまでに登場してきた様々な生成AIモデルの仕組みを解説し、生成AIモデルの進化の流れや、応用の仕方について説明しています。

https://www.ric.co.jp/book/data-sience/detail/2709

# 感想
本書はChatGPTの構造から、様々な生成AIモデルの解説・使い方、今後の言語モデルの課題など、11章構成の書籍となっており、章ごとの内容は濃いものの、まとまっているのでサクサクと読めるAI本であるというのが全体を通しての感想になります。ここで、内容が濃いと思った理由の1つとしては、本書のおすすめポイントにもまとめていますが、論文の内容が多く紹介されていることです。私自身は、生成AIモデルの論文について読んだ経験があまりなかったため、本書の内容の論文を全て読もうとすると大変な苦労になると思いますが、要点を簡潔にまとめてくれているため、効率的に内容のキャッチアップができました。その一方で、プロンプトの書き方や、RAG(Retrieval Augmented Generation)の説明など、生成AIを活用する上で基本的な内容も解説されているため、生成AI初学者の方向けにとってもためになる書籍だと感じました。

# おすすめポイント
以下に、3つのおすすめポイントについてまとめます。

## 様々な生成AIモデルの仕組みの理解ができる
生成AIモデルについて紹介されている書籍を読んでいると、そのモデルの使い方やできることについては多くまとめられていますが、モデルの仕組みの説明までしてくれている書籍は多くはないように思います。本書は、多くの論文を参考文献としており、適度にアーキテクチャ図や数式を交えてモデルの説明をしているため、紹介されている各モデルを仕組みのレベルからより深く理解することができます。例えば、GPTモデルの元になっているトランスフォーマーの構造について説明している部分では、トランスフォーマーを提案したアーカイブ論文である「Attention Is All You Need」を参考文献の1つとして取り上げ、次のようなモデル構造や、自己注意プロセス、マルチヘッドアテンション、についての数式を説明してくれます。論文に普段から触れていない人でも、要点が絞られた解説がされており、理解しやすい説明となっています。

### トランスフォーマーのモデル構造
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2452857/f1ee2612-0482-16af-13eb-662bfef1b0f2.png)

### 自己注意プロセスの数式
 ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2452857/9a8333ed-d9ff-7f71-b410-6394e058c088.png)

### マルチヘッドアテンションの数式
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2452857/8ed7f754-909c-297c-fdf6-e563f7efcef6.png)

### Attention Is All Your Need の論文
- Vaswani, Ashish, et al. "Attention is all you need." Advances in neural information processing systems 30 (2017). (https://arxiv.org/abs/1706.03762)

## 生成AIモデルの進化の歴史を知ることができる
生成AIの分野で昔から馴染みのある人にとっては特別に嬉しいポイントではないかもしれませんが、私のように最近になって生成AIを触り始めた人間からすると、昔に登場したモデルについて知識があるわけではないので、本書のようにモデルの進化の歴史についてまとめられていると、時間という1つの軸でモデルの関係性を整理して理解することができます。また、AIは変化が特に激しい分野になっているため、未来ではどのようにAIモデルが登場し、利用されているのかを予測することは難しい一方で重要なことだと思います。本書を通じて、過去から現在までのモデルのどのような点が課題で、改善されてきているのかを知ることができるので、将来にはどのようなモデルが登場しているのかを推測し、将来のビジネスに向けてどのように備えておくべきなのかを考えるヒントになると思います。

## Microsoftの生成AIサービスの選択肢と始め方がわかる
生成AIの領域でリーダーシップを発揮しているMicrosoftですが、様々なサービスに生成AIが組み込まれているため、どのようなサービスがあってどのような活用方法ができるのか、詳しく知っている人は少ないと思います。しかし、本書の著者に元Microsoft社員がいるので、CopilotやAzureに関して幅広い生成AIサービスの選択肢の中から、どのような始め方で生成AIを活用することができるのか、わかりやすく全体像を知ることができます。

### Microsoftの生成AIサービスの選択肢としてのCopilotのイメージ
 ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2452857/0c50296c-129c-1f96-7946-e70b86ac7a4c.png)

### Microsoftの生成AIサービスの選択肢としてのM365 Copilotのイメージ
 ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2452857/a1dc92f8-fa0b-f9a3-9fee-42c6e57fbce7.png)

### Microsoftの生成AIサービスの選択肢としてのAzure OpenAI Serviceのイメージ
 ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2452857/8e5b7bb9-3ea3-0d2c-f5e2-99f54aaec554.png)

### Microsoft Copilot と Azure OpenAI Service の公式ページ
- https://www.microsoft.com/ja-jp/microsoft-copilot
- https://azure.microsoft.com/ja-jp/products/ai-services/openai-service

# さいごに
本書は、過去から現在までの様々な用途で利用される生成AIモデルについて幅広く、理論についても適度に深く解説をしてくれているため、生成AIモデルについて幅広く理解したい人にとってはぴったりな一冊だと思います。また、モデルの紹介に留まらず、実際にモデルを活用するためのソースコードについても紹介されており、手を動かしたい人にとっても活用できる本だと思うので、興味のある方は買って読んでみてください。