生成AI、自然言語処理を学ぶための無料コンテンツと一部書籍

Update版を書きました。

https://qiita.com/aokikenichi/items/9a16df8a9849c6ffc01c

---

生成AI、自然言語処理等の本の紹介はまた別途記事にしたいと思いますが、ネットの記事・コンテンツ（一部書籍で役立つものをご紹介します。書籍以外は無料のコンテンツです。
まず使ってみるところから理論の基礎、コード写経、研究動向の入り口まで

# まず使ってみる

https://ascii.jp/serialarticles/3001017/

- ASCIIの田口和裕氏の連載記事。なんだかよくわからないと逡巡している人はこの記事を読んでまず使ってみることが一番重要だ。ChatGPTの無料版、有料版。Claude3、Perplexityもあります。

<img src="https://m.media-amazon.com/images/I/71-rjVSBx7L._SY522_.jpg" width=100 />

- [面倒なことはChatGPTにやらせよう](https://amzn.to/4aGvjrD)
    - ChatGPTに指示を出すためのHowTo集。類書がたくさん出ていますが、もう一歩踏み込んで感があり、一番役立つのではと思います。

## プロンプトエンジニアリング

https://www.promptingguide.ai/jp

- 生成AIに指示を出すためのプロンプトをどう書くかのプロンプトエンジニアリングはまずここが基本。

https://docs.anthropic.com/claude/prompt-library

- Claudeの開発元のAnthropicさんがプロンプト集を出してくれています。

https://speakerdeck.com/dahatake/chatgpt-dezi-fen-noshi-shi-gadoule-sikunarunokawokao-erunetaji-2023nian-12yue-baziyon

https://github.com/dahatake/ChatGPT-Prompt-Sample-Japanese/tree/main/Workshop

- Microsoftのエンジニアの方がビジネスで使うにはのプレゼン資料と自分で試すための演習を出してくれています。綺麗事だけじゃなくて、ここで挫折したとかマイナス面も書いてくださっているので身に沁みてわかりやすいかと。

# 企業導入

<img src="https://m.media-amazon.com/images/I/81QdCpTuTWL._SY522_.jpg" width=150 />

- [実践 生成AIの教科書](https://amzn.to/4b3NHe4)
    - 日立さんにより企業に生成AIを導入するにはのノウハウと注意点など。類書は単に機能紹介がメインですけれど、企業で使うには組織をどうするか倫理やセキュリティはとたくさん気になりますがそこらへんまでカバーしています。

https://note.com/tsumura_design/n/n2d2b5de6be61

- KDDIさんのUIデザイナーさんが社内勉強会をなさった時の資料。UIデザインの内容に特化してますが、非常に具体的なのでビジネスにどう活かしていくかの参考になる部分があると思います。


# 学ぶ

## 自然言語処理全般

https://www.jnlp.org/nlp/

- 元自然言語処理の研究者で現在はコンサルティングをなさっている方の自然後処理情報のサイト。
    - 自然言語処理の基礎や歴史から大規模言語モデルまでのリンク集。

https://tmu.komachi.live/prospective/prerequisite

https://tmu.komachi.live/prospective/readings

- 現在は一橋大に移られている小町先生の研究室の都立大時代のサイト。2021-03時点なので大規模言語モデル等については古い情報ですが、自然言語処理の基礎をどう学ぶか、参考となる書籍の紹介としては信頼性が高く本格的かと。
    - 05/24 に小町守. 『[自然言語処理の教科書](https://amzn.to/4d9kpwc)』. 技術評論社. 2024. が刊行されます楽しみですね。

https://tjo.hatenablog.com/entry/2023/07/02/113000

- データ分析ではお馴染みTJOさんブログのLLMに向けたテキスト紹介

https://qiita.com/aokikenichi/items/29165f719d6e5631d7d0#21-%E8%87%AA%E7%84%B6%E8%A8%80%E8%AA%9E%E5%87%A6%E7%90%86%E3%81%AE5%E5%86%8A

- 本記事著者青木も何冊か紹介記事を書いております。近々Updateした記事を書きますがそれまではよろしければこちらを。

## 生成AI

https://weblab.t.u-tokyo.ac.jp/llm_contents/
- 東大松尾研の「LLM 大規模言語モデル講座 2023」の教材。大規模言語モデルの基礎と研究動向など。
    - 入門者はまず下記のTransformerの項の内容を理解してからが良い。

### Transformer

https://huggingface.co/learn/nlp-course/ja/chapter1/1

- LLMモデルやライブラリのプラットフォームであるHuggingFaceが自然言語処理・LLMのe-Learningを提供してくれています。主に生成AI系のライブラリであるTransformersの使い方をNotebook形式で紹介しています。

https://zenn.dev/skypenguins/articles/a7b4cfee63b67c

- 現在のLLMで中心的な技術となっているTransformerの仕組みについてはこの記事がかなりわかりやすいかと。


- 注：Transofomerが理論で、それを含む処理を実施するライブラリがTransformers

---

LangChainやアプリ実装系は勉強中なのでまた、Updateします。

# 政府の動向

https://note.com/akihisa_shiozaki/n/n4c126c27fd3d

- 自民党の勉強会のようで政府の公式見解ではないですが。北野宏明先生、安宅先生、伊藤穰一先生、松尾先生、MS、Amazon、Meta、PFN、等と豪華なメンバーによる議員へのレクチャー会ですね。
    - こういうところを元ネタに政府の動向が決まっていく（はずな）ので。

# 研究動向
https://qiita.com/YutaroOgawa2/items/01dce7b2ffab79fc5fcc

- 松尾研関連の株式会社松尾研究所で毎朝、週単位、月単位でチェックなさっている情報源。
    - 残念ながら論文情報の https://papers.labml.ai/papers/daily/ はサービス終了してしまったようだ

https://ai-data-base.com/

https://ai-scholar.tech/articles

- 研究者でなく主だった目立つ論文のみでよければAIDBさんやAI-SCHOLARの無料の論文要約情報だけでもかなり役立つかと。

## Transfoermer/Attentionの次

https://speakerdeck.com/hpprc/hyena-hierarchy-towards-larger-convolutional-language-models

- Attentionよりも計算量が少なく同等レベルの可能性？状態空間モデルを用いたHyena Hierarchyの論文紹介

https://speakerdeck.com/kurita/mamba

- 同じく状態空間モデルを用いたMambaの論文紹介

https://sakana.ai/evolutionary-model-merge-jp/

- 小規模な言語モデルを進化的アルゴリズムで精度を上げながら組んでいくというSakana AIの取り組み