Anthropic（1. 2019~2022年ごろ：Anthropic創設、Claudeリリース前）

## Anthropic創設まで

2016年からOpenAI社でAI研究を率いていたDario Amodei氏は、数関数的に拡大するAIの知性や能力を目の当たりにしながらも、責任あるスケーリングのアプローチ、すなわちシステムとシステムを構築する人々の両方に信頼を生み出すことを優先するアプローチがなければ、AIは世界を前向きに変えるための潜在能力を完全に発揮することはできないと感じていた[^1]。
また、2019年のMicrosoft社からOpenAI社への巨額投資で、AIの安全性よりも過度に商業化され、システムの制御が困難になり犯罪目的など危険な用途へも利用さる懸念が強まったこともあり、2020年にDario Amodei氏、Daniela Amodei氏をはじめ5名がOpenAIを去った[^2][^4]。
そして、2021年にOpenAIで自分のビジョンのために戦うのではなく、合計7名のOpenAI元従業員で責任あるAIの使用を企業理念としたAnthropicという会社を設立した（当初、AI Safety Labという名前だったが変更された[^2][^3]）[^1]。

> ![](https://api.time.com/wp-content/uploads/2024/05/TIM240610-100Companies_Amodei_final.jpg?quality=75&w=1440)
[Photograph by Ian Allen for TIME](https://time.com/6980000/anthropic/)

## Anthropic創設後

当初はサードパーティの既存AIモデルのセキュリティテストに重点を置く予定だったが、AIシステムの安全性を真に確保するには、強力なニューラルネットワークをゼロから作成する必要があると早々に方向転換した[^3]。
Anthropicは2021年5月に1億2400万ドル、2022年4月に5億8000万ドルを調達し急速に成長を遂げる中[^7][^8]、2022年夏に独自の言語モデルであるClaude（数学者Claude Shannonより[^3]）の初版を学習完了していたが、安全性テストの面などから公開は避けられた[^9]。
Anthropicは、ニューラルネットワークをリバースエンジニアリングしてニューロン間に意味のあるアルゴリズムを見出すDistill Circuitという実験的なプロジェクト[^10]に触発され、2021年12月にTransformer CircuitsというTransformerのLLMをリバースエンジニアリングして理解するプロジェクトを立ち上げており[^11]、Anthropicの言語モデルはTransformerをベースにしていると考えられる。

2022年12月にConstitutional AI（CAI、憲法AI）というコンセプトを発表した[^5][^6]。
ChatGPTなども適用している無害なAIシステムのための一般的なアプローチは、教師ありファインチューニング（SFT: Supervised Fine-Tuning）と人間のフィードバックを用いた強化学習（RLHF: Reinforcement Learning from Human Feedback）だったが、人間が注釈（アノテーション）を付けたデータを収集するには時間がかかるという問題があった。CAIはデータ生成プロセスを自動化してAIシステムをより効率的にトレーニングする下記のアプローチにより改善するものである[^6]。

1. 学習目標のエンコード化
1. Chain-of-ThoughtによるAI意思決定の明示化
1. 有害な要求に応じない理由を説明するAIアシスタントの学習

:::note info
CAIのモチベーション
- AIによるAI監視を行い効率的にAIシステムを高度化する
- 「わからない」等の回避的で無益な応答と、無害かつ有益なの応答のバランスをとる
- 学習ラベルを簡単な指示・**原理**（principle）にし、公開することで、単純化・透明性を向上する
:::

>![](https://assets.zilliz.com/Workflow_of_the_Constitutional_AI_method_73b2fdf583.png)
[Workflow of the Constitutional AI method](https://zilliz.com/learn/constitutional-ai-harmlessness-from-ai-feedback)

>![](https://techcrunch.com/wp-content/uploads/2023/05/Screenshot-2023-05-08-at-4.27.31-PM.png)
[Anthropic’s constitutional AI approach to training models.
Image Credits:
Anthropic](https://techcrunch.com/2023/05/09/anthropic-thinks-constitutional-ai-is-the-best-way-to-train-models/)
---
続きはこちら

https://qiita.com/akagi_hayato/items/86812674feef6741e9b7

[^1]:[Anthropic CEO Dario Amodei Says He Left OpenAI Over a Difference in ‘Vision’ ](https://www.inc.com/ben-sherry/anthropic-ceo-dario-amodei-says-he-left-openai-over-a-difference-in-vision/91018229)
[^2]:[Anthropic PBC: History, Development, Products, and Prospects](https://apix-drive.com/en/blog/useful/anthropic-pbc-history-development-products)
[^3]:[Anthropic Company Profile: Why we love Claude 3 + VC Due Diligence - AI&YOU#49](https://www.linkedin.com/pulse/anthropic-company-profile-why-we-love-claude-3-vc-due-greggory-elias-qxkde/)
[^4]:[Anthropic: What We Know About the Company Behind Claude AI](https://builtin.com/articles/anthropic)
[^5]:[Anthropic launches Claude, a chatbot to rival OpenAI’s ChatGPT](https://techcrunch.com/2023/03/14/anthropic-launches-claude-a-chatbot-to-rival-openais-chatgpt/)
[^6]:[Constitutional AI: Harmlessness from AI Feedback](https://arxiv.org/abs/2212.08073)
[^7]:[Anthropic raises $124 million to build more reliable, general AI systems](https://www.anthropic.com/news/anthropic-raises-124-million-to-build-more-reliable-general-ai-systems)
[^8]:[Anthropic Raises Series B to Build Steerable, Interpretable, Robust AI Systems](https://www.anthropic.com/news/anthropic-raises-series-b-to-build-safe-reliable-ai)
[^9]:[Anthropic *wikipedia*](https://en.wikipedia.org/wiki/Anthropic)
[^10]:[Zoom In: An Introduction to Circuits](https://distill.pub/2020/circuits/zoom-in/)
[^11]:[A Mathematical Framework for Transformer Circuits](https://transformer-circuits.pub/2021/framework/index.html)