ユンタオ・バイ

**ユンタオ・バイ**（Yuntao Bai）は、機械学習・AIアライメント研究者。AnthropicにおいてConstitutional AI（CAI）の中心的な開発をした。理論物理学から転身しAI安全性研究に携わった。

## 経歴

### 学術的背景
* トロント大学で物理学と数学の学士課程を修了（2009年 – 2013年）。
* プリンストン大学物理学科の博士課程に進学し（2013年 - 2018年）、ニマ・アルカニ=ハメッドのもとで理論物理学を研究。博士論文「Positive Geometry of the S-Matrix（S行列の正の幾何学）」で学位を取得。
* カリフォルニア工科大学（Caltech）のウォルター・バーク理論物理学研究所にてSherman Fairchild特別博士研究員として勤務（2018年 - 2021年）。

### AIアライメント研究者として
* 2021年、Anthropicの創設期に主任研究員として参加。ファインチューニング部門に所属し、AIアライメント・安全性に関する研究に従事。
* Anthropic在籍中に Constitutional AI を中心的に開発し、人間フィードバックからの強化学習（RLHF）の研究においても第一著者として多数の論文を発表した。
* 2025年にAnthropicを離れ、OpenAIに移籍したことが確認されている。

## 研究
### 主要な思想・アプローチ
ユンタオ・バイの研究は、大規模言語モデルを「役に立ち（helpful）」かつ「無害（harmless）」なアシスタントとして訓練するための実証的・技術的手法の確立を中心としている。その主な考え方は以下の通りである。

**役立つ性質と無害な性質の[[トレードオフ]]**：バイらは、AIモデルが役に立とうとすることと、有害な反応を避けようとすることの間に根本的な緊張関係があることを実証した。RLHFによる訓練において「帮助性（helpfulness）」のみを最適化すると、有害なコンテンツへの脆弱性が増し、逆に「無害性（harmlessness）」のみを強調すると、モデルが過度に回避的になる。この相克を定量的に明らかにした点が、彼の2022年の論文（「Training a Helpful and Harmless Assistant」）の主要な貢献の一つである。

**AIフィードバックによる自己改善（CAI）**：バイらが提唱した「Constitutional AI」では、人間が有害な出力を逐一ラベリングする代わりに、少数の原則（「憲法」）を与えることでAI自身が自己批評・自己修正を行い、より安全な応答を学習する。この手法ではRLHF（人間フィードバックからの強化学習）に代わり「RLAIF（AIフィードバックからの強化学習）」を採用し、人間の監督コストを大幅に削減しながら有害性を低下させることを可能にした。

**スケーラブルな監督（Scalable Oversight）への貢献**：AIシステムが高度化するにつれ、人間がすべての出力を直接評価することは困難になる。バイiらは、AI自身の能力を活用して他のAIを監督する「スケーラブルな監督」という概念の実証研究を進めた。これは長期的なAI安全性における重要な研究方向として位置づけられる。

**理論物理学から機械学習へ**：彼は理論物理学（散乱振幅の正の幾何学）からAI研究へ転身した研究者であり、数学的・構造的思考をAIアライメント研究に持ち込んでいることが、その論文のアプローチの特徴として挙げられる。

### 発言
ユンタオ・バイの思想内容の理解を助けるため、彼自身の発言をいくつか引用する。

;Constitutional AIの目的
:「AIシステムがより高い能力を持つようになるにつれて、他のAIを監督するための助けを得たいと思います。私たちは、有害な出力を識別するための人間のラベリングをいっさい用いず、自己改善によって無害なAIアシスタントを訓練する方法を実験しました。」
::（原文：“As AI systems become more capable, we would like to enlist their help to supervise other AIs. We experiment with methods for training a harmless AI assistant through self-improvement, without any human labels identifying harmful outputs.”）

;Constitutional AIにおける原則の役割
:「この手法を『憲法的』と呼ぶのは、短い原則のリスト、つまり「憲法」を規定するだけで、有害性の少ないシステムを訓練できるからです。また汎用AIシステムを開発・展開するには、それが隠れていても暗黙的であっても、「何らかの原則の組を選ばざるを得ない」という事実を強調するためでもあります。」
::（原文：“We chose the term ‘constitutional’ because we are able to train less harmful systems entirely through the specification of a short list of principles or instructions, i.e. a constitution. But we are also employing this terminology to emphasize that when developing and deploying a general AI system, we cannot avoid choosing some set of principles to govern it, even if they remain hidden or implicit.”）

## 主な論文
# **Yuntao Bai**, Andy Jones, Kamal Ndousse, Amanda Askell, Anna Chen, Nova DasSarma, Dawn Drain, Stanislav Fort, Deep Ganguli, Tom Henighan, et al. “**Training a Helpful and Harmless Assistant withReinforcement Learning from Human Feedback**”. ‘‘arXiv preprint arXiv:2204.05862’’. 2022年4月. 
# **Yuntao Bai**, Saurav Kadavath, Sandipan Kundu, Amanda Askell, Jackson Kernion, Andy Jones, Anna Chen, Anna Goldie, Azalia Mirhoseini, Cameron McKinnon, et al. “**Constitutional AI: Harmlessness from AI Feedback**”. ‘‘arXiv preprint arXiv:2212.08073’’. 2022年12月. 
# Amanda Askell, Yuntao Bai, Anna Chen, Dawn Drain, Deep Ganguli, Tom Henighan, Andy Jones, Nicholas Joseph, Ben Mann, Nova DasSarma, et al. “**A General Language Assistant as a Laboratory for Alignment**”. ‘‘arXiv preprint arXiv:2112.00861’’. 2021年12月. 
# Sandipan Kundu, Yuntao Bai, Saurav Kadavath, Amanda Askell, et al. “**Specific versus General Principles for Constitutional AI**”. ‘‘arXiv preprint arXiv:2310.13798’’. 2023年10月. 
# Deep Ganguli, Liane Lovitt, Jackson Kernion, Amanda Askell, Yuntao Bai, et al. “**Red Teaming Language Models to Reduce Harms: Methods, Scaling Behaviors, and Lessons Learned**”. ‘‘arXiv preprint arXiv:2209.07858’’. 2022年9月. 
# Ethan Perez, Sam Ringer, Kamile Lukosiute, Karina Nguyen, Edwin Chen, et al.（Yuntao Bai含む）. “**Discovering Language Model Behaviors with Model-Written Evaluations**”. ‘‘Findings of the Association for Computational Linguistics: ACL 2023’’. 2023年. 
# Nima Arkani-Hamed, Yuntao Bai, Song He, Gongwang Yan. “**Scattering Forms and the Positive Geometry of Kinematics, Color and the Worldsheet**”. ‘‘Journal of High Energy Physics’’, 2018(5). 2018年5月. 

## 脚注

## 外部リンク
* ユンタオ・バイ (Yuntao Bai) – Google Scholar
* arXiv 著者ページ
* OpenReview プロフィール
* GitHub: ytbai