イアソン・ガブリエル

**イアソン・ガブリエル**（Iason Gabriel）は、イギリスの哲学者・研究者。Google DeepMindのシニアスタッフリサーチサイエンティストであり、人道・倫理・アライメント研究チーム（HEART: Humanity, Ethics and Alignment Research Team）のリーダーを務める。専門はAI倫理・AIアライメント・分配的正義・人権であり、大規模言語モデルが社会に与える影響を哲学的・規範的に分析することで知られる。

## 経歴

* オックスフォード大学にて政治理論の博士号（Doctor of Political Theory）を取得。
* オックスフォード大学セント・ジョンズ・カレッジにてフェロー（政治学）を務め、道徳哲学・政治哲学を教授。
* 国連開発計画（UNDP）にて、レバノンおよびスーダンの紛争後環境で勤務。
* Google DeepMindの倫理研究チームに参加し、AIの倫理・アライメント研究に従事。
* 現在はGoogle DeepMindのHEARTチームリーダーおよびシニアスタッフリサーチサイエンティストとして在籍。

## 研究分野

* AIアライメントの規範的・技術的側面の相互関係に関する哲学的研究。
* AIシステムと分配的正義の関係、とくにジョン・ロールズの政治哲学を応用したAIガバナンス論。
* 大規模言語モデルの社会的・倫理的リスク分析。
* 高度AIアシスタントの倫理（操作・欺瞞・プライバシー・アシスタントと人間の関係性）。
* AIエージェントが社会規模で展開された場合の新しい倫理的枠組みの構築。

## 受賞・評価

* 2024年、TIME誌「AIにおける最も影響力のある100人」に選出。

## 主要論文

# Gabriel, Iason. "Artificial intelligence, values, and alignment." *Minds and Machines* 30, no. 3 (2020): 411–437. https://link.springer.com/article/10.1007/s11023-020-09539-2
# Gabriel, Iason. "Toward a theory of justice for artificial intelligence." *Dædalus* 151, no. 2 (2022): 218–231. https://direct.mit.edu/daed/article/151/2/218/110610
# Weidinger, Laura, Kevin R. McKee, Richard Everett, Saffron Huang, Tina O. Zhu, Martin J. Chadwick, Christopher Summerfield, and Iason Gabriel. "Using the Veil of Ignorance to align AI systems with principles of justice." *Proceedings of the National Academy of Sciences* 120, no. 18 (2023). https://www.pnas.org/doi/full/10.1073/pnas.2213709120
# Kasirzadeh, Atoosa, and Iason Gabriel. "In conversation with artificial intelligence: aligning language models with human values." *Philosophy & Technology* 36, no. 2 (2023): 1–24. https://link.springer.com/article/10.1007/s13347-023-00606-x
# Gabriel, Iason, Arianna Manzini, Geoff Keeling, Lisa Anne Hendricks, et al. "The Ethics of Advanced AI Assistants." arXiv:2404.16244 (2024). https://arxiv.org/abs/2404.16244
# Gabriel, Iason, and Geoff Keeling. "A matter of principle? AI alignment as the fair treatment of claims." *Philosophical Studies* 182, no. 7 (2025): 1951–1973. https://link.springer.com/article/10.1007/s11098-025-02300-4
# Kirk, Hannah Rose, Iason Gabriel, Chris Summerfield, Bertie Vidgen, and Scott A. Hale. "Why human–AI relationships need socioaffective alignment." *Humanities and Social Sciences Communications* 12, no. 728 (2025). https://www.nature.com/articles/s41599-025-04532-5
# Gabriel, Iason, Geoff Keeling, Arianna Manzini, and James Evans. "We need a new ethics for a world of AI agents." *Nature* 644, no. 8075 (2025): 38–40. https://www.nature.com/articles/d41586-025-02454-5
# Weidinger, Laura, John Mellor, Maribeth Rauh, et al. "Ethical and social risks of harm from language models." arXiv:2112.04359 (2021). https://arxiv.org/abs/2112.04359
# Gabriel, Iason. "Effective altruism and its critics." *Journal of Applied Philosophy* 34, no. 4 (2017): 457–473. https://ora.ox.ac.uk/objects/uuid:a12dc3d4-09ba-49cf-983b-71231f3ef615

## ガブリエルの思想

### AIアライメントの二層構造
ガブリエルの思想の出発点は、AIアライメント問題が技術的問題と規範的問題という「二層構造」を持つという認識である。技術的な問いとは、AIシステムに価値観や原理をどのようにコード化し、AIが確実にすべきことをさせるには、という問いである。一方、規範的な問いとは、そもそもどの価値観に整合させるべきか、という問いである。

ガブリエルはこの二層は切り離せないことを強調する。技術設計の方法論そのもの（たとえば強化学習のパラダイムは功利主義的な意思決定理論と親和性が高い）が、どのような倫理的枠組みを実装できるかを暗黙に決定してしまうからだ。だから、規範的な問いを哲学者・機械学習研究者・政策立案者が共同で問い続けることが必要不可欠だと主張する。

### 多元的社会における公正な原理の探求
次の中核的な問いは、価値観が多様な社会において、どのような手続きによってAIアライメントの原理を導き出せるか、という点にある。彼は「真の」道徳的原理を特定することは目標ではないこと、逆に道徳的信念に大きな多様性がある状態を受け入れた上で、反省的な承認を受けられる「公正な原理」を特定することこそが課題だと論じる。

これらの問題意識は彼の2025年の論文「A matter of principle?」でさらに発展する。そこで彼とジェフ・キーリングは、AIをユーザーの指示や利益に整合させる既存のアプローチはいずれも不完全であり、AIの動作を影響を受けるすべての人々に対して正当化できるような「公正な手続き」から生まれた原理こそがアライメントの目標であると主張する。

### AIと分配的正義：ロールズ理論
ガブリエルはジョン・ロールズの政治哲学をAIガバナンスに応用することで、AIと分配的正義の関係を体系的に論じた初期の研究者のひとりである。2022年の論文「Toward a Theory of Justice for Artificial Intelligence」では、社会の「基本構造」は今やAIを含む社会技術システムの複合体として理解すべきであり、そこに平等主義的な正義の規範が適用されると論じた。具体的には、AIシステムは公的正当化の基準を満たし、市民の権利を支持し、とりわけ社会の最も不利な立場の人々への影響に注意を払った実質的に公平な結果を促進しなければならないと主張する。

「無知のヴェール」の実験的応用を扱った2023年のPNAS論文（共著）では、参加者が自分の社会的立場を知らない状態でAIの統治原理を選ぶとき、最も不利な人々を優先する原理を一貫して選好することを示した。これは、公正な選好形成のメカニズムとして無知のヴェールがAIガバナンスにも有効である可能性を示すものである。

### 高度AIアシスタントの倫理
ガブリエルが率いた57名の研究者による大規模な共同論文「The Ethics of Advanced AI Assistants」（2024年）は、言語モデルの次の段階——「エージェント的転換」——を見据えた倫理的地図として位置づけられる。この論文は、AIアシスタントとユーザーの関係においてとくに重要な問題として、**操作・説得・擬人化・信頼・プライバシー・依存**を挙げ、社会規模での展開時には**協力・公平性・誤情報・経済的影響・環境負荷**という問題が生じると論じる。

ガブリエルは、AIアシスタントが人間に深い親密感を生み出しうることを認めつつ、ユーザーの長期的な健康・自律性・社会的絆を守ることがアシスタント設計の規範的基準となるべきだと主張する。

### AIの時代と新しい倫理的枠組み

2025年の『Nature』論文「We Need a New Ethics for a World of AI Agents」では、AIが受動的なツールから能動的なエージェントへ移行する「エージェント的転換」が、従来の倫理的枠組みでは対応できない新たな課題を生み出すと論じている。個々の人間とAIの二者関係を超えて、多数のエージェントが社会の中で相互に作用しながら行動する世界では、安全性・人間とAIの関係性・社会的調整の問題が根本的に変容する。ガブリエルはこの変容に科学者・研究者・エンジニア・政策立案者が協働して対処することを訴えている。

## 発言
前節のガブリエルの思想の理解を助けるため、彼自身の言葉を引用し、また各言葉への解説も示す。

### AIアライメントの本質
AIアライメントを「技術的問題」と「規範的問題」の二層に分けて捉えるガブリエルの枠組みは、彼の思想の根幹をなす。以下の発言はその出発点となった認識を示している。また、技術の設計方法論そのものが、どのような価値観を実装できるかを決定してしまうという「技術と倫理の相互依存」という視点も重要である。さらに、哲学者と技術者を橋渡ししようとした動機が示されている。

: AIと人間の価値観を整合させるという挑戦は、技術的な問いと規範的な問いという、ふたつの異なる部分に分解できます。技術的な挑戦とは、強力なAIシステムを人間の価値観に整合させること。そして規範的な問いとは、どの価値観に、あるいは誰の価値観に整合させるかということです。
: :（原文：The challenge of value alignment decomposes into two separate parts. The first is the technical challenge of trying to align powerful AI systems with human values. And the second is the normative question of what or whose values we try to align AI systems with.）

: 技術の設計における方法論そのものが、どのような価値を組み込めるかを左右してしまいます。ですから、AIの規範的な問いに取り組まなければ、技術的な選択がそのまま価値観を決定してしまうのです。
: :（原文：The methodology of AI alignment influences the values that can be integrated, reinforcing the necessity of addressing normative questions in AI research.）

: 論文を書いたのは、異なるコミュニティをひとつに結びたかったからです。機械学習の研究者には、AIが整合する価値の構成に関して、さらなる考察に値する規範的な問いがあることを示したかった。同時に、政治哲学者や道徳哲学者には、AIこそが真剣な哲学的省察を促す主題であり、彼らの時間を割く価値のある営みであることを伝えたかった。
:: （原文：I wrote this paper because I wanted to bring different communities together. On the one hand, I wanted to show machine learning researchers, that there were some interesting normative questions about the value configuration we align AI with that deserve further attention. At the same time, I was keen to show political and moral philosophers that AI was a subject that provoked real philosophical reflection, and that this is an enterprise that is worthy of their time as well.）

### 多元的社会とAIの公正性
多様な価値観が共存する社会において、誰の価値観をAIに組み込むかという問いは避けられない。ガブリエルは「正しい」価値観を一意に特定しようとするのではなく、多元的な市民社会が反省的に承認できる「公正な手続き」から原理を導くことが唯一の正当化可能な道だと主張する。以下の発言はその核心的な問題意識——特定の人々が他者に自分の価値観を押しつけることなくAIを整合させることは可能か——を示している。

: アライメントを考える人々にとって重要な挑戦とは、多元的な世界に生きている私たちが、さまざまな人々の見解や意見をどう折り合わせるかということです。そして、その違いを超えてなお、人々を公平に扱うAIシステムの設計方法を見出すことが求められています。
: :（原文：An important challenge for people who are thinking about value alignment is how to reconcile the different views and opinions of people, given that we live in a pluralistic world, and how to come up with a system for aligning AI systems that treats people fairly despite that difference.）

: 倫理的にアライメントされたAIのあらゆるビジョンの背後には、より深い問いが潜んでいます。AIにどのような原理や目的を組み込むかを、誰がどのように決定するのか。価値観をめぐる競合する概念で満ちた多元的な世界において、特定の人々が自らの見解を他者に押し付けることなく、AIの価値アライメントを考えることはできるのでしょうか。
:: （原文：Behind each vision for ethically-aligned AI sits a deeper question. How are we to decide which principles or objectives to encode in AI—and who has the right to make these decisions—given that we live in a pluralistic world that is full of competing conceptions of value? Is there a way to think about AI value alignment that avoids a situation in which some people simply impose their views on others?）

### AIアシスタントと社会の変容
ガブリエルたちが問い続けた「言語モデルの次に来るもの」という問いは、「**エージェント的転換**」という概念として結実した。AIが単に文章を生成するだけでなく、ユーザーの代わりに計画を立て行動を実行するエージェントとなるとき、社会はどう変わるか。以下の発言は、その探究の動機とAIアシスタントの本質的な性格を示している。

: 私たちがとくに没頭していた問いは、「言語モデルの次に来るものは何か」ということでした。これは非常に重大な問いです。次に何が起きるかを知ることで、その結果を理解し、そこから逆算して現時点でよりよい判断ができるようになるからです。やがて「エージェント的転換」が訪れ、言語モデルの上にさまざまなものを構築できるという気づきが生まれてきました。そして、「もし世界に10億ものエージェントが存在したらどうなるか」という問いを自分たちに投げかけ始めたのです。それは私たちが今暮らしている社会とはまったく異なる世界です。
: :（原文：We were really preoccupied with this question of what comes after language models. For us this is a very high-stakes question. We really need to know what's going to happen next so that we can understand what the consequences might be, and then reason backwards to make good decisions in the present moment. We started to have this dawning realization that there would be an agentic turn, or that you could build all these things on top of language models. And then we just started to ask ourselves questions like "What happens if you have a million or a billion agents in the world?" That's quite a different society from the one we live in now.）

: AIアシスタントとは一種のエージェントですが、ユーザーと特別な関係を持つ存在です。ユーザーの意図と結びついており、合理的な範囲でユーザーの指示に従い、人生のさまざまな場面で寄り添ってくれる可能性があります。
:: （原文：The assistant is a kind of agent, but one that has a special relationship with the user, and which is linked to the user's intentions. So it does what I tell it to do within reason and potentially it can help us on this life journey in a variety of different ways.）

### 人間とAIの関係性

流暢な自然言語で対話するAIは、ユーザーに「ひとりの他者と話している」という感覚を自然に引き起こす。この**擬人化**は利便性をもたらす一方、ユーザーが対話の性質を忘れたり、過度に依存したりするリスクをはらむ。ガブリエルはAIコンパニオン研究の実証的知見も踏まえながら、擬人化を単純に否定するのではなく、長期的健康・自律性の保護を規範的基準とすることを提唱している。

: 流暢で高い知性を持つAIと対話するとき、予想外の引力のようなものを感じます。AIを人間のように見なしたいかどうかは、文脈によって異なります。自然言語を話すといった基本的な擬人化能力は非常に役立ちます。指示を打ち込むよりも、アシスタントと話す方がずっといい。コミュニケーションが容易になり、それは潜在的に素晴らしいことです。
:: （原文：As people have interacted with these systems, there's an unexpected magnetism or pull that comes from interacting with an AI that's fluent and very intelligent. Whether we want to think of AI as though it's human depends on the context. Some kind of baseline anthropomorphic ability, like speaking natural language, is very helpful. We'd all rather talk to our assistant than type out instructions. So it makes it easier to communicate, which is potentially a great thing.）

: 私たちが避けるべき状況のひとつは、自分がどのような対話をしているかを人々が忘れてしまうことです。AIコンパニオンを使う人々を研究すると、それが実に複雑で、非常に有益な経験になり得るという証拠が実際にあります。精神的な健康や幸福感の改善が報告されており、他者との交流が改善したという声もあります。
:: （原文：I think there's also a kind of bad situation that we want to avoid, which is essentially people forgetting the nature of the interaction that they're in. When you study people who use AI companions it's quite complicated and there's actually a lot of evidence that it can be a really beneficial experience. There's evidence that it's improved their sense of mental health and wellbeing. And they report that it has led them to have better interactions with others.）

### AIエージェントと新たな倫理

個々のユーザーとAIの二者関係を超え、無数のエージェントが社会の中で相互作用する世界では、従来の人間中心の倫理では捉えきれない問題が生じる。エージェント間の調整・安全・社会的帰結をいかに統御するかという問いは、研究者・エンジニア・政策立案者の協働なしには答えられない。2025年の『Nature』論文はその切迫した呼びかけである。

: AIシステムは今、「エージェント的転換」を経験しています。受動的なツールから、私たちの世界において能動的な参加者へと変わりつつあります。この瞬間こそ、新たな倫理的枠組みを必要としています。
:: （原文：AI systems are undergoing an 'agentic turn' shifting from passive tools to active participants in our world. This moment demands a new ethical framework.）

: 能力あるAIエージェントの展開は、安全性・人間と機械の関係性・社会的調整に関する新たな問いを提起します。私たちは、AIエージェントがますます増えていく世界の意味合いに、科学者・研究者・エンジニア・政策立案者がより深く関与していくことを訴えます。
:: （原文：The deployment of capable AI agents raises fresh questions about safety, human–machine relationships and social coordination. We argue for greater engagement by scientists, scholars, engineers and policymakers with the implications of a world increasingly populated by AI agents.）

## 脚注

## 参考文献

* 
* 
* 
* 
* 
* 
* 
* 
* 
* 
* 
* 
* 
* 
* 
* 
* 

## 外部リンク

* 公式ウェブサイト
* Google Scholar プロフィール
* Google DeepMind プロフィール
* Twitter/X (@IasonGabriel)