ホールデン・カルノフスキー

**ホールデン・G・カルノフスキー**（、1980年または1981年生まれ）は、アメリカ合衆国の非営利団体経営者、フィランソロピスト、AI安全研究者。慈善評価機関GiveWellの共同創設者であり、助成財団オープン・フィランソロピー（現・コエフィシェント・ギビング）の共同創設者・元CEOとして知られる。
2025年よりAnthropicの技術スタッフ。

効果的利他主義運動において最も影響力ある人物の一人とされ、AI安全・長期主義・慈善配分の方法論において独自の思想体系を構築してきた。

## 生涯

### 学歴

2003年にハーバード大学社会学専攻を卒業した。ハーバード在学中はハーバード・ランプーン（ユーモア誌）のメンバーであった。

### ブリッジウォーター時代

大学卒業後、コネティカット州ウェストポートに本拠を置く投資運用会社ブリッジウォーター・アソシエイツに就職した。同社での勤務中に、のちのGiveWell共同創設者となるイーライ・ハッセンフェルドと出会った。2006年、カルノフスキーとハッセンフェルドはブリッジウォーターの同僚たちと慈善活動のクラブを結成し、拠出金の効果的な寄付先を調査するようになった。

### GiveWell設立

2007年、カルノフスキーとハッセンフェルドは同僚から300,000ドルの資金を集め、「クリア・ファンド」と呼ばれる基金を設立、職を辞してGiveWellをフルタイムで運営し始めた。GiveWellの目標は、クリア・ファンドの資金を最も効果的な慈善団体へ分配することであった。カルノフスキーのリーダーシップのもと、GiveWellが推薦する慈善団体へ動いた資金は2010年の約150万ドルから2015年には1億1,010万ドルへと拡大した。

2012年6月、GiveWellはFacebook共同創業者ダスティン・モスコウィッツの資産を管理するフィランソロピー財団グッド・ベンチャーズとの強固なパートナーシップを発表した。
ｂ
### オープン・フィランソロピー設立

2014年、カルノフスキーはGiveWellとグッド・ベンチャーズの協力によるGiveWellラボを発展させる形でオープン・フィランソロピー・プロジェクト（現・コエフィシェント・ギビング）を共同設立した。

同組織は設立以来、AI安全・バイオセキュリティ・国際保健などの分野を中心に大規模な助成活動を展開し、2019年には370以上の団体に対し総額2億ドル以上の助成を推薦した。カルノフスキーはCEO、その後は共同CEOとして2023年7月まで組織をけん引した。

### OpenAI取締役

2017年、オープン・フィランソロピーがOpenAI（2015年設立）に3,000万ドルを助成したことを契機に、カルノフスキーはOpenAIの取締役に就任した。

2021年、妻ダニエラ・アモデイがAnthropicの共同設立者となったことによる利益相反（同業者）を理由に同職を辞した。

### AI安全への転換とカーネギー財団への参加

2023年、カルノフスキーはオープン・フィランソロピーの共同CEO職から離れ、AIリスク軽減に向けた直接業務の探求に専念した。2024年4月にはカーネギー国際平和基金のビジティング・スカラーに就任し、AIからの安全保障リスクに関する研究を続けた。

### Anthropic入社

2025年1月、Anthropicの技術スタッフ（Member of Technical Staff）として入社し、同社の「**責任あるスケーリング・ポリシー（RSP）**」の策定およびその他の安全計画に取り組んでいる。

RSPとは、ますます強力になるAIモデルに関連するリスクを管理するための一連のプロトコルである。チーフ・サイエンス・オフィサー(CSO)のジャリッド・カプランのもとで報告する立場にある。2025年11月には責任あるスケーリング・ポリシー第3版（RSP v3.0）の策定を主導した。

### 家族
2017年8月、当時OpenAIの安全・政策担当副社長だったダニエラ・アモデイと結婚した。ダニエラはその後、Anthropicを共同創業し、現在はその社長。
また、カルノフスキーとAnthropic CEOのダリオ・アモデイ（ダニエラの兄）は、かつて同じグループハウスに居住していた。

## 主な活動と思想

### GiveWellと証拠に基づく慈善評価

カルノフスキーとハッセンフェルドがGiveWellを設立した動機は、寄付において「最も少ない資金で最も多くの人々を助ける」という問題意識にあった。GiveWellは透明性を組織の中核的価値と位置づけており、推薦理由の詳細な公開とともに、過去の過ちを自ら記録・公開する専用ページを設けている。GiveWellは2025年時点で、150,000人以上のドナーから推薦先へ26億ドル以上の寄付を誘導し、34万件以上の死亡を回避したと推計している。

### ヒットベース寄付（Hits-based giving）

オープン・フィランソロピーにおいてカルノフスキーが提唱した概念が「ヒットベース寄付（hits-based giving）」である。これは、少数の圧倒的な成功事例が全体のインパクトの大部分を占めるという見方に基づき、失敗リスクを受け入れながら大きな成果を狙う慈善戦略である。この考え方はベンチャーキャピタル的な投資哲学との類似を持ち、グリーン革命や経口避妊薬の開発といった歴史的事例がその具体例として挙げられる。

### 世界観の多様化

オープン・フィランソロピーの助成配分の方針として、カルノフスキーは「世界観の多様化（worldview diversification）」を導入した。これは、複数の相互に競合する倫理的・実証的「世界観」それぞれに対して有望な活動に資金を分配することで、特定の世界観への過度な依存を避けるアプローチである。カルノフスキーは厳格な功利主義的一元論ではなく、高い不確実性の下での複数の倫理的フレームワークの並立を支持している。

### 「最も重要な世紀」論とAIリスク

カルノフスキーは個人ブログ「Cold Takes」において「最も重要な世紀（The Most Important Century）」シリーズを展開し、21世紀が人類史上最も重要な世紀となる可能性を論じた。この議論の中核は、変革的AI（transformative AI）の開発が今世紀中に起こる可能性が高く、それが人類の軌跡を根本的に変えるという主張である。カルノフスキーは変革的AIが15年以内（2036年まで）に開発される確率を10%以上、40年以内（2060年まで）を約50%、今世紀中（2100年まで）を約3分の2と見積もっている。彼は2015年ごろからAIリスクをオープン・フィランソロピーの最重要課題として位置づけるよう組織をけん引し、その観点を大きく変化させた。

### 責任あるスケーリング・ポリシー（RSP）の設計

Anthropicに参加後、カルノフスキーはRSP v3.0の策定を主導した。同ポリシーは、AI能力が一定の閾値を超えた際に適用すべきセキュリティや安全対策の枠組みを定めるものであり、「集団行動問題」（他社が同等の対策をとらない場合、単独で行動コストを負うことの非合理性）に対する現実的な回答として設計されている。

## 発言

カルノフスキーの思想内容の理解を助けるため、彼自身の発言をいくつか引用する。

彼の思想の中核には、「最も効果的な慈善活動は、単なる感情的動機ではなく厳密な証拠と論理的分析に基づくべきである」という信念がある。また近年は、AI安全・[長期主義]]・世代間倫理の問題が彼の思索の焦点となっている。以下は、一次資料から確認できる代表的な発言を分野別に示したものである。

### 効果的慈善・インパクト測定

;GiveWell設立の動機
:「少ない資金でより多くの人々を助けたいと思っていました。でも、どうすればいいのか、まったく見当がつかなかったのです。」
::（原文：“We wanted to help the most people with the least money. We found that we had a lot of trouble figuring out how to do this.”）

;ヒットベース寄付の論理
:「高リスク・高リターンの慈善活動は『ヒットビジネス』と呼べるものです。失敗プロジェクトの積み重ねをはるかに超えるような、ほんの一握りの大きな成功が、インパクト全体の大部分を占めるのです。」
::（原文：“We think of high-risk, high-reward philanthropy as a ‘hits business,’ where a small number of enormous successes account for a large share of the total impact — and compensate for a large number of failed projects.”）

;フィランソロピーの比較優位
:「政府にはインセンティブがなく、企業にもインセンティブがありません——本当に低確率で、けれど超壊滅的な最悪シナリオを心配するような組織の仕組みが、どこにも存在しないのです。」
::（原文：“Governments do not have the incentive, corporations do not have the incentive to worry about really low-likelihood, super-duper worst-case outcomes.”）

### AIリスクと「最も重要な世紀」

;PASTAの定義と重要性
:「今世紀、世界に永続的な影響を与える最大の出来事は、科学技術の進歩においてあらゆる人間の営みを代替できるAIシステムの開発だと、私は信じています。そのようなAIを、私はPASTA（科学技術の進歩を自動化するプロセス）といいます。」
::（原文：“I do believe that the number one thing that’s most likely to happen this century in a way that matters forever or matters for the whole world is the development of advanced AI systems that can basically do everything that humans do to advance sciences and technology. I abbreviate that kind of AI as a process for automating scientific and technological advancement. So the acronym is PASTA.”）

;AIが人間を凌駕しなくても危険である理由
:「AIリスクについての議論全体を、AIが人間より賢くなることは一切ないという前提で展開できると思っています。人間と同等の能力を持ち、ただ膨大な数が存在する——なぜなら、人間と違ってコピーできるから。それだけで十分に恐ろしいことが起こりえます。人間はもはや世界を支配できなくなるかもしれない。」
::（原文：“I believe you can make the entire case for being extremely concerned about AI, assuming that AI will never be smarter than a human. Instead, it will be as capable as the most capable humans, and there will be a tonne of them — because unlike humans, you can just copy them. That could really be enough that then humans wouldn’t be in control of the world anymore.”）

;長期主義とAIリスクの接続
:「未来には今よりはるかに多くの人々が存在します。もし将来の人々の助けになることが今日何か一つできるとしたら、それは最も少ない費用で最も多くの人々を助ける最良の方法の一つです。長期主義とは、未来に生きる莫大な数の人々を私たちが気にかけるべきだという哲学的な主張です。」
::（原文：“Well, guess where there’s a lot of people: the future. There’s way, way, way more future people than present people. So if there’s anything you can do today that will be more likely to help people who live all the way in the future, that’s one of the best ways to help a ton of people for a little money. So longtermism is this kind of philosophical point that there’s an enormous number of people in the future that we should care about.”）

### AI安全基準・ガバナンス

;AI安全基準への関心
:「AIリスクの軽減にとって安全基準が重要だと感じる理由の一つは、どんなリスクを懸念しているにしても、まずそのリスクを測定すること、そして十分な知識のもとで決断することなしに大きなリスクを抱えたAIシステムを展開しないこと、この考えには皆が賛同できるはずだと思うからです。そうすることで、さまざまなリスクを予測し、進みすぎる前に対処できる——その『進みすぎる』ということこそが、私の中心的な懸念です。」
::（原文：“One of the reasons I’m so interested in AI safety standards is because kind of no matter what risk you’re worried about, I think you hopefully should be able to get on board with the idea that you should measure the risk, and not unwittingly deploy AI systems that are carrying a tonne of the risk, before you’ve at least made a deliberate informed decision to do so. ‘Too fast’ is the central theme for me.”）

;政府規制の不可避性
:「AIから本当に低レベルのリスクにたどり着くためには、政府の政策が重要な役割を果たさなければならないと、私が知る限り思っています。高リスクになりうるこれらのシステムと、それを安全にする未成熟な科学、そして実際に安全にできるかどうかさえわからない状況がある。本当に安全になるには、競争ダイナミクスから抜け出し、全員が同じルールに従わなければならない。」
::（原文：“As far as I can tell, there’s no way to get to an actual low-level risk from AI without government policy playing an important role. We have these systems that could be very dangerous, and there’s this immature science of making them safer, and we have not really figured out how to make them safer. The only way to get really safe, to have high assurance, would be to get out of a race dynamic and to have it be that everyone has to comply with the same rules.”）

### 倫理・意思決定哲学

;世界観の多様化と功利主義への懐疑
:「彼らは『なぜ徹底的功利主義の立場を取らないのか』と感じるでしょう。私の答えはまず『証明する義務はあなた側にある』です。これは、強硬派だと自認する人々としばしば感じる緊張感の一つです。」
::（原文：“The first thing I would say to them is just, ‘The burden’s on you.’ And this is kind of a tension I often have with people who consider themselves hardcore: they’ll just feel like, well, why wouldn’t you be a hardcore utilitarian?”）

;フィランソロピーの議論の欠如
:「私たちの社会では、政府が何をすべきかについて多くの議論があります。企業が何をすべきかについての議論もある。でも財団が何をすべきかについては、議論がほとんどないのです。」
::（原文：“There’s a lot of debate in our society about what the government should do. There’s debate about what corporations should do. But there’s very little debate about what foundations should do.”）

## 著述

### 主なブログシリーズ

# Karnofsky, Holden (2021). “The ‘most important century’ blog post series”. ‘‘Cold Takes’’. 2021-09-24. （邦題：「最も重要な世紀」シリーズ）

# Karnofsky, Holden (2023). “How we could stumble into AI catastrophe”. ‘‘Cold Takes’’. 2023-01-13.

# Karnofsky, Holden (2023). “What AI companies can do today to help with the most important century”. ‘‘Cold Takes’’. 2023-02-20.

# Karnofsky, Holden (2023). “A Playbook for AI Risk Reduction (focused on misaligned AI)”. ‘‘EA Forum’’. 2023-06-06.

# Karnofsky, Holden (2016). “Hits-based Giving”. ‘‘Open Philanthropy’’. 2016-04-04.

### 主なインタビュー

# Wiblin, Robert & Harris, Keiran (2018). “The world’s most intellectual foundation is hiring. Holden Karnofsky, founder of GiveWell, on how philanthropy can have maximum impact by taking big risks”. ‘‘80,000 Hours Podcast’’. 2018-02-27.

# Wiblin, Robert & Harris, Keiran (2021). “Holden Karnofsky on the most important century”. ‘‘80,000 Hours Podcast’’. 2021-08-19.

# Klein, Ezra (2021). “Transcript: Ezra Klein interviews Holden Karnofsky”. ‘‘The New York Times’’. 2021-10-05.

# Wiblin, Robert (2023). “Holden Karnofsky on how AIs might take over even if they’re no smarter than humans, and his 4-part playbook for AI risk”. ‘‘80,000 Hours Podcast’’. 2023.

## 脚注

## 外部リンク
* Cold Takes — カルノフスキーの個人ブログ
* GiveWell — 慈善評価機関（共同創設者）
* Coefficient Giving（旧Open Philanthropy） — 助成財団（共同創設者・元CEO）
* Anthropic — AI安全企業（現・技術スタッフ）
* Berkman Klein Center profile
* OECD.AI Expert profile