ヘレン・トナー

**ヘレン・トナー**（）はオーストラリアの研究者であり、ジョージタウン大学のの戦略ディレクターである。彼女はCEOのサム・アルトマンが解任された時のOpenAIの役員であった。

## 生い立ちと教育
トナーは1992年にオーストラリアのメルボルンで二人の医師の間に生まれた。彼女は2014年にメルボルン大学を卒業し、化学工学の理学士号を取得した。彼女は国際外交シミュレーションに学生参加を提供する組織であるUN Youthに参加した。メルボルンで大学生だった頃、効果的利他主義運動に出会った。2018年には、北京で9ヶ月間中国語を学び、オックスフォード大学のAIガバナンスセンターのAIと防衛に関する研究員として働いた。2019年から2021年まで、ワシントンD.C.にあるジョージタウン大学のウォルシュ外交学院に通い、安全保障学の文学修士号を取得した。

## 経歴

### 初期の経歴
卒業後、トナーはHolden Karnofskyが共同設立した慈善団体評価機関であるGiveWellと、Dustin MoskovitzとKarnofskyが共同設立したイニシアチブであるOpen Philanthropyで働いた。GiveWellでは、AIの軍事利用や地政学がAIの発展に及ぼす影響など、AI政策の問題について研究を行った。2017年5月、トナーはOpen Philanthropyによる「高度人工知能に関連するガバナンスと政策問題に関するフェローシップ、研究、会議を支援する」ためのUCLA法科大学院への150万ドルの助成金を推奨した。8月には、先端技術による潜在的なリスクに関する原稿の出版を支援するため、Center for a New American Security (CNAS)の元海軍長官であるRichard Danzigへの26万ドルの助成金を推奨した。

### Center for Security and Emerging Technology
2019年1月、トナーはワシントンD.C.にあるジョージタウン大学ウォルシュ外交学院のCenter for Security and Emerging Technology (CSET)シンクタンクの戦略ディレクターに任命された。CSETは、Open Philanthropyからジョージタウン大学への5年間で5,500万ドルの助成金によって設立された。2022年3月、彼女は常勤の戦略および基礎研究助成金ディレクターに任命された。彼女はOpenAIの役員在任中およびその後もCSETでの仕事を続け、政策立案者にAI政策と戦略について助言を行った。また、中国のAI産業についても研究し、『Foreign Affairs』に共著論文を発表している。

2023年10月にAndrew ImbrieとOwen J. Danielsと共著で発表した論文「Artificial Intelligence and Costly Signals」は、ChatGPTの立ち上げに関する批判が含まれていたため、トナーとOpenAIのCEOであるサム・アルトマンの間で緊張を引き起こしたと報じられている。アルトマンは、この論文がOpenAIの技術の安全性を維持するための努力を批判する一方で、競合企業であるAnthropicのアプローチを賞賛していると不満を述べたという。アルトマンはトナーに電話をかけ、連邦取引委員会によるOpenAIのデータ収集に関する調査のため、彼女の論文は「問題を引き起こす可能性がある」と述べた。

### OpenAI
2021年後半、トナーはHolden Karnofskyに招待され、OpenAIの役員会で彼と交代した。OpenAIはMicrosoftを含む投資家が所有しているが、この組織は非営利のガバナンス構造を維持しており、役員は株主ではなく、組織の利他的な目標に責任を負っている。

2023年10月、彼女は2人の共著者と「Decoding Intentions: Artificial Intelligence and Costly Signals」というレポートを発表し、次のように書いている。

この論文の発表後、アルトマンはこの論文が会社に批判的であると考え、トナーを解任しようと試みた。

2023年11月17日、トナーは他の3人の役員とともに、OpenAIのCEOであるサム・アルトマンを解任することに投票した。役員会が述べた理由は、アルトマンが役員会との「コミュニケーションにおいて常に率直ではなかった」こと、およびアルトマンが私利私欲のために役員を操っていると認識されていたことである。4日後、OpenAIの役員会とサム・アルトマンの間で合意に達し、トナー、ターシャ・マッコーリー、イリヤ・サツケバーは役員会を去り、元財務長官のローレンス・サマーズとブレット・テイラーが後任となり、アルトマンはCEOに復帰した。

2024年5月、ポッドキャストで、アルトマンを解任した役員会の理由を説明する中で、彼女はアルトマンが既存の安全プロセスについて「複数回」役員会を欺いたと主張した。情報隠蔽、会社で起こっていることの意図的な虚偽表示、役員会への明白な嘘などである。彼女は、役員会はChatGPTの立ち上げについて知らされておらず、ソーシャルメディアプラットフォームTwitterを通じてそのリリースを知ったと主張した。また、アルトマンは自身が経営判断を下していたベンチャーキャピタルであるOpenAI Startup Fundを所有していることを役員会に知らせていなかったとも指摘した。彼は「会社に金銭的利害関係のない独立した役員である」と主張していた。

## 私生活
トナーはドイツ人科学者と結婚しており、子供が一人いる。

## 発言集

### OpenAIとサム・アルトマンに関する発言

: 「OpenAIの取締役会は、普通の取締役会ではありませんでした。OpenAIは、普通の会社ではないのです。この取締役会は非営利法人として、会社の公益ミッションを——利益や投資家の利益といったものより——最優先にするために、明示的に設置されたものです。ところがサムは長年にわたって、情報を隠したり、社内での出来事を実際と違うように伝えたり、場合によっては取締役会に対して直接嘘をついたりすることで、取締役会がその役割を果たすことを非常に難しくしていたのです。」
:: （原文："The OpenAI board was not a normal board. It's not a normal company. The board is a nonprofit board that was set up explicitly for the purpose of making sure that the company's public good mission was primary, was coming first over profits, investor interests, and other things. But for years, Sam had made it really difficult for the board to actually do that job by withholding information, misrepresenting things that were happening at the company, in some cases outright lying to the board."）
:: — TED AIショー・ポッドキャスト（2024年5月28日）

: 「ChatGPTが2022年11月にリリースされたとき、取締役会は事前に何も知らされていませんでした。私たちは、ChatGPTのことをツイッターで知ったのです。」
:: （原文："When ChatGPT came out November 2022, the board was not informed in advance about that. We learned about ChatGPT on Twitter."）
:: — TED AIショー・ポッドキャスト（2024年5月28日）

: 「安全プロセスに関して不正確な情報を何度も伝えられていたため、取締役会はそれらのプロセスがどれほど機能しているのか、何を改善すべきなのか、まったく把握できない状態でした。取締役会として独立した監視の役割を担うためには、CEOの言葉を信じられないというのは、完全に手の施しようのない状況です。」
:: （原文："On multiple occasions, he gave us inaccurate information about the small number of formal safety processes that the company did have in place, meaning that it was basically impossible for the board to know how well those safety processes were working or what might need to change. Not trusting the word of the CEO, who is your main conduit to the company, your main source of information about the company — it's just totally, totally impossible."）
:: — TED AIショー・ポッドキャスト（2024年5月28日）

: 「論文の件そのものは問題ではありませんでした。問題は、論文が発表された後、サムが私を取締役会から追い出そうとして、他の取締役メンバーに嘘をつき始めたことです。それはまさに、私たちが彼を信頼できるかどうかを根本から損なうような出来事でした。」
:: （原文："It had nothing to do with the substance of this paper. The problem was that after the paper came out, Sam started lying to other board members in order to try and push me off the board. So it was another example that just really damaged our ability to trust him."）
:: — TED AIショー・ポッドキャスト（2024年5月28日）

: 「サムに反旗を翻すことを、どれほど多くの人が恐れているか——これは本当に軽視されてきた重要な点です。彼らはかつてサムが批判的な人々に報復するのを目の当たりにしており、自分に何が起きるか、本気で怖れていたのです。」
:: （原文："How scared people are to go against Sam — this is something that has really gone under reported. They had experienced him retaliating against people, retaliating against them for past instances of being critical. They were really afraid of what might happen to them."）
:: — TED AIショー・ポッドキャスト（2024年5月28日）

: 「長年にわたり、サムは情報を隠したり、社内の実態を誤って伝えたり、場合によっては取締役会に対してあからさまに嘘をついたりすることで、取締役会が本来の仕事をすることをひどく難しくしていました。」
:: （原文："For years, Sam had made it really difficult for the board to actually do that job by withholding information, misrepresenting things that were happening at the company, in some cases, outright lying to the board."）
:: — TED AIショー・ポッドキャスト（2024年5月28日）

### AI規制・ガバナンスに関する発言

: 「リスクが高まるにつれ、業界からのメッセージは明らかに変わってきました。以前は信頼できるAIの構築や政府による規制の重要性を訴えていたのに、今では未熟なプロダクトを競い合って送り出し、真剣な立法の試みをあらゆる手で阻もうと、数億ドルのロビー活動に費やしているのです。」
:: （原文："As the stakes have gone up, there's been a clear shift in what we've heard from industry. Where they used to tout the importance of building trustworthy AI and supporting government regulation, they're now racing to push out immature products and spending hundreds of millions on lobbying to undercut any attempt at serious lawmaking."）
:: — *Fast Company*（2024年）

: 「正しいことをしようとしている企業は今後も必ずあるでしょう。しかし私たちは、業界が直面するインセンティブを真剣に考えなければなりません。そのインセンティブは、先を争って突き進み投資家を感心させることであり、公共の利益を守ることではないのです。」
:: （原文："I'm sure there will continue to be some companies that try to do the right thing, but we have to take the incentives facing industry seriously. And those incentives are to race ahead and impress investors, not to look out for the interests of the public."）
:: — *Fast Company*（2024年）

: 「ChatGPTが登場してから2年間に私たちが目にしてきたものは、AIシステムがさらに高性能かつ強力になり続けるとすれば、これから来るものへのほんの序章に過ぎなかったと、いずれ振り返ることになるでしょう。」
:: （原文："I think what we've seen over the two years since ChatGPT was released will turn out to have been just a taste of what's to come, if AI systems keep becoming more capable and more powerful."）
:: — *Fast Company*（2024年）

: 「どれだけ善意があったとしても、外部からの監視なしでは、このような自主規制は最終的に実効性を持たないものになってしまいます——とりわけ莫大な利益という圧力のもとでは。」
:: （原文："Even with the best of intentions, without external oversight, this kind of self-regulation will end up unenforceable. Especially under the pressure of immense profit incentives."）
:: — タシャ・マッコーリーとの共著、*The Economist*（2024年5月）

: 「民主主義の実験室は、常に私にとって大きな価値を持つものでした。この技術をどのように統治するかという実験が、真に実験として扱われ、実践の中で学んで調整・改善され続けることを願っています。」
:: （原文："The laboratory of democracy has always seemed pretty valuable to me. I hope that these different experiments that are being run in how to govern this technology are treated as experiments, and can be adjusted and improved along the way."）
:: — *TIME*誌、AIの最も影響力ある100人（2024年）

: 「AI業界は今、規制を恐れるべきではなく、むしろ何かが起きてから制定されるような規制を、もっと恐れるべきではないでしょうか。インシデントが起きれば、議会は即座に法律を通してしまうかもしれません。その方がよほど重く、使い勝手の悪いものになる可能性があります。」
:: （原文："Some of the sort of smarter and more thoughtful actors that I've seen in this space are trying to say, 'okay, what are the pretty light touch, pretty common sense guardrails we can put in place'"）
:: — TechCrunch StrictlyVCイベント（2024年6月）

: 「規制を無視するか、できるだけ相手に何もさせまいとする対立的な戦いとして捉えるのは、あまり生産的ではありません。異なる専門知識を持つ人々が力を合わせ、自分の持つ知見を持ち寄るという発想で取り組むことが、本当に価値あることだと思います。」
:: （原文："I think thinking of it as a productive collaboration between different people with different kinds of expertise, and bringing the expertise that you have, is really valuable. I think thinking of it as either something to kind of ignore, or as sort of an adversarial fight where you have to be kind of trying to get the other side to do as little as possible, I think will be less productive."）
:: — TechCrunch StrictlyVCイベント（2024年6月）

### AIの理解と安全性に関する発言

: 「AIについて専門家ではない方々と話すと、よく『私にはAIが理解できない』という声を耳にします。でも面白いことに、専門家と話しても同じことが起きます。彼らも『私にはAIが理解できない、そして誰にも理解できない』と言うのです。これはずいぶん奇妙な状況です。」
:: （原文："When I talk to people about artificial intelligence, something I hear a lot from non-experts is 'I don't understand AI.' But when I talk to experts, a funny thing happens. They say, 'I don't understand AI, and neither does anyone else.' This is a pretty strange state of affairs."）
:: — TEDトーク "How to govern AI — even if it's hard to predict"（2024年）

: 「AIの内部がどのように動いているかを深く理解できなければ、次に何ができるようになるのか、あるいは今この瞬間に何ができているのかさえ、正確に知ることは非常に難しいのです。」
:: （原文："Without deeply understanding AI, it's really difficult for us to know what it will be able to do next, or even what it can do now."）
:: — TEDトーク "How to govern AI — even if it's hard to predict"（2024年）

: 「現在のAI安全対策——たとえばチャットボットが言うべきでないことを言わないようにする強化学習などは、根本的な解決策ではなく、いわば絆創膏に過ぎません。システムがより賢くなるにつれて、こうした対処療法は持ちこたえられなくなるでしょう。」
:: （原文："Current safety methods — such as using reinforcement learning to make chatbots less likely to say things they aren't supposed to say — are bandaids, not fundamental fixes, and are unlikely to hold up as the underlying systems get smarter."）
:: — 米国上院司法委員会への書面証言（2024年9月17日）

: 「これらの企業が構築している技術がどれほど重大な結果をもたらすかという内部的な認識と、AIシステムがどれほど安全でなければならないか、またその開発・利用をだれが決めるべきかという問題をどれほど真剣に考えているかとの乖離は、目を見張るものがあります。」
:: （原文："It is jarring to see the mismatch between 1) internal expectations of how consequential these companies think the technology they are building will be, and 2) how seriously they are approaching questions about how safe their AI systems need to be and who gets to decide how they are developed and used."）
:: — 米国上院司法委員会への書面証言（2024年9月17日）

### OpenAI取締役辞任後の発言

: 「本日、OpenAI取締役を正式に辞任しました。私たちの決断が常にOpenAIのミッションへの責任感から来ていたと、公私両面で述べてくださった多くの友人、同僚、支援者の方々に、心より感謝申し上げます。」
:: （原文："Today, I officially resigned from the OpenAI board. Thank you to the many friends, colleagues, and supporters who have said publicly & privately that they know our decisions have always been driven by our commitment to OpenAI's mission."）
:: — X（旧Twitter）投稿（2023年11月29日）

: 「OpenAIの社員から、今の会社をどう見ているかとよく聞かれます。いつも簡単には答えられません。思考連鎖の監視やシステムカードの整備など、良い取り組みもあります。でも、政策活動における不誠実さや脅迫的な戦術は、本当に問題だと思います。」
:: （原文："Every so often, OpenAI employees ask me how I see the co now. It's always tough to give a simple answer. Some things they're doing, eg on CoT monitoring or building out system cards, are great. But the dishonesty & intimidation tactics in their policy work are really not."）
:: — X（旧Twitter）投稿（2025年10月10日）

## 外部リンク

Georgetown Website Profile