ヘレン・トナー

ヘレン・トナー（英語: Helen Toner）はオーストラリアの研究者であり、ジョージタウン[要曖昧さ回避]大学のCenter for Security and Emerging Technology（英語版）の戦略ディレクターである。彼女はCEOのサム・アルトマンが解任された時のOpenAIの役員であった。 トナーは1992年にオーストラリアのメルボルンで二人の医師の間に生まれた。彼女は2014年にメルボルン大学を卒業し、化学工学の理学士号を取得した。彼女は国際外交シミュレーションに学生参加を提供する組織であるUN Youthに参加した。メルボルンで大学生だった頃、効果的利他主義運動に出会った。2018年には、北京で9ヶ月間中国語を学び、オックスフォード大学のAIガバナンスセンターのAIと防衛に関する研究員として働いた。2019年から2021年まで、ワシントンD.C.にあるジョージタウン大学のウォルシュ外交学院に通い、安全保障学の文学修士号を取得した。 卒業後、トナーはHolden Karnofskyが共同設立した慈善団体評価機関であるGiveWellと、Dustin MoskovitzとKarnofskyが共同設立したイニシアチブであるOpen Philanthropyで働いた。GiveWellでは、AIの軍事利用や地政学がAIの発展に及ぼす影響など、AI政策の問題について研究を行った。2017年5月、トナーはOpen Philanthropyによる「高度人工知能に関連するガバナンスと政策問題に関するフェローシップ、研究、会議を支援する」ためのUCLA法科大学院への150万ドルの助成金を推奨した。8月には、先端技術による潜在的なリスクに関する原稿の出版を支援するため、Center for a New American Security (CNAS)の元海軍長官であるRichard Danzigへの26万ドルの助成金を推奨した。 2019年1月、トナーはワシントンD.C.にあるジョージタウン大学ウォルシュ外交学院のCenter for Security and Emerging Technology (CSET)シンクタンクの戦略ディレクターに任命された。CSETは、Open Philanthropyからジョージタウン大学への5年間で5,500万ドルの助成金によって設立された。2022年3月、彼女は常勤の戦略および基礎研究助成金ディレクターに任命された。彼女はOpenAIの役員在任中およびその後もCSETでの仕事を続け、政策立案者にAI政策と戦略について助言を行った。また、中国のAI産業についても研究し、『Foreign Affairs』に共著論文を発表している。 2023年10月にAndrew ImbrieとOwen J. Danielsと共著で発表した論文「Artificial Intelligence and Costly Signals」は、ChatGPTの立ち上げに関する批判が含まれていたため、トナーとOpenAIのCEOであるサム・アルトマンの間で緊張を引き起こしたと報じられている。アルトマンは、この論文がOpenAIの技術の安全性を維持するための努力を批判する一方で、競合企業であるAnthropicのアプローチを賞賛していると不満を述べたという。アルトマンはトナーに電話をかけ、連邦取引委員会によるOpenAIのデータ収集に関する調査のため、彼女の論文は「問題を引き起こす可能性がある」と述べた。 2021年後半、トナーはHolden Karnofskyに招待され、OpenAIの役員会で彼と交代した。OpenAIはMicrosoftを含む投資家が所有しているが、この組織は非営利のガバナンス構造を維持しており、役員は株主ではなく、組織の利他的な目標に責任を負っている。 2023年10月、彼女は2人の共著者と「Decoding Intentions: Artificial Intelligence and Costly Signals」というレポートを発表し、次のように書いている。 OpenAIはまた、ChatGPTとGPT-4の立ち上げに関連する他の多くの安全性と倫理の問題についても批判を受けている。著作権の問題、データ注釈者の労働条件、安全制御を回避できる「脱獄」に対する製品の脆弱性などである。 この論文の発表後、アルトマンはこの論文が会社に批判的であると考え、トナーを解任しようと試みた。 2023年11月17日、トナーは他の3人の役員とともに、OpenAIのCEOであるサム・アルトマンを解任することに投票した。役員会が述べた理由は、アルトマンが役員会との「コミュニケーションにおいて常に率直ではなかった」こと、およびアルトマンが私利私欲のために役員を操っていると認識されていたことである。4日後、OpenAIの役員会とサム・アルトマンの間で合意に達し、トナー、ターシャ・マッコーリー、イリヤ・サツケバーは役員会を去り、元財務長官のローレンス・サマーズとブレット・テイラーが後任となり、アルトマンはCEOに復帰した。 2024年5月、ポッドキャストで、アルトマンを解任した役員会の理由を説明する中で、彼女はアルトマンが既存の安全プロセスについて「複数回」役員会を欺いたと主張した。情報隠蔽、会社で起こっていることの意図的な虚偽表示、役員会への明白な嘘などである。彼女は、役員会はChatGPTの立ち上げについて知らされておらず、ソーシャルメディアプラットフォームTwitterを通じてそのリリースを知ったと主張した。また、アルトマンは自身が経営判断を下していたベンチャーキャピタルであるOpenAI Startup Fundを所有していることを役員会に知らせていなかったとも指摘した。彼は「会社に金銭的利害関係のない独立した役員である」と主張していた。 トナーはドイツ人科学者と結婚しており、子供が一人いる。 ^ “Helen Toner”. OpenAI. 2024年10月1日閲覧。 ^ Taylor, Josh (2023年11月23日). “Who is Helen Toner the Australian woman ousted from the board of OpenAI?” (英語). The Guardian. ISSN 0261-3077. https://www.theguardian.com/technology/2023/nov/23/who-is-helen-toner-australian-woman-openai-chatgpt-board 2024年5月30日閲覧。  ^ Mascarenhas, Natasha (November 21, 2023). “Altman Argued With OpenAI Board Member Toner Before Ouster”. The Information. 2024年10月6日閲覧。 ^ Ghaffary, Shirin (August 1, 2024). “DC Welcomes Ex-OpenAI Board Member After Sam Altman Drama”. Bloomberg Businessweek. https://www.bloomberg.com/news/features/2024-08-01/dc-welcomes-ex-openai-board-member-after-sam-altman-drama  ^ a b c d e “Aussie altruist at the heart of the OpenAI imbroglio”. Australian Financial Review (November 21, 2023). 2024年10月6日閲覧。 ^ a b Metz, Cade; Mickle, Tripp; Isaac, Mike (2023年11月21日). “Before Altman's Ouster, OpenAI's Board Was Divided and Feuding” (英語). The New York Times. ISSN 0362-4331. https://www.nytimes.com/2023/11/21/technology/openai-altman-board-fight.html 2023年11月22日閲覧。  ^ a b c d Murgia, Madhumita (2 August 2024). “Helen Toner on the OpenAI coup: ‘It was about trust and accountability’”. Financial Times. https://www.ft.com/content/9824d8a4-401d-4275-9361-c71dcf58cb1c 19 September 2024閲覧。  ^ “Who were the OpenAI board members that sacked Sam Altman?”. Financial Times (November 22, 2023). 2024年10月6日閲覧。 ^ Wilson, Cam (2023年11月21日). “Who is Helen Toner? Meet the 30-something Australian OpenAI board member who voted out Sam Altman” (英語). Crikey. 2023年11月22日閲覧。 ^ “UCLA School of Law — AI Governance” (英語). Open Philanthropy. 2024年9月19日閲覧。 ^ “Center for a New American Security — Technological Risks and National Security” (英語). Open Philanthropy. 2024年9月19日閲覧。 ^ “Georgetown University — Center for Security and Emerging Technology” (英語). Open Philanthropy. 2024年9月19日閲覧。 ^ “Helen Toner” (英語). Center for Security and Emerging Technology. 2024年9月19日閲覧。 ^ Remco Zwetsloot; ヘレン・トナー; Jeffrey Ding (2018年11月16日), “Beyond the AI Arms Race: America, China, and the Dangers of Zero-Sum Thinking” (英語), フォーリン・アフェアーズ, ISSN 0015-7120, https://www.foreignaffairs.com/reviews/review-essay/2018-11-16/beyond-ai-arms-race , Wikidata Q123517027 ^ ヘレン・トナー; Jenny Xiao; Jeffrey Ding (2023年6月2日), “The Illusion of China’s AI Prowess: Regulating AI Will Not Set America Back in the Technology Race” (英語), フォーリン・アフェアーズ, ISSN 0015-7120, https://www.foreignaffairs.com/china/illusion-chinas-ai-prowess-regulation , Wikidata Q123517054 ^ Metz, Cade; Mickle, Tripp; Isaac, Mike (21 November 2023). “Before Altman’s Ouster, OpenAI’s Board Was Divided and Feuding”. The New York Times. https://www.nytimes.com/2023/11/21/technology/openai-altman-board-fight.html 19 September 2024閲覧。  ^ Confino, Paolo (November 21, 2023). “OpenAI's 'unusual' board can make unilateral decisions without asking permission from anyone—like deep-pocketed backer Microsoft and Satya Nadella” (英語). Fortune. 2023年12月17日閲覧。 ^ Andrew Imbrie; Owen Daniels; ヘレン・トナー (2023年10月1日) (英語), Decoding Intentions: Artificial Intelligence and Costly Signals, https://cset.georgetown.edu/wp-content/uploads/CSET-Decoding-Intentions.pdf , Wikidata Q123517123 ^ Montgomery, Blake; Anguiano, Dani (2023年11月18日). “OpenAI fires co-founder and CEO Sam Altman for allegedly lying to company board” (英語). The Guardian. ISSN 0261-3077. https://www.theguardian.com/technology/2023/nov/17/openai-ceo-sam-altman-fired 2023年12月17日閲覧。  ^ “OpenAI leaders warned of abusive behavior before Sam Altman’s ouster” (英語). Washington Post (2023年12月8日). 2023年12月18日閲覧。 ^ “Sam Altman Returns as OpenAI CEO in Chaotic Win for Microsoft”. Bloomberg. (November 22, 2023). https://www.bloomberg.com/news/articles/2023-11-22/sam-altman-to-return-as-openai-ceo-with-a-new-board  ^ Mickle, Tripp; Metz, Cade; Isaac, Mike; Weise, Karen (9 December 2023). “Inside OpenAI’s Crisis Over the Future of Artificial Intelligence”. The New York Times. https://www.nytimes.com/2023/12/09/technology/openai-altman-inside-crisis.html 19 September 2024閲覧。  ^ Lawler, Richard (2024年5月29日). “Former OpenAI board member explains why they fired Sam Altman” (英語). The Verge. 2024年6月1日閲覧。 ^ Murgia, Madhumita (2 August 2024). “Helen Toner on the OpenAI coup: 'It was about trust and accountability'”. Financial Times. 2024年10月6日閲覧。 Scholiaにはヘレン・トナーに関する著作家プロフィールがあります。 Georgetown Website Profile