AI安全性サミット

AI安全性サミット（英語: AI Safety Summit）は、2023年11月1日から2日にかけてイギリスミルトン・キーンズのブレッチリー・パークで開催された、人工知能（AI）の安全性と規制（英語版）について議論した国際会議である。 これはAIに関する初のグローバルサミットであり、今後定期的に開催される予定である。 2023年5月、OpenAIは、今後10年以内に人間の専門家のスキルレベルを超えるAIシステムが実現する可能性があると発表し、これを「フロンティアAI」と命名した。OpenAIは、フロンティアAIが核エネルギーや合成生物学等と同様に人類の存亡リスクとなる可能性を指摘し、事後的対応ではなく国際的な規制を検討すべきと主張した。これを受けて英国首相のリシ・スナクはAIを政府の優先事項の一つと位置づけ、AIによる「深刻且つ破滅的な危害」の防止を視野に入れた「AIの安全性」について議論するため、AI安全性サミットを招集した。サミットでは、従来のAI倫理に加えて、AIの安全性についても議論された。 本サミットの成果文書として「ブレッチリー宣言」が採択され、英国はAIセーフティ・インスティテュートの設置を決定した。 AI安全性の議論を深めるため、2024年5月21日～22日には韓国・英国共催により「AIソウル・サミット（英語版）」が開催された。このサミットでは、AI開発におけるイノベーション促進及びAIの恩恵の公平な享受についても議論が行われ、「安全、革新的で包摂的なAIのためのソウル宣言」などの成果文書が採択された。2025年2月にはフランスにて次回会合が開催される予定である。 ブレッチリー・パークは、第二次世界大戦中に英国政府によって設立された暗号解読施設ー政府暗号学校である。ビクトリア朝時代の邸宅跡地に位置し、英国ミルトン・キーンズ市にある。ブレッチリー・パークは、初期の近代的なコンピュータが開発された場所であり、コンピュータの歴史において重要な役割を果たしてきた。 AI安全性サミットには、米国、中国、オーストラリア、欧州連合を含む28カ国が参加し、「ブレッチリー宣言」として知られる合意文書を採択した。ブレッチリー宣言は、人工知能（AI）の課題とリスクを管理するために国際協力が必要であることを訴えている。宣言は、AIは安全、人間中心、信頼性、責任ある方法で設計、開発、展開、使用されるべきであると明言している。 サミットでは、最新かつ最も強力なAIシステムを指す「フロンティアAI」の規制に重点が置かれた。サミットで提起された懸念事項には、テロ、犯罪活動、戦争へのAIの潜在的な利用、そして人類全体に対する存在リスクが含まれる。 米国のジョー・バイデン大統領は、AI開発者に安全性に関する結果を米国政府と共有することを義務付ける大統領令に署名した。米国政府はまた、アメリカ国立標準技術研究所の一部として、米国AIセーフティ・インスティテュートの設立を発表した。 日本政府は2024年2月14日に日本AIセーフティ・インスティテュートを設立した。 さらに、テック起業家のイーロン・マスクとスナク首相は、11月2日にX（旧Twitter）上でAIの安全性に関するライブインタビューを行った。 第2回目のAI安全性サミットは、2024年5月21日～22日に韓国で開催された。さらに、2024年後半にはフランスでの開催が予定されている。 サミットには以下の著名人が出席した。 リシ・スナック、英国首相 岸田文雄、内閣総理大臣 カマラ・ハリス、米国副大統領 チャールズ 3 世、イギリス王（バーチャル出席） イーロン・マスク、TeslaのCEO、X・SpaceX・Neuralink・xAIのオーナー ジョルジャ・メローニ、イタリア首相 ウルズラ・フォン・デア・ライエン、欧州委員会委員長 サム・アルトマン、OpenAIのCEO ニック・クレッグ氏、元イギリス政治家、Meta社グローバル担当社長 ムスタファ・スレイマン（英語版）氏、Google DeepMind共同創設者 ミシェル・ドネラン（英語版）、イギリス科学・イノベーション・技術担当国務長官（英語版） ヴェラ・ユロヴァ（英語版）、欧州委員会の価値観と透明性担当副委員長（英語版） ジーナ・レモンド、アメリカ合衆国商務長官 呉兆輝（英語版）、中華人民共和国科学技術部次官 その他、出席者・機関の詳細な一覧は公式サイトを参照。 ^ a b c d e f g h i “AI summit brings Elon Musk and world leaders to Bletchley Park” (英語). BBC News. (1 November 2023). オリジナルの2 November 2023時点におけるアーカイブ。. https://web.archive.org/web/20231102013759/https://www.bbc.com/news/uk-england-beds-bucks-herts-67273099 1 November 2023閲覧。  ^ “AI Safety Summit” (英語). AISS 2023. 31 October 2023時点のオリジナルよりアーカイブ。1 November 2023閲覧。 ^ “総務省｜令和6年版 情報通信白書｜AI安全性サミット”. www.soumu.go.jp. 2024年8月31日時点のオリジナルよりアーカイブ。2024年8月31日閲覧。 ^ “Extinction risk from AI on same scale as nuclear war, Sunak warns” (英語). The Independent (26 October 2023). 31 October 2023時点のオリジナルよりアーカイブ。1 November 2023閲覧。 ^ “About the AI Safety Summit 2023” (英語). GOV.UK. 2024年8月27日時点のオリジナルよりアーカイブ。2024年8月31日閲覧。 ^ “The UK's AI summit is taking place at Bletchley Park, the wartime home of codebreaking and computing” (英語). Washington Post. (1 November 2023). ISSN 0190-8286. オリジナルの2 November 2023時点におけるアーカイブ。. https://web.archive.org/web/20231102013758/https://www.washingtonpost.com/business/2023/11/01/bletchley-park-wwii-codebreaking-alan-turing/f12de272-787d-11ee-97dd-7a173b1bd730_story.html 1 November 2023閲覧。  ^ a b “Australia signs the Bletchley Declaration at AI Safety Summit”. Ministers for the Department of Industry, Science and Resources (2023年11月3日). 2024年7月20日閲覧。 ^ “The Bletchley Declaration by Countries Attending the AI Safety Summit, 1-2 November 2023”. GOV.UK (1 November 2023). 1 November 2023時点のオリジナルよりアーカイブ。2 November 2023閲覧。 ^ "Countries agree to safe and responsible development of frontier AI in landmark Bletchley Declaration". GOV.UK (Press release). 2023年11月1日時点のオリジナルよりアーカイブ。2023年11月1日閲覧。 ^ “World leaders gather at UK summit aiming to tackle 'frontier AI' risks” (英語). France 24 (1 November 2023). 1 November 2023時点のオリジナルよりアーカイブ。1 November 2023閲覧。 ^ “Can Rishi Sunak's big summit save us from AI nightmare?” (英語). BBC News. (28 October 2023). オリジナルの1 November 2023時点におけるアーカイブ。. https://web.archive.org/web/20231101020833/https://www.bbc.com/news/technology-67172230 1 November 2023閲覧。  ^ “US announces 'strongest global action yet' on AI safety” (英語). BBC News. (30 October 2023). オリジナルの31 October 2023時点におけるアーカイブ。. https://web.archive.org/web/20231031115300/https://www.bbc.com/news/technology-67261284 1 November 2023閲覧。  ^ Stacey, Kiran; Milmo, Dan (1 November 2023). “UK, US, EU and China sign declaration of AI's 'catastrophic' danger”. The Guardian. https://www.theguardian.com/technology/2023/nov/01/uk-us-eu-and-china-sign-declaration-of-ais-catastrophic-danger 2 November 2023閲覧。  ^ “AIセーフティ・インスティテュートの設立について - 科学技術政策 - 内閣府”. 内閣府ホームページ. 2024年4月15日時点のオリジナルよりアーカイブ。2024年8月31日閲覧。 ^ “AISI Japan - AI Safety Institute”. aisi.go.jp (2023年3月28日). 2024年8月31日閲覧。 ^ “Elon Musk tells Rishi Sunak AI will put an end to work - BBC News”. BBC News (3 November 2023). 17 April 2024閲覧。 ^ Coulter, Martin (12 April 2024). “South Korea to host second AI Safety Summit on May 21-22 | Reuters”. Reuters. 17 April 2024閲覧。 ^ “South Korea and France to host next two AI Safety Summits” (英語). Reuters. (2023年11月1日). オリジナルの2023年11月1日時点におけるアーカイブ。. https://web.archive.org/web/20231101205301/https://www.reuters.com/technology/south-korea-france-host-next-two-ai-safety-summits-2023-11-01/ 2023年11月1日閲覧。  ^ “令和5年11月2日 ＡＩ安全性サミット | 総理の一日”. 首相官邸ホームページ. 2024年8月31日閲覧。 ^ Correspondent, Mark Sellman, Technology (1 November 2023). “Nations must work together to harness AI, King tells landmark summit” (英語). The Times. ISSN 0140-0460. オリジナルの2 November 2023時点におけるアーカイブ。. https://web.archive.org/web/20231102013801/https://www.thetimes.co.uk/article/nations-must-work-together-to-harness-ai-king-tells-landmark-summit-hsrgjw0gq 1 November 2023閲覧。  ^ a b c Milmo, Dan; Stacey, Kiran (1 November 2023). “'It's not clear we can control it': what they said at the Bletchley Park AI summit”. The Guardian. https://www.theguardian.com/technology/2023/nov/01/elon-musk-calls-ai-one-of-the-biggest-threats-to-humanity-at-summit 2 November 2023閲覧。  ^ a b Stacey, Kiran; Milmo, Dan (1 November 2023). “UK, US, EU and China sign declaration of AI's 'catastrophic' danger”. The Guardian. https://www.theguardian.com/technology/2023/nov/01/uk-us-eu-and-china-sign-declaration-of-ais-catastrophic-danger 2 November 2023閲覧。