AIセーフティ・インスティテュート

AIセーフティ・インスティテュート（AISI、英語: AI Safety Institute）とは、一般的に、最先端の人工知能（AI）モデル（フロンティアAIモデルとも呼ばれる）を評価し、その安全性を確保することを目的とした、国家によって支援される機関である。 AI安全性は、2023年に、特にAIの潜在的な存亡リスクに関する公開声明によって、顕著な注目を集めるようになった。2023年11月のAI安全性サミットにおいて、英国と米国はそれぞれ独自のAIセーフティ・インスティテュート（以下AISI）を設立した。日本は2024年2月14日にAISIを設立した。2024年5月のAIソウル・サミット（英語版）では、国際的なリーダーたちが、英国、米国、日本、フランス、ドイツ、イタリア、シンガポール、韓国、オーストラリア、カナダ、欧州連合の機関からなるAISIのネットワークを形成することに合意した。 2023年、英国のリシ・スナク首相は、「英国を世界のAI安全規制の知的拠点だけでなく、地理的な拠点にする」という意向を表明し、AI安全性サミットの計画を発表した。彼は、AI企業が「自分たちの宿題に自分でマルをつける」ことはできないとして、独立した安全評価の必要性を強調した。2023年11月のサミットにおいて、英国のAISIはフロンティアAIタスクフォースの発展形として正式に設立され、米国のAISIはNISTの一部として設立された。日本はこれに続き、2024年2月にAISIを設立した。 ポリティコは2024年4月に、多くのAI企業が、評価のために、開発前の最先端のAIモデルへのアクセスを共有していないと報じた。Meta社のグローバル担当社長であるニック・クレッグは、多くのAI企業が、英国と米国のAISIが共通の評価ルールと手順を策定するのを待っていると述べた。実際、2024年4月に英国と米国の間で、少なくとも1つの共同安全テストで協力するという合意が締結された。当初ロンドンに設立された英国のAISIは、2024年5月に、多くのAI企業が拠点を置くサンフランシスコにオフィスを開設すると発表した。これは、英国のテクノロジー大臣ミシェル・ドネラン（英語版）によれば、「AIの安全性に関する新たな国際基準を設定する」計画の一環である。 2024年5月のAIソウル・サミット（英語版）において、欧州連合とその他の国々は、独自のAISIを設立し、国際的なネットワークを形成することに合意した。 英国は2023年4月に、フロンティアAIタスクフォースと呼ばれる安全機関を設立し、初期予算として1億ポンドを計上した。2023年11月には、これが発展して英国のAISIとなり、イアン・ホガース（英語版）が引き続きリーダーを務めている。AISIは、英国の科学・イノベーション・技術省の一部である。 英国のAI戦略は、安全性とイノベーションのバランスを目標としている。AI法を採択した欧州連合とは異なり、英国は早期の法制化に消極的である。それは、法制化によってセクターの成長が鈍化し、法律が技術の進歩によって時代遅れになる可能性があると考えているためである。 2024年5月、同機関は「Inspect」と呼ばれるAI安全ツールをオープンソース化した。これは、推論や自律性などのAIモデルの能力を評価するツールである。 米国のAISIは、2023年11月にNISTの一部として設立された。これは、「人工知能の安全、安心、信頼できる開発と使用に関する大統領令（英語版）」の署名の翌日であった。2024年2月、ジョー・バイデン前大統領の経済政策顧問であったエリザベス・ケリーが、その責任者に任命された。 2024年2月、米国政府は、Google、Anthropic、Microsoftなど200以上の組織を再編成し、米国AIセーフティ・インスティテュートコンソーシアム（AISIC）を設立した。 2024年3月には、1,000万ドルの予算が割り当てられた。これは、特に米国に多くのAI大企業が存在することを考えると、比較的小規模な投資であると、複数のオブザーバーが指摘した。AISIをホストするNIST自体も、慢性的な資金不足で知られている。バイデン政権による追加資金の要請は、議会の歳出委員によって更なる予算削減に見舞われた。 ^ “Safety institutes to form ‘international network’ to boost AI research and tests” (英語). The Independent (2024年5月21日). 2024年7月6日閲覧。 ^ “AIセーフティ・インスティテュートの設立について - 科学技術政策 - 内閣府”. 内閣府ホームページ. 2024年4月15日時点のオリジナルよりアーカイブ。2024年8月31日閲覧。 ^ “AISI Japan - AI Safety Institute”. aisi.go.jp (2023年3月28日). 2024年8月31日閲覧。 ^ a b Desmarais, Anna (2024年5月22日). “World leaders agree to launch network of AI safety institutes” (英語). euronews. 2024年6月15日閲覧。 ^ Browne, Ryan (2023年6月12日). “British Prime Minister Rishi Sunak pitches UK as home of A.I. safety regulation as London bids to be next Silicon Valley” (英語). CNBC. 2024年6月21日閲覧。 ^ “Rishi Sunak: AI firms cannot 'mark their own homework'” (英語). BBC. (2023年11月1日). https://www.bbc.com/news/technology-67285315 2024年6月21日閲覧。  ^ “Introducing the AI Safety Institute” (英語). GOV.UK (November 2023). 2024年6月15日閲覧。 ^ Henshall, Will (April 1, 2024). “U.S., U.K. Announce Partnership to Safety Test AI Models” (英語). TIME. 2024年7月6日閲覧。 ^ “Rishi Sunak promised to make AI safe. Big Tech’s not playing ball.” (英語). Politico (2024年4月26日). 2024年6月15日閲覧。 ^ David, Emilia (2024年4月2日). “US and UK will work together to test AI models for safety threats” (英語). The Verge. 2024年6月21日閲覧。 ^ Coulter, Martin (20 May 2024). “Britain’s AI safety institute to open US office”. Reuters. https://www.reuters.com/technology/cybersecurity/britains-ai-safety-institute-open-us-office-2024-05-20/  ^ Browne, Ryan (2024年5月20日). “Britain expands AI Safety Institute to San Francisco amid scrutiny over regulatory shortcomings” (英語). CNBC. 2024年6月15日閲覧。 ^ “Initial £100 million for expert taskforce to help UK build and adopt next generation of safe AI” (英語). GOV.UK. 2024年7月6日閲覧。 ^ “Introducing the AI Safety Institute” (英語). GOV.UK (November 2023). 2024年6月15日閲覧。 ^ Henshall, Will (April 1, 2024). “U.S., U.K. Announce Partnership to Safety Test AI Models” (英語). TIME. 2024年7月6日閲覧。 ^ Wodecki, Ben (May 15, 2024). “AI Safety Institute Launches AI Model Safety Testing Tool Platform”. AI Business. https://aibusiness.com/responsible-ai/ai-safety-institute-launches-ai-model-safety-testing-tool-platform  ^ Henshall, Will (2023年11月1日). “Why Biden’s AI Executive Order Only Goes So Far” (英語). TIME. 2024年7月7日閲覧。 ^ Henshall, Will (2024年2月7日). “Biden Economic Adviser Elizabeth Kelly Picked to Lead AI Safety Testing Body” (英語). TIME. 2024年7月6日閲覧。 ^ Shepardson, David (February 8, 2024). “US says leading AI companies join safety consortium to address risks”. Reuters. https://www.reuters.com/technology/us-says-leading-ai-companies-join-safety-consortium-address-risks-2024-02-08/  ^ “Majority Leader Schumer Announces First-Of-Its-Kind Funding To Establish A U.S. Artificial Intelligence Safety Institute; Funding Is A Down Payment On Balancing Safety With AI Innovation And Will Aid Development Standards, Tools, And Tests To Ensure AI Systems Operate Safely” (英語). www.democrats.senate.gov (2024年3月7日). 2024年7月6日閲覧。 ^ Zakrzewski, Cat (2024年3月8日). “This agency is tasked with keeping AI safe. Its offices are crumbling.” (英語). Washington Post. ISSN 0190-8286. https://www.washingtonpost.com/technology/2024/03/06/nist-ai-safety-lab-decaying/ 2024年7月6日閲覧。  ^ Henshall, Will (April 1, 2024). “U.S., U.K. Announce Partnership to Safety Test AI Models” (英語). TIME. 2024年7月6日閲覧。 ^ “NIST would ‘have to consider’ workforce reductions if appropriations cut goes through” (英語). FedScoop (2024年5月24日). 2024年7月6日閲覧。 ^ Zakrzewski, Cat (2024年3月8日). “This agency is tasked with keeping AI safe. Its offices are crumbling.” (英語). Washington Post. ISSN 0190-8286. https://www.washingtonpost.com/technology/2024/03/06/nist-ai-safety-lab-decaying/ 2024年7月6日閲覧。