SB1047

最先端人工知能モデルのための安全かつ確実なイノベーション法（英語: The Safe and Secure Innovation for Frontier Artificial Intelligence Models Act、SB1047）は、2024年のカリフォルニア州議案である。「未だ存在が知られていないほど高度なAIモデルによる壊滅的な損害のリスクを軽減する」ことを目的としている。具体的には、訓練に1億ドル以上のコストがかかり、10の26乗回を超える整数または浮動小数点演算の計算能力を使用して訓練されたモデルに適用される。SB1047は、企業の所在地に関係なく、カリフォルニア州で事業を行うすべてのAI企業に適用される。この法案は、内部告発者に対する保護を設け、カリフォルニア州政府業務局（英語版）の監督の下、開発者がリリース前にモデルのリスクアセスメントを実施することを要求している。また、スタートアップ、研究者、コミュニティグループ向けのカリフォルニア大学の公共クラウドコンピューティングクラスタであるCalComputeも設立する。 2020年代におけるAIシステムの能力のAIブーム、特に2022年11月のChatGPTのリリースは、一部の研究者や一般の人々に、汎用人工知能による人類滅亡のリスクへの懸念を表明させた。この立場を支持する人々は、しばしばAI「ドゥーマー（Doomer）」と呼ばれる。この脅威の妥当性については広く議論されている。AI規制は、偏見やプライバシー侵害を防ぐためにも提唱されることがある。しかし、規制の虜につながる可能性があるとして批判もされている。OpenAIのような大規模AI企業による規制の虜囚は、小規模な競合他社と一般大衆を犠牲にして、大企業の利益を促進する規制である。 2023年5月、数百人のテクノロジー企業幹部とAI研究者がAIによる絶滅リスクに関する声明（英語版）に署名した。この声明には、「AIによる絶滅のリスクを軽減することは、パンデミックや核戦争などの他の社会規模のリスクと並んで、世界的な優先事項であるべきだ」と書かれている。この声明には、最も多く引用されているAI研究者であるジェフリー・ヒントンとヨシュア・ベンジオ、サム・アルトマン（OpenAI CEO）、デミス・ハサビス（Google DeepMind CEO）、ダリオ・アモデイ（Anthropic CEO）などの業界関係者が署名した。他の多くの専門家は、生存に関する懸念は誇張され非現実的であると考えている。また、例えば差別的な自動意思決定など、AIの短期的な害から目をそらすものだと考えている。有名な話として、サム・アルトマンは同じ月の公聴会で議会にAI規制を強く要請した。いくつかのテクノロジー企業は、AI安全性サミットやAIソウルサミット（英語版）などで、安全性試験を実施するという自主規制を行っている。 カリフォルニア州のニューサム知事とバイデン大統領は、2023年に人工知能に関する大統領令を発令した。上院議員のScott Wiener（英語版）は、SB1047はバイデン大統領令（14110）（英語版）に大きく依拠しており、AI安全性に関する統一された連邦法がないことが動機付けとなっていると述べた。カリフォルニア州は以前にも、議会による行動がない中で、消費者プライバシー法（英語版）やインターネット中立性法（英語版）など、技術的問題に関する法律を制定している。 ^ a b “ASSEMBLY COMMITTEE ON PRIVACY AND CONSUMER PROTECTION”. California Assembly. State of California. 2024年8月1日閲覧。 ^ Daniels, Owen J. (2024年6月17日). “California AI bill becomes a lightning rod—for safety advocates and developers alike”. Bulletin of the Atomic Scientists. 2024年10月1日閲覧。 ^ Rana, Preetika (2024年8月7日). “AI Companies Fight to Stop California Safety Rules”. The Wall Street Journal. https://www.wsj.com/tech/ai/ai-regulation-california-bill-29e40745 2024年8月8日閲覧。  ^ Thibodeau, Patrick (2024年6月6日). “Catastrophic AI risks highlight need for whistleblower laws”. TechTarget. https://www.techtarget.com/searchhrsoftware/news/366588073/Catastrophic-AI-risks-highlight-need-for-whistleblower-laws 2024年8月6日閲覧。  ^ Henshall, Will (2023-09-07). “Yoshua Bengio”. TIME. https://time.com/collection/time100-ai/6310612/yoshua-bengio/ 2024年10月1日閲覧。.  ^ Gregg, Aaron; Lima-Strong, Cristiano; Vynck, Gerrit De (2023年5月31日). “AI poses ‘risk of extinction’ on par with nukes, tech leaders say” (英語). Washington Post. ISSN 0190-8286. https://www.washingtonpost.com/business/2023/05/30/ai-poses-risk-extinction-industry-leaders-warn/ 2024年7月3日閲覧。  ^ Hinton, Geoffrey (2024-04-17). “Yoshua Bengio”. TIME. https://time.com/6964962/yoshua-bengio/ 2024年9月3日閲覧。.  ^ “World Scientists Citation Rankings 2024”. AD Scientific Index. 2024年9月3日閲覧。 ^ “Profiles”. Google Scholar. 2024年9月2日閲覧。 ^ Abdul, Geneva (2023年5月30日). “Risk of extinction by AI should be global priority, say experts” (英語). The Guardian. ISSN 0261-3077. https://www.theguardian.com/technology/2023/may/30/risk-of-extinction-by-ai-should-be-global-priority-say-tech-experts 2024年8月30日閲覧。  ^ “Statement on AI Risk | CAIS” (英語). www.safe.ai. 2024年8月30日閲覧。 ^ “Artificial intelligence could lead to extinction, experts warn” (英語). BBC News. (2023年5月30日). https://www.bbc.co.uk/news/uk-65746524 2024年8月30日閲覧。  ^ Zorthian, Julia (2023-05-16). “OpenAI CEO Sam Altman Agrees AI Must Be Regulated” (英語). TIME. https://time.com/6280372/sam-altman-chatgpt-regulate-ai/ 2024年8月30日閲覧。.  ^ Milmo, Dan (2023年11月3日). “Tech firms to allow vetting of AI tools, as Musk warns all human jobs threatened”. The Guardian. https://www.theguardian.com/technology/2023/nov/02/top-tech-firms-to-let-governments-vet-ai-tools-sunak-says-at-safety-summit 2024年8月12日閲覧。  ^ Browne, Ryan (2024年5月21日). “Tech giants pledge AI safety commitments — including a 'kill switch' if they can't mitigate risks”. CNBC. https://www.cnbc.com/2024/05/21/tech-giants-pledge-ai-safety-commitments-including-a-kill-switch.html 2024年8月12日閲覧。  ^ “Governor Newsom Signs Executive Order to Prepare California for the Progress of Artificial Intelligence”. Governor Gavin Newsom (2023年9月6日). 2024年10月1日閲覧。 ^ “President Biden Issues Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence”. White House (2023年10月30日). 2024年10月1日閲覧。 ^ Riquelmy, Alan (2024年2月8日). “California lawmaker aims to put up guardrails for ai development”. Courthouse News Service. https://www.courthousenews.com/california-lawmaker-aims-to-put-up-guardrails-for-ai-development/ 2024年8月4日閲覧。  ^ Myrow, Rachael (2024年2月16日). “California Lawmakers Take On AI Regulation With a Host of Bills”. KQED. https://www.kqed.org/news/11976097/california-lawmakers-take-on-ai-regulation-with-a-host-of-bills 2024年10月1日閲覧。  ^ Piper, Kelsey (2024年8月29日). “We spoke with the architect behind the notorious AI safety bill”. Vox. https://www.vox.com/future-perfect/361562/california-ai-bill-scott-wiener-sb-1047 2024年9月4日閲覧。  ^ Lovely, Garrison (2024年8月15日). “California's AI Safety Bill Is a Mask-Off Moment for the Industry”. The Nation. https://www.thenation.com/article/society/california-ai-safety-bill/ 2024年9月4日閲覧。