AI企業以外の組織が安全なAI開発研究に取り組むべき理由は多岐にわたります。まず第一に、AI企業は商業的利益を追求するため、研究の焦点が短期的な利益に偏りがちです。そのため、長期的な視点での安全性や倫理的な考慮が不足する可能性があります。これに対抗するために、政府、学術機関、非営利団体などの外部組織が介入し、独立した視点からの研究を行うことが重要です。
第二に、AIの安全性評価や技術的なガバナンスに関する研究は、AI企業が設計した評価基準が不十分である可能性があるため、外部の組織が行うことで、より厳格で客観的な基準を確立することができます。AI企業は自社の利益を優先するあまり、評価基準を緩和する可能性があるため、外部の監視が必要です。
さらに、AIのリスクは国境を越えるものであり、国際的な協力が不可欠です。政府や国際機関が安全なAI開発に関する研究を行うことで、国際的な規制や基準を策定し、グローバルな安全性を確保することができます。これにより、AI技術の進展がもたらす潜在的な危険を軽減し、社会全体の利益を守ることが可能になります。