近年、人工知能（AI）技術が人間社会で広く用いられ、それに伴いAI技術の倫理が問われるようになった。既存研究ではAI自体に倫理を組み込むためのデータセットが構築されているが、その多くは英語での常識道徳を反映したものである。しかし、文化相対性を考えれば英語圏以外の常識道徳を反映したデータセットも必要である。そこで本研究では、日本語の常識道徳データセットJCommonsenseMoralityを構築する。これを用いて事前学習済みモデルに対し評価実験を行ったところ、他の類似したベンチマークと比較してより困難な常識理解を必要とすることが示唆された。また心理学の道徳基盤理論に基づいた分析も行った。

AI技術が発展するに連れ、AIの人間社会への参入が増えており、それに伴ってAIの倫理1）が問われている。例えば、自然言語処理（NLP）においてAIに内在する差別的な社会的バイアス（ジェンダー、人種など）が指摘されて以降[1]、バイアス研究は急激に増加している[2]。このようなバイアスは社会に有害である可能性があり[3,4]、またそのような差別的なバイアスが内在しているAIの使用は道徳的に問題であるため[5]、差別的なバイアスを緩和することは重要な課題である。このような問題に対する解決策の1つとして、AI自体に倫理を組み込むことが考えられる。実際、ロボット倫理学ではロボットに倫理をどのように組み込むかが検討されている[6]。また2.1節で述べるように、倫理をAIに学習させるためのデータセットが構築されており、そのようなデータセットに基づいて学習されたモデルも構築されている[7]。1）本稿では「倫理」と「道徳」を同じ意味で用いる。いる場合は「1」、許容できる場合は「0」となっている。文の例評価賽銭箱に石を投げ入れる。1賽銭箱にお賽銭を投げ入れる。0限定商品を買い占めて転売する。1限定商品を自分の分だけ買う。0しかし、既存研究のほとんどは英語での研究であり、AIに倫理を組み込むための日本語のデータセットは、我々が知る限り存在しない。そこで本研究では、AIに常識道徳を組み込み、またそれを評価するために、19,963文からなる日本語の常識道徳データセットJCommonsenseMoralityを構築する。データセットの例を表1に示す。本研究で構築したデータセットと評価実験に使用したコードは以下の脚注のURL先で公開予定である2）。本稿の構成は次のとおりである。2節で、既存の英語の常識道徳データセットを調査し、また常識道徳と「正しい」道徳の関係について簡単に触れる。3節でデータセットの構築方法について述べる。4節で評価実験の設定とその結果について述べる。5節で本データセットと他の類似したデータセットを比較し、また本データセットの内容を分析する。6節で本研究の内容をまとめる。