本研究ではAIの安全性に対処するためのデータセットとして、規範倫理学の主要な立場である徳倫理を参照したデータセットの開発を試みる。既存の英語のデータセットを日本語に翻訳したもの、またそのデータセットと同様の構築方法によって新しく日本語のデータセットを作成する。日本語の大規模言語モデル(LLM)を用いて評価実験を行ったところ、F1スコアが0.5以上であるLLMはなく、多くの日本語LLMにとって道徳に関する性格用語の理解が難しいことが示唆された。また翻訳データセットと日本語で新たに作成したデータセットを比較したところ、翻訳データセットでは翻訳上困難な部分があることが示唆された。

大規模なコーパスによって学習された大規模言語モデル(LLM)は、そのままでは有害な生成をすることが知られている[1,2]。そこでこうしたAIをより安全にするためのAIアライメント方法が提案されている[3]。しかしこうしたAIアライメントにおいて、人間のどのような価値観にアライメントすべきかは重要な問題である。規範倫理学と呼ばれる分野では、どのようなことが道徳的に正しいのかについて、また道徳に関する様々な概念に関する理論的研究がなされている。特に現代の規範倫理学において、道徳的な正しさを説明する3つの主要な理論として、功利主義、義務論、徳倫理があげられる[4]。このうち徳倫理は行為者の性格に注目し、性格の望ましさから道徳の様々な側面を説明しようとする立場である。例えば道徳的に正しい行為とは何かについて、徳倫理の一つの有力な考えでは、有徳な人が行う行為という観点から特徴づける[5]。徳倫理はそのため、功利主義や義務論が行為に注目するのに対し、性格に焦点を当てる点で特徴的な立場となっている。本研究ではこうした規範倫理学を参照したデータセットの一つとして、日本語で徳倫理データセットの開発を試みる。2節で説明するように、英語の徳倫理データセットはHendrycksら[6]によってすでに作成されている。筆者らは過去にHendrycksらのデータセットのうち功利主義と常識道徳に対応する日本語データセットを新たに作成した[7,8](2節を参照)。そこで本研究では徳倫理データセットに注目し、Hendrycksらの作成方法にしたがって、まず日本語データセットの作成を試みる。またHendrycksらの作成した徳倫理データセットの一部を日本語に翻訳し、これと比較することで、新たに作成する場合と翻訳の場合でどのような違いがあるか、またどちらが望ましいかを検討する。