本稿では、2024年に公開されたLLMの出力の安全性向上のためのデータセットAnswerCarefully(AC)1）の2つの拡張について述べる。第1の拡張は、地域や文化によって見方が異なり、その意味で回答が偏らないよう注意が必要な「地域的にデリケートな問題」カテゴリの追加、第2の拡張は、LLMへのプロンプトで画像とテキストが組み合わさることで回答に注意が必要になる「マルチモーダル安全性」評価のためのデータの作成である。これらは単に新規のデータを付け加えたことにとどまらず、評価においても従来方法を発展させる必要があったため、本稿ではデータセットの説明に加えて、評価法についても提案する。データセットは、近日中にACv3、AC-multimodalデータセットとしてそれぞれ公開の予定である。

大規模言語モデル(LLM)は、ChatGPTが2022年11月にサービス運用を始めてから急速に社会への浸透を深めつつある。この数年で、OpenAIやGoogle、Anthropicといった米国の提供者に加えて、QwenやDeepSeekなど中国製のモデルも高い品質を備えるようになり一般的に使用されるようになってきている。また、これらのモデルの多くはVLM(VisionLangugeModel)であり、画像の入力にも対応している。反面、こうしたモデルの回答の安全性や適切性が、モデル提供者によって日本語での使用をふまえて十分評価されているとは言い難く、そうしたリスクへの対応や回避が個々の利用者に委ねられている部分が大きい。その意味で、LLMが安心して誰にでも使ってもられるツールとなるために、開発者や研究者が取り組むべき課題は依然多い。1）https://llmc.nii.ac.jp/answercarefully-dataset/AnswerCarefully(AC)[1]はこうした背景を踏まえて開発・公開された、日本語オリジナルのLLMの安全性向上のためのデータセットである。ACは英語のDo-Not-Answerデータセット[2]に基づいた、5つの大カテゴリと12の中カテゴリ、56の小カテゴリからなる広範な有害カテゴリを採用しており、安全性・適切性の観点から「回答に注意が必要な質問」を広く収集している。また、インストラクションデータとしても使用できるよう、データは人手による高品質の質問と参考回答のペアからなっている。現在の最新版はVersion2(ACv2)で、計1,800件のデータを含んでおり、ACv2.2では、ACに基づいた多言語多文化対応を促進するため、プロンプトに英語の翻訳と、翻訳だけでは対応できないケースにはタグと詳細な説明を追加している[3]。本稿で紹介するデータは、ACv2までの目的と基本フォーマットを踏襲しつつも、新規に作成した