AnswerCarefullyデータセットの拡張:地域的にデリケートな問題およびマルチモーダル質問の追加

大規模言語モデル(LLM)は、ChatGPTが2022年11月にサービス運用を始めてから急速に社会への浸透を深めつつある。この数年で、OpenAIやGoogle、Anthropicといった米国の提供者に加えて、QwenやDeepSeekなど中国製のモデルも高い品質を備えるようになり一般的に使用されるようになってきている。また、これらのモデルの多くはVLM(VisionLangugeModel)であり、画像の入力にも対応している。反面、こうしたモデルの回答の安全性や適切性が、モデル提供者によって日本語での使用をふまえて十分評価されているとは言い難く、そうしたリスクへの対応や回避が個々の利用者に委ねられている部分が大きい。その意味で、LLMが安心して誰にでも使ってもられるツールとなるために、開発者や研究者が取り組むべき課題は依然多い。1）https://llmc.nii.ac.jp/answercarefully-dataset/AnswerCarefully(AC)[1]はこうした背景を踏まえて開発・公開された、日本語オリジナルのLLMの安全性向上のためのデータセットである。ACは英語のDo-Not-Answerデータセット[2]に基づいた、5つの大カテゴリと12の中カテゴリ、56の小カテゴリからなる広範な有害カテゴリを採用しており、安全性・適切性の観点から「回答に注意が必要な質問」を広く収集している。また、インストラクションデータとしても使用できるよう、データは人手による高品質の質問と参考回答のペアからなっている。現在の最新版はVersion2(ACv2)で、計1,800件のデータを含んでおり、ACv2.2では、ACに基づいた多言語多文化対応を促進するため、プロンプトに英語の翻訳と、翻訳だけでは対応できないケースにはタグと詳細な説明を追加している[3]。本稿で紹介するデータは、ACv2までの目的と基本フォーマットを踏襲しつつも、新規に作成した