文脈内学習におけるデモの親和性と多様性の提案

文脈内学習(In-ContextLearning;ICL)において,デモンストレーション(デモ)の選択はタスク性能に大きな影響を与える.既存研究ではデモの選択手順については研究されているが,選択基準であるデモの性質は十分に調べられていない.本研究では,デモの「親和性」と「多様性」という2つの性質を新たに提案し,その内の親和性が性質が複数のモデルおよびデータセットにおいてデモ選択に望ましい性質であることを示した.さらに,既存手法で選ばれたデモが,2つの性質のタスク性能を向上させる方向へ集約していることを示し,デモ選択とタスク性能のメカニズム解明への示唆を得た.