R-Clarify:曖昧なユーザ発話に対して内省に基づく明確化を行う対話システム

日常的なユーザとエージェントの相互作用では、ユーザ発話に曖昧さが含まれることが多い。例えば「それ持ってきて」のような発話に対してエージェントが正確に応答したり適切な行動を実行したりすることが難しい。こうした曖昧さに対して先行研究では主に2つの方法が用いられてきた。1つは明確化対話を行う方法[1,2,3,4,5,6]、もう1つは可能な解釈を列挙し、それらを統合した応答を返す方法[7,8,9,10,11,12]である。現実世界の設定では、エージェントがもっともらしい行動をすべて実行することはできないため、対話を通じた明確化はより有望なアプローチである。こうした曖昧な発話に対応してユーザの潜在的な要求を満たしうるエージェントの行動として、気が利く行動（reﬂectiveactions）というものが提唱されている[13,14]。曖昧なユーザ発話に対するエージェントの気が利く行動を取り扱う拡張Do-I-Demand設定[14]では、単一のシナリオが複数の気が利く行動と関連付けられている。例えば、ユーザが外出しようとしているとき、「携帯電話を持ってくる」と「水筒を持ってくる」の2つの行動が正解としてラベル付けされている。しかし実際のユーザとエージェントの対話を考えた場合、ユーザは心内に真の要求を持っており、その意図と対応した行動をエージェントが選択できるかが求められる場合が多い。また真の要求とそこから表出する意図表現のパターンは状況やユーザの状態に紐づいているため、エージェントは気が利く行動を推論し、また過去の推論・行動の成功・失敗からさらに気が利く行動を導き出せるようになる必要がある。この課題に取り組むため、本論文ではAmbigAct-40データセットを定義する。AmbigAct-40は、ユーザが真に意図する気が利く行動と、その際にユーザが発話する曖昧な発話を付与した545インスタンスからなるベンチマークである。拡張Do-I-Demandデータセットの曖昧なユーザ発話に対してユーザの真の意図を定義している。また、過去の経験から気が利く行動を推論する枠組みを構築するため、Reﬂexion[15]に着想を得て、Reﬂection-GuidedClariﬁcation（R-Clarify）を提案する。これは、ユーザが持つ個人性と意図の関係をモデル化するため、ユーザとの明確化対話における失敗を記録して、その後の意思決定に活用する仕組みである。実験では、AmbigAct-40上でLLMエージェントがユーザの真の意図を見つけるのにかかるステップ数を定量化する新しい対話考慮型指標としてDPass@𝑘を提案し用いる。提案したR-Clarifyの枠組みを内省メカニズムとして実装したTrial-UpdatingReﬂection（TUR）を、標準的なReﬂexionモデル[15]と比較した。本研究の貢献は次の3点である：(1)日常環境下で曖昧な発話とユーザの真の意図、および明確化質問を用いたユーザ支援行動達成を目的とする新しいベンチマークAmbigAct-40を導入する；(2)明確化と内省Thisworkispublishedwithoutpeerreviewandislicensedbytheauthor(s)underCCBY4.0(https://creativecommons.org/licenses/by/4.0/).org/licenses/by/4.0/).ユーザ発話ちょっと休憩しようかなユーザ情報ユーザ発話ちょっと休憩しようかなユーザ情報<位置情報、所持物、周辺物品>周辺環境情報<位置情報、所持物、周辺物品>周辺環境情報<各エリアにおいて確認可能な物><各エリアにおいて確認可能な物>気が利く⾏動（単⼀ラベル）バナナを持ってくる気が利く⾏動（単⼀ラベル）コップを持ってくるインスタンス１インスタンス２複数インスタンスに分割する。エージェントの推論過程ユーザ発話エージェント<バナナやお菓⼦には糖分が含まれる。ケチャップは単独で⾷べるものではないため、まず果物かお菓⼦かを確認する>糖分が欲しいなユーザ情報⼊⼒①<位置情報、所持物、周辺物品>明確化質問明確化果物とお菓⼦、どっちがいい？周辺環境情報<各エリアにおいて確②実⾏認可能な物>ユーザ回答果物で。バナナを持ってくるケチャップを持ってくる40個の⾏動候補…お菓⼦を持ってくる明確化プロセス（複数回実⾏可）4Reﬂection-GuidedClariﬁcation明確化は不確実性を低減できる一方で、意図依存の曖昧さに対しては不十分なことが多い。すなわち、追加の証拠を収集した後であっても、エージェントの行動がユーザの真の意図を依然として取り違えている場合がある。この問題に対処するために、我々はReﬂection-GuidedClariﬁcation（R-Clarify）を提案する。これは明確化と内省を結合した枠組みである。R-Clarifyは過去の試行における失敗を活用し、ユーザ固有のメモを更新することで、より効果的な明確化質問を生成し、時間とともにユーザ意図に整合した行動予測を行えるようにする。4.1明確化報、環境コンテキストに条件付けられる。エージェントはまず発話が曖昧かどうかを評価する。曖昧である場合、明確化質問を行い、ユーザの回答をコンテキストに追加する。この手順を、エージェントが情報が十分だと判断するか、あるいは明確化の上限（quota）に達するまで繰り返す。その後、エージェントはExecuteを選択して当該試行を完了する。【試⾏1】ユーザ:「ちょっと休憩するね。」エージェント(内部推論):＜休憩中は⽔を飲みたがることが多そうだ。＞エージェント(実⾏):カップを持ってくる❌【内省メモ作成】次回は、休憩中に何をしたいのかをユーザに確認すべきだ。【試⾏2】ユーザ:「ちょっと休憩するね。」エージェント(明確化):「何か飲む？それとも何か⾷べる？」ユーザ:「何か⾷べたいな。」エージェント(内部推論):＜休憩中にお菓⼦を⾷べたがる可能性が⾼い。＞エージェント(実⾏):お菓⼦を持ってくる❌【内省メモ更新】ユーザは休憩中に何か⾷べたがる傾向がある。ただし、よりヘルシーな⾷べ物を好む可能性がある。【試⾏3】ユーザ:「ちょっと休憩するね。」エージェント(内部推論):＜メモによれば、休憩時は何か⾷べたがる傾向がある。ヘルシーな⾷べ物を好むかどうか確認しよう。＞エージェント(明確化):「果物、⾷べたい？」ユーザ:「うん。」エージェント(実⾏):バナナを持ってくる✅datingReﬂection（TUR）。各試行で実行に失敗すると、エージェントは単一の内省メモを更新し、次の試行へ引き継ぐ。更新メモは意図に関する手掛かりと失敗から得た教訓を要約し、後続の明確化を適切に導いて最終的に正しい行動実行を促す。4.2Trial-UpdatingReﬂection（TUR）Reﬂexion[15]は内省を行う効果的な仕組みであるが、過去の経験が長大なコンテキストとして積み上がってしまう。そこで我々は意図依存の曖昧さに特化した内省メカニズムとしてTrial-UpdatingReﬂection（TUR）を提案する。図3に示すように、TURは実行が失敗した後に、試行間で維持される単一のメモを更新する。ReAct[18]に従い、エージェントは各ClarifyまたはExecuteの意思決定前に短い内部推論（thought）を生成する1）。このメモは、ユーザの真の意図に関するこれまでの経験から得た教訓を圧縮し、次の試行のためのコンパクトな背景情報を提供する。Reﬂexionのように最新𝑘個のメモを入力に与えるのと比べて、単一の更新メモを維持することでコンテキストは上限を保つため、不確実性の高い部分に対応して明確化を行うよう戦略を学習することができる。5実験R-ClarifyをAmbigAct-40上で評価する。今回明確化質問は2回に限り許す。ユーザとしてはユーザシミュレーションを行うGPT-5.2を用い、エージェント1）簡単のため、図の例では試行の完全なトレースではなく、主要な推論ステップのみを可視化している。org/licenses/by/4.0/).Pass@𝑘(%)DPass@𝑘(%)Model𝑘=3𝑘=5𝑘=3𝑘=5GPT-5Nano62.5767.1659.1662.89Qwen3-30B65.5069.9159.9963.56Qwen3-Next-80B66.9775.2362.1768.95の明確化質問に応答させる。シミュレータにはプロンプトで真の意図を事前に与えるが、エージェントが特定の行動が必要かどうかを明示的に尋ねない限り、それを開示しないよう指示する。5.1評価指標このタスク設定において提案するR-Clarifyの有効性を示すため、以下の評価指標を用いる。Pass@𝑘.各インスタンスについて、エージェントは最大𝑘回の試行が許され、行動（Execute）が成功した時点で終了する。𝑘回以内の少なくとも1回の試行でエージェントが正解行動を実行した場合、その例は正しいとみなす。Pass@𝑘はデータセット中で正しいインスタンスの割合である。DPass@𝑘.タスク成功と明確化に掛かる対話のトレードオフを捉えるために、割引付きPass@𝑘（discountedPass@𝑘;DPass@𝑘）を提案する。インスタンス𝑖について、𝑘回以内で最初に成功した試行を𝑡★𝑖（存在しなければ∞）とし、試行𝑡★𝑖における相互作用ステップ数を𝑠𝑖とする（これは𝑡★𝑖<∞のときのみ定義される）。次の定義を用いる。DPass@𝑘(𝛼)=Pass@𝑘·𝔼[𝛼(𝑠𝑖−1)|𝑡★𝑖<∞],ここで𝛼∈(0,1)は、成功した相互作用が長いほど割り引く係数である。エージェントがClarifyを一切用いない場合、すべての成功試行で𝑠𝑖=1となり、DPass@𝑘はPass@𝑘に一致する。また、これらの指標に加えて、LLMエージェントの呼び出しに伴うトークン消費についても議論する。LLMエージェントは内省メモの作成および明確化質問にトークンを消費するため、トークン消費がどの程度発生するかについて、既存のReﬂexionモデルとの比較を行う。5.2実験結果バックボーンモデル間の比較のバックボーンモデル（GPT-5Nano、Qwen3-Next-80B-A3B-Instruct（以下Qwen3-Next-80B）、Qwen3-30B-A3B-Instruct-2507（以下Qwen3-30B））についてPass@kとDPass@kを報告している。いずれも戦略としてComponentsPass@𝑘DPass@𝑘VariantClarifyTUR𝑘=3𝑘=5𝑘=3𝑘=5R-Clarify(full)✓✓66.9775.2362.1768.95w/oTUR✓×54.6857.8053.5056.37w/oClarify×✓55.2359.08––w/oboth××51.9354.68––の比較。トークン数は成功インスタンス上で平均した。ΔはTUR−Reﬂexionを表し（トークンコストでは負の値ほど良い）。Reﬂexion[15]TUR(ours)ModelP@3Ref.TotalP@3ΔRef.ΔTotalGPT-5Nano61.101219849362.57-3+46Qwen3-30B63.12448485165.50-77-392Qwen3-Next-80B65.32433444966.97+52+271はR-Clarifyを用いた。Qwen3-Next-80BはPass@kとDPass@kの両方で最良の性能を達成する。Qwen3-30BとQwen3-Next-80BはPass@3では近い一方で、DPass@3では2.18ポイントの差があり、Qwen3-30Bは同程度のPass@3をより多くの明確化に依存して達成していることが示唆される。アブレーションよびTUR内省コンポーネントに関するアブレーション実験を示す。この結果から、TURを追加するとPass@𝑘とDPass@𝑘の両方が改善する。これはTURが単にタスク成功率を上げるだけでなく、割引コスト指標の下でより少ないユーザ相互作用で成功を達成できることを示している。さらに、ClarifyまたはTURのいずれかを除去すると一貫して性能が低下することから、両モジュールがこのタスクにおけるエージェント性能に寄与していることが示唆される。内省のトークン消費TURのトークン消費量をReﬂexion[15]と比較する。内省メモ生成トークン数と総トークン数を対象とし、Reﬂexionの標準設定（ウィンドウサイズ3）で統制した（表3）。その結果、いずれのバックボーンでもTURはトークン変化が小さい一方でPass@3を改善した。特にQwen3-30Bでは、内省・総トークン数の双方を削減しつつPass@3を向上させた。6おわりに本論文では、曖昧なユーザ発話に対する明確化対話を対象に、ベンチマークAmbigAct-40と統合手法R-Clarifyを提案した。実験より、提案手法はReﬂexion比でトークン差分が小さいにもかかわらず、明確化対話性能を向上させることを示した。org/licenses/by/4.0/).