意味、言語構造、言語の優位性を考慮した多言語文脈内学習

は、言語構造の類似では言語体系や使用地域[13,7]、多言語大規模言語モデル（MLLM）は、さまざま言語の優位性ではMLLMの学習データにおける言な言語のテキストを学習することで言語間の知識転語ごとのデータサイズ[11,5]を参考にヒューリス移を行う[1,2]。また、学習データから選択されたティックに事例の言語が選定されている。2つ目に少数の事例から学習する文脈内学習（ICL）により、関しては、既存研究は意味の一致と言語構造の類似パラメータ更新なしで様々なタスクにおいて高い性を明示的に区別しない多言語文埋め込み[2]を使用能を実現する[3]。MLLMにおけるICLでは言語間しており、それぞれの観点のバランスを最適化するの知識転移を有効に活用するために、多言語な事例ことができない。候補から事例を選択する手法がある。ICLの性能は本研究では、MLLMのICLにおける意味の一致、使用する事例に大きく依存するため事例の選択方法言語構造の類似、および言語の優位性の指標を定義が重要となる[4]。し、これらの項目を最適にバランスして事例を選択MLLMでのICLの事例選択に関する既存研究は、する手法(BalancedMulti-FactorICL;BMF-ICL)を提主に(1)意味の一致、(2)言語構造の類似、(3)言語案する。まず、項目ごとに定量化された基準を設けの優位性、の3項目に着目している。意味の一致をるために、我々は以下のようにそれぞれの項目を定考慮した研究では、推論対象となる入力と意味的に義する：意味の一致では、言語をまたいで意味を比類似する事例を選択する手法が提案され性能改善が較することに特化したLaBSE[14]の文埋め込みを用報告されている[5,6]。これは多言語に限らず単言いて入力と事例候補との類似度をスコアとする。言語におけるICLでも同様の結果が得られている[3]。語構造の類似では、言語ごとの形態や文法構造の特言語構造の類似に関しては、形態や文法構造が共通徴を考慮した言語埋め込みlang2vec[15]を用いて、している言語の事例を用いるほど、知識転移におい入力と事例候補それぞれの言語間の類似度をスコアて高い効果を発揮することが示されている[7]。ことする。言語の優位性では、事例候補の入力をモデれはICLに限らず、多言語データを用いたモデルのルに与えたときの正解の尤度をスコアとする。これ学習で同様の傾向が報告されている[8,9,10]。言語ら3つのスコアを最適なバランスで考慮して事例をの優位性では、言語ごとに推論性能に違いがあり、選択するために、項目スコアの重み付け和を最終ス英語のような高リソース言語のデータを事例としてコアとし、重み付けを開発データで最適化する。―1938―.我々はmCSQA[16]とTYDI[17]の2つのデータセットで既存研究と提案手法を比較する。4つのMLLMsを用いた実験の結果、既存手法と比較して、提案手法が最高精度を達成した。さらに、分析により3つの項目全てを考慮することの重要性と提案手法が多言語な事例を選択することを明らかにした。