文埋め込み方向介入評価における符号一貫性の擬似生成

文埋め込み表現に対し，教師なし辞書学習で得られた因子方向に沿った介入を行うと，多数の入力で下流指標が同符号に変化する場合がある．本稿はこの挙動を符号一貫性として定式化し，因子方向の意味性とは独立に，埋め込みの異方性と評価設計の相互作用により高く観測され得ることを示す．日本語文埋め込みとMIRACL-ja検索を用いた介入実験の結果，辞書学習因子方向とランダム方向の符号一貫性は，whiteningや主成分除去による幾何的操作によって同水準まで縮退することが確認された．これらの結果は，因子方向の意味性を主張するには，表現幾何および評価設計を制御した対照実験が不可欠であることを示唆する．