人間と機械学習のモデルそれぞれに扱いやすいトークン分割に関する実験と考察

本稿では，NLPにおける機械学習のモデルの性能が向上するようなトークン分割と，人間に読みやすいトークン分割の関係について議論する．JGLUEに含まれるJCommonsenseQAデータセットに対して複数のトークン分割を行い，機械学習のモデルによる正解率と，人間のアノテータによる正解率と回答速度を比較する．分析より，人間に読みやすいトークン分割と機械学習モデルの正解率が高くなるトークン分割は必ずしも一致しないことが示唆された．