主題化における人間と言語モデルの対照

人間は文脈から自明な内容を省略したり，先行する文脈に関連する情報を文頭に配置したりすることで，文章を滑らかに繋ぐ．本研究では，このような文章生成における談話レベルの選好について，ニューラル言語モデルが人間らしい振る舞いをしているかを調査する．特に日本語における項の主題化の選好に焦点を当て，クラウドソーシングを用いて大規模に人間の選好データを収集し，人間と言語モデルの選好を対照する．本実験の範囲では，主題化について言語モデルが人間とは異なる選好を示し，談話レベルの現象について言語モデルが人間と異なる汎化を行なっている可能性が示された．