サプライザルを用いた名言の改変しやすさの指標についての基礎的検討

本研究は，名言の安定性や改変のしやすさを検討するため，言語モデルBERTを用いてサプライザルを測定し，名言と対照文を比較した．本研究で用いるサプライザルの計算には，研究対象の性質上前方文脈のみでなく後方文脈も考慮している．測定の際は文の1語のみをマスクし，BERTに正解語の確率を出力させた．名言は全体的に単語や文の予測が容易であり，特に内容語において対照文との差が大きいことが明らかになった．これは名言がまとまりのある安定した表現であり，1語のみ改変する場合は内容語の置換が容易であることを示唆している．