事前学習済みの分散表現は表層的な知識を獲得しているか

本研究では，事前学習済みのサブワード・単語の分散表現が表層的な知識（文字数や部分文字列）を獲得しているかを3つの観点から検証する．英語を主に学習した9つの分散表現について実験を行い，これらが文字数や部分文字列に関する情報はある程度捉えているが，どの文字が何番目に出現するかといった順序の情報は獲得できていないことを示す．