潜在的正規分布によるイベントの時間関係の推定

自然言語処理タスクの多くで，イベントが持つ時間的常識の理解は重要である．しかし，イベントの時間を意味する直接的な表現は文章内では省略されやすい．イベントに含まれる時間の理解のためには，自然言語で表現されるイベントのさまざまな時間的側面について，文脈的な知識を持っている必要がある．例えば，我々は「眠る」と「夢を見る」というイベントでは「眠る」の方が「夢を見る」よりも期間が長いことや，この二つのイベントが同時に起こることを理解できる．このような常識を踏まえた理解や推論をコンピュータにさせることは，挑戦的な課題となっている．これまで，時間幅や時間の順序関係をモデル化したタイムラインの構築[2]や潜在的なイベントに関する時間関係にも注目する[3]など，様々なアプローチが模索されている．近年，BERT[4]などの事前学習済み言語モデルが幅広い自然言語処理タスクで大きな成果を上げているが，これらのモデルは時間推論においては未だ性能が低いと言われており[5]，汎用言語モデルを改善し時間的な常識におけるタスクの精度を上げる試みがなされている[6][7]．しかし，日本語に関する時間的な常識を捉えた研究は未だ少ない．そこで，我々は日本語における時間的常識に基づAllenの時区間関係時間順序ラベルAbeforeBA<BAmeetsBAafterBB<AAmetbyBAoverlapsBAstartsBA≤BAstartedbyBAoverlappedbyBAﬁnishesBB≤AAﬁnishedbyBAequalsBAduringBA=BAcontainsBく理解に焦点を当てて研究を進めており，本研究ではイベントの時間を潜在的な確率分布として捉え，イベント間の時間関係を推定する．先行研究[8]では単純なラベル分類タスクとしていたが，イベントの時間情報は離散的なラベルで一意に決められるものではなく，分布として捉えるべきだと考える．本研究では，イベントの時間分布を相対的な対数時間における潜在的な正規分布で表現し，二つのイベントの時間分布から，そのイベント間の正しい時間関係を推定することを目指す．