大規模言語モデルを用いたマイクロブログに対する絵文字予測

昨今のSNSでは，ユーザーが絵文字を自分の文章に付与することにより，文章の表す感情を増幅，補完することが多い．絵文字はテキスト処理において無視できない存在になりつつある．多くの研究は絵文字を利用し，文章の意味を理解しようとしている．例えば，Golazizianら[4]の研究では，絵文字予測モデルを転移学習として利用し，アイロニー検出の精度の向上を達成している．一方，絵文字がない文章からその文章に最も相応しい絵文字を複数のクラスの中から予測し，正しいクラスに分類する絵文字予測タスクも存在する．絵文字予測タスクは，SNS上のポスト文への理解や意味分析において重要なタスクである．特にChatGPTのような大規模言語モデルの分類タスクにおいては，従来の分類モデルと異なり，文章の意味だけでなく，その絵文字の意味や使い方も理解し，文章と絵文字を対応させる必要がある．しかし，これまでの絵文字予測は全て英語を対象としており，日本語を対象とした絵文字予測に関する研究は存在しない．また，これらの関連研究で1）https://platform.openai.com/docs/models/gpt-3-5は，ラベルとしての絵文字の妥当性を考慮していない．絵文字には使い方や意味が似ているものが存在する．従って，絵文字予測はこれまでの分類タスクと違い，予測を行う前にデータセット内の絵文字を適切な絵文字グループに統合する必要がある．そこで本研究では，マイクロブログ(X)の日本語ポストを対象とし，グループ化した絵文字クラスを用い，大規模言語モデルChatGPT及び日本語BERT2）で絵文字予測を行い，その結果についての分析を行う．