Discord上における解釈困難なメッセージに対する大規模言語モデルによる解釈の可能性と課題

近年，SNSやオンラインチャットを利用したサイバー犯罪が増加している[1]．警察庁サイバー警察局によると，令和6年のSNS型投資・ロマンス詐欺の被害額は約1,268億円（前年比178.6%増）と急増しており[2]，暗号資産を悪用した詐欺や不正取引，ハッキングツールの売買など，インターネット空間における犯罪行為は年々多様化・巧妙化している．本研究の対象であるDiscordも，コミュニティ作成の容易さと高い匿名性から，犯罪者間の情報交換に利用されている[1,3]．特に悪質なコミュニティでは，専門用語やスラング，隠語，検出回避のための特殊表記が多用され，当該コミュニティの知識を持たない第三者による解釈を困難にしている．例えば，“Irugpulledyesterdayandmadebank.”というメッセージは一見意味不明だが，暗号資産の文脈では「トークンの価格操作による詐欺（rugpull）で大儲けした」と解釈できる．このように，犯罪に関連するメッセージは表層的な文理解のみでは捉えられず，特定分野の知識や文脈理解を必要とする．これまでにも，文章の解釈に対する影響について特定の語に対する認識の有無やコミュニティへの依存性が指摘されてきた[4,5]．また，スラングや新語について，辞書的定義と文脈情報を組み合わせた解釈手法や，大規模言語モデルを用いて動的に意味を推定する試みが報告されている[6,7]．さらに，犯罪行為を外部から察知されにくくするために意図的に作られた隠語に着目した調査も行われており，Discord上の犯罪コミュニティから多数の隠語が抽出されている[8]．一方で，実際の犯罪コミュニティにおけるメッセージでは専門用語や隠語，文法誤り等が混在する場合や，既存研究では言及されていない検出回避を目的とした表現手法が用いられる場合がある．そのため，既存研究の枠組みのみでは実際のメッセージの解釈困難性を十分に捉えられていない．そこで本研究では，解釈困難性の要因を「専門用語・固有名詞」，「スラング」，「隠語」，「単語の綴り・文法誤り」，「システムを欺く表現」の5種類に分類する．そのうえでDiscord上の悪質なコミュニティから収集したテキストチャットを対象とし，情報工学を専攻する日本人大学院生がこれらのメッセージをどの程度解釈できるのかを検証しつつ，各要因が解釈の成否に与える影響を分析する．加えて，LLMを用いた解釈実験を行うことで，人間との比較を通じて大規模言語モデルによる解釈の可能性と課題を明らかにし，サイバー犯罪の特定や早期発見への貢献を目指す．