機密情報検知における生成AIを用いたデータ拡張

業務のデジタル化に伴い情報管理に関するセキュリティリスクが高まっている．特に，個人や顧客に関する機密情報の漏えいは重大な問題である．電子メールやチャット，SNSの誤送信に加えて，最近ではChatGPTをはじめとした生成AIを活用する企業も増えており，情報漏えいのリスクは様々な場面に潜んでいる．情報漏えいを防ぐにあたり，重要なのは機密情報の送信を未然に防ぐことである．そのための一つのアプローチとして，入力文に含まれる機密情報を検知し，送信前にユーザに通知することが考えられる．これは自然言語処理分野では従来より固有表現抽出(NER)の文脈で取り組まれてきた．近年，固有表現抽出ではBERT[1]等の事前学習済み言語モデルを固有表現ラベル付きデータセットでファインチューニングする手法が主流である．しかしながら，問題設定によってラベル定義が異なることや，アノテータの確保等の観点から高品質なラベル付きデータセットを大規模に構築することは高コストである．一般に，このような課題への対処としては，既存のデータセットを元にしたデータ拡張が行われる[2,3]．固有表現抽出においても，単純なルールに基づく手法[4,5]や，言語モデルを利用し文の一部や全体を言い換える手法[6,7]等様々な手法でデータ拡張が行われている．ルールに基づく手法では，学習データセットの他の事例のエンティティを用いる，同一文内で順序を入れ替える等，限られた情報源を元にデータ拡張が行われることが多い．そのため，学習データの多様性が向上しないことが指摘されている[8]．これに対して，言語モデルを利用した手法では，言語モデルの表現力の範囲で多様性を大幅に向上できる可能性がある．既存研究では元の文と意味的な一貫性を保ったまま言い換えを行う等の手法の有効性が示されている[7]．しかしながら，企業や人物等に関する事実は今後も永続的に増えていくものであり，現時点で事実に反する記述も将来に渡って誤りであるとは言い切れない．したがって，現時点で事実として正しいことや，元の文と意味的に一貫していることは必ずしも重要ではないと考えられる．そこで本研究では，生成AIを用いた事実性に捉われない多様なデータ拡張を提案する．実験では，生成AIを用いてエンティティを拡張する手法により，ベースラインに比べF1で2.5%の大幅な精度向上を確認した．また，分析を通して，拡張したデータで学習することが文字種の複合を含む複雑な企業・法人名への頑健性を向上することが示唆された．.