anchor・positive・negativeの各テキストからなるトリプレットを用いたtextembedding学習によるテキスト分類では、1.対象からのトリプレットのサンプリング、2.これを用いたtextembeddingの学習、の2ステップで学習を行う手法がある。従来のランダムなサンプリングに対して、本研究ではanchorテキストとpositiveテキストの識別をより難しくすることで性能向上が見込めるBetterNegativeSamplingを提案する。livedoorニュースデータセットから作成した均衡・不均衡データセットと、WRIME-ver2データセットからサンプリングしたデータセットを用いて性能を検証した。accuracyを評価指標に用い、ランダムなサンプリングに比べて0.5-1.3％の精度向上を達成した。

テキスト分類は言語処理タスクの中でも広く応用されているタスクであり、たとえばレビューの感情分析や英語文法の正誤判定[1]などに利用されている。近年ではBERT[2]などの事前学習モデルをClassiﬁerとしてファインチューニングする事例が多くみられるが、データセットに応じたtextembeddingを獲得し、訓練データとテストデータのtextembeddingの類似度から分類ラベルを予測する手法も考えられる。textembeddingを用いる手法では類似度を確信度として使うことができるなど実用上有利な点がある。テキスト分類のためのtextembeddingの学習には、anchorテキスト(基準となるテキスト)・positiveテキスト(anchorとの類似度が大きくなることが期待されるテキスト)・negativeテキスト(anchorとの類似度が小さくなることが期待されるテキスト)からなるトリプレットを分類の付与されたコーパスから構築し、このトリプレットの集合からtextembedding生成モデルの学習を行う手法が考えられる。本研究ではこのトリプレット集合の構築方法に着目した。具体的には、ランダムなサンプリングを行うベースラインに対して、negativeテキストのサンプリングに工夫を加えるBetterNegativeSamplingを提案する。トリプレットを用いた学習では、negativeテキストにanchorテキストとの分類が難しいhardnegativeなテキストを用いることがファインチューニングの精度を高めるのに有効である可能性が報告されている[6]。この知見をテキスト分類のためのtextembedding学習に適用するために、提案手法であるBetterNegativeSamplingでは、negativeテキストに「anchorテキストとラベルは異なるがtextembedding間の類似度が最も高いテキスト」を選択する。提案手法を用いることでよりテキスト分類に適したtextembeddingが得られると期待する。実験では、ラベルが付与されたlivedoorニュースデータセット1）から作成した均衡・不均衡データセットおよびWRIME-ver22）からサンプリングしたデータセットに対して、ランダムなサンプリングとBetterNegativeSamplingを用いてtextembeddingを学習し比較した結果、BetterNegativeSamplingを用いたモデルは約0.5％の精度向上を達成した。