言語処理学会 第30回年次大会 発表論文集（2024年3月）

人材業界固有の表現を考慮した求人票のマルチラベル分類
原 龍昊 1 林 勝悟 1 Dat P.T. Nguyen1
1 株式会社ビズリーチ{longhao.yuan, shogo.hayashi, dat.nguyen}@bizreach.co.jp

概要
人材業界では，求人票や履歴書といった様々なテキストデータが存在し，その分類や予測が行われている．しかし，人材業界のテキストには専門用語などの固有の表現があるため，単純なテキスト分類モデルでは適切な分類が難しい．
本研究では，求人票の職種と業種のマルチラベル分類タスクに取り組む．まず，人材業界固有の表現に対応するために，求人票データを用いてドメイン特化 BERT モデルを訓練する．次に，無関係なテキストの影響を低減するために，文単位に分割した求人票のテキストと各カテゴリの埋め込みを BERT モデルを用いて生成し，各カテゴリとの最大類似度ベクトルに基づいてマルチラベル分類を行う．求人票
データセットを用いた評価を行い，提案手法は比較手法よりも優れた結果を出し，分布シフトの状況下でも有効に働くことを確認した．

1

はじめに人材の採用や管理を行う人材業界では，求人票や履歴書といった様々なデータが存在する．これらは主にテキストやカテゴリを持つ半構造化データとして表現され，システムで管理されている．例えば，求人票はポジション名や仕事内容といったテキストフィールドと，職種や業種といったカテゴリフィールドからなる．仕事内容を単一のカテゴリで表現することは難しいため，職種や業種はしばしば複数のカテゴリを持つマルチラベルとして表現される．
求人票のデータ形式はシステムごとに異なるため，あるシステムで管理されている求人票を異なるシステムで扱うためには，その形式に合わせて新たにデータを登録する必要がある．しかし，職種や業種はそれぞれ多数のカテゴリを持つため，システム間のカテゴリの対応関係を人間が正しく理解することは容易ではない．また，専門的な職種や業種には専門用語や固有の表現が存在するため，単純なテキスト分類手法では高い分類精度を達成することが難しい．例えば，求人票に「機械学習ライブラリの経験がある」という文がある場合，通常の手法は「ライブラリ」という単語を誤って書籍などの異なる文脈で意味を解釈してしまう可能性がある．
本研究では人材業界固有の表現を考慮した求人票のマルチラベル分類に取り組む．まず，人材業界固有の表現を学習するために，求人票データを用いてBERT モデルを訓練する．次に，無関係なテキストの影響を低減するために，文単位に分割した求人票のテキストとカテゴリテキストの埋め込みを訓練した BERT モデルを用いて生成する．それらの類似度行列を求め，各カテゴリとの最大類似度ベクトルに基づいて求人票のマルチラベル分類を行う．求人票
データを用いた評価を行い，提案手法は比較手法よりも高い性能を発揮したことを確認した．

2

関連研究

テキスト分類は自然言語処理分野の最も基本的なタスクの一つである．基本的なテキスト分類手法はまずテキストをベクトルに変換し，そのベクトルを分類モデルを用いて分類する．テキストのベクトルへの変換には，TF-IDF や BM25，BERT[1] といった手法を用いることができる．分類器として，ロジス
ティック回帰や Random Forest，Neural Networks などを用いることができる [2]．
機械学習や自然言語処理の技術を人材業界のデータに応用する研究は多数存在する．Luo らの研究
[3] では，T5 モデルを用いた質問応答タスクを通じて履歴書から学歴やスキルといった情報を抽出する試みが行われた．BERT モデルを用いた求人票からキーワード抽出 [4] や，求人票と履歴書のマッチン
グ [5] といった研究も存在する．Decorte ら [6] は，
BERT モデルを用いて履歴書の業界分類と求職者のキャリア予測を行った．日本語の求人テキストを用いた研究として，質問応答タスクを通じて求人情報を含むメール文書データから構造化データを抽出す― 1746 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

図 1 提案手法の流れ．

る研究も存在する [7]．
近年，ChatGPT をはじめとする大規模言語モデル

3.2求人 BERT の訓練が様々なタスクで成功を収めている [8]． しかし，求人票の埋め込みモデルとして Sentence BERT [9]大規模言語モデルを大量の求人票データに適用するを用いる．まず，求人票データを使用して，マスクためには多大なコストが必要であり，API の利用に言語モデルにより BERT モデルの事前訓練を実施す

はデータのセキュリティに関する懸念も存在する．

る．次に，類似するデータの組であるポジティブペ

そのため，本研究では比較的低コストかつセキュリ

ア，類似しないデータの組であるネガティブペア，ティが確保された環境で動作するモデルに焦点を当てる．

ポジティブペアとの識別が難しいネガティブペアであるハードネガティブペアを用いて BERT モデルの訓練を行う．経験的に，職種が同じ求人票は類似提案手法3する傾向にある．また，同一求職者に送られるスカ提案手法の枠組みは，求人票データを用いたドメウトの求人票は類似する傾向にあり，また同一求職イン特化 BERT モデル (求人 BERT と呼ぶ) の訓練，者が返信するスカウトの求人票も類似する傾向に求人票のテキストとカテゴリテキストの類似度ベクある．そこで，以下の条件を持つ求人票の組をポジトルの生成，マルチラベル分類からなる．枠組みのティブペア，ネガティブペア，ハードネガティブペ

全体の流れを図 1 に表す．

アとする．

3.1

• ポジティブペア

求人票データ– 同じ職種を持つ

本研究では「ビズリーチ」1）に登録されている求– 同じ求職者にスカウト送信，返信されて人票データの職種と業種のマルチラベル分類タスいる

クに取り組む．職種のカテゴリは 35 種類，業種の• ネガティブペア

カテゴリは 18 種類存在する．各求人票の職種と業種はそれぞれ 1 つ以上のカテゴリを持つ．テキスト– 同じ職種と業種を持たない– 同じ求職者から返信されていない

フィールドとして，ポジション，募集条件，仕事内– 募集企業が異なる

容，募集企業を持つ．職種と業種の分類に関係する• ハードネガティブペア

ポジション，募集条件，仕事内容のテキストを結合– 同じ職種と業種を持つ

して 1 つのテキストとする．

– 同じ求職者にスカウト送信されていない

1） 「ビズリーチ」は株式会社ビズリーチが運営するスカウト型転職サイトである．企業が求人票を添付したスカウトを求職者に送信し，求職者がそのスカウトに返信することで面談や面接などのマッチングが生じる．

― 1747 ―– 異なる求職者にスカウト送信，返信されている– 募集企業が異なる

This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

3.3

をまとめると，𝑥 に割り当てられるカテゴリ集合 𝑌ˆ

類似度ベクトルの生成は以下のように表現される．

求人票のテキストには，例えば企業の所在地や沿革など，職種や業種に特別関係しない冗長な文章が𝑌ˆ = { 𝑓 𝑗 (x) | 𝑓 𝑗 (x) > 𝜖, 𝑗 ∈ [𝑚]} ∪ {argmax 𝑗 ∈ [𝑚] 𝑓 𝑗 (x)}含まれていることが多々ある．このような文章は，実験では 𝜖 = 0.2 に設定する．

分類時のノイズとなるだけでなく，BERT モデルの入力トークンを消費してしまい，他の重要な文章が入力されなくなる可能性がある．そのため，求人票のテキストを文単位に分割してから求人票の埋め込

4

実験

4.1

データセット

訓練データとして，「ビズリーチ」に登録されてみ表現を求める．
提案手法は分類先のカテゴリテキストも活用する

いる求人票データ (ビズリーチデータと呼ぶ) を用いために，カテゴリテキストの埋め込みと求人票の埋る．BERT モデルの訓練には，5 万組のポジティブめ込みの類似度に基づいてマルチラベル分類を行ペア，10 万組のネガティブペア，10 万組のハードう．求人票のテキスト 𝑑 を文単位に分割して 𝑛 の文集合 {𝑠1 , 𝑠2 , . . . , 𝑠 𝑛 } を得る．BERT モデル 𝐸 により，ネガティブペアを使用する．また，マルチラベル分各文と 𝑚 のカテゴリテキスト {𝑐 1 , 𝑐 2 , . . . , 𝑐 𝑚 } の埋めする．

類モデルの訓練には，5 万件の求人票データを使用

込 み 𝐸 (𝑠1 ), 𝐸 (𝑠2 ), . . . , 𝐸 (𝑠 𝑛 ), 𝐸 (𝑐 1 ), 𝐸 (𝑐 2 ), . . . , 𝐸 (𝑐 𝑚 )評価データとして，「ビズリーチ」の求人票デーを生成し，これらの類似度行列 X を求める．本研究タ 2 万件を用いる．また，インターネット上に公開

では，文 𝑠𝑖 とカテゴリテキスト 𝑐 𝑗 の類似度としてされている求人票データ (外部データと呼ぶ)188 件以下の cosine 類似度を用いる．

を用いた評価も行う．ここでは，外部データに対し𝑋𝑖 𝑗 =てビズリーチデータの職種カテゴリと業種カテゴリを割り当てることが目的であり，正解カテゴリは人𝐸 (𝑠𝑖 ) · 𝐸 (𝑐 𝑗 )∥𝐸 (𝑠𝑖 ) ∥ ∥𝐸 (𝑐 𝑗 )∥各カテゴリごとに最大類似度を求め，𝑑 の特徴量として 𝑚 次元ベクトル x を得る．

3.4

手で作成した．

4.2

マルチラベル分類

BERT モデルの設定

BERT モデルとして，大量の求人票データを高速

本研究では大量の求人票データを処理できるように，軽量なロジスティック回帰モデルをベースモデルとする一対他分類器を採用する．求人票とカテゴリの類似度ベクトル x に対して，関数 𝑓 𝑗 ( 𝑗 ∈ [𝑚])を適用して，カテゴリ 𝑗 が割り当てられる確率を以下のように求める．に処理できるよう，合計パラメータ数が 1, 500 万程度の比較的に軽量なモデルを用いる．ネットワーク構造は 8 層の transformer 層と平均 pooling 層からなる．埋め込みベクトルの次元は 256 であり，最大入力トークン数は 2048 である．トークナイザーとして SudachiPy[10] を用いる．Transformers ライブラリ[11] で BERT モデルの実装を行った．

𝑓 𝑗 (x) = 𝜎(w 𝑗 · x + 𝑏 𝑗 )4.3

ここで，w 𝑗 は 𝑚 次元の重みベクトル，𝑏 𝑗 はバイアス項，𝜎 はシグモイド関数である．訓練データセットを用いてパラメータ w 𝑗 , 𝑏 𝑗 ( 𝑗 ∈ [𝑚]) を最適化する．
「ビズリーチ」の求人票は 1 つ以上のカテゴリを持つが，一対他分類器は不均衡データの問題により，各カテゴリの分類確率が低くなる傾向がある．
そこで，推論時に分類確率がハイパーパラメータ𝜖 > 0 より高いカテゴリを割り当てる．いずれのカテゴリの分類確率も 𝜖 より上回らない場合には，最も高い分類確率を持つカテゴリを割り当てる．以上

比較手法

本研究の目的は人材業界固有の表現を学習することにより，求人票データの分類精度を向上させることである．そこで，提案手法を以下の固有の表現を学習していないベクトル化手法である TF-IDF と一般的な公開コーパスで訓練された BERT モデル2）(一般 BERT と呼ぶ) を比較手法として用いる．求人票のテキストを文単位に分割してからベクトル化する場合と，分割せずにベクトル化する場合の比較を行う．ベクトル化した後の処理は，提案手法と同じで
2） https://huggingface.co/pkshatech/simcse-ja-bert-base-clcmlp― 1748 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

手法

文単位分割

TF-IDF
TF-IDF
一般 BERT
一般 BERT
ファインチューニング済み求人 BERT
求人 BERT(提案手法) 求人 BERT

なし
あり
なし
あり
なし
なし
あり

表1

ビズリーチデータ
Accuracy Macro-F Micro-F

Accuracy

0.56010.51890.53180.44880.60690.54050.62070.53530.4456
0.53100.44890.51270.5405
0.58100.26370.24760.25600.15810.27180.24400.49630.60250.5656
0.57570.50030.65870.58110.6682

外部データ
Macro-F Micro-F
0.19960.20460.18780.10390.21690.24400.31500.58590.53510.57680.48930.57400.58110.6598職種予測の評価結果．太字は最も良い結果を示している．

手法

文単位分割

TF-IDF
TF-IDF
一般 BERT
一般 BERT
ファインチューニング済み求人 BERT
求人 BERT(提案手法) 求人 BERT

なし
あり
なし
あり
なし
なし
あり

表2

ビズリーチデータ
Accuracy Macro-F Micro-F

Accuracy

0.5366
0.40820.54920.42750.6181
0.42270.53720.70420.82440.77530.84060.87250.42270.90730.26800.15000.33590.14680.40240.15220.39150.57570.44360.59020.45920.67150.45340.5824

外部データ
Macro-F Micro-F
0.17840.20460.16970.20310.28120.15220.39910.75340.85860.81390.86740.89460.45340.9297

業種予測の評価結果．太字は最も良い結果を示している．

ある．

い性能を発揮できた理由は，求人票のテキストを文また，文単位の分割なしのテキストを入力とし単位に分割することにより分類において無関係なテて，求人 BERT をマルチラベル分類タスクでファイ

キストの影響を低減し，求人票のテキストを用いてンチューニングしたモデル (ファインチューニング

訓練された BERT モデルにより人材業界固有の表現済み求人 BERT と呼ぶ) との比較も行う．

を獲得できたからだと思われる．

4.4

マルチラベル分類タスクで求人 BERT モデルの評価指標

評 価 指 標 と し て，以 下 で 定 義 さ れ る Accuracy，Macro-F1，Micro-F1 を用いる．

Macro-F1 =案手法よりも良い結果を出した．しかし，ファイン
チューニング済み求人 BERT はビズリーチデータに1 ∑ |𝑌𝑖 ∩ 𝑌ˆ𝑖 |𝑁 𝑖=1 |𝑌𝑖 ∪ 𝑌ˆ𝑖 |𝑁Accuracy =ファインチューニングを行ったファインチューニン
グ済み求人 BERT は，業種予測タスクにおいては提最適化されるように訓練されているため，求人票のテキストや職種，業種の分布がビズリーチデータと𝑚∑

2𝑝 𝑗 𝑟 𝑗
1𝑚 𝑗=1 𝑝 𝑗 + 𝑟 𝑗

異なる外部データにおいて最も優れた結果を出すこ2𝑝𝑟𝑝+𝑟の類似度に基づいて予測を行うことで，ビズリーチ

Micro-F1 =とができなかった．一方で，提案手法は人材業界固有の表現を学習し，求人票のテキストとカテゴリとデータと外部データの分布が異なっていても高い性

ここで，𝑁 はデータ数，𝑌ˆ𝑖 と 𝑌𝑖 はそれぞれデータ 𝑖能を発揮することができたと思われる．の予測カテゴリ集合と正解カテゴリ集合，𝑝 𝑗 と 𝑟 𝑗

5はそれぞれカテゴリ 𝑗 に関する適合率と再現率，𝑝と 𝑟 はそれぞれデータとカテゴリ単位の適合率と再現率を表す．

4.5

結果

まとめ
本研究では，人材業界固有の表現を獲得するために，求人票データを用いてドメイン特化 BERT モデ
ルの訓練を行った．また，無関係なテキストの影響を低減するために，求人票のテキストを文単位に分各手法の職種と業種予測の評価結果をそれぞれ表割してから，各カテゴリとの最大類似度を用いてマ1 と表 2 に示す．求人票のテキストの文単位の分割

ルチラベル分類を行う手法を提案した．職種と業種を行い，ドメイン特化の求人 BERT を用いる提案手のマルチラベル分類タスクにおいて，提案手法は優法は，ビズリーチデータの業種予測問題を除いて，れた性能を発揮し，分布シフトにも強いことを確認

比較手法よりも優れた結果を出した．提案手法が高した．

― 1749 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

参考文献[1] Santiago González-Carvajal and Eduardo C Garrido-Merchán.
Comparing bert against traditional machine learning text classiﬁcation. arXiv preprint arXiv:2005.13012, 2020.
[2] Andrea Gasparetto, Matteo Marcuzzo, Alessandro Zangari, andAndrea Albarelli. A survey on text classiﬁcation algorithms: Fromtext to predictions. Information, Vol. 13, No. 2, p. 83, 2022.
[3] Yuxin Luo, Feng Lu, Vaishali Pal, and David Graus. Enhancing
resume content extraction in question answering systems throught5 model variants. In RECSYS in HR 2023 : the 3rd Workshop
on Recommender Systems for Human Resources (RecSysin HR 2023), Proceedings, Vol. 3490, 2023.

[4] Hussain Falih Mahdi, Rishit Dagli, Ali Mustufa, and Sameer
Nanivadekar. Job descriptions keyword extraction using attention based deep learning models with bert. In 2021 3rd International Congress on Human-Computer Interaction, Optimization and Robotic Applications (HORA), pp. 1–6. IEEE, 2021.

[5] Changmao Li, Elaine Fisher, Rebecca Thomas, Steve Pittard, Vicki
Hertzberg, and Jinho D Choi. Competence-level prediction and resume & job description matching using context-aware transformermodels. In Proceedings of the 2020 Conference on Empirical Methods in Natural Language Processing (EMNLP), pp.
8456–8466, 2020.
[6] Jens-Joris Decorte, Jeroen Van Hautte, Johannes Deleu, Chris
Develder, and Thomas Demeester. Career path prediction using
resume representation learning and skill-based matching. In RECSYS in HR 2023 : the 3rd Workshop on Recommender Systems for Human Resources (RecSys in HR 2023), Proceedings, Vol. 3490, 2023.

[7] 川崎拳人. 非構造化データの構造化における情報抽出. 研究
報告音声言語情報処理 (SLP), Vol. 2020, No. 16, pp. 1–6, 2020.
[8] Tianyu Wu, Shizhu He, Jingping Liu, Siqi Sun, Kang Liu, QingLong Han, and Yang Tang. A brief overview of chatgpt: The
history, status quo and potential future development. IEEE/CAA
Journal of Automatica Sinica, Vol. 10, No. 5, pp. 1122–1136,2023.
[9] Nils Reimers and Iryna Gurevych. Sentence-bert: Sentence embeddings using siamese bert-networks. In Proceedings of the2019 Conference on Empirical Methods in Natural Language
Processing and the 9th International Joint Conference on
Natural Language Processing (EMNLP-IJCNLP). Associationfor Computational Linguistics, 2019.
[10] Kazuma Takaoka, Sorami Hisamoto, Noriko Kawahara, Miho
Sakamoto, Yoshitaka Uchida, and Yuji Matsumoto. Sudachi: Ajapanese tokenizer for business. In Proceedings of the EleventhInternational Conference on Language Resources and Evaluation (LREC 2018), 2018.

[11] Thomas Wolf, Lysandre Debut, Victor Sanh, Julien Chaumond,
Clement Delangue, Anthony Moi, Pierric Cistac, Tim Rault, RémiLouf, Morgan Funtowicz, et al. Transformers: State-of-the-art natural language processing. In Proceedings of the 2020 conference on empirical methods in natural language processing:system demonstrations, pp. 38–45, 2020.

― 1750 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).