奈良女子大学大学院
修士論文

オンライン論文検索のための
アブストラクトを用いた
論文分類支援モデルの設計と実装

柏木 裕恵
人間文化研究科 博士前期課程
情報科学専攻
指導教官 ： 城 和貴

 年  月

概 要オンラインで必要な論文を検索する際，アブストラクトの情報のみ閲覧可
能である場合が多いが，

 上にある大量のアブストラクトを人間がすべて読んで必要であるかを判断することは実質不可能である．従来の論文分類システムでは分類に論文が必須であるため，論文を入手していない論文検索段階では分類を行うことができない．そこで本修士論文では，アブストラク
トを用いた論文分類支援モデルを提案する．分類手法としてこれまでに多くのテキスト分類の研究で用いられている機械学習法を採用する．
提案する論文の分類支援モデルの構成は以下のようになる．まず，探索対象であるか否かが既知であるトレーニングデータと未知であるテストデータを用意し，アブストラクトの特徴を多次元のベクトルで表現した特徴ベクトルを作成する．トレーニングデータの特徴ベクトルを使用して機械学習を行
い，学習結果をテストデータに適用し，探索対象の論文のアブストラクトであるかを判断する．このシステムにより人間はシステムが探索対象であると判断した論文のみを読んで必要な論文を入手することが可能になるため，論文を読む労力を軽減することができる．
提案したモデルが有効であることを示すために，原子分子物理学分野の論文をアブストラクトのみで分類するシステムを開発する．ここで，提案モデル
を原子分子物理学分野の論文へ適用する際に留意すべき点について述べる．原
子分子物理学分野の論文には化学式等の原子分子に関する特異な表現（，  ）が含まれている．本修士論文において，この特異表現を化学式と略記する．化学式には空白が含まれている場合や，著者によって書き方が異なる場合があるため，化学式が書かれている部分を一般的な単語と同じように機械に認識させることが容易ではない．そのため，論文を機械的に分類する
ことは困難である．本研究では化学式に対して前処理を施すことにより，化学式に関する問題を解決する． システムの評価には，認識率，再現率，適合率を使用する．認識率とは，テストデータが正しく分類された率をいう．再現率は，探索対象であると認識されるべきデータが正しく分類された率であり，適合率は，探索対象であると認識されたデータに対する本来の探索対象
データの含有率を示す．本研究では，再現率がもっとも重要であるとする．特徴ベクトルはシステムの性能に大きく関わってくるため，特徴ベクトルを作成する作業は，機械学習法を使用するにあたって最も重要な作業である．
提案モデルを基に，原子分子物理学分野の論文を原子分子の特性データが掲載されている論文と掲載されていない論文に分類するシステムと，原子分子の特性データが掲載されている論文をさらに分類するシステムを開発する．
これら

 つのシステムの評価より，本モデルの有効性を立証する．

目次
はじめに

 テキスト分類

 論文分類支援モデルの提案

 原子分子物理学分野の論文への適用 評価方法 本モデルの性能評価

 化学式に対する前処理                        つの論文分類支援システムの設計                特徴ベクトル                             単語・用語の出現頻度を用いる場合             ・ 法を使用する場合             文章頻度を使用する場合               アブストラクトから専門用語辞書を作成し用いる場合    単語と化学式の組み合わせを使用する場合          化学式と文章数の関係を用いる場合             学習方法                                分類対象の論文                            システム  に用いるデータセット              システム  に用いるデータセット              評価尺度                                システム  についての評価                     ・ 法を使用する場合                 使用する文書集合，出現頻度の違いによる比較実験                        参照ベクトル数の違いによる比較実験      参照ベクトルの属するカテゴリの割合の違い
による比較実験                   文章頻度を使用する場合                   アブストラクトから専門用語辞書を作成し用いる場合  その他の特徴ベクトル作成方法               つの  を用いる場合                  人間による論文分類の模倣実験              特徴ベクトルの次元数                    システム  についての評価                     まとめ



謝辞



研究業績





図目次







再現率と適合率                           
化学式へのタグの挿入                       の出力ファイル                   特徴ベクトル  
 の作成方法             特徴ベクトル  ，  の認識率            特徴ベクトル  ，  の再現率            特徴ベクトル  ，  の適合率            特徴ベクトル  ，  の認識率       特徴ベクトル  ，  の再現率       特徴ベクトル  ，  の適合率       特徴ベクトル  ，  の認識率           特徴ベクトル  ，  の 再現率           特徴ベクトル  ，  の適合率           
実験  における特徴ベクトル  の要素数の変化    
実験  における特徴ベクトル  の要素数の変化  
実験  における認識率                    
実験  における再現率                    
実験  における適合率                    
実験  における認識率                    
実験  における再現率                    
実験  における適合率                    
実験  における認識率の変化                 
実験  における再現率の変化                 
実験  における適合率の変化                 
実験  において  件のデータを使用した際の認識率    
実験  において  件のデータを使用した際の再現率    
実験  において  件のデータを使用した際の適合率    
システム概要




















 実験  において   件のデータを使用した際の認識率の変化                                  実験  において   件のデータを使用した際の再現率の変化                                  実験  において   件のデータを使用した際の適合率の変化                                 を使用した場合の認識率，再現率，適 特徴ベクトル 


特徴ベクトル  を使用した場合の認識率，再現率，適合率                            

合率





 特徴ベクトル を使用した場合の認識率，再現率，適合率                               つの  の適用イメージ                     方法  によるテストデータの認識率・再現率・適合率     
方法  によるテストデータの認識率・再現率・適合率     
方法  によるテストデータの認識率・再現率・適合率     



表目次




特徴ベクトル  と特徴ベクトル  を用いた場合の
















!"                             特徴ベクトル と特徴ベクトル を用いた場合の再現率 !"                             特徴ベクトル と特徴ベクトル を用いた場合の適合率 !"                             
 特徴ベクトル と特徴ベクトル を用いた場合の認識率 !"                         と特徴ベクトル を用いた
 特徴ベクトル 
場合の再現率 !"                         
 特徴ベクトル と特徴ベクトル を用いた場合の適合率 !"                         特徴ベクトル を使用した場合の認識率，再現率，適合率の平均値                            
 つの  を使用した場合の認識率，再現率，適合率の平均値 
認識率











  はじめに
近年，論文のオンライン化や検索エンジンの改善により，大量の論文の中からオンラインで論文を入手することが可能になっている．ところがそれに伴い，必要な論文だけを見出すことが困難になっている．これは，多くのオンラインジャーナルにおいて，論文検索時に我々が論文の内容として閲覧できるのは，題名やアブストラクトの部分のみであるため，アブストラクトの内容だけで必要な論文を判断することが難しいことに起因する．また，



上に存在する膨大な量のアブストラクトを，人間がすべて読んで必要であるかを判断することが不可能であることも要因のひとつである．これらの問題
点を解決するために，機械による認識が必要になってくる．機械による論文#$ の研究分野に属する．現在までにテキスト分類に対する非常に多くの学習法が提案されており，その有効性が示されている #$．

の分類は，テキスト分類

しかし，機械学習法を用いた従来の論文分類システムを構築する際には論文そのものが必要であることから，アブストラクトによる論文検索時には役に立たない．そこで本修士論文において，アブストラクトのみを使用して機械学習を行う論文分類支援モデルを提案する．このモデルは，オンライン論文検索の際に人間が読まなければならないアブストラクトの量を減らし，人間にかかる負荷を軽減するためのモデルである．提案したモデルが有効である
ことを示すために，原子分子物理学分野の論文をアブストラクトのみで分類するシステムを開発する．本研究は，日本原子力研究開発機構，核融合科学研究所との共同研究# $ である．提案モデルを基に，原子分子物理学分野の論

文を原子分子の特性データが掲載されている論文と掲載されていない論文に分類するシステムと，原子分子の特性データが掲載されている論文をさらに分類するシステムを開発し，分類対象に合う論文の特徴の表現方法を探し出すことにより，システムの有効性を検証する．これらから，本モデルの有効性を示す．

 つのシステムの評価

 章にて，これまでのテキスト分類に関する研究や一般に用いられる評価尺度について説明し， 章にて論文分類支援モデルを提案する． 章，
章においてモデルの適用方法とシステムの評価方法について述べ， 章で論
以下

文分類支援モデルの評価を行う．







テキスト分類#$ とは，論文や電子メール等のテキストドキュメント（以下， つ以上のカテゴリに分類する
処理のことをいう．情報検索や自然言語の分野において，非常に注目されてきた重要課題である．分類技術としては   年代より機械学習による手法
テキスト分類テキストと表記）を，あらかじめ決められたが主流となっている．これは，大量のテキストデータが利用可能になったことや，コンピュータの性能が大幅に向上したことによるものである．これまでにテキスト分類に対する非常に多くの学習法が提案されている．機械学習法では，一般にトレーニングデータを用いて学習を行い，その学習結果を基に未分類のデータ（テストデータ）を分類する．代表的なものとして，%&'#$，決定木 #$，ブースティング #$ やサポートベクターマシン # $ を適用した例があり，それらの有効性が示されている．% &' は &' の規則を利用した分類器，決定木は可読性の高い分類器である．ブースティン
グは，分類精度の低い分類器を組み合わせることで高精度な分類器を得る方法のひとつであり，サポートベクターマシンは，トレーニングデータを正例と負例に分け，かつ，正負例間のマージンが最大になるように超平面を求める学習器である．また，近年ではカテゴリの重複を許してテキストを分類するためのモデル# $ も提案されている．

テキスト分類器や情報検索モデルの評価には，一般に認識率や再現率，適合率と呼ばれる評価尺度を用いる．認識率とは，テストデータが正しくカテゴリに分類された率をいう．再現率（()) ）は，探索対象であると認*'+, ）

識されるべきデータが正しく分類された率であり，適合率（

は，探索対象であると認識されたデータに対する，本来の探索対象データの含有率を示す．

 "  "

全テストデータセット
カテゴリ  のテストデータセット
データセット  の要素数
データセット  においてカテゴリ

 であると認識された

データセット  "

データセット  においてカテゴリ
カテゴリ

  "

 のデータセット

データセット  においてカテゴリ
カテゴリ

 のデータセット であると認識された
 であると認識された以上の記号を用いると，

  " -   " .   "  " -   " .   " -   " .   "が得られ，再現率，適合率は図 を用いて次のように定義できる．

E
R1 ( E )E1
R1 ( E1 )図

/ 再現率と適合率

-  " " -  """




 "
  -    "" -   """"

テキストの分類に際しては，テキストの特徴を多次元のベクトルで表現することが多い．本論文ではこのベクトルを特徴ベクトルとよぶ．特徴ベクトルの各要素は，テキストに含まれている各単語やキーワードが出現するか否かという 値，あるいは出現頻度を用いて重み付けを行い実数値で表す場合が多い．本研究では単語や用語の出現頻度を用いる他，再現率を向上させる
ために，重要語との相関関係を用いる特徴ベクトルを作成する．



論文分類支援モデルの提案
本研究において提案する論文の分類支援モデルの目的は，人間がより効率 件のアブストラ
クトを読んで必要な  件を探し出さなければならない場合に， 件のアブストラクトを読んで探し出せるようにする．分類手法として機械学習法を用いる．モデルは図  のような構成になっている．このモデルを基に開発する的に論文を探索できるようにすることである．例えば，システムにより，人間はシステムが探索対象であると判断した論文のみを読んで必要な論文を入手することが可能になるため，論文を読む労力を軽減することができる．以下にモデルの作成手順を示す．



トレーニングデータ（論文本体とアブストラクト），テストデータ

 ）を入手する．トレーニングデータは論文）と探索対象でないもの（）に分類する． をカテゴリ ， をカテゴリ  に割り当てる．
 ，， の各アブストラクトに前処理を施し，特徴ベクトルを（アブストラクトのみ，の内容から探索対象であるもの（



作成する．




01 で作成された ， の特徴ベクトルを使用し機械学習を行う．
 01 で作成された分類器に  の特徴ベクトルを適用し，探索対象
の論文のアブストラクトであるかを判断する．

トレーニングデータ

テストデータ未分類の論文のabstract

探索対象である 探索対象でない論文のabstract 論文のabstract
D1

D2

abstract
abstract
abstract
abstract
abstract

abstract
abstract
abstract
abstract
abstract

学習 ①

abstract
abstract
abstract
abstract
abstract
abstract
abstract

D3②

Learning
Phase

機械学習

分

類

分類
図

Test Phase器

探索対象である探索対象でない

abstract
abstract
abstract
abstract

abstract
abstract
abstract
abstract

Category 1

Category 0

/ システム概要

01 の前処理として，論文に含まれている単語に対して，ストップワー
ドを除去しステミング処理を行う．ストップワードとは，冠詞，前置詞，接続詞等を指す．あらゆる文章に含まれているため，論文の特徴を表す単語と

しての重要度は低い．したがって，文章から除去する．ステミングとは単語の語幹を解釈する手法である．この処理を行うことにより，語幹の様々な変化形とマッチングさせることが可能となる．本研究では，最も広く利用されている有名な*+ ',2 )2+3# $ を使用した *) モジュール #$を用いてステミングを行う．



原子分子物理学分野の論文への適用
章で提案したモデルの有効性を検証するため，原子分子物理学分野の論文への適用を行う．
ここで，原子分子物理学分野の論文へ適用する際に留意すべき点について述べる．原子分子物理学分野の論文には化学式等の原子分子に関する特異な表現 が含まれている．本論文において，この特異表現を化学式と略記する．
化学式には空白が含まれている場合や，著者によって書き方が異なる場合がある．よって化学式が書かれている部分を，一般的な単語と同じように機械に認識させることが容易ではないため，論文を機械的に分類することは困難である．ゆえに原子分子物理学分野の論文分類において，機械学習法を適用してきた例はない．本研究では化学式に対して前処理を施すことにより，化学式に関する問題を解決する．

 節で化学式に対する前処理について述べ， 節で提案モデルを
 節， 節にて特徴ベクトル，

以下，適用する つのシステムについて説明する．
今回用いる学習方法について解説する．



化学式に対する前処理

論文から単語を抽出する際に， つの化学式が複数の化学式，あるいは単語として抽出されることのないように，原子分子物理学分野の論文に含まれ%4 原子分子重要表現抽出システ
ム #$ を用いて化学式に前処理を施す．このシステムでは，アブストラクトの化学式の部分を色付きで表示させる 5 6 ファイルが作成される．我々はる化学式に対して前処理を行う．我々はその出力結果を利用して，化学式の部分に化学式であることを表すタグを挿入する．図はその具体例である．これらのタグによって機械的な化学式の認識を可能とする．
・・・ perturbed 3d<sup>10</sup>5p <sup>2</sup>P<sub>3/2</sub>state of neutral.
・・・ For <sup>63</sup>Cu we obtained ・・・

化学式を認識するためのタグを挿入
・・・ perturbed <CHEM5>3d<sup>10</sup>5p</CHEM5><CHEM6><sup>2</sup>P<sub>3/2</sub></CHEM6> state ofneutral.
obtained

・・・ For <CHEM4><sup>63</sup>Cu</CHEM4> we
・・・

図

例えば

 ，

/ 化学式へのタグの挿入   ， 

また，化学式を次のように分類する．

 ）原子 （  ，  ））イオン種 （ ），）分子 （   ））原子核 （    ， ））電子配置（    ））スペクトル項（    ，   ））数式 （  ， ）
）



456）. 数 . （    ）

 つの論文分類支援システムの設計

本論文では章で述べた提案モデルを基に，原子分子物理学分野の論文のためのシステムを つ開発する．

原子や分子は，原子番号や質量数，あるいは化学的組成に固有の特性を有している．本論文ではこれらの特性データを原子分子データと表記する．原子分子データは様々な基礎研究や産業への応用における重要な基礎データと#$．大量のデータを扱うために，現在，核融合科学研究所において，原子分子データを検索可能なデータベースを構築する計画がすすめられている # $．
して活用されている

原子分子データの多くは原子分子物理学分野の論文に記載されている．デー
タベースへ登録する原子分子データは，ジャーナルに掲載されている論文から収集する．これは，ジャーナルに掲載されている論文はもっとも信頼性があると考えられるからである．原子分子物理学分野の論文には，原子分子デー
タを記載していない論文も含まれているため，原子分子データを記載している論文と記載していない論文に分類する必要がある．原子分子物理学分野に*3&'( 誌 # $ 種類程度である．その論文総数は  件7年のオーダーであるのに対して，原子分子データが掲載されている論文の数は  件7年程度である．これは，毎年  件の論文を探索するために，人間が  件のアブスト
おいて，毎年，原子分子データが発表されるジャーナルはをはじめラクトを読んで必要な論文であるか否かを判断しなければならないということを意味する．この作業は大変な労力や手間を必要とする．よって，この作
業の機械化が必要である．
核融合科学研究所で構築がすすめられている原子分子データベースには，
原子分子データが含まれている論文に記載されている表やグラフからデータを抽出し，そのデータを登録している．原子分子データが掲載されている論文の中でも，表やグラフの形式から，データベースへの登録に向いている論文と向いていない論文がある．よって，データベース登録に向いている論文であるか否かを判断することも原子分子データベース構築には必要な作業である．人間がアブストラクトだけを読んで，この分類を行うことは非常に困難であるため，こちらも機械による分類が求められる．

 つめのシステムとして，原子分子物理学分野の論文を原子分
ステム  とする． つめのシステムは，原子分子データを含む論文を原子分子データベースへの登録に向いている論文と向いていない論文の分類システ
ムであるとし，システム  と表記する．システム  は，汎用性のあるシステムである．一方，システム  は原子分子データベースにデータを登録するために特化されたシステムである．ゆえに本論文では，システム  の評価より
他分野の論文分類への提案モデルの応用可能性を示し，システム  により分したがって子データを含む論文と含まない論文に分類するシステムを開発し，これをシ野を限定した場合の有効性を立証する．



特徴ベクトル

機械学習法を適用する際には通常，特徴ベクトルを用いる．この特徴ベク
トルはシステムの性能に大きく関わってくるため，特徴ベクトルを作成する
作業は，機械学習法を使用するにあたって最も重要な作業である．以下，本  項で研究において使用する特徴ベクトルの作成方法に関して詳述する．

  項でアブストラクトから専門用語辞書を作成して用いる場合について述べる．  項にて単語と化学式の組み合わせを使う場合を説明し，  項では化学式と文章数の関係を用いる場合
単語・用語の出現頻度を用いる場合，を解説する．



単語・用語の出現頻度を用いる場合

一般に各単語や用語の出現頻度として考えられるのは，以下の 種類である．



 のアブストラクトに含まれる全単語の出現頻度
， のアブストラクトに含まれる全単語の出現頻度

専門用語辞典に掲載されている見出し語の出現頻度



本論文では論文分類の対象として原子分子物理学分野の論文を扱っているため， の専門用語辞典は物理・化学分野中心の用語が含まれている理化学辞典#$ を用いる．また，原子分子物理学分野の論文には一般の論文には含まれていない化学式が含まれている．よって，化学式も論文の特徴を表456 456 の 種類に分類した化学式のす重要な表現であると考え，出現頻度を特徴ベクトルの要素として加える．ゆえに，本論文において特徴ベクトルの要素として用いる出現頻度には，先ほど述べた
トルと以下の



 . 化学式の出現頻度


種類の特徴ベク種類を用いる．

 . 化学式の出現頻度 . 化学式の出現頻度

 ， 

 ， 

 は特徴ベクトル ，

 ， にそれぞれ 種類の化学式を加えて作成したベクトルであるので，   の要素数 -  の要素数 . となる．
特徴ベクトル  ，  は，トレーニングデータセットによりベクトルの各要素が示す内容が変わる．また，要素数も一定にならない．これは特徴ベクトル  ，

特徴ベクトル  ，

 についてもいえることである．

 で使用する理化学辞典には見出し語とし  語が掲載されており，提案する分類システムではそれらをすべて使用する．よって特徴ベクトル ，はそれぞれ，  次元，  次元のベクトルとなる．

て



 

・ 法を使用する場合

各特徴ベクトル  ，







 ，  ， 

 ，  ，の要素を，情報検索分野においてよく用いられている ・#$ を使用して作成する． ・ 法は，単語の出現頻度から文書内の単
法



語の重要性を測る方法であり，各単語の重み付けに一般的に用いられる技法である．

  89,&" 法は単語の頻度をもとに重み付けする技法であり，式" のように，ある文書中に含まれる単語毎の頻度で表すものである．本論文
では，各単語の出現頻度を文書中の全単語の出現数で割った，式 " で表される相対頻度を重みとして採用する．式 "，式 " の  は文書  における
索引語  の重み，式 " にある  は文書に出現する索引語を表している．
 -   """ -  ""¾
 ,' +9, 89,&" 法は単語の特定性をもとに重み付けする技法であり，ある単語が全文書中のどれくらいの文書に出現するかを表すもので，式 " によって定義される．これら  つを掛け合わせる技法が ・










 法である．式 " において  は対象となる文書集合に含まれている全文
書数， " は索引語  が出現する文書数を示している．
"
 " - )+2 " . ・ 法を用いて作成した特徴ベクトルを，それぞれ  ，
，






   ，   







 ，  ， 


 


  と表す．

  文章頻度を使用する場合

・ 法は文書頻度を使用し，文書集合の中での重要な語というものに留意している．ここで，アブストラクト内の文章構造について考えてみる．
原子分子データが掲載されている論文のアブストラクトの文章には，類似した語が含まれていると推定される．しかし・ 法では，アブストラク

ト内のどの文章にどの語が含まれているかという点やアブストラクトに記載されている文章数に関しては考慮されていない．そこで，ひとつの文章に対する語句の相対頻度とその語句が含まれている文章数を掛け合わせることにより得られる値を使って特徴ベクトルを作成するという新たな方法を試みる．
この方法を以下の式で定義する．








"



  )+2  "" . 



"
¾


"

¾

式

" において， は文書  における索引語  の重み， は文章に出現す""

る索引語を表す．  は文書  に含まれている全文章数，  は索引語

 が出現する文章数を指している．この方法は他の文書との関係を一切考慮していないため，認識率，再現率，適合率に影響が出ると思われる．しかし，ひとつのアブストラクトのみで特徴ベクトルを作成できるため，データセッ  項で述べた トに依存しない特徴ベクトルを作成できる．この方法を，

種の出現頻度に対して適用し，これらの特徴ベクトルを 







   ，   







 ，  ， 





  ，  

 ，

 と表す．

 アブストラクトから専門用語辞書を作成し用いる場合
アブストラクトに掲載されている単語・用語から専門用語辞書を作成し，その辞書を使って特徴ベクトルを作成する．専門用語辞書について，本研究ではテキストデータから専門用語を取り出すための*) モジュール: :#$ は，東京大学中川研究室・横浜国立大学森研究室で開発された用語抽出システム # $ を全面的に組みなおしたものである．英文の形態素解析ソフトとしては，:));' 22:# $ を用いる． 
にテキストデータを適用すると，専門用語とその重要度が図  のような形でを使用する．

出力される．また には，学習機能がある．この機能は，いまま

でに処理対象としたテキストからの情報をファイルとして蓄積し，スコアを計算する際に用いるものである．特徴ベクトルの各要素の重みは，カテゴリ

 のトレーニングデータに含まれている用語のスコアの自然対数をとる．この特徴ベクトルを  とする．
functiontransfertransfer rate
two parameter
phenomenological model
proton

図950539.00
193344.00
135309.44
19019.42
16006.46
3750.00/  の出力ファイル 単語と化学式の組み合わせを使用する場合
単語と化学式の組み合わせを使用した特徴ベクトル作成方法を述べる．こ の特徴ベクトルを 
項で述べる化学式と文 
 と表記する．
章数の関係を用いる特徴ベクトルと合成して，システム を評価する際に使 で対象とするアブストラクトの数は，システム  で対象とするアブストラクトよりも少ない．よって  節で述べたように化学式
を 種まで細かく分けると，化学式各々の数が少なくなってしまう． 種の化学式のうち，456 456 の化学式は成分的に類似しているため，特徴ベクトル 
を作成する際には，456 456 の化学式を
 種類の化学式としてまとめ，456< とおくことにする．したがって，特徴ベクトル では，456<，456，456，456 ，
456 の  種類の化学式を用いる．
用する．システム  
  
特徴ベクトル  
 は，各アブストラクトにおいて，

  化学式の含まれている文章中にある単語を抽出

" で抽出された各単語と 456< の化学式のセットがひとつの文章中にあった場合，その次元の特徴ベクトル要素を  とする．
但し，重複しているものは数えない．この操作を，456 456の化学式においても同様に行う．これにより， 種類の同次元数の特徴ベクトルが作成される．この特徴ベクトルの各要素の最大値は となる．
 456< 456 の各化学式においてできた特徴ベクトルを，足し合わせて合成する．

という手順で作成する（図 参照）．

We report on a detailed experimental andtheoretical study of electron-impact ionizationof O<SUP>5+</SUP> ions. A high-resolution
scan measurement of the K-shell excitationthreshold region has been performed withstatistical uncertainties as low as 0.03%.

化学式以外の単語を抽出

特徴ベクトルreport detailed experimental theoretical

CHEM1-4 ( 0.2 , 0.2 , 0.2 ,
CHEM5

+

+

・・
・

+

・・
・

+

・
・
・

+

+

+

+

0.0 , ・・・・, 0.0, 0.0, 0.0 )( 0.0 , 0.0 , 0.0 ,

・・
・

CHEM8

( 0.0 , 0.0 , 0.0 ,
図0.2 , ・・・・, 0.0, 0.0, 0.0 )

+

+

+

+

+

・
・
・

+

・
・
・

+

・
・
・

+

・
・
・

+

+

+

+

0.0 , ・・・・, 0.0, 0.0, 0.0 )+/ 特徴ベクトル   
 の作成方法

 化学式と文章数の関係を用いる場合
化学式と文章数の関係を用いて特徴ベクトルを作成する．具体的には，各ア
ブストラクトの全文章数に対する化学式の含まれていない文章数の割合を使用
する．この特徴ベクトルを   とする．特徴ベクトル    は

 





次元のベクトルであるため，項で説明した特徴ベクトル 
 


に含めて用いる．特徴ベクトル 
と特徴ベクトル    を合わせた特徴ベクトルを 
と記述する．
   







.



学習方法

我々は今回，システムの学習方法として，他の機械学習法よりも比較的単,,2 + 9,=+, "# $ を採用する．これが可能であることを示すためである． は，入力データのパターン分類を目的とした教師ありの競合学習を行う手法で，解空間を分割するための参照
ベクトルを用いて学習を行う．，， の方法があり，これらの手法は， を基本として変形したものである．本システムでは を用いて学習を行う． で使用する参照ベクトルは，ランダムに生成して純な構造をもつは，単純な機械学習法を用いてもアブストラクトのみで論文を分類することも学習が可能であるが，学習に要する時間が参照ベクトルによっては長くな

る．本研究ではすべての参照ベクトルをトレーニングデータセットより作成

 つの特徴ベクトルを選択し，その平均ベクトルを求め，これを参照ベクトルとする． による学習は，学習させた参照ベクトルによって， !以上のトレーニングデータを正しく分類できるよ
うになるまで学習を行う． 回学習させて， !以上のトレーニングデータ
を正しいカテゴリに分類できないようであれば  回で学習を打ち切る．

する．カテゴリ毎にランダムに





評価方法



分類対象の論文

システムの評価に使用する論文について述べる．原子分子物理学分野の論文のうち，市川が収集した原子分子データが掲載されている論文

 件 #$*3&'( 誌（+) ）# $ に掲載されている論文のアブストラクトを使用する．ジャーナル *3&'( 誌は，物理学者の業界では最もメジャーな論文誌である．  の  つの分野に分かれており，原子分子物理学分野は  に属している ．本論文で開発する  つのシステムは，それぞれ分類の対象とする論文が異なる．システム  の評価の際に使用するト
レーニングデータセットを  ，テストデータセットを  とし，システ
ム  の評価で用いるトレーニングデータセットを  ，テストデータセッ
トを  とする．データセットの内容を  項， 項で説明する．
のアブストラクトと











 

システム  に用いるデータセット
件のうち，ジャーナル *3&'( 誌に掲載されている  件をカテゴリ として用いる．*3&'( 誌（+) ）に掲載されているカテゴリ  以
外の論文のアブストラクトをカテゴリ  とする．このカテゴリ  の全アブス
トラクトは，市川が全てチェックしたもので，データ数は   件である．
これらのカテゴリ  のアブストラクト  件とカテゴリ  のアブストラク
ト   件から，トレーニングデータセットとテストデータセットを各 
セット作成する．これらのデータセットは，   件ずつランダムに選んだもので，そのうちカテゴリ  のアブストラクトを  件ずつ含んでいるとする．
 番目のトレーニングデータセット，テストデータセットをそれぞれ  "， " と表す．
データセット  " "， "  " とは別に，
件のアブストラクトを使用するデータセットを作成する． 件のデータにはカテゴリ  に属する  件を含み，カテゴリ  に属するものに関してはランダムに選ばれた   件から成っているとする．トレーニングデータとテス
トデータを  件ずつとして，データセットを各  セット作成する．
件のアブストラクトより作成したデータセットは>  番目のトレーニングデー
タセットを ¼ "，テストデータセットを ¼ " と表記する．データセット ¼ " ¼ "，¼ " ¼ " は，カテゴリ  のアブスト
ラクト  件を，カテゴリ  のアブストラクトを  件含んでいる．
先ほど述べた原子分子データが掲載されている論文のアブストラクト















    











には他に，物理光学分野の論文が含まれている  システム  に用いるデータセット 節で述べた市川が収集した原子分子データが掲載されている論文  件を用いる．システム  では，システム  において原子分子データが掲載されていると判断されたデータを使用することになるため，カテゴリ  でない論文も多少含まれていると考えられる．したがって，システム  のための実験
では，原子分子データが掲載されていない論文  件を交えた   件のアブストラクトを使用する．  件のアブストラクトのうち，原子分子データベースへの登録に向いている論文  件をカテゴリ  とし，それ以外の論文 件をカテゴリ  と設定する．トレーニングデータとテストデータを各  件とし，それぞれランダムに選択したデータセットを  セット作成し使用する．トレーニングデータセットは  件のうちカテゴリ  を  件含み，テ
ストデータセットは  件中カテゴリ  を  件含む． セットのトレーニ

ングデータセットを  とし，テストデータセットを  と表す．



評価尺度

 節で述べたデータセットを用いて実本モデルの性能評価を行うために，験を行い，その際の認識率，再現率，適合率を求める．
再現率と適合率はトレードオフの関係にある．再現率の向上を図ると，カ

テゴリ であると認識されるデータが増えるため，一般に適合率は低下する．
一方，適合率の向上を目指すと，カテゴリ

 から省かれるデータが多くなるために再現率が低下する．したがってどちらを重要とするかは，評価を行うシステムの目的を考慮して決定する必要がある．提案するシステムでは，探索対象である論文のアブストラクトを正しいカテゴリに分類することよりも，
本来カテゴリ

 に属している論文のアブストラクトを可能な限り大量に収集することが重要であるため，再現率を重視する．



本モデルの性能評価
本章では，

 節で述べたシステム ，システム  を提案モデルを基に開， の評価から提案モデルの性能評価を行う．特徴ベクト

発し，システム 節で挙げたベクトルを使用する．

ルは，



システム  についての評価システム では， ・ 法を使用する特徴ベクトル，文章頻度を使用する特徴ベクトル，原子分子データが掲載されている論文のアブストラクト
から専門用語辞書を作成することによって得られる特徴ベクトルを使用して

評価を行う．また， つの特徴ベクトルを組み合わせた場合や つの を用いる場合についての評価も行う．さらに，人間がアブストラクトのみで論文を分類した場合の模倣実験を行い，機械学習による論文分類との比較を行う．最後に特徴ベクトルの次元数について考察する．

 

・ 法を使用する場合

  

使用する文書集合，出現頻度の違いによる比較実験 項で述べたトレーニングデータセット ¼ " ¼ " とテス
トデータセット ¼ " ¼ " を使用する場合の認識率，再現率，適合率の平均を比較する．参照ベクトル数は  とし，そのうちの半分がカテゴリ  に，残りの半分がカテゴリ  に属するものとする．








文書集合の違いによる比較

 法を表す式 " には対象となる文書集合に含まれる全文書数  が含まれている．この文書集合を合には，とする．一般に情報検索分野で用いられる場

は検索対象となる文書全体の集合をさしている．しかし本論文では，トレーニングデータセットとテストデータセットという２つの文書集合を使用しているために，以下のような集合が考えられる．
 トレーニングデータの文書集合
 テストデータの文書集合
 カテゴリ

 に属している文書集合 カテゴリ

 に属しているトレーニングデータの文書集合 カテゴリ

 に属しているテストデータの文書集合

 トレーニングデータセットとテストデータセットを合わせた文書集合・ 法による重みを計算する際にどの文書集合を用いるかによって，文書頻度の値が異なってくる．すなわち特徴ベクトルの要素の値が変わってくる．したがって，どの文書集合を選択するかということは本システムの評価に関わってくるため重要な課題である．そこでこれらの文書集合を組み合わせて，各特徴ベクトルについての実験を行う．

"

> "

> "

> > > "


 ，




文書集合の組み合わせは，  ，   ，



 ，





 の つを用いる．特徴ベクトル  ，  ， ，

> > " 







 ，  ， 

合率の平均値をそれぞれ図 を使用した際の認識率，再現率，適 図 ，図図，図  図  に示す．

化学式なし 化学式あり
90
89

) 88
(%

率87
識
認86
85
84
All)

(P

図

（ L T）（ C1 C0） LTC1C1 LTC0C0
P, P

/ 特徴ベクトル 

P

, P

P

, P

P

, P





  ，  

,

C1
C0
L , PL ,PTP の認識率

化学式なし 化学式あり
95
90

)
(%

率85
現
再
80
75
All)

(P

図

（ L T）（ C1 C0） LTC1C1 LTC0C0
P, P/ 特徴ベクトル 

P

, P



P

, P

P

, P



  ，  



,

C1
C0
L , PL ,PT

P

 の再現率

化学式なし 化学式あり
70
68

)
(%66

率
合64
適
62
60
All )

(P

（ L T）（ C1 C0） LTC1C1 LTC0C0
P, P/ 特徴ベクトル 

図

P

, P

P

, P

P

, P





  ，  

,

C1
C0
L , PL ,PTP の適合率

化学式なし 化学式あり
88
86

)
%(

率84
識
認
82
80
All )

(P

図

（ L T）（ C1 C0） LTC1C1 LTC0C0
P

, P

P

/ 特徴ベクトル 

, P



P

, P

P

, P



   ，   



,

C1
C0
L , PL ,PTP の認識率

化学式なし 化学式あり
98
96

) 94
(%

率92
現
再90
88
86
All )

(P

図

（ L T）（ C1 C0） LTC1C1 LTC0C0
P

/ 特徴ベクトル 

, P

P

, P

P

, P

P

, P

,





   ，   

C1
C0
L , PL ,PT

P

 の再現率

化学式なし 化学式あり
64
62

) 60
(%

率58
合
適56
54
52
All )

(P

図

（ L T）（ C1 C0） LTC1C1 LTC0C0
P

/ 特徴ベクトル 

, P

P

, P



P

, P

P

, P



   ，   



,

C1
C0
L , PL ,PTP の適合率

化学式なし 化学式あり
86
84

)
(%82

率
識80
認
78
76
All )

(P

図

（ L T）（ C1 C0） LTC1C1 LTC0C0
P, P

/ 特徴ベクトル 

P

, P

P

, P

P

, P





 ， 

,

C1
C0
L , PL ,PTP の認識率

化学式なし 化学式あり
95
90

)
(%

率85
現
再
80
75
All )

(P

図

（ L T）（ C1 C0） LTC1C1 LTC0C0
P, P / 特徴ベクトル 

P

, P



P

, P

P

, P



 ， 



,

C1
C0
L , PL ,PT

P の 再現率

化学式なし 化学式あり
60
58

) 56
(%54

率52
合
適50
48
46

（ L T）（ C1 C0） LTC1C1 LTC0C0

All )

(P

図

P

, P

/ 特徴ベクトル 

P

, P

P

, P

P

, P





 ， C1
C0
L , PL ,PT,P の適合率 図  より，認識率，再現率，適合率について，集合 " と集合> " を用いた場合によい結果が得られている．一方，集合 > "，> > > "， > > " を使用した際には低い値となっている．集合"， > " は  つのカテゴリが混在している集合のみから> "， > > > "， > > " は混在成っており，集合
していない集合が含まれている．これは， ・ 法において他の文書との関連性を示す部分である文書頻度を計算する際に，カテゴリが混在している集合においては，カテゴリ  に属しているアブストラクトの数が少ないことからカテゴリ  のアブストラクト内の語が重要であると認識されているが，混在していない集合では，カテゴリ  のアブストラクトに掲載されている重
図






































































要な語が一般的な語として認識されてしまうことが原因であると思われる．
また，集合に含まれるデータ数が多いほど他の文書との関係を考えた重みを計算できるため，優れた特徴ベクトルを作成できるといえる．これらの理由"により，我々はカテゴリが混在している集合

 ，



> " を用いる方が

優れた特徴ベクトルであると考える．
ここで，特徴ベクトルの実用性について考える．本システムを実用化する
場合，未分類のデータに対して適用することになる．このときデータのカテ> > は，適用するデータのカテ
ゴリがわかっていることを前提に作られた集合であるため使えない．すなわ
ち集合> " と集合 > > > " を用いて作成した特徴ベクト

ゴリは未知である．よって，集合




























ルは使用できない．さらに本システムでは，未分類のデータに適用する前に，トレーニングデータによって学習を行っておく必要がある．したがって，適用するデータを含んだ集合を用いて特徴ベクトルを作成する必要がある集合" は，適用するデータがないと学習を行えないため，実用的ではない．
ゆえに実用可能であるのは，集合> " と集合 > > " を使用して


















作成された特徴ベクトルである．

> " を使用して作成した特徴ベクトルが最適> " を用いて作成した特徴ベクトルにであると考えられる．以降，集合以上の理由により，集合









ついての比較を行う．
出現頻度の違いによる比較

特徴ベクトル  ，















 ，  ， 

 の違いによる認識率，再現率，適合率を比較する．図
は特徴ベクトル  ，  の要素数の変化を示す．








 ，  ，，図 

1200
1150
1100
1050
1000
950
900
850
0

図

20

40

60

80

100

/ 実験  における特徴ベクトル   の要素数の変化

3750
3700
3650
3600
3550
3500
3450
3400
0

20

40

60

80

100

/ 実験  における特徴ベクトル の要素数の変化，
の要素数はそれぞれ，
図 ，図  より，特徴ベクトル  要素，   要素に分布しており，  項で述べたとおり，  

図


 


  要素数が一定でないことが確認できる．これは，システムの性能がトレーニ
ングデータセットに大きく依存することを意味する．それに対し，理化学辞
典の見出し語を基に作成された特徴ベクトルは，理化学辞典に掲載されている見出し語やその数が決まっているため，要素が示す内容や要素数は変化しない．本実験で使用した特徴ベクトル  ， の要素数は ，  である．これは，全アブストラクトに掲載されていない理化学辞典の見出し語に属する要素が，本実験で分類を行う際には何の意味もなさないことから，特徴ベクトルより省いたためである ．

化学式なし 化学式あり

90

)86
(%

率82
識
認
78
74

F(tfD1)
図F(tfD1+ D2)

F(tfDic)

 / 実験  における認識率
化学式なし 化学式あり

98

) 94
(%

率90
現
再
86
82

F(tfD1)

図F(tfD1+ D2)

F(tfDic)

 / 実験  における再現率

 実用化する際には，全アブストラクトに掲載されていない理化学辞典の見出し語は把握できないため，全   語の要素を用いる

化学式なし 化学式あり
70

)66
%(

率62
合
適
58
54

F(tfD1)F(tfD1+ D2)

F(tfDic)

 / 実験  における適合率図
図  は，文書集合> " に関して得られた認識率，再現率，適合率の平均値を並べたグラフである．図  より，どの特徴ベクトルを用いた
場合にも再現率が !以上かそれに近い値になっている．認識率，適合率に図

関しては，特徴ベクトル  ， を使用した場合に高い値が出てい










る．しかし特徴ベクトル  ，  には，先に述べたようにトレーニ
ングデータセットに依存するという問題がある．特徴ベクトル  を用いた際の実験結果より，適合率が低い値ではあるが，本研究で重視している再現率は，特徴ベクトル  ， と比較して遜色のない結果になって

いる．よって，特徴ベクトル  が最適であるとみなす．

化学式使用の違いによる比較
特徴ベクトル作成時に，化学式を使用する場合と使用しない場合での認識率・再現率・適合率の比較を行う．原子分子物理学分野において化学式は非常に重要な表現であり，専門性が高いと考えられる．しかし，化学式を使用して作成した特徴ベクトルと使用せずに作成した特徴ベクトルの実験結果を比較してみると，再現率に対して化学式が重要な役割を果たしているとはい
えない．これは，アブストラクトに掲載されている単語や理化学辞典に掲載されている見出し語に，化学式よりも専門性の高い単語が含まれているためであると考えられる．

   参照ベクトル数の違いによる比較実験 項で述べたデータセット  "  " と  "  " とした実験 においては，参照ベクトル数を  としたが，今回はデータ数がそれ
ぞれ約  件と多いため，最適な参照ベクトル数を調べる必要がある．そこ


を使用する．トレーニングデータ数とテストデータ数を各で，参照ベクトル数を  とし， ずつ増やして実験を行う．本

実験には特徴ベクトル  ， を用いる ．

化学式なし

100

化学式あり

98
96

)
%( 94

率
識 92
認
90
88
86

1000

図

2000

3000

4000

5000

参照ベクトル数

6000

7000

8000

/ 実験  における認識率

化学式なし

85

化学式あり

80
75

)
%
( 70

率65
現
再
60
55
50

1000

図

2000

3000

4000

5000

参照ベクトル数

6000

7000

8000

/ 実験  における再現率

 実験    において特徴ベクトル は  次元，

クトルであるは  次元のベ

化学式なし

35

化学式あり

30
25

)
%( 20

率
合15
適
10
5
0
1000

図

2000

3000

4000

5000

参照ベクトル数

6000

7000

8000

/ 実験  における適合率

 図  は， セットのトレーニングデータセットを用いて学習させて !以上になっており，参照ベクトルの数に関係なくほぼ一定の値になっ
図た結果の平均値をグラフ化したものである．認識率は，すべての場合においている．再現率については，参照ベクトル数が増加するにしたがってグラフが一定の状態に達している．適合率は徐々に低くなっているが，再現率が一定状態になっている段階，つまり参照ベクトル数  のときには，大きな差はみられない．特徴ベクトル作成時に化学式を使用する場合としない場合を比較すると，実験 の結果と同様に再現率において化学式を使用しない場合に，より高い再現率が得られている．この実験結果により，原子分子データが記載されている論文を探索する際の化学式の重要度は高くないと判断できる．本実験では，データとして*3&'( に収録されている論*3&'( には原子分子物理学分野だけでなく，物理光学

文を扱っている．

分野も含まれている．したがって，化学式は原子分子物理学分野の論文と物
理光学分野の論文を分類する際には役に立つのではないかと思われる．

   参照ベクトルの属するカテゴリの割合の違いによる比較実験 では参照ベクトル数が  の場合に，再現率は  !になっているが適合率は  !程度とやや低い．そこで，参照ベクトルが属しているカテゴリの割合に注目してみる．これまでは，過去に行ってきた研究結
果 #$ より，カテゴリの割合はカテゴリ ：カテゴリ  ＝ ： としている．
文献 #$ においては扱っているアブストラクトデータの総数が  で，そのうちの  がカテゴリ  に属しているアブストラクトであるため，この割合が最適であるという実験結果を得ている．しかし，今回は約  のデータの中から約  のカテゴリ  のデータを探し出す作業であることから，：
という割合は適していない可能性がある．そこで，参照ベクトルの数が と  の場合に，参照ベクトルが属しているカテゴリの割合を変化させた
実験

ときの認識率，再現率，適合率の変化を調べる．トレーニングデータセット， で使用したものを使用し，特徴ベクトル 図  は平均値をとったものである．

テストデータセット共に実験 を用いる．図

100
95
) 90
(%
率85
識
認80
75
70

図

85
80
) 75
%(
率70
現
再65
60
55

図

2000

5

10 15 20 25

8000

30 35 40 45 50

カテゴリ１の参照ベクトル割合 (%)

 / 実験  における認識率の変化

2000

5

10

8000

15 20 25 30 35

40 45 50

カテゴリ１の参照ベクトル割合 (%)

/ 実験  における再現率の変化


30
25
) 20
%(
率15
合
適10
5
0

5

10 15

2000

8000

20 25

30 35

40 45

カテゴリ１の参照ベクトル割合 (%)

50

/ 実験  における適合率の変化
図
図  より，参照ベクトルの数が  と  のどちらの場合にも，カテゴリ  の割合が !であるときに適合率が !， !になっている
ものの，再現率が  !， !でカテゴリ  の割合が !のときと比べると  !低下している．また参照ベクトル数が  の場合，カテゴリ
 の参照ベクトルの割合が !の際に最高の再現率になっているが，再現率のグラフ全体からは !に近づくにつれて一定になっていく様子が確認できる．参照ベクトル数  の際の再現率についてもグラフが一定状態になっているといえる．結果として，参照ベクトル数が  でカテゴリ  の参照ベク
トルの割合が !であるときが最適であると判断できる．このとき，認識率は  !，再現率は  !，適合率は  !である．しかし，カテゴリ に属している  件のアブストラクトを   の参照ベクトルによって探し出すことになる．これは非効率的な方法ではあるが，使用したデータの総数に対しカテゴリ  のデータ数が極端に少ないことが原因であると思われる．したがって本システムを利用してより多くのカテゴリ  の論文を探し出し，カテゴリ  のデータ数を増やしていくことによって解決できる問題であると考
図

えている．

  文章頻度を使用する場合

" ¼ "，¼ " ¼ " の各  セット
を用いる実験の結果を示す．認識率，再現率，適合率の平均値を比較する．参照ベクトル数は  とし，そのうちの半分がカテゴリ  に，残りの半分がカテゴリ  に属するものとする．図  図  に特徴ベクトル ，，データセット ¼ ， ， ，


現率，適合率の平均値の結果を示す．






 


 

 を用いた場合の認識率，再化学式なし 化学式あり

88

)% 86
(

率識84
認
82
80

F sfD
(

図

1)

F sfD D(

1+

2)

F(sfdic)

/ 実験  において  件のデータを使用した際の認識率
化学式なし 化学式あり

88

)% 86
(

率現84
再
82
80

F sfD
(

図

1)

F(sfD1 +D 2)

F(sfdic)

 / 実験  において  件のデータを使用した際の再現率

化学式なし 化学式あり

64
62

)%60
(

率
58
合
適56
54
52

F sfD D

F sfD
(

(

1)

1+

F(sfdic)2)

 / 実験  において  件のデータを使用した際の適合率
図  図  より，特徴ベクトル ，を使用する場合の
図









認識率，再現率，適合率において，化学式を含んだ特徴ベクトル の方が秀でた結果を示している．この実験結果より，理化学辞典を使用した特徴ベクトルについて，

・ 法を使用し文書集合全体に対する重要性をみている際には生かされていない化学式の特徴が，ひとつのアブストラクト内では重要な役割を果たしていると仮定できる．

" " と  "  " を用いた場合の実験結果を示す． ・
法を用いる場合と同様に> 参照ベクトル数を   とし， ずつ増やして実験を行う．特徴ベクトル ，を用いる．図 
図 
この仮定が正しいかどうかを確認するために，データセット 














は，学習させた結果の平均値を示したものである．

化学式なし

100

化学式あり

99

) 98
(%

率 97
識 96
認
95
94
93

図

1000

2000

3000

4000

5000

参照ベクトル数

6000

7000

8000

 / 実験  において   件のデータを使用した際の認識率の変化
化学式なし

90

化学式あり

80

) 70
%(
60

率
現50
再
40
30
20

図

1000

2000

3000

4000

5000

参照ベクトル数

6000

7000

8000

/ 実験  において   件のデータを使用した際の再現率の変化
化学式なし

40

化学式あり

35
30

)
(%25

率20
合
適15
10
5
0

図

1000

2000

3000

4000

5000

参照ベクトル数

6000

7000

8000

/ 実験  において   件のデータを使用した際の適合率の変化

化学式を含んだ特徴ベクトル 


ベクトル 

 を使用する場合と含まない特徴 を使用する場合を比較すると，認識率，再現率，適合率のす

べてにおいて，それぞれ僅差であることが確認できる．よって，化学式が重要な役割を果たしているとは言い切れない．これは先ほどの「ひとつのアブストラクトの中では化学式に重要性が認められる」という仮定が誤っていることを意味する．ゆえに化学式は，論文に原子分子データが掲載されているか否かを判断する際には有用ではない．

 !，特徴ベクトル で  !という結果が参照ベクトル数  の場合に得られている．よって，他の文書との関連性を考慮していない特徴ベクトルを用いても， !近い再再現率に注目すると，特徴ベクトル  で

現率を出すことが可能であることを実証できたといえる．

  アブストラクトから専門用語辞書を作成し用いる場合
特徴ベクトル  を用いて実験を行う．機械学習を行う際に，特徴ベ で使用したデータセットのうち，トレーニン
グデータセットは  " " の セットを，テストデータセットは "  " の セットを使用する．参照ベクトル数は， とし， ずつ増やして実験を行う．図  は認識率，再現率，適合率の平クトルのすべての要素が になるアブストラクトはカテゴリ であるとする．

データセットは，実験









均値のグラフである．

認識率

再現率

2000

3000

適合率

100
80
60
40
20
0

図

1000

参照ベクトル数

4000

5000

/ 特徴ベクトル  を使用した場合の認識率，再現率，適合率

 より，認識率は参照ベクトル数に関わらず，ほぼ !を示している．
適合率は !以上の値になっているが，再現率は !を下回る．再現率が低図

い理由として，専門用語自動抽出システムの仕様上，アブストラクトに記載されている単語のステミング処理を行えないために，同じ単語でも別の単語として認識されている可能性が高いことが考えられる．また，参照ベクトル数が増えるにつれて再現率が低下している．これは特徴ベクトルの要素数が約 であること，カテゴリ  のトレーニングデータに含まれている用語を考慮していないことが原因としてあげられる．要素数が少ないことから，参照ベクトルが増加すると，異なるカテゴリに属している参照ベクトル同士であっても類似した参照ベクトルが徐々に作成されてしまい，それらが互いに衝突して再現率を下げているものと思われる．

  その他の特徴ベクトル作成方法
理化学辞典の用語と専門用語自動抽出システムで抽出された用語を合わせて使用する．各要素の重みを・ 法で計算する特徴ベクトルを 

とし，理化学辞典の用語は

・ 法で計算し，専門用語自動抽出システムで抽出された用語は，抽出された際に共に出力されたスコアの自然対数を重みとして，それぞれ正規化したベクトルを合成する特徴ベクトルを 


と表す．この図，図 つの方法で作成した特徴ベクトルを使用した際の実験結果は

 のようになる．

認識率

100

再現率

適合率

80
60
40
20
0
1000

2000

3000

参照ベクトル数

4000

5000

/ 特徴ベクトル  を使用した場合の認識率，再現率，適

図
合率

認識率

再現率

2000

3000

適合率

100
80
60
40
20
0

図

1000

参照ベクトル数

4000

5000

/ 特徴ベクトル  を使用した場合の認識率，再現率，適合率
再現率を向上させるために特徴ベクトル  に新たな専門用語の要素を

加えたが，再現率はむしろ低下しているということが図，図 より明らかである．これは加えられた専門用語が，数少ないカテゴリ のアブストラクトに対して使われたのではなく，カテゴリ

 のアブストラクトを正しく分類するために使われたのではないかと考えられる．特徴ベクトル  ，





 のどちらの場合についても，再現率が徐々に低くなり適合率が高くなっている．このような結果は，実験 の結果にもみられる．したがって，専門用語自動抽出システムで抽出した用語の特徴ベクトル成分が影響しているものと思われる．

   つの  を用いる場合

LVQ① 特徴ベクトルtf F

tf

F dic +Chem を使用
(dic)

:

or

(

LVQ

)

②log特徴ベクトル
FSpecial を使用
分類されていないデータとして使用

トレーニングデータ

探索対象
である

探索対象
でない

abstract
abstract
abstract
abstract

abstract
abstract
abstract
abstract

分類されていないデータ学習

abstract
abstract
abstract
abstract
abstract:

abstract
abstract
abstract
abstract
abstract

学習論 文 分 類 支 援 シ ス テ ム

探索対象
である

abstract
abstract
abstract
abstract

図
実験

探索対象
でない

abstract
abstract
abstract
abstract

探索対象である

abstract
abstract
abstract
abstract

探索対象
でない

abstract
abstract
abstract
abstract/  つの  の適用イメージ と実験  の実験結果により，特徴ベクトル 





 ， 

を使用する場合の再現率と特徴ベクトル 
を使って機械学習を行う際


の再現率では，特徴ベクトル  ， を用いる方が高い再現率を でシステであると認識したアブストラクトと，特徴ベクトル 

得られると考えられる．ここで特徴ベクトル  ，
ムがカテゴリ

による学習でカテゴリ

 であると判断したアブストラクトの比較を行う．すると特徴ベクトル  ，


クトが特徴ベクトル  で正しく分類できているアブストラ で分類できていないのではなく，それぞれ異なるアブストラクトを正しく認識していることが明らかになったため，図のように，はじめに特徴ベクトル  あるいは特徴ベクトル

 であると判断されたアブストラクトはカテゴリ  に分類し，カテゴリ  と判断されたアブストラクトについては特徴ベ
クトル 
を用いて再度分類を行い，カテゴリ  であると認識されたを使って分類を行い，カテゴリ
 に，カテゴリ  であるとされたアブストラクト
はカテゴリ  に分類する方法を試みる．参照ベクトル数を各々  とし，すべての組み合わせを考慮して実験を行う．この方法を使って得られる
認識率，再現率，適合率の平均値を表  表  に示す．表データセットについては， " " と  "  " を用いる．

アブストラクトはカテゴリ

 












  
     
 

/ 特徴ベクトル !" と特徴ベクトル

表 








   
   
  

/ 特徴ベクトル !" と特徴ベクトル

表 








表

!"

                   を用いた場合の認識率                を用いた場合の再現率

                                     

/ 特徴ベクトル  と特徴ベクトル




 を用いた場合の適合率











/ 特徴ベクトル 
識率 !"




表 と特徴ベクトル







/ 特徴ベクトル 
現率 !"




              を用いた場合の認         
                   


表

           




 と特徴ベクトル を用いた場合の再                                     








/ 特徴ベクトル と特徴ベクトル を用いた場合の適
合率 !"表  表  より，全体的に特徴ベクトル を参照ベクトル数  で使用した際の再現率が高いことが確認できる．これは特徴ベクトル のみを用いた実験  においての実験結果でも参照ベクトル数  のときに最もよい再現率が出ていたことからも納得できる．この実験によって，特徴ベクトル やだけでは検索しきれなかったカテゴリ  の

表











アブストラクトを特徴ベクトル  で補うことにより，さらによい再現率を導くことが可能であることを示すことができる．また，再現率が向上し
たことにより，特徴ベクトル  ， と特徴ベクトル 

では分類基準が異なるということも実証できる．特徴ベクトル  （参照）と特徴ベクトル  （参照ベクトル数
）を使用
ベクトル数









!，再現率  !，適合率  !という結果を得ることができる．これは実験  実験  の中では最高の再現率である．
することで，認識率  人間による論文分類の模倣実験
人間がアブストラクトを読んで論文を分類する場合には，原子分子データが掲載されている論文に含まれていると推測されるいくつかのキーワードが，論文に含まれているか否かで論文を判断していると思われる．そこで，機械学習による論文分類と人間による論文分類を比較するために，いくつかのキー
ワードにスコアをつけ，それらを合計して各アブストラクトのスコアを算出
し，スコアによって論文を分類する方法を試みる．この方法により，論文分
類時に人間が脳で行っている判断を模倣できると考えられる．

キーワードの抽出について，  項で使用した *) モジュール: <:を使用する．機械学習法を用いる場合との比較を行うために，トレー
ニングデータセット  " " とテストデータセット  " " を用いる．各アブストラクトのスコアは，カテゴリ  のトレーニン








グデータに含まれているキーワードのスコアの自然対数を合計して算出する．
キーワードのスコアは以下のつの方法により計算する．

方法  トレーニングデータセットを使って の学習機能により情報を蓄積させ，その情報を用いてトレーニングデータとテストデータのスコアを計算方法  トレーニングデータセットを使って の学習機能により蓄積させた情報はトレーニングデータに対してのみ適用し，テストデー
タについてはテストデータセットを使って蓄積させた情報を用いてスコアを計算

 の学習機能を使用せずにスコアを計算
カテゴリ  とカテゴリ  の境界値は，トレーニングデータの再現率が  !になるように設定する．具体的には，42+& のトレーニングデータ  件のうち， 件を正しく 42+& であると認識できる境界値， 件を正しく認識できる境界値，というように境界値を設定していくものとする．トレー
ニングデータの再現率が  !になる際のテストデータの認識率，再現率，適合率を調べる．トレーニングデータ，テストデータを各  セット使用して得られた実験結果の平均値を図  図のグラフに示す．
方法 

認識率

100

再現率

適合率

80
60
40
20
0
63

62

61

60

Category1

図

59

58

57

56

55

54

53

52

51

のトレーニングデータ63件中正しく認識できた数

50

/ 方法  によるテストデータの認識率・再現率・適合率
認識率

再現率

適合率

100
80
60
40
20
0
63

62

61

60

Category1

図

59

58

57

56

55

54

53

52

51

のトレーニングデータ63件中正しく認識できた数

50/ 方法  によるテストデータの認識率・再現率・適合率

認識率

100

再現率

適合率

80
60
40
20
0
63

62 61
Category1

60 59 58

57 56

55 54

53 52 51のトレーニングデータ63件中正しく認識できた数

50/ 方法  によるテストデータの認識率・再現率・適合率
図  図 より，再現率が !を超える値であるときには，認識率，適合率ともに低い値になっている．対照的に，認識率が !を超える値である場合や適合率が !近くになる際の再現率は !をきる結果となっている．これは，ひとつの境界値のみを用いてカテゴリを分けたことが原因である．この実験結果により，カテゴリ  に属しているトレーニングデータのアブスト
ラクトに掲載されている語が多く含まれていることと，単純にカテゴリ  に図属していることとが，必ずしも必要条件を満たすわけではないということが確認できる．カテゴリを正しく認識させるためには，より複雑な分類構造が必要であると考えられる．本実験により，アブストラクトのみで論文を分類する際には，人間が分類するよりも機械学習が有効であることを示すことができる．

  特徴ベクトルの次元数
これまで各種実験を行ってきたが，ここで，特徴ベクトル  のベクト  件すべてのデータを使用した際の実験に用いた各アブストラクトの特徴ベクトル は  次元である．それらのベクトルのうち， 件のベクトルにしか値のない成分が  ある．これは分類には何の意味もなさない成分である．よって明らかに  次元に縮約可能であるといえる．また， 件以下の数件にしか値のない成分も数多くある．こ
ルデータについての考察を行う．

のような成分は他の成分との相関が極端に小さくなり，分類指標としての意
味がない．分類の目的にもよるが，ある程度の数のアブストラクトに値のな
いような成分は除かれるべきである．次元数が増大すると，一般に統計モデ
ルの安定性は非常に悪くなり，意味のないモデルになるといわれている．よって，次元数を縮約することは効果があると考えられる．

しかし，今回使用したデータセットは，カテゴリ

 のデータ数とカテゴリ

 のデータ数にかなりの差があるため，次元数の縮約には十分な注意が必要である．よって次元数の縮約は行わない．

システム  についての評価

単語と化学式の組み合わせを使用する特徴ベクトル，化学式と文章数の関.


係を使用する特徴ベクトルを合わせたベクトル     
と・法を用いる特徴ベクトル  を用いる．理化学辞典の見出   語のうち，  件のアブストラクトに掲載されている語は   語

し語しかなく，特徴ベクトルの次元としては低すぎるため，今回の実験では特徴ベクトル  は使用しない．データセットは， と  を使用して，


参照ベクトル数を

，， と変化させた際の認識率，再現率，適合率の平均値を求め，評価を行う．

まず，特徴ベクトル  を用いた際の認識率，再現率，適合率を調

べる．実験結果を表に記載する．

参照ベクトル数





表

/ 特徴ベクトル 

!
 



認識率（ ）!

再現率（ ）



 

!

適合率（ ）






   を使用した場合の認識率，再現率，適合率の平均値
表より，どの参照ベクトル数であっても再現率が !になっていることが確認できる．これは再現率を重視している場合，適した方法ではなかったことを意味する．認識率に関しても同じことがいえる．この実験結果より，
データベースへの登録に向いているか否かを分類するには，単純な特徴ベク
トル作成方法では対応できないということが実証されたといえる．そこで，.と特徴ベクトル を使い， のときと同様に  つの  を用いる実験を行う．はじめに特徴ベクトル .を使用して学習させた  をテストデータに適用し，この  がカテゴリ  であると認識したアブストラクトをカテゴリ  に分類する．カテゴリ  であると認識された
アブストラクトについては，特徴ベクトル を使用して学習させた
別の  に適用した結果を採用する（図  参照）．分類結果の平均値を表
特徴ベクトル  システム における実験          

に示す．



参照ベクトル数





!
 

 

認識率（ ）

!




再現率（ ）!

適合率（ ）



 

/  つの  を使用した場合の認識率，再現率，適合率の平均値
表 より，認識率はどの参照ベクトルの数においても !台である．再現率については参照ベクトル数が増加するにつれて，高くなっていることが確認できる．特に参照ベクトル数が  のときに再現率は !を超えている．
のみを使用した場合と比較すると，認識率低下の度
特徴ベクトル 
合いに比べて再現率向上の程度の方が大きい．よって本システムに関しては 
つの  を使用してカテゴリを認識させる方法が適していると考えられる．
表  





まとめ
本論文では，アブストラクトを用いた論文分類支援モデルを提案し，原子分子物理学分野の論文を分類する際に適用した．その結果，論文そのものではなく，アブストラクトを用いても論文を分類できることを実証し，本モデルが有効であることを示した．
原子分子物理学分野の論文を原子分子データを含む論文を含まない論文に分類するシステムにおいては，専門用語辞典に掲載されている見出し語の出現頻度を基に作成した特徴ベクトルを使用した際に，認識率 !，再現率 !，適合率  !という良好な結果を得ることができた．この結果は， 件の論文のうち入手したい論文が 件しかない文書集合から入手したい論文を探索する場合に，今までは人間が  件の論文を読んで探し出していた作業を，我々の提案したシステムを用いる場合には， 件の論文を読んで  件の論文を探し出す作業に置き換えることが可能であることを意味する．本システムにより，人間は大きな労力を使わずに効率的に必要な論文を収集できることを立証できた．しかし，再現率が  !であるため， 件のうち  件の論文は探し出せないことになる．ゆえに再現率をさらに向上させる必要がある．再現率を向上させるため，様々な方法での特徴ベクトル作成を試みた．そのひとつとして，専門用語自動抽出システムを使用して，原子分子データが掲載されている論文のアブストラクトから専門用語とスコアを取り出し，スコアを基に作成した特徴ベクトルを作成した．その特徴ベクト 種類のベク つの  にそれぞれ適用し学習させることで，認識率 !，再現率  !，適合率  !という結果が得られ，再現率の向上に成功した．

ルと専門用語辞典の見出し語を用いて作成した特徴ベクトルのトルを

さらに本論文において，原子分子データを含む論文の中で，原子分子デー
タベースへの登録に向いている論文と向いていない論文に分類するシステムの開発を行った．このシステムでは，トレーニングデータの論文のアブスト
ラクトに掲載されている化学式と各単語の相関関係を基にした特徴ベクトルに各アブストラクトの全文章数に対する化学式の含まれていない文章数の割合から作成した特徴ベクトルを加えたベクトルと，トレーニングデータの論
文のアブストラクトに掲載されている全単語の出現頻度を用いて作成された

 つの  に各々適用することにより，認識率  !，再現率 !，適合率  !という結果を得た．
特徴ベクトルを提案した論文分類支援モデルの評価において，本論文では，原子分子物理学分野の論文の一般的な分類の際に理化学辞典を使い，優秀な分類結果を得ることができた．よって他の分野の論文を分類したい場合には，その分野に合った専門用語辞典を使用すれば本モデルの有効性が得られると思われる．
さらに，分類したい分野の論文のアブストラクトから専門用語を抽出・利用することが，再現率向上に有用であることを確認できた．すべての場合の評価において，機械学習法として

 を採用し，優れた性能を確保することができた．ゆえに他の機械学習法を適用しても効果があると考えられる．

謝辞
本研究を遂行するにあたり，指導教官である城和貴教授には，多大なるご指導とご協力を頂き，さらに本研究だけでなく，研究室生活においても大変お世話になりました．厚くお礼申し上げます．
また，論文のアブストラクトを提供いただきました，日本原子力研究開発
機構の佐々木明氏，特徴ベクトルデータの分析に御協力いただきましたお茶の水女子大学吉田裕亮教授 他，ご協力いただいた皆様に心より感謝いたします．
本学 高田雅美 助手には，本研究をすすめるにあたって，様々な角度からアドバイスをいただきました．ありがとうございました．
最後になりましたが，城研究室の皆様とは寝食を共にする等，とても楽し
い研究生活を送ることができました．本当にありがとうございました．





参考文献

#$ 永田昌明> 平博順/ テキスト分類 ?学習理論の「見本市」?> 情報処理学
会誌> +) > %+ > 11 ?
"
#$ 03,2> @> ,> > 43,<59>  ,A <0,2> 4/ 6) 29<+B<6 ,,2 11+3 +  42+=+,>    > 11 ?   "# $                 31/77A1,B'C17A7,A<C3)
#$ D'>  / % &'"  +& / ,A1,A, ''91+, ,,B++, ()>     !  " # $   !      %#&'() > 11 ? "#$ D'>   ,A (,29> 6/  +1'+, +B D+ ),,2 )2+<
3' B+  2+=+,> * *   $         !   + > 11 ?
 "
#$ 平博順> 春野雅彦/ トランスダクティブ・ブースティング法による テキ
スト分類> 情報処理学会論文誌> +)  > %+ > 11   ?  "# $ 平博順> 春野雅彦/ 0911+ + 63, によるテキスト分類における属性選択> 情報処理学会論文誌> +) > %+ > 11  ? "# $ 上田修功> 斉藤和巳/ 類似テキスト検索のための多重トピックテキスト
モデル> 情報処理学会論文誌> +) > %+ 0@> 11 ?  "
# $ *+> 6/ , )2+3 B+ '9Æ '11,2>   > +) > %+ >11  ?  "#$ , -..    31/77'31,+2 7A'70 05<07
#$ 佐々木明> 村田 真樹他/ 論文アブストラクトから原子分子の状態の情報を検出，抽出する方法の研究> /   !        >+) > %+ > 11  ?  "#$ 加藤 隆子他/ プラズマ原子・分子過程の展望> プラズマ・核融合学会誌>+) > %+ > 1   "# $   $   + 0  31/77 11'+27#$ 長倉 三郎他 編"/ 岩波 理化学辞典 4<(E6 版> 岩波書店>  A+, "


#$ 0)+,> @ ,A 6@))> 6/       !   & + > 6@D<5)) ++F 4+1,& "#$ * #1  31/772,',A)9<+F&+ C173)
# $ 中川裕志> 森辰則> 湯本紘彰/ 出現頻度と連接頻度に基づく専門用語抽出>
自然言語処理学会論文誌> +) > %+ > 11  ?  "# $ 2 3 *   31/77'3+'+B+7 ))7# $ -4* &   &    & 5 6 78 6 
31/77DDD'39G7'37'+<'37,,<1+2''3)
#$ FD> H/ %%E 0 E@(*5H E% 4E0E%0  5
 E64 *E0  E%0 / I4  E% % E%J E%>
 < >         *9  > +) > %+ > 11 ? "#$ 柏木裕恵> 渡辺知恵美> 佐々木明> 城和貴/ ,,2 + 9,=+," によるテキスト分類の試み> / $     > +) >%+ > 11  ? "



研究業績
国際会議

 :  4)''G+, B+ 4+,'9,2 , + ,A 6+)9)

K+9,) ' & :，5+ L'3D2，43 ,，F 0'F ,A L=9F K+，* :;      !    9     *  <    $$   ，+)，11 ?" :'2, ,A 1),+, +B , +)9+,) A +)),2 '&'
B+ 3 + ,A +)9) A'':，F 0'F，L=9F K+，5+ L'3D2，43 ,，
6,9 09=9F，9F'*3)，6'+'3 E3'3，C L+，
6'+'3 L+，=      !            *  $$   ，11  ?  "国内発表会（査読あり）

 :,,2 + 9,=+, " によるテキスト分類の試み:，

柏木裕恵，渡辺知恵美，佐々木明，城和貴，第 "" 回数理モデル化と問題解決シンポジウム，+)，%+ 11 < "国内発表会（査読なし）

 :アブストラクトを用いた論文分類システムの設計と実装:
柏木裕恵，高田雅美，佐々木明，城和貴，

<6*0< "，情報処理学会第 >" 回数理モデル化と問題解決研究会，

11 ?   "