機械学習を用いたからの製品性能表の分類と抽出
嶋田和孝 林 晃司
Ý九州工業大学大学院情報工学研究科情報科学専攻

 はじめにの急速な普及に伴い，これまで紙面で伝えられていた情報が電子文書化され，カタログ等の製品情報もインターネットを介して入手可能になった．しかしながら，には多種多様の情報が共存する為，必ずしも欲しい情報のみを正しく検索・収集出来る訳では無い．また，仮に情報を収集出来たとしても，その量が膨大であれば閲覧は困難を極める．
上の情報検索においては単なる情報収集技術のみでは無く，収集した情報をいかに効率良く利用出来るかについても考慮されるべきである．
この要求が高い意義を持つものの一種に「製品性能表」がある．製品性能表とは製品の仕様書を電子化し，テーブル形式で記述したものを指す．図 に例を示す．

図Þ

遠藤 勉 
九州工業大学情報工学部知能情報工学科

読性は低く，効率の良い閲覧は臨めない．
これらを基盤に，我々は現在，複数のパソコンの製品性能表を解析し，各々の製品の特徴を抽出・比較する事によりユーザの要求に合致した製品選択を支援するシステムの構築を進めている ．



本システムの流れを説明する．製品メーカのウェブドキュメント群内に存
サイトより収集された在する製品性能表の抽出を行う．製品性能表はメーカ毎に表記が異なる為，表構造と呼ばれるデータ構造へと正規化を行う．得られた表構造中の数値データや文字データを比較し，各製品の相対的な特徴にユーザの意図を反映したスコアリングを行う．抽出された特徴
データ及びスコアリングの結果を基に文章生成や表の再構築，グラフ生成等を行い，複数の形式を統合させた要約形式の製品情報をスコアの序列に準じてユーザへと提示する．図 は我々が開発した製品選択支援システムの概観である．

 製品性能表

製品性能表には，その製品に関する具体的なデータが掲載されている．しかし，データを閲覧しただけでどの項目がその製品の特徴となるかは一概には判断し難い．その理由としては，

 各サイトでは自社製品の特徴は述べられているが，他社製品との比較は余りなされていない．
 各サイトごとに様々な表現方法がある．
 要求と製品の特徴を関連づけるには，その製品に対してある程度知識が必要である．

等が挙げられる．ユーザの要求を満足するには，複数のサイトから情報を抽出し，統合する必要がある．また，各々の製品の相対的な特徴を正しく抽出出来たとしても，性能表を提示するのみではユーザにとって可図 製品選択支援システム

本稿で対象とするのはシステムの入力データである
製品性能表の自動獲得である．図 に本研究の流れを示す．製品性能表の抽出は，収集した文書群に対し，製品性能表が含むと推測される候補文書の選出を行なう
フィルタリング処理，及び候補文書に対して製品性能表の領域抽出を行なう表領域抽出理の２タスクに分割される．いずれの処理においても，文書内に性能表が含まれるか，もしくはテーブルが性能表かといった同定を要する．その手掛かりとなるキーワードは収集した文書群より学習し，これを参照しながら同定を行な

WWW resource
WebSiteWeb Page

図 製品性能表抽出う．本稿はこのキーワード学習，フィルタリング処理，及び表領域抽出処理の手法とその成果について報告するものである．

 素性選択

テーブルの氾濫 ドキュメント 以下，文書 は  にて記述



候補の重み付け次に，得られたキーワード候補群に対して重みを計算し，その重みを基にキーワードを抽出する．重み付け手法としては，   を用いる手法，及びベイズの定理を用いる手法の二種類を比較・評価する．



性能表を抽出するには，フィルタリングによって文書内の性能表の有無を推定しなければならない．単一ドキュメント内に複数存在するテーブルの中から性能表を同定する必要もある．



キーワード候補の抽出

本研究では性能表同定の手掛かりとして，テーブル内に生起する単語に着目した．中でも，性能表の項目名は非常に特徴的な情報となり得ると推測される．よって，性能表抽出に必要な特徴は「項目欄に位置する，テーブルの最左列」及び「一定長以内の文字列中」において顕著，または限定的に出現すると定義される．この定義に基づき，文書群キーワード候補の抽出を行う．候補抽出の手順を以下に示す．

 文書より  を抽出する．
  中の各   について，最初の   の内容を抽出する．
 タグ抜きの文字列長が一定長以内であれば形態素解析により名詞単語を抽出，これを候補とする．

尚，形態素解析には奈良先端科学技術大学で開発された「茶筌」 を用いた．

は最も有名な重み付け手法の一つであり，文  について，文書 におけるキー，及び候補が生起する文
ワード候補 の生起数 書数  を基に重み付けを行う．これを学習用に拡張し，   とする．ここで，  は製品書群







性能表を含む正解文書群，及び  は製品性能表を含まない，もしくは製品性能表以外のテーブルを含むノイズ文書群である．各々の文書群に生起する単語 にらが表抽出で用いた以下の式にて重ついて， み付けを行う．

されており，性能表等のテーブル領域も同様， 〜 タグにて描画される．要するに，性能表の抽出とは タグでマークアップされた領域

 を抜き出す作業である．
 は  ソース内からの領域把握が容易であるが，一方で タグはレイアウト補正等にも多用される為， タグのみで  がテーブルであるか否かの判断は出来ない．また，文書 件あたり  個の  が存在し，実際にテーブルとして用いられているものは  割に満たないという報告もある  ．この事から，文書群から正しく製品

 ・ ¾
 ¾

ここで，の             

             

 は  及び  における単語 Û  Û 値である．最終的な重みは以下の式にて求める．

Û× ÆÓÖÑ Û×ÆÓÖÑ

¾

¾

正解文書内，ノイズ文書内にて高生起率となる語をそれぞれキーワード，及びノイズワードと呼ぶ．各々について，重みが閾値以上となる語を素性とする．

   !" はパターン認識・分類の分野にて広く知において， られる確率である．事象        は事前確率と呼ばれる．事前確率と
条件付き確率密度分布   （    ）が事前に得られる場合，単語 が  に属する事後確率  は次の式で求められる．
  ここで，    

 

 

  である．全単語に対して各クラスでの事後確率を求め，それらを単語の重みとする．
   ，及び   即ち，  #，かつ    を満たす語を正の素性に，  #，かつ     を満たす語を負の素性とする．

である．
 フィルタリング/$ 

ここではフィルタリングを正解文書，及びノイズ文書を選別する二値分類問題と捉え，分類器による解決を試みる．一般に，高精度の分類器生成には多量の訓練サンプルを要するが，十分な量の訓練サンプルをラベリングするのは非常に高コストな作業となる．そこ
で，少量のサンプルで高精度の分類器を生成する手法が期待される．の理論を基にによって提案さ$%& '()*%+ ,!)-%. /$  /$ は，学習時にラベル無データの分布を考慮する事で分類精度を上げる手法である．以下に /$ のアルゴリズムを示す．
 訓練サンプルのみで /$ により分類器を生成する．
 生成された分類器により全てのラベル無データを判別し，仮の分類クラスを与える．
 仮のクラスが付与されたラベル無データを訓練サンプルに含め，/$ による学習を行う．
 マージン内に存在するラベル無データのうち，各々の仮クラスを入れ替える事でマージンを最大化出来るペアを見つけ入れ替え，再度 /$ による学習を行う．
 入れ替えるラベル無データのペアが無くなるまでクラスの入れ替えと学習を繰り返す．
/$ の識別関数及び制約条件を下式に示す．
れた

線形分離可能 Û ÛÜ    £ ÛÜ£    
線形非分離 ソフトマージン適用 ∀∀ Û       £  £   ÛÜ      £ ÛÜ£      £∀   £∀    ∀∀ 

ここで， 及び   はそれぞれラベル無データにおける入力ベクトル及び仮クラスである．また，  及び  は，ラベル無データにおける制約条件緩和パラメータ及びスラック変数である．

実験と考察，デジカメ，プリンタ３種類の製品カテゴリについて，製品メーカのウェブサイトより収集した


文書をテストセットとした．また，は訓練セッ
トにおける正例，負例の分布を基にしてラベル無データへの仮クラス付与を行なう．そこで，訓練セットはテストセット数の，及びをテストセットから無作為にサンプリングした．データセットの内訳を表 に示す．実験は各カテゴリの訓練セットの正解文書，及びノイズ文書より素性選出及び分類器生成を行い，訓練セット数の減少に伴う分類精度の変化を観察した．また，同じ訓練セット数におけるとの分類

精度を比較した．分類器生成にはを採用した．実験結果を表 及び表 に示す．太字部分は同じまたはの精度が上回って訓練数においている結果である．精度の評価には  値  を用#00
/$/$ /$/$/$ #いた．尚， 及び  はそれぞれ適合率，及び再現率である．

      

結果について考察する．等しい訓練数においては，/$ の適用により平均 10，最大 #0の精度向上が確認された．また，一部のカテゴリにおいて， /$
は /$ の 2# の訓練数にて /$ 同等の精度を達成し，他カテゴリについても訓練数の減少に伴う精度低下を平均 0にまで回避出来た．これらの結果から，フィルタリングにおける /$ の有用性が実証された．

一方で，幾つかの課題点も存在する．サンプル数の増加に伴い，訓練セットの分布はテストセットの分布へと接近するが，収集したサンプルへのラベリングにかかるコストもそれに準じて増大する．しかし，サンプルが少なければ分布の信頼性は薄い．このトレードオフの解決にはテストセットの確率分布の予測が必要であるが，未知の母集団からの確率分布推定はパラメトリックな分布の仮定，もしくは事前確率の均一化といった様な経験則に頼らざるを得ない．
また，素性選択に関する課題点も残る．誤分類の多くは製品カテゴリに類似した性能表を含む文書である．
テストセットにおける正解数及びノイズ数の比が大きく，加えて製品カテゴリに類似した性能表が  に多数含まれている場合，  における素性が一般化され，重みが減少する．さらに，項目欄はメーカ間で表記に違いがある為，少量の訓練セットにおいて頻度情報，特に 値は効果的でない．これらは，訓練サンプにおける素性の精度の低さからも分ル
かる．
最後に，学習における誤学習について述べる．
はその特性から，仮クラス内にて生起率の高い素性の次元による分類を狙おうとする．その為，本来分離すべき次元を超えて，全く意図しない素性での分離を行い，結果として誤学習に陥る可能性もある．ラ0/$ !"/$   表製品カテゴリデジカメ
プリンタ 実験データの内訳

訓練 正解ノイズ   !"#$ !"!$!&$!$# !&&表 分類結果 -3・%,3 

製品
カテゴリ



$$$#%#"
#$$

デジカメ
プリンタ

表 





$&%"
!&
 $$

デジカメ
プリンタ

   #!% !"% !&!
## !&"&

 




 $$&" 分類結果  

製品
カテゴリ

表


! %#$!#!
 

! $%%"

 


 !"$&

ベル無データから訓練サンプルを得るのは，サンプルとラベル無データとに同じ特徴分布を持たせる事で誤学習を回避する為であるが，サンプル，ラベル無データ間の比が大きくなる程に誤学習の危険性も高まる．高精度を維持しつつ訓練数の減少を目指すには，様々な課題に取り組む必要がある．

 表領域抽出ここではフィルタリング処理より渡された，文書内に性能表を含むと推測される候補文書群に対し，性能表領域の抽出を行う．抽出処理はさらに幾つかの処理に細分されるが，主として，候補群より生成した規則を基に文書内の各についてスコアリングをを製品性能表とし行い，最もスコアの高いて抽出する．
フィルタリング処理にて渡された候補文書群をデータセットとし，表領域抽出実験を行った．実験はにて抽出規則の最適化を行い，にて規則の妥当性を評価した．正解文書から一件ないし複数件の製品性能表を抽出出来た場合は抽出成功とし，ノイズ文書からテーブルを抽出した場合は誤抽出，正解文書から製品性能表を抽出出来なかった場合を抽出洩れとした．実験結果を表 に示す．
について，に関する抽出洩れは全て規則の不適合性によるものだった．におけが規則の不適合，がる抽出洩れについては，タグの記述誤りによる解析失敗だった．表領域
抽出ではタグの欠落や記述誤り，特殊な構造を持つ性能表をある程度許容しながら解析を行うが，これらの解析失敗については規則の最適化により解決可能である．また，誤抽出のは製品カテゴリに類似した性能表だった．フィルタリングにて棄却出来なかっ


--( --)"(, -
0

50

カテゴリ

テスト
正解ノイズ( --)"(,40

デジカメプリンタ 表領域抽出結果

適合率

再現率!$!#  !# %
!&$ !!%
$"# $&#! '  !"!#"
$""%

たノイズ文書は表抽出処理にも影響する為，フィルタリングの問題解決が誤分類の減少に繋がる．

 おわりに本稿では，製品選択支援システムの構築に向け，システム入力部にあたる，文書からの製品性能表の抽出処理について述べた．
文書はメーカのウェブサイトより自動収集し，フィルタリング処理は機械学習を用いた分類器生成による解決を試みた．実験は実際の製品メーカからの抽出を想定し，件のテストセットからフィルタリングを行なった．また，高精度の分類器生成と学習コストとの関係を考慮し，ラベル無セットの分布を学習に組み込む事で少量の訓練セットにて高精度を達成出来るを分類器生成に用いた．結果，最大の精度向上，並びに従来のの学習数にて同等の精度を達成出来た．に

####

#0

2#/$/$/$

対する課題点も多い．しかし，少量のラベル付データは，及び多量のラベル無データを学習に用いるをリソースとする本研究において有用性が高い．問題解決に臨み，さらなる発展を図りたい．
は他の構造言語に対し比較的柔軟なコーディングが行える一方，ウェブドキュメントにおける構造の曖昧性をもたらしている．
をリソースとした情報検索やデータマイニングに関する研究は盛んではあるが，ウェブドキュメントを対象とした研究では人手にて正規化された文書を入力に用いたものが多く，構造の曖昧性を考慮するといささか現実的ではない．表
領域抽出処理では構造の曖昧性をいかに許容するかを展望とし，より堅牢性のある性能表抽出を目指す．

参考文献            ! " #    $!
%&'())) ** ++,( ()))
(     - . %   "/  - -**     #% !000 ** ())()0 000
1 2      % 3"   # *- * /     4 5 56 78- %3% 3    % 9  3:+; & : ** 1:+10<())1
= 松本裕治，北内啓，山下達雄，平野喜隆，松田寛，高岡一馬，浅原正幸 日本語形態素解析システム「茶筌」
*>>    ?*>< *@     !  9 49
00:
+ A 4   -  B     **        4 #   3. % 4 4   ())(