情報処理学会研究報告
IPSJ SIG Technical Report

1. は じ め に

言い換えを用いた技術マニュアルの類似文検索

自動車などの製品を複数国で販売するには，技術マニュアルを販売国で使用される言語に翻訳する必要がある．多くの場合，この作業は翻訳の専門家に依頼される．人手による翻訳矢 舖将 隆†1

難波英嗣†1

竹 澤 寿幸†1

作業を効率的に行うために，翻訳メモリという概念がある．翻訳メモリは，過去に翻訳者本人が作成した翻訳を事例としてデータベースに蓄積しておき，新たな技術マニュアルを翻訳する時には，可能な限り過去の翻訳データを再利用するものであり，近年翻訳メモリを利技術マニュアルなど専門的な文書の翻訳作業を効率化するために，過去の翻訳事例を可能な限り再利用する翻訳メモリが広く用いられている．しかし，翻訳メモリ上から翻訳事例を探す際，ユーザが異表記の用語を用いて検索した場合には，その事例を発見することが困難であるという問題が生じる．そこで，本稿では，表層的な文字列の一致だけでなく，言い換えを用いて，原文と類似度の高い文を検索する手法を提案する．提案手法の有効性を確認するため，マツダエース株式会社が業務に用いている技術マニュアル文書データを用いて実験を行った．実験の結果，再現率において 9.2ポイントの改善が得られ，提案手法の有効性を確認した．

用して翻訳をする機会が増えてきている．しかし，翻訳メモリを用いて翻訳事例を探す際，翻訳メモリ上に同一内容の事例が存在していても，翻訳者が異表記の用語（同義語）を用いて検索した場合には，その事例を見つけることができない．その結果，翻訳にかかる費用がかさむ，という問題が生じる．この問題点を改善するため，本研究では，表層的な文字列の一致だけではなく，言い換えや表記揺れも考慮することにより，翻訳メモリ上から原文と類似度の高い文とその対訳文をを抽出する手法を提案する．
本論文の構成は以下の通りである．次節では本研究の関連研究を示し，3 節では，言い換

Retrieving Example Sentences in Technical Manuals
Using Paraphrases

えを用いた翻訳支援について詳細に述べ，本研究における提案手法を述べる．4 節では，実験内容及び実験結果を，5 節ではその考察について述べ，6 節で本稿をまとめる．

Masataka Yashiki ,†1 Hidetsugu Nanba †1and Toshiyuki Takezawa†1

2. 関 連 研 究
本節では，テキスト評価と類似文検索，同義語および言い換え抽出について述べる．

2.1 テキストの自動評価

Recently, the Translation Memory (TM) has been used widely. The TM
reuses a past translation examples as much as possible to promote eﬃciencyof the translation work of professional documents such as technical manuals.
However, human translators can not detect past translation examples using different expressions. In this paper, we explore the use of paraphrasing methods
for retrieving sentences that resemble a search query sentence. To conﬁrm theeﬀectiveness of our method, we conducted some examinations using the data oftechnical manuals of Mazda Ace Co., Ltd. As a result, the improvement of 9.2
points was obtained in recall and we conﬁrmed the eﬀectiveness of our method.

これまでに，テキスト要約の自動評価手法として，人間が作成した要約（以下，参照要約）とコンピュータの作成した要約（以下，システム要約）との類似性による自動評価手法がいくつか提案されている．この手法は，参照要約とシステム要約との間の一種の類似度を計算するものであり，参照要約との類似度が高いほどより良い要約であるという考えに基づく．以下に，代表的な評価手法の一つである ROUGE について説明する．

ROUGE4) は Lin が提案した要約評価用の尺度であり，様々な種類のものが存在するが，そのうちの一つである ROUGE-N は現在，要約システムの自動評価法として最も広く用いられている手法である．ROUGE-N は，参照要約とシステム要約の間で一致する n-gram（ある文字列から切り出した一定個数の文字集合）の割合を以下の式を用いて計算する．

†1 広島市立大学大学院 情報科学研究科
Graduate School of Information Sciences, Hiroshima City University

1c 2010 Information Processing Society of Japan⃝

情報処理学会研究報告
IPSJ SIG Technical Report∑Count(e)e∈n-gram(R)ROU GE(C, R) = ∑e∈n-gram(C)Countclip (e)Zhou らは，英中対訳文データから統計的機械翻訳技術を用いて言い換え表現を自動的に抽出し，テキスト要約の評価に用いる ParaEval という手法を提案している6) ．この手法で(1)は，参照要約とシステム要約の比較を，大域的には最適マッチング，局所的には最長マッチここで，n-gram(C) はシステム要約に含まれる n-gram，n-gram(R) は参照要約に含まれるングを行うことにより段階的に言い換えマッチングを行ない，テキストを評価する．すな

n-gram 集合を表す．Countclip (e) は，システム要約に含まれる n-gram のシステム要約におわち，第一段階では動的計画法に基づき，フレーズ対フレーズによる言い換えマッチング

ける出現頻度 Count(e ∈ n-gram(C)) と参照要約における出現頻度 Count(e ∈ n-gram(R))

を行う．そして第二段階で，残りの単語に対して Greedy 法に基づいて単一語対フレーズ，の小さい方の値を採用する．Lin らは n を 1〜4 まで変化させ，マニュアル評価との相関をまたは単一語対単一語による同義語マッチングを行う．第三段階では第一段階，第二段階で調べた結果，n = 1, 2 が最も高い相関であったと報告している．本研究では，n = 1 を比較言い換えに一致しなかった残りの単語に対して，ROUGE と同様の語彙マッチングを行う．

対象として採用している．

Zhou らは，ParaEval の評価と人間の評価との相関が ROUGE のそれと似ているというこ

2.2 同義語および言い換えの自動抽出とを示し，提案手法の有効性を確認している．

テキストから同義語や言い換えを自動的に抽出する研究は，近年多岐に渡って行われてい平原らは，日本語テキスト要約に対して言い換えを用いた自動評価を行っている1) ．上る2) が，本研究と関連のある代表的なものとして，統計的機械翻訳の技術を用いた研究が述の Zhou らの ParaEval では言い換えの適用手順に関して検討していないことを指摘し，ある．

ParaEval と同様に言い換えの適用を行った後で語彙マッチングを行う「ParaEval 手順」と，海野らは，対訳コーパスから統計翻訳を用いて言い換え表現を自動獲得し，これを従来の語彙マッチングを行った後で言い換えの適用を行う「逆 ParaEval 手順」について検討した．

情報検索の枠組みに取り入れることにより新しいクエリ拡張手法を提案している5) ．彼らはまた，言い換え知識として Zhou ら，海野らの手法の他に，分布類似度，WordNet，NTT

日英対訳コーパスを用意し，同一の訳語とアライメントのとれた 2 つの語句を言い換えと日本語語彙体系など，複数の言い換え知識を利用した．実験の結果，従来のテキスト評価手見なしている．例えば，日本語の「二酸化炭素」と「炭酸ガス」は “carbon dioxide” と対法に比べ，自由作成による要約に対して提案手法がより有効であると報告している．

応付けが行われる確率が高いことから，“carbon dioxide” をピボット（軸）として，「二酸3. 言い換えを用いた類似用例文検索化炭素」と「炭酸ガス」が言い換え表現になっていると見なすことができる．海野らの提案する言い換えの自動抽出手法を，本研究における言い換え知識抽出の方法のベースとして使

本節では，言い換えを用いた類似用例文検索について述べる．3.1 節では，技術マニュアル用する．の翻訳における課題について言及し，3.2 節で言い換えを用いた類似用例文検索における本2.3 言い換えを用いたテキストの自動評価研究での提案手法について述べる．3.3 節では，提案手法での言い換え知識について述べる．

3.1 技術マニュアルの翻訳における課題

上述の統計的機械翻訳技術による同義語抽出手法を，テキストの自動評価に利用した研究として，Kauchak らのものがある3) ．この研究は機械翻訳の評価において，文脈を考慮しコンピュータを利用した翻訳技術のうち，実際の訳例を多数集めてデータベース化し，翻た言い換え手法を提案している．Kauchak らは参照テキスト（人間の被験者が作成した正訳の現場でそれを再利用する「翻訳メモリ」と呼ばれる技術がある．翻訳メモリの主な機解翻訳）の言い換えのうち，システムテキスト（システムが自動的に生成した翻訳）に表れ能は，ている語のみを言い換え候補としている．そして，言い換え候補を参照要約に適用する際• 翻訳者によって書き起こされた翻訳を，その原文とともに，専用のデータベースに登録に，文脈的に適切かどうかを判断している．適切と判断された言い換えを用いて，複数の参する．

照テキストを生成し，自動評価における新たな参照テキストとして用いる．この手法によ• 過去にデータベースに登録された翻訳を，同一または類似の原文が出現したときに自動り，最初の参照テキストのみを用いた（言い換えを用いて生成された参照テキストを用いな的に「類似文」として表示するい）評価と比べ，人手により近い評価が行えることを示している．

である．これらの機能によって，

2c 2010 Information Processing Society of Japan⃝

情報処理学会研究報告
IPSJ SIG Technical Report• 同じ文章を繰り返し翻訳する

単語レベルの言い換えや，表記揺れによる言い換えの一致を Greedy 法に基づい• 文章を手作業で複製し貼り付けるて検出する．などの，これまで翻訳者に任されていた単純作業を自動化し，さらに同じ文章や類似した文(3)( 1 ) と ( 2 ) で一致しなかった語に対して，語彙マッチングを行う．

章の翻訳における表現の統一も自動化することが可能になるため，翻訳品質の向上も期待で3.3 言い換え知識の抽出

きる．

本研究では，Zhou ら6) ，海野ら5) らと同様に，統計的機械翻訳により生成されるフレー

技術マニュアルの翻訳においても翻訳メモリを用いる現場が多いが，技術マニュアルなどズテーブル（翻訳モデル）を用いて言い換え辞書を作成する．この手法は，「もし，X と Yの局所的で専門的な文書は，次の理由で翻訳支援が困難であると考えられている．の翻訳が同一であれば，X と Y は言い換えと見なすことができる」という考えに基づいて• 技術マニュアルは厳密性が要求されるため，一文が非常に長いものもある．また，部品いる．本研究では日英対訳文として，マツダエース株式会社で業務に用いられている技術マ名などの一文が非常に短いものもある．文が極端に長い，あるいは短いと，文の構造解析

ニュアル文書 39,731 文対を，また，統計的機械翻訳用のツールとして GIZA++⋆1 を，そが失敗する可能性が高くなり，翻訳も解析に依存するため失敗する．

れぞれ用いている．なお，得られたフレーズテーブルから言い換え辞書を作成する際，品• 技術マニュアルは新規性・専門性の高い用語が多く使用されており，新しい概念や用語詞情報を考慮し，先頭の品詞と後尾の品詞が一致したフレーズ⋆2 のみを同義語と定義した．

が次々に出てくるため，辞書登録が追い付かず訳語が欠落する．

また，「オイル プレッシャ」など品詞の並びが「名詞-名詞」などの複合名詞は「名詞」に縮• 従来の技術マニュアルの作成は，翻訳を人手で行っているため翻訳者によって表記が異約して扱うこととした．

なり，多数の類似表現が作成される．言い回しの数に伴い他言語翻訳費用が増大する傾向

この手法により，最終的に 38,815 対の言い換え知識を獲得した．これらの言い換え知識にある．

は，自立語，付属語問わず全ての品詞を含み，フレーズ長も任意である．

本研究ではこのような問題を踏まえ，実際の現場では主流である翻訳メモリを用いた翻訳支

4. 実

援に対して，3.2 節，3.3 節に述べる手法を用いて言い換えを考慮し，より多くの類似文検索を行う．

験3 節で述べた手法の有効性を確認するために実験を行った．

3.2 言い換えを用いた類似用例文検索

4.1 実 験 方 法

本研究では，3.1 節で述べた翻訳メモリを用いて，原テキスト（以下，クエリテキスト）と本節では，実験方法として，実験に用いたデータ，言い換え知識の作成，評価方法につい翻訳メモリ上のテキスト（以下，メモリテキスト）との類似度を測る際に言い換えを考慮すて述べる．

ることで，より類似度を上げることが可能になると考えられる．従来の自動評価手法では難■実験に用いたデータしい，表記揺れや言い換えを含むテキストを評価するために，本稿では平原らの “ParaEval

本研究では，マツダエース株式会社で通常業務に用いられている日本語技術マニュアル文手順” と同様の手順を用いて言い換えを考慮する．これは，メモリテキストとクエリテキス

書 39,731 文を，クラスタリングツール bayon⋆3 を用いて分割した．その結果，734 クラトを比較する際，従来手法と同様の語彙マッチングを行う前に，互いのフレーズの間に言いスタに分割された．

換えが含まれていれば，それを同じ単語と見なすことで言い換えを考慮する．以下にアルゴ

bayon により分割された 734 クラスタのうち，ランダムに選択した 200 クラスタ内の任リズムを示す．

意の 80,478 文対を実験データとして用いた．この 80,478 文対に対して，クエリテキスト• ParaEval のアルゴリズム(1)

テキストを走査し，句と句から成る言い換えの一致を Greedy 法に基づいて検出(2)( 1 ) で一致しなかった語に対して，単一語対句，または単一語対単一語を走査し，⋆1 http://www.fjoch.com/GIZA++.html⋆2 例えば，「名詞-助詞-動詞」から構成されるフレーズと，「名詞-名詞-動詞」から構成されるフレーズは同義語と見なす．
⋆3 http://code.google.com/p/bayon/wiki/Tutorial ja

する．

3c 2010 Information Processing Society of Japan⃝

情報処理学会研究報告
IPSJ SIG Technical Report
表 1 ParaEval 手順：「基準 1」と「基準 0 と 2」の一致度
Table 1 ParaEval: Corresponding rate of “criterion 1” and “criteria 0 and 2”とメモリテキストの比較を行い，全ての文対に基準 0，基準 1，基準 2 の計 3 種類のタグを人手により付与し，これを正解データとした．このとき，メモリテキストの情報（日英文対）が存在すると仮定した場合に，クエリテキスト（日本語文）が英文に翻訳できるかどうかの度合いにより判断した．この 3 種類のタグの付与基準について，以下にその詳細システムを述べる．また，基準 2 の例を示す．

基準 1
基準 0 と 2

基準 1

人手
基準 0 と 2

0.1%
0.0%

0.1%
99.8%

• 正解データのタグ詳細
表 2 ROUGE：「基準 1」と「基準 0 と 2」の一致度
Table 2 ROUGE: Corresponding rate of “criterion 1” and “criteria 0 and 2”– 基準 0
メモリテキストの情報だけではクエリテキストを翻訳できないと判断した際に付与（メモリテキストとクエリテキストは類似していない）– 基準 1

システム

メモリテキストの情報からクエリテキストを翻訳することが可能であると判断し

基準 1
基準 0 と 2

基準 1

人手
基準 0 と 2

0.1%
0.0%

0.0%
99.9%

た際に付与（メモリテキストとクエリテキストがほぼ一致している）– 基準 2

なお，システム評価をマニュアル評価と同じ 3 種類の基準とするための閾値 µ は，200

メモリテキストの情報を元にクエリテキストをある程度翻訳することが可能であ

クラスタ中 100 クラスタについて，システム評価とマニュアル評価の一致度を上記 (2)，ると判断した際に付与（クエリテキストとメモリテキストが類似している）(3) 式を用いて算出し，その調和平均である F 値が最も高くなる値を選択した．この予備• 基準 2 の正解データのタグ付け例

実験により，µ = 0.7 のとき最も F 値が高くなり，この値を用いて残りのクラスタに対し– クエリテキスト： O リングに損傷を与えないように注意する。て同様の実験を行い，評価する．すなわち，µ < 0.7 の場合基準 0 に，0.7 ≤ µ < 1 の場

メモリテキスト： スプリングに傷が付かないよう気をつける。

合基準 2 に，1 = µ の場合基準 1 とし，残りの 100 クラスタに対して同様に評価を行う．

■実験に用いた言い換え知識

また，本実験で使用する文対（100 クラスタ）は評価量として大きいものではないので，3.3 節で述べたように，本研究では統計的機械翻訳の過程で生成されるフレーズテーブル

評価結果の妥当性，再現性を保持するため 4-fold cross validation を行った．

から言い換え知識を獲得した．対訳コーパスとして，マツダエース株式会社で業務に用い

4.2 実 験 結 果られている技術マニュアル 79,673 文対を用い，最終的に言い換え知識 61,442 対を集積

4.1 節の実験結果を以下に示す．評価実験として，システム評価とマニュアル評価の一致した．

度を「基準 1」と「基準 0 と 2」，「基準 1 と 2」と「基準 0」のそれぞれについて測る実験■評価手法 評価実験において，ROUGE，“ParaEval 手順” により算出されるスコアはを行った．なお，「基準 1」と「基準 0 と 2」での一致度は，完全に一致した文対の抽出の優0〜1 の値をとり，この値が 1 に近いほどクエリテキストとメモリテキストが類似してい劣をつける尺度であり，「基準 1」と「基準 0 と 2」での一致度は，類似文対の抽出の優劣をると判断できる．これらのスコアと上述した正解データのスコアとの一致度を測ることにつける尺度である．

より，提案手法の有効性を評価する．一致度は，以下の式を用いて算出する．
システムが評価した正解数
人手で作成した正解数システムが評価した正解数
再現率 =システムが評価した数
精度 =100 クラスタで ParaEval 手順，ROUGE に閾値 µ = 0.7 を適用した場合の，「基準 1」と「基準 0 と 2」の実験結果を表 1 に，「基準 1 と 2」と「基準 0」の実験結果を表 2 に示す．

(2)

また，「基準 1 と 2」と「基準 0」の実験結果を表 3 に，「基準 1 と 2」と「基準 0」の実験結果を表 4 に示す．

(3)

表 1〜表 4 より (2)，(3) 式を用いて精度と再現率を算出した．このとき，データ量が少

4c 2010 Information Processing Society of Japan⃝情報処理学会研究報告
IPSJ SIG Technical Report
表 3 ParaEval 手順：「基準 1 と 2」と「基準 0」の一致度
Table 3 ParaEval: Corresponding rate of “criteria 1 and 2” and “criterion 0”

システム

エリテキストとメモリテキスト内にそれぞれ「ガラスの」および「ガラスの端末」という語が含まれていれば，包括関係にある言い換え知識を用いて，この 2 語が言い換え関係にある人手基準 1 と 2

基準 0と判断されてしまう．この問題は，主にクエリテキストとメモリテキストが完全一致すると4.1%
4.5%

3.5%87.9%

人手で評価された場合に起こりやすい傾向が確認された．また，この問題は類似文であると

基準 1 と 2
基準 0

人手で評価された場合にも確認された．
表 6 において，ParaEval の再現率が ROUGE を 9.2 ポイント上回っており，単純な語彙表 4 ROUGE：「基準 1 と 2」と「基準 0」の一致度
Table 4 ROUGE: Corresponding rate of “criteria 1 and 2” and “criterion 0”

システム

人手
基準 1 と 2

基準 0

3.5%
5.1%

1.7%
89.7%

基準 1 と 2
基準 0

マッチングである ROUGE よりも，言い換えを用いる提案手法の方がより多くの類似文を検索できることが分かる．すなわち，ROUGE では抽出できなかった類似文が ParaEval では抽出できたことを示しており，提案手法の有効性が確認できた．
次に，表 6 において，ParaEval の精度が ROUGE を 10.5 ポイント下回ったことに関する考察を行う．これは，ParaEval が誤って類似文として評価したと考えられる．以下に誤って評価された例を示す．

表 5 「基準 1」と「基準 0 と 2」での精度，再現率
Table 5 Precision and Recall of “criterion 1” and “criteria 0 and 2”

クエリテキスト： 作業開始前のキーは使えなくなるので、作業開始前に新品のキーを 2 本

ParaEval
40.8%
82.9%

メモリテキスト： キー・シリンダを交換する場合は、作業開始前のキーは使えなくなるの精度
再現率以上準備する。

ROUGE
77.6%
100.0%

で，作業開始前に登録用キーを 2 本以上準備すること。
このように，上述した包括関係にある言い換え知識が多く用いられている場合，すなわ

表 6 「基準 1 と 2」と「基準 0」での精度，再現率
Table 6 Precision and Recall of “criterion 1 and 2” and “criteria 0”

ち，言い換え知識として「キー」と「キー・シリンダ」の言い換え，「作業開始」と「作業開ParaEval
54.1%
52.3%

正しい評価が行えなかったことが原因である．これは，言い換えの適用と語彙マッチングの精度
再現率

始前の」，「作業開始前に」の言い換えが包括関係にある場合，ParaEval がうまく機能せず，ROUGE
64.6%
42.8%

適用順序を変更することで対処が可能になると考えられる．

6. お わ り になく結果に偏りが予想されるため，同 100 クラスタに対して 4-fold cross validation による評価を行った．その結果を表 5，表 6 に示す．なお，表中の太字は比較結果における最大値

本研究では，技術マニュアルなどの機械翻訳が困難な文書に対して，言い換えを考慮するである．

5. 考

ことによりクエリ文書と類似度の高い文書を検索する手法を提案した．評価対象が一般的な文書ではなく，技術マニュアルという専門的な文書であり対訳文が存在すること，また，言察

い換え知識を獲得する際に品詞情報を考慮しているという点が異なる．提案手法の有効性を

表 5 において，ParaEval の精度，再現率が ROUGE を下回った．これは，3.3 節で述べ確認するため，マツダエース株式会社の技術マニュアル文書データを用いて実験を行った．

た同義語辞書に原因があると考えられる．この同義語辞書は自動的に収集されたものである

データの偏りを除去するため 4-fold cross validation を採用し実験を行った結果，再現率ため，例えば「ガラスの」に対して「ガラスの端末」のような，一方が他方を包括する言いにおいて 9.2 ポイントの改善が得られ，提案手法を用いることによりより多くの類似文を検換え知識が含まれていることが多い．しかし，本実験で用いた “ParaEval 手順” では，ク索できることが確認された．

5c 2010 Information Processing Society of Japan⃝

情報処理学会研究報告
IPSJ SIG Technical Report

また，本研究の結果，現在の自然言語処理技術を用いて獲得できる言い換え知識を適用しても，重要な点で反意語を用いているために十分な評価を行うことが不可能であり，翻訳メモリから抽出できない類似文が存在することが明らかになった．この問題については，あくまでも翻訳支援，すなわち翻訳作業コストの低減という観点から，現在の技術の可能性と限界を吟味する態度が重要であろう．
謝辞 本研究で用いた技術マニュアルのデータを提供して下さったマツダ株式会社およびマツダエース株式会社に深謝致します．

参考文献

1) 平原一帆，難波英嗣，竹澤寿幸，奥村学：言い換えを用いたテキスト要約の自動評価，
情報処理学会論文誌データベース，Vol.3，No.2，pp.91–101 (2010)．
2) 乾健太郎，藤田篤：言い換え技術に関する研究動向 (2004).
3) Kauchak, D. and Barzilay, R.: Paraphrasing for Automatic Evalutaion, Proc. the2006 Human Language Technology Conference of the North American Chapter ofthe Association for Computational Linguistics(HLT-NAACL), pp.455–462 (2006).
4) Lin, C.-Y.: ROUGE: A Package for Automatic Evaluation of Summaries, Proc.
ACL workshop on “Text Summarization Branches Out”, pp.74–81 (2004).
5) 海野裕也，宮尾祐介，辻井潤一：自動獲得された言い換え表現を使った情報検索，言語処理学会第 14 回年次大会，pp.123–126 (2008).
6) Zhou, L., Lin, C.-Y., Munteanu, D.S. and Hovy, E.: ParaEval: Using Paraphrases
to Evaluate Summaries Automatically, Proc. the 2006 Human Language Technology
Conference of the North American Chapter of the Association for ComputationalLinguistics(HLT-NAACL), pp.447–454 (2006).

6c 2010 Information Processing Society of Japan⃝