特許翻訳におけるドメイン適応型機械翻訳

特集《弁理士業務と AI 技術》

特許翻訳におけるドメイン適応型機械翻訳
本間日本特許翻訳株式会社，代表取締役社長

要奨

約

AI 翻訳（ニューラル機械翻訳）技術の進展が著しい。翻訳業界でも特許出願明細書の翻訳に AI 翻訳を取り入れ翻訳の迅速化並びに生産性を向上する動きが加速してきている。本報告では，最初に機械翻訳システムの翻訳精度の自動評価法を紹介し，この評価法をもとに，特に特許にフォーカスした NICT の新世代翻訳エンジンの実力を中心に Google 翻訳と比較レビューする。これらの汎用型翻訳エンジンに対して，特許や医薬などの産業翻訳で要求される特定分野の特定文型や用語に適切に対応可能なドメイン適応型機械翻訳について解説を行う。ドメイン適応型機械翻訳エンジンと CAT ツールを統合化した統合翻訳環境では，簡単なマウス操作で大量の対訳や翻訳メモリなどからドメイン適応型機械翻訳エンジンを構築し，これを CAT ツールに組み込むことが可能となる。最後に，このような統合翻訳環境を特許や医薬の翻訳に活用した事例などを紹介する。

目次

アルゴリズム（図 1 参照）の新世代エンジン，汎用1.はじめにNT および特許 NT を一昨年 11 月に公開した。

2.対訳コーパスによる機械翻訳技術の発展

NICT 以外にも国内ではみらい翻訳 Mirai Translator

3.機械翻訳の評価法（登録商標）やロゼッタ T-400 及び T-3MT，国外では4.翻訳システム間の精度比較
4.1

翻訳システム

Google 翻 訳 や Microsoft Translator に 続 き DeepL

4.2

特許公報の精度比較

Translator などのあらたな NMT 翻訳サービスが提供

5.ドメイン適応型機械翻訳の詳細
5.1

されている。

汎用型とドメイン適応型の翻訳例

5.2 汎用型，分野特化型，ドメイン適応型機械翻訳シス
テムの精度比較5.3 統合型翻訳環境でのドメイン適応型翻訳エンジンのこれらの翻訳技術の進展を背景に，日本出願を海外の言語に翻訳する際の翻訳文作成方法も大きな変革が起きようとしている。人手から AI による翻訳へ移行活用しようとする変革期にある現状で，AI の最先端の翻6.おわりに訳技術を比較検討する場合，どのような点に注目して評価すればよいかを 3. で詳細を述べ，最新の NMT翻訳システムの特許公報などに関する評価結果を 4.

1.はじめにに，また本報告の主題であるドメイン適応機械翻訳に国立研究開発法人）情報通信研究機構（以下 NICT）関する詳細を 5. にまとめた。（1～4 については筆者には，特許庁－ NICT 協力合意により特許庁の保有すよる（一社）日本知的財産協会「知財管理」Vol.70

る大量の訓練用翻訳データをベースに特許専用の統計

No.9 2020 pp.1253～1264 の原稿を加筆・修正した）的 機 械 翻 訳（SMT） お よ び ニ ュ ー ラ ル 機 械 翻 訳（NMT）エンジンを開発，特許庁では NICT 翻訳エ

2.対訳コーパスによる機械翻訳技術の発展

ンジンを庁内の審査官用の検索システムにとどまらず対訳コーパスベースの機械翻訳システムの歴史は長J-PlatPat の中国特許検索用およびワンポータルドシ

く，翻訳しようとする原文に似た対訳を流用して組み（1）エの日英翻訳サービスに用いている 。

合わせることで翻訳する用例ベース機械翻訳

NICT は，さらに特許庁で用いられている現世代型（2）（example-based machine translation, EBMT）
が最特許 NMT エンジンから，より高精度な Transformerも古く，次に SMT（統計的機械翻訳）が IBM によっVol. 75

No. 2－ 27 －

パテント 2022

特許翻訳におけるドメイン適応型機械翻訳

図 1 コーパスベース MT アルゴリズムの進展（「日経エレクトロニクスセミナー」P7 2019/12 NICT 内山将夫氏講演資料に基づく）て研究が開始された（3）。SMT では，大量の対訳文か（10）BLEU 解釈（Google）

ら統計モデルを作成する。これに対して NMT（ニュー＜10ラル機械翻訳）では，1 つのニューラルネットワーク

10～19

主旨を理解するのが困難であるを用いて訓練 - 翻訳とも同じフレームワークで行う。

20～29

主旨は明白であるが，文法上の重大なエラー対訳を与えるだけで，ニューラルネットワークが翻訳ほとんど役に立たないがあるに必要となる情報を自動的に学習することができる。

30～40

理解できる，適度な品質の翻訳

AI 翻訳とはこの NMT の技術に基づく機械翻訳であ40～50

高品質な翻訳る。NMT の実用化は Google が 2016 年に先鞭をつけ50～60

非常に高品質で，適切かつ流暢な翻訳た。NICT は 2017 年に第一世代の NMT（Sequence＞60（4）to Sequence Learning ）をリリース，2019 年には第人が翻訳した場合よりも高品質であることが多い（5）

二 世 代 の NMT（Transformer ） を リ リ ー ス し た。

BLEU のスコア計算は，参照訳と MT 訳との間のこれらは国内の特許分野ではデファクトの翻訳エンジN グラム（通常 N は 1～4）が一致した数を数える。

ン と し て 広 く 利 用 さ れ て い る。2020 年 に 入 る と，

欧米言語間のような語順の近い言語間では人手翻訳とTransformer より高精度と云われている DeepL が欧の相関はよいとされるが，日英・英日のように語順が（6）

州言語に加えて日本語・中国語に対応した 。NMT
（7）

大きく異なる言語対では問題がある。RIBES（Rank-の解説は中澤 を，Transformer 以降の NMT の技術（11）based Intuitive Bilingual Evaluation Score）
は，参的な進展の例としては，Sergey Edunov（8）を参照され照訳と MT 訳との間で共通して出現する単語の出現たい。

順 序 に 着 目 し た 自 動 評 価 法 で， 日 英 翻 訳 な どでは
BLEU と並んで評価指標として用いられる。

3.機械翻訳の評価法

日本特許庁では特許翻訳用の翻訳システムの要件の機械翻訳されたテキストの翻訳精度を自動的に評価

一 つ に，5000 文 程 度 の コ ー パ ス に お い て，BLEU/するための指標として，代表的な指標に BLEU（BiLingualRIBES それぞれが評価基準値を上回ることとしてい（9）

Evaluation Understudy） がある。BLEU は，機械翻る。大雑把に言うと，BLEU は訳語適切性と訳語の過訳されたテキストと高品質な（人手翻訳による）参照不足のなさを RIBES は語順の正確さを反映している。

訳の類似度を表す。BLEU はコーパスベースの指標でしたがって，日本語を含む翻訳精度評価では，BLEUあり，一般的には BLEU などの自動評価指標を個々や RIBES など 1 つの指標のみで翻訳精度評価をおこの 文 の 評 価 に 使 用 し た 場 合 は う ま く 機 能 し な い。

なうべきではなく，BLEU と RIBES のそれぞれを評BLEU を計算する際には，コーパス全体で算出される価する必要がある。本報告では BLEU と RIBES の 2のが一般的である。

次元空間の位置で翻訳システムの精度評価を行った。
ま た そ の ベ ク ト ル 長 に 相 当 す る 次 の 値 sqrt（（3 ＊パテント 2022－ 28 －Vol. 75

No. 2特許翻訳におけるドメイン適応型機械翻訳

BLEU2 ＋ RIBES2）/4）で「スコア」を算出し，精度と推定される。の目安とすることも可能である。BLEU，RIBES とも②ロゼッタ T-3MT：ロゼッタ社では，医薬，特許，0～1 の実数であるが，以下ではそれらを 100 倍した 0

会話，メールなどの分野別にあらかじめ翻訳エンジン～100 の実数とした。

を用意して，ユーザーが選択可能としている（12）。
③ Mirai Translator「契約書・法務モデル」：みら

4.翻訳システム間の精度比較
4.1

い翻訳では，大手法律事務所の協力を得て開発した翻訳システム「契約書・法務モデル」特化型エンジンが用意されて（1） 汎用型翻訳システム

いる。

適用分野が広く，また扱える言語も広く選択できる。
（3） ドメイン適応型機械翻訳システム

代表的な例として以下の 4 つの翻訳システムがある。
① Google, Microsoft, Amazon など：訓練データは訓練データと同じ言語および同種の原文に限定されインターネットをはじめあらゆる分野のデータを使用るが最も高精度である。顧客の保有する対訳や翻訳メしているため，適用範囲は最も広い。

モリをもとに独自翻訳システムを構築する。ベースエ② NICT：汎用 NT（NICT の第二世代：Transformer）

ンジンに対して，対訳による追加学習（アダプテーは，総務省翻訳バンクの仕組みで収集された特許や医ション）したエンジンに基づく翻訳システム。対訳文

薬，IT，など複数分野にまたがる良質な訓練データの精度が高い場合，この訓練データと同種の原文につにより構築された NICT 新世代 NMT である。

いては最高精度の翻訳結果を得ることが可能であるが③ DeepL：DeepL translator は 2020 年 3 月より欧適用範囲は限定される。

州言語に加え日本語・中国語に対応した。同社のブロ① NICT アダプテーション＋EBMT（NICT の第三グ に よ れ ば，『Google 等 の 汎 用 翻 訳 シ ス テ ム は，世代エンジン）：npat ProTranslator などでは NICT

ニューラル機械翻訳のトレーニングを行うための良い特許 NT エンジンをベースエンジンとして，顧客対訳データを豊富に持っているが，DeepL では，数学とデータや翻訳メモリなどから NICT アダプテーショ

ニューラルネットワークの方法論において数々のイノン＋EBMT エンジンを構築し，Trados/Memsource/ベーションを達成したことで，他よりも一層優れた結MemoQ などの CAT ツールと連携した統合型翻訳環果を出すことができるようになった。
』とのことであ境を提供している。

り，NMT アルゴリズムに特徴がある。

②ロゼッタ T-3MT：ロゼッタでは分野特化型エン④みらい翻訳（登録商標）：Mirai Translator（登録ジンをベースに，顧客対訳データや翻訳メモリなどか商標）は NICT との共同研究成果を利用し，みらいらドメイン適応型機械翻訳構築を可能としている。

翻訳（登録商標）にて製品化した NMT エンジンを搭③ RWS Language Weaver：Trados と 連 携 し て，載する機械翻訳サービスである。同社によれば，『和Trados 翻訳メモリからドメイン適応型機械翻訳構築

文英訳がプロ翻訳者レベル，英文和訳は TOEIC960を可能としている。Trados と連携した統合型翻訳環

点レベル，日中翻訳は翻訳者による翻訳と同等レベル境を提供している。の翻訳が可能』としている。
（4） マルチ NMT 翻訳システム（12）（2） 分野特化型翻訳システム

マルチ NMT 翻訳では，翻訳セグメント単位に，汎特許や医薬，法務などの各分野に特化したタイプで，用翻訳システムと分野特化型翻訳システム，アダプ扱える言語は限定され，精度は汎用型とドメイン適応テーションエンジンを同時翻訳して，さらに逆翻訳を型機械翻訳システムの中間である。ドメイン適用型翻おこない，各エンジンのスコアを求め，最高スコアの訳エンジンのベースエンジンとしても用いられる。

翻訳結果を出力することで特許文書から科学技術文献① NICT 特許 NT（NICT の第二世代：Transformer）：まで幅広い分野で高精度な翻訳を提供することが可能

特許公報から作成した対訳のみで訓練した特許用エンである。自動翻訳に適した翻訳システムといえる。

ジン。NICT 英日・日英は 2 億文程度，NICT 中日・日中は 1 億文程度の文対を用いてエンジンを構築した
Vol. 75

No. 2－ 29 －パテント 2022

特許翻訳におけるドメイン適応型機械翻訳

4.2

特許公報の精度比較

特定 IPC サブクラス程度をイメージしている。例とGoogle 翻訳，NICT 汎用 NT，NICT 第一世代の特しては，出願人が富士通で，IPC サブクラス G06F な

許 NMT および第二世代の特許 NT の 4 システムにつどを想定しているが，翻訳メモリなどの非常に狭い領いて精度比較した。要約＋請求項＋詳細な説明各 5,000

域をドメインとしてもかまわない。ドメインが狭い場

文の BLEU/RIBES 平均値により評価した。NICT 特合は訓練文対数も少数でよく，NICT アダプテーショ

許 NT が 最 高 ス コ ア を 示 し， 日 英 で は BLEU47.0,ン＋ EBMT エンジンでは，1,000 文対程度あれば訓練

RIBES88.2 と 英 日 の 評 価 値 BLEU45.1, RIBES85.5 よは可能である。一方，ドメインが狭い場合は，適用範りも高いスコアを示した。

囲はより限定されてくる。
Google 翻訳，マイクロソフト翻訳，DeepL，NICT
汎用 NT などの汎用型翻訳システムは，学習量は最も大きいエンジンであるが，訳文は平均化された表現になる。特許や医薬分野のような産業翻訳では，平均的な表現では翻訳で要求される特定表現に十分対応できないケースが少なくない。特定分野，統制された特定表現に限定された文対でベースとなる機械翻訳エンジンを訓練すると，翻訳文はドメイン固有の表現で翻訳されるようになる。汎用型翻訳エンジンとドメイン適応型機械翻訳の違いを以下の簡単な例で説明する。
【原文】
Pharmacist/designee（i.e. delegated site staff
authorized to perform study specific tasks per the図2“site signature/delegation log”）will inspect the

特許公報の英日翻訳評価

content of IP shipment immediately after thereceipt.
この原文は，医薬分野の特定ドメインであり，この原文を用いて，汎用型とドメイン適応型の簡単な比較を行った。汎用型翻訳エンジンとしては，Google 翻訳，DeepL，NICT 汎用 NT，みらい翻訳の 4 つを取り上げそれぞれの翻訳結果を示す。
【汎用型 Google】
薬剤師／被指名人（つまり，「サイト署名／委任ログ」に従って調査固有のタスクを実行する権限を与えられた委任サイトスタッフ）は，受領後すぐに IP 出荷の内容を検査します。
【汎用型 DeepL】
薬剤師／被任命者（「施設の署名／委任記録」に基

図3

づいて試験特有の作業を行うことを許可された委任さ特許公報の日英評価れた施設スタッフ）は，IP 貨物の受領後直ちに内容5.ドメイン適応型機械翻訳システムの詳細5.1物を検査します。

汎用型とドメイン適応型の翻訳例【汎用型 NICT 汎用 NT】

本報告では，分野は，特許（全分野）や医薬（全医薬剤師／被指名人（すなわち，「サイト署名／委任薬分野）などを指すのに対して，ドメインは分野よりログ」に従って試験固有の業務を実施する権限を与え狭い領域を指している。特許でいうと，特定出願人のられた委任されたサイトスタッフ）は，受領後直ちに

パテント 2022－ 30 －

Vol. 75

No. 2特許翻訳におけるドメイン適応型機械翻訳

IP 発送の内容を検査する。
【汎用型みらい翻訳】
薬剤師／被指名人（つまり，「サイトの署名／委任ログ」ごとに調査固有のタスクを実行する権限を与えられた，委任されたサイトスタッフ）は，受領後速やかに IP 出荷の内容を検査する。
上記汎用型エンジン対して，NICT 汎用 NT をベースエンジンとし，NICT アダプテーション＋ EBMTを用いて医薬のあるドメインで訓練したドメイン適応型では，以下のような翻訳結果が得られた。
【ドメイン適応型】
薬剤師／被指名者（すなわち，「実施医療機関の署名／委任記録」に従って治験特有の業務を遂行する権限を与えられた委任された実施医療機関の職員）は，受領後直ちに治験薬の発送内容を確認する。
汎用型では，医薬の特定ドメインの翻訳に対して，多くの誤訳があるため，機械翻訳を使っても生産性は

図 4 富士通×G06F 請求項ドメインの公報の対訳 504 文対による汎用型，分野特化型，ドメイン適応型機械翻訳システ
ムの精度比較さほど向上しない。汎用型エンジンに用語辞書で対応として NICT アダプテーション＋ EBMT の BLEU とすることも一案であるが，例えば誤訳の原因の一つとRIBES スコアをまとめた。図 4 から明らかなようになっている「study」を治験と名詞で辞書登録した場

特定ドメインに関する自動評価スコアでは，汎用型合，別の原文で「study」が動詞で用いられた場合や別の意味の名詞として用いられた場合には，あらたな＜分野特化型＜ドメイン適応型のように精度が向上していくことがわかる。

誤訳となってしまう。さらに 1 文に複数用語がある場
5.3 統合型翻訳環境でのドメイン適応型翻訳エ合の辞書適用では，AI 翻訳精度が低下してしまう。

ンジンの活用用語辞書を AI 翻訳に用いる場合は，このような点に上記のようなドメイン適応型エンジンの構築は，翻留意する必要がある。一方，ドメイン適応型翻訳にお訳メモリやこれまでの翻訳資産の対訳を訓練データといてはこのような問題は起こり得ない。

して用いることになる。従って，だれでも簡単にエン
5.2 汎用型，分野特化型，ドメイン適応型機械翻訳システムの精度比較

ジンを構築するためには，①翻訳メモリ tmx や対訳エクセルから簡単にエンジン構築ができ，②それを特許分野における特定ドメインとして，出願人が富CAT ツールの翻訳メモリのマッチ率の閾値をユーザ

士通，IPC 分類で G06F の公報からドメイン適応型翻が設定可能とし，閾値以上のセグメントは翻訳メモリ訳エンジンを構築した。具体的には，前記ドメインのの結果を，閾値未満についてはドメイン適応型エンジ日本公報と対応米国公報の請求項の集合のうち，4,037ンによる翻訳結果を統合する仕組みが必要となる。

文対を訓練データとして用いた。同じ集合から 504 文

このようなドメイン適応型エンジンと CAT ツール

対 を 評 価 用 文 対 と し て 用 い た。 ベ ー ス エ ンジ ン をとの統合化については，すでに RWS Language Weaver

NICT 特許 NT とし，アダプテーション＋ EBMT と（Trados との連携）や npat ProTranslator（Memsource

いう少量文対に対応した NICT の訓練システムを用API による統合環境に加え Trados/MemoQ との連携もいて前記 4,037 文対で訓練して，ドメイン適応型翻訳可能）などの統合型翻訳支援サービスが発表されていエンジンを構築した。訓練時間はおよそ 30 分程度でる。後者は NICT 特許 NT をベースとするドメインあった。

適応型翻訳エンジンに特化した翻訳サービスである。

図 4 に，汎用型として Google 翻訳と DeepL を，分事務機の業界団体である JBMIA では，複合機の技野特化型として NICT 特許 NT を，ドメイン適応型術ドメイン単位のエンジン構築を行い，JBMIA のメ

Vol. 75

No. 2－ 31 －パテント 2022

特許翻訳におけるドメイン適応型機械翻訳

ンバー企業（キヤノン，京セラドキュメントソリュー
ションズ，コニカミノルタ，ScienBiziP Japan，セイコーエプソン，東芝テック，富士フイルム，富士フイ
ルムビジネスイノベーション，ブラザー工業，リコーなど 14 社）において外国出願案件業務への適用へ向（2）Makoto Nagao, “ARTIFICIAL AND HUMAN INTELLIGENCE” chap. 11 1984（3）P. Brown et. al. “A Statistical Approach to French/English Translation”（4）Ilya Sutskever, Oriol Vinyals, Quoc V. Le, “Sequence toSequence Learning with Neural Networks” 2014

けたフィージビリティ・スタディが進められている。

（5）Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob

また医薬翻訳大手のアスカコーポレーション並びに特Uszkoreit, Llion Jones, Aidan N. Gomez, Lukasz Kaiser, Illia

許翻訳大手の知財コーポレーションなどで自社で構築した大量の対訳や翻訳メモリを用いてドメイン適応型翻訳エンジンを構築し，翻訳業務に活用されている。

Polosukhin, “Attention Is All You Need” 2017（6）https://www.deepl.com/blog/20200319.html（7）中澤敏明，「機械翻訳の新しいパラダイム：ニューラル機械翻訳の原理」情報管理 2017 年 60 巻 5 号 p.299-306（8）Sergey Edunov, Myle Ott, Michael Auli, David Grangier,“Understanding Back-Translation at Scale” 2018

6.おわりに医 薬 や 特 許 な ど の 産 業 翻 訳 で は，Google 翻 訳 や（9）Kishore Papineni, Salim Roukos, Todd Ward, and WeiJing Zhu, “a Method for Automatic Evaluation of Machine

DeepL などの汎用型翻訳エンジンから，ドメイン適応型翻訳エンジンへと移行しつつあり，本報告が特許Translation” 2002（10）https://cloud.google.com/translate/automl/docs/

翻訳にかかわる読者の参考になれば筆者としては望外（11）平尾努 磯崎秀樹 Kevin Duh 須藤克仁 塚田元，
「RIBES：の喜びである。

順位相関に基づく翻訳の自動評価法」言語処理学会第 17 回
年次大会発表論文集（2011 年 3 月）

（参考文献）（1）東芝デジタルソリューションズ株式会社ス

evaluate?hl=ja（参照日：2020.5.4）

ニュースリリー（12）JTF JOURNAL #306 2020 03/04

2018 年 7 月 10 日

パテント 2022

p.10-11, 18-19（原稿受領 2021.11.5）－ 32 －Vol. 75

No. 2