IBM Research - Tokyo

質問応答タスクと⾃自然⾔言語処理理
2016年2月29日	
第7回産業⽇日本語研究会・シンポジウム「⼈人⼯工知能と産業⽇日本語との出会い〜～先進的グローバル・ビジネスへの展開と躍進〜～」

⽇日本アイ・ビー・エム株式会社
東京基礎研究所
武⽥田浩⼀一
1配布資料料© 2016 IBM Corporation

IBM Research - Tokyo

2011年年2⽉月14-16⽇日、IBMリサーチが開発した質問応答システムWatsonが⽶米国の⼈人気クイズ番組「Jeopardy!」で勝利利しました“Jeopardy!” とは! 1964年年から続くアメリカのクイズ番組! ⽉月曜〜～⾦金金曜の⼣夕⽅方、既に9000回以上放映! 歴史・科学・スポーツ等幅広い分野から出題– 知識識が問われる正統派のクイズ– ⾔言葉葉遊び的なパズルも! 解答者3⼈人が獲得⾦金金額を競う形式(Watson+2名の対戦相⼿手)• Ken Jennings⽒氏（最多連勝記録保持者）• Brad Rutter⽒氏（累累積最⾼高賞⾦金金記録保持者）
正答率：
Jennings⽒氏: 88%, Rutter⽒氏: 89%, Watson: 88%• 「質問応答」というテキスト情報に基づく解答の計算⼿手法が広く認知された• ITでは解決できないと思われていた問題をIBMにご相談いただくようになった• Watsonで解決可能な問題の拡⼤大(Cognitive Computingとして⼀一般化)
2

配布資料料

© 2016 IBM Corporation1	

IBM Research - Tokyo

質問応答システムWatsonとは？

問題(⽂文)の内容を分析して、事前に収集された⼤大量量のテキスト情報から問題の解答候補とその根拠・確信度度を計算し、⾼高い確信度度の候補が得られた場合に解答する、という⼀一連の知的処理理を⾼高速に実⾏行行するコンピューター・システム
⽅方⾔言を話しましょう
マルタ語はイタリア語から多くの語彙を借りているが、それはこのセム語系⾔言語の⽅方⾔言から発展した

キーワード＋マルタ語-借りる-語彙それ-発展する-⽅方⾔言
このセム語系⾔言語問われている
内容の解析

膨⼤大な情報源
アラビア語?
イタリア語?
英語?
地中海?

マルタ語にはイタリア語, シチリ
マルタ語の語
ア語から. の借⽤用
彙はアラビアが多く語語彙を基礎とし、アラビア語
最も確信度度の⾼高い
解答

根拠の探索索と確信度度の計算

解答候補の⽣生成問題

解答

根拠に基づく解答候補のスコア付けから正解を推定
2x5 = 10ラック（うち１ラックは制御⽤用)、100ノードで構成
各ノードは4個のPOWER7チップから構成され,各チップは8個のCPUコアを含む 　→ 　合計2,880コア
合計15TBのメモリ搭載、80TFLOPSの処理理能⼒力力
3

配布資料料

© 2016 IBM Corporation

IBM Research - Tokyo

正答率率率を⾼高めるためのチューニング(機械学習)
百科事典・語彙体系・
ニュース記事・ブログ・聖書・歌の歌詞・・・

情報源

前処理理で項構造・関係抽出などのアノテーションを付与

⼊入⼒力力

出⼒力力

質問⽂文＋カテゴリ

解答＋確信度度のリスト
検索索

マッチング
順位付け

問われている
内容の解析解答の候補の⽣生成
並列列化（2880コア）

4

解答の解答の解答の解答の根拠探し
根拠探し
根拠探し
根拠探し
学習データ
（過去問）

スコアリング・同義語の統合
統計モデル（根拠の重み付け）
配布資料料© 2016 IBM Corporation2	

IBM Research - Tokyo

情報源および学習データとなる⾔言語資源とその加⼯工

Source Acquisitionで情報源を選択的に追加

各質問に正解・不正解を対応づけ、約570万ペアの学習データを生成

Source Transformation
で主な情報源から見出語＋本文の形式を導出
本文中に省略候補を補完

Source Expansionで高頻度の見出し語には100 Web
ページを検索しナゲットを追加

Wikipedia 　(最初の情報源)
World Book Encyclopedia
Books from Project Gutenberg, etc.
統計的に約7000種の関係を抽出（RDFデータと併合)

25,000 past
Jeopardy!
questions

述語項構造をフレーム表現として抽出。さらに頻出する共通構造をパターンとして抽出(PRISMATIC)

正解・不正解を確信度つきでラベル付けるロジスティッ
ク回帰モデルを構築(解のランキングに利用)同一の候補は根拠とともにマージしてスコアを更新。
関連した候補はリンクづけして一部の根拠をdiffuse。

5配布資料料© 2016 IBM Corporation

IBM Research - Tokyo

⾔言語資源の存在を前提とした知的システムの設計" タスク設計
利利⽤用可能な⾔言語資源の質・量量と現状の⾃自然⾔言語処理理や機械学習などの精度度でも実⽤用性のあるタスク" 既存⾔言語資源の有効な利利⽤用• 意図したタスク専⽤用に構築された⾔言語資源は⾒見見つからない• 新たなタスク専⽤用の⾔言語資源を独⾃自開発するコスト・期間は⼤大きな負担• ⾔言語資源を加⼯工することで必要とされる情報を抽出・導出• さらに抽出された情報を統計的に集約することで汎⽤用パターンやルールを獲得• Word embeddingなどの⼿手法で⼀一部同義語辞書などを代替可能に" ルールベース⼿手法と機械学習・統計的⼿手法の併⽤用⾼高precision/低recall + 低precision/⾼高recall をバランス
最終的にはルールベース⼿手法を逐次改良良して⾼高precision/⾼高recallを達成" 当初の精度度を維持するために保守作業が不不可避・不不可⽋欠情報源や学習データの更更新、タスクの⼊入⼒力力となるデータの変化に対応
商業的には保守作業のルーチン化・簡素化が鍵となる

6

配布資料料

© 2016 IBM Corporation

3	

IBM Research - Tokyo

Watsonの質問応答技術とその事業化

質問応答技術を起点に、ビッグデータ基盤構築からバートナーソリューションまで幅広く⽀支援
医療療保険承認業務

創薬⽀支援コンタクトセンター⽀支援

資産運⽤用

医療療機関からの治療療事前承認 ⼤大量量の⽂文献、特許、化合業務を省省⼒力力化、かつエビデン 物などの情報から創薬に コンタクトセンターの回答⽀支援 ファイナンシャルアドスに基づく医療療にドライブつながるヒントを提⽰示 スマートフォン経由の⾃自動応答 バイザー業務を⽀支援
質問応答＋既存技術を統合しブランド化

医療療教育分野
医師国家試験を題材に、問題発⾒見見解決型教育ツールを開発

パートナーソリューション
IBM Watsonプラットフォームを提供し、ビジネスパートナーによるソリューション構築･提供を⽀支援

医療療分野
患者の症状に対し、診断の参考になる情報提供、必要な検査、良良いアウトカムにつながる治療療⽅方法の研究を⽀支援

クラウド＋SoftLayer/IBMBluemixを利利⽤用したIBM Watson
プラットフォーム構築

7

配布資料料

© 2016 IBM Corporation

IBM Research - Tokyo

ヘルスケア/ライフサイエンス分野の⾔言語資源とその役割
テキストマイニング
Bioinformatics
ポータルサイト
データベース中の要素や実験対象についての知⾒見見・コンテキストを獲得

情報の可視化•  OLAP⾵風の対話的分析
マイニング機能•  傾向/パターン/相関の分析
情報抽出•  ⽤用語/実体/関係の抽出•1000ドル・ゲノム分析•⼤大規模データベースとの統合
電⼦子カルテ
臨臨床試験・副作⽤用
診療療ガイドライン等

MEDLINE (約2500万⽂文書)やライフサイエンス特許⽂文書など•  テキスト情報とカタログ属性による情報の記述

PubMed等の検索索サービス

MeSH シソーラス  (約2.7万語のdescriptor)やIPC(International Patent Code)• ⽣生医学分野の主題の階層的な体系
UMLS メタシソーラス  (280万概念念  + 1120万語の概念念名称)やGOなど•  ⽣生医学分野の多様な情報源に現れる専⾨門⽤用語の体系化

⽶米国医学図書館などにより公開されたデータ
⽇日本語の⾔言語リソースは貴重：臨臨床医学オントロジーなど
8

配布資料料

© 2016 IBM Corporation4	IBM Research - Tokyo

産業⽇日本語への展開••••

単⼀一⾔言語の⾔言語資源としての価値がもっと⾼高められる
オープンデータや業務上発⽣生するデータとの融合
モノづくりなど⽇日本の産業全体を⽀支援できるタスクで利利⽤用マイニング＋創造⽀支援の両ツールを使いこなす教育

質問応答
モノづくりDiscovery⽀支援

Wikipediaなど
オープンなデータ
Fターム

翻訳・⾔言換え

技術動向予測や技術開発企画を研究開発の現場での実践へ

International PatentClassification (IPC)

特許検索索
特許マイニングパテントマップ作成

特許情報
関連特許
出願⽇日、出願⼈人、審査請求、特許査定など豊富なメタデータ

拒絶理理由・先⾏行行技術など特許関連業務で発⽣生する情報を付与

論論⽂文や記事での引⽤用や評価など
crowd-sourcing的に発⽣生するデータ

9

配布資料料

© 2016 IBM Corporation

IBM Research - Tokyo

ありがとうございました

IBM、IBMロゴ、Smarter Planetアイコンおよび  POWER7は、世界の多くの国で登録されたInternational Business Machines Corp.の商標です。
他の製品名およびサービス名等は、それぞれIBMまたは各社の商標である場合があります。

10

現時点でのIBMの商標リストについては、http://www.ibm.com/legal/copytrade.shtmlをご覧下さい。

配布資料料© 2016 IBM Corporation

5