ことばを理解することなぜコンピュータには難しいのか？
宮尾祐介
国立情報学研究所
コンテンツ科学研究系

自然言語処理• 人間のことば（自然言語）を理解するコンピュータを作ることを目指す学問• ことばによる情報交換、コミュニケーションを助ける– かな漢字変換– 検索– 自動翻訳– 質問応答

おいしいイタリアン
知らない？
いいところ知ってますよ。
高級店とカジュアル店のどっちがいいですか？

自然言語処理の応用
かな漢字変換

自動翻訳

質問応答

コンピュータがことばを理解しはじめている？

「ことばを理解する」とは？
• 自然言語の入力に対して、「意味のある」反応をする• 「意味のある」反応とは？
– 会話ボット– 検索– 質問応答

おいしいイタリアン
知らない？

いいところ知ってますよ。
高級店とカジュアル店のどっちがいいですか？

入力

出力

「ことばを理解する」とは？
• 自然言語の入力に対して、「意味のある」反応をする• 「意味のある」反応とは？
– 会話ボット– 検索– 質問応答

おいしいイタリアン
知らない？

AKB総選挙について教えてくれませんか？

入力

出力

検索・質問応答のしくみ
昨日

1

食べた

1, 2, 3

魚

1

腐ってた

1

おいしい

2, 5

スイカ

2, 4

たくさん

2, 4

みかん

3, 5

一箱

3

もらった

3, 4

文書５

全部

3, 5

実家で作ってるみかんは全部
おいしいよ

実家

4, 5

作ってる5

• 検索・質問応答のすべき反応＝ユーザがほしい情報を探す• だれかがどこかで書いている文書を見つける→ キーワードが含まれる文書を探す
文書１
昨日食べた魚は腐ってたみたい

スイカ

文書２
おいしいスイカをたくさん食べた

文書４
実家のスイカをたくさんもらった

文書３
みかんを一箱もらったけど全部食べた「ことばを理解している」と言っていいのか？
• いいんです！
– 目的とする「意味のある」反応ができていれば• でも、やっぱりもうちょっと「人間っぽく」理解させたい
1. もっと難しい「意味ある反応」にチャレンジする
2. 「人間っぽい理解」とは何？

ロボットは東大に入れるか？
• 人工知能で東大入試を突破することを目指すプロジェクト• 自然言語の理解が重要な役割を果たす• 「意味のある」反応＝問題に正しく解答する！
問題文

2010年度東京大学前期試験 数学

解答

2010年度駿台予備学校大学入試解答速報

人間は何をやっている？
• 入力：自然言語• 出力：期待する反応（欲しい情報、解答、…）• 入力と出力の間に何かが起きている＝言葉の理解理解

おいしいイタリアン
知らない？

いいところ知ってますよ。
高級店とカジュアル店のどっちがいいですか？

入力

出力

情報のやりとり• 人間は言葉で「情報」をやりとりしている– 情報を提供し、情報を獲得する• 言葉が表す情報（＝「意味」）を分かってほしい→ 意味理解情報

情報

おいしいイタリアン
知らない？

いいところ知ってますよ。
高級店とカジュアル店のどっちがいいですか？

入力

出力

「意味」とは何か？
• なぜ言葉を文字列そのままで処理するのではなく、「意味」を考える必要があるのか？

情報

情報

おいしいイタリアン知らない？

いいところ知ってますよ。
高級店とカジュアル店のどっちがいいですか？

入力

出力

「意味」とは何か？
• 「意味」（大辞林）

今日はあくまで「ことばが表す情報」が対象

1. 言葉・記号などで表現され、また理解される一定の内容。
2. ある表現・作品・行為にこめられた内容・意図・理由・目的・気持ちなど。
3. 物事がある脈絡の中でもつ価値。重要性。意義。

• どうやってコンピュータで実現すればよいのか？
• たぶん人間の頭の中にあるが、どういうものか観察できない→ どういうものか分からないので、その性質から迫る自然言語処理における「意味」とは何か？ かわいい瞳• 異なる文字列が同じ「意味」を表すの大きな女– まる子がケーキを食べた。
– まる子がケヤキをくべた。
…の子ども– モンブランをまる子に食べられた。

• 同じ文字列が異なる「意味」を表す– かわいい瞳の大きな女の子を見た。

• つまり、意味が「同じ（同値性）」「異なる（差異）」という直感を再現したい→「同じ」「異なる」をコンピュータで計算できるように、意味の表現方法・計算方法を設計する

文字列から意味へ
犬に風邪薬を飲ませると貧血状態に陥ります。
どういうときに「意味が同じ」と言えるのか？

ビーグルが風邪薬を食べたら病気になる！
メイちゃん（ビーグル♀）

意味の計算犬に風邪薬を飲ませると貧血状態に陥ります。

どうやってつなぐ？

意味表現

ビーグルが風邪薬を食べたら病気になる意味の2つの側面• 構成的意味：文の中で単語が組み合わされて表現される意味– ビーグルが風邪薬を飲んだ。
– ビーグルに風邪薬を飲ませた。
– それがビーグルに飲ませた風邪薬だ。

• 語彙的意味：文とは独立に、単語がもともと持っている意味– 犬、ビーグル、柴犬– 顔、目、鼻– あげた、もらったつまり…
• 言葉が表す意味とは、– 単語を並べることによって表される意味と– 単語がもともと持っている意味の組み合わせ• この二つを表現し、意味が「同じ」「違う」を計算する仕組みを考えればよい– 意味のデータ構造とアルゴリズム

構成的意味• 単語を並べることによって表される意味• ビーグルが食べた風邪薬を私も飲んだ。
– だれが食べた？
– 何を食べた？
– だれが飲んだ？
– 何を飲んだ？

• 私は風邪薬を飲んだ。
• 単語と単語のつながり– 主語、目的語、…

構成的意味の表現方法• グラフ構造で表す– 点＝単語、辺＝単語間のつながり– ビーグルが食べた風邪薬を私も飲んだ。
主語

食べるビーグル

風邪薬
主語

私

目的語

飲む

目的語

だれが食べた？
何を食べた？
だれが飲んだ？
何を飲んだ？

構文解析• 構成的意味は文の構造が分かれば計算できる• 文の構造の計算＝構文解析
陥る 結果
S
S/S

原因
主語

犬

貧血

飲む 目的語風邪薬

S
S\NPにS\NPに\NPをNPにS

S\NPが\NPを S\NPに\NPを S/S\S
S\NPにNPに\(S\NPが\NPを)犬に 風邪薬を 飲ませると 貧血状態に 陥ります。
NPを構文解析の研究• Enju: 英語の構文解析器• 90%の精度で意味表現（構成的意味）を計算• 中国語・日本語も研究中

意味の計算言葉
犬に風邪薬を飲ませると貧血状態に陥ります。

意味表現

構文解析

陥る原因主語

犬飲む

結果

貧血
目的語

風邪薬

構成的意味を計算

ビーグルが風邪薬を食べたら病気になる語彙的意味• 単語がもともと持っている意味• いろいろな種類の意味的関係– 同義・反義関係• 犬、イヌ、わんちゃん– 上位・下位関係• 犬、ビーグル、柴犬– 全体・部分関係• 顔、目、鼻語彙的意味を表す方法• 意味ネットワーク：単語の意味的関係をグラフ構造で表す
哺乳類– 点：単語– 辺：意味的関係• いろいろな種類の関係– 同義・反義関係– 上位・下位関係– 全体・部分関係

猫犬柴犬

猿

ビーグル
顔目口歯鼻舌同義関係• 同義：（ほとんど）全ての文脈で置き換え可能な単語車
自動車– 車、自動車– 二酸化炭素、炭酸ガス、CO2

二酸化炭素
炭酸ガス

冬休みに x で草津まで行く。
駅前の道はたくさん x が走っている。
今度 x を修理に出すつもりだ。
昨晩家の前に赤い x がとまっていた。

CO2

上位・下位関係• 単語 A の全ての性質を単語 B が持っているなら、
A は B の上位語
– 哺乳類 ＞ 犬、猫– 家具 ＞ テーブル、ソファ• 「B は A の一種である」「B is a A」
• A が指す集合が B が指す集合より大きい
哺乳類
猫柴犬

犬「犬」の集合猿

ビーグル「ビーグル」の集合

全体・部分関係• 物理的に「含む・含まれる」関係– 顔 ＞ 目，鼻，口• 上位・下位関係と似て非なる関係– 白いビーグル → 白い動物
– 赤い鼻 ≠ 赤い顔– 鼻のキズ → 顔のキズ

• 置き換え可能性に関して、上位・下位関係とは異なる性質

動詞の意味関係• 同義・反義、上位・下位、全体・部分関係は同様に定義できる– 勉強する ≒ 学ぶ

• ただし、項の対応関係を考える必要がある
X が Y に Z をあげる
X が Y に Z をもらう

あげる（X, Y, Z） ＝ もらう（Y, X, Z）• 動詞特有の関係もある– 含意関係：A が成り立つなら、必ず B も成り立っている• X が Y に陥る → X が Y になる• X を後悔する → X が起きた

フレーズの意味的関係• 単語だけでなく、フレーズの間にも意味的関係が考えられる– 強い雨が降る ＝ 大雨になる （同義関係）– いびきをかく → 寝ている （含意関係）– ノーベル文学賞を受賞する→ 作家である （含意関係）

シソーラス、オントロジー• 同義・反義関係、上位・下位関係などを収録した辞書• 自然言語処理では欠かせないデータ– WordNet– 分類語彙表
– 日本語語彙体系

全体・部分上位・下位顔哺乳類目猫
柴犬

犬

猿

ビーグル
病気

貧血 風邪 頭痛

歯口

鼻
唇

含意
後悔する
起きた
陥る
なる

同義・類義
勉強する
学ぶ
飲む
食べる

語彙的意味の計算• 文中の単語をシソーラス・オントロジーにひもづける→ 単語の置き換え可能性を表す
全体・部分

上位・下位

顔

哺乳類
目
猫

陥る
原因
主語

犬

飲む

柴犬

犬

猿

ビーグル

結果

貧血

病気

目的語

風邪薬

貧血 風邪 頭痛

歯口

鼻
唇

含意
後悔する
起きた
陥る
なる

同義・類義
勉強する
学ぶ
飲む
食べる

意味の計算言葉
犬に風邪薬を飲ませると貧血状態に陥ります。

シソーラス・オントロジー
上位・下位
全体・部分

哺乳類
猫 犬

語彙的意味を計算
同義・類義
飲む
食べる

猿

柴犬 ビーグル

含意
陥る

なる

意味表現

構文解析

含意

なる

結果

原因
主語

犬
下位

陥る
飲む

病気
上位

貧血
目的語

類義

風邪薬

ビーグル 食べる
構成的意味を計算

ビーグルが風邪薬を食べたら病気になる含意関係認識• 二つの文の間に含意関係が成り立つかどうかを自動認識する自然言語処理技術• 含意関係：ある文 t1 が正しいとした時、もう一方の文 t2 が正しいと言える
t1: 犬に風邪薬を飲ませると貧血状態に陥る。
→ t2: ビーグルが風邪薬を食べたら病気になる。
t1 : 京都駅は京都の新たな観光名所としてにぎわっている。
→ t2 : 京都駅は京都の観光名所である。

• 意味の同値性が分かる（＝意味理解）→ ことばが表す情報が正確に分かる

ロボットは東大に入れるか？
• 人工知能で東大入試を突破することを目指すプロジェクト• 大学入試はいろいろなタイプの問題があり、高度な言語理解・人工知能の面白い題材
問題文

2010年度東京大学前期試験 数学解答

2010年度駿台予備学校大学入試解答速報

知識を問う問題を解く• 知識を問う問題＝教科書や参考書を見れば答えられる問題• つまり，教科書や参考書の内容をどれだけ記憶しているかが問われる– いわゆる暗記問題• いろいろなタイプの問題の中で、コンピュータが一番得意そうな問題– だれかがどこかに答えを書いている– つまり、検索の延長線上

知識を問う問題
2009年度センター試験
世界史A
オスマン帝国について述べた文として正しいものを一つ選べ。
① スレイマン１世の時代が最盛期であった。
② バルカン半島に誕生した後、小アジアへ進出した。

教科書を見れば…
2009年度センター試験
世界史A
オスマン帝国について述べた文として正しいものを一つ選べ。
① スレイマン１世の時代が最盛期であった。
② バルカン半島に誕生した後、小アジアへ進出した。

スレイマン１世．．． 46 年の在位の中で13 回もの対外遠征を行い、数多くの軍事的成功を収めてオスマン帝国を最盛期に導いた。
オスマン帝国．．．アナトリアの片隅に生まれたオスマン朝は、やがてバルカン半島など地中海世界の過半を覆い尽くす世界帝国に発展した。
Wikipedia

コンピュータは記憶が得意• コンピュータにとって教科書や参考書の記憶は簡単– SDカードやUSBメモリ1個あれば、全ての教科書、参考書の内容を丸ごと記憶できる知識を問う問題はコンピュータなら簡単に解けるはずコンピュータは記憶が得意丸暗記• コンピュータが得意な問題：– 世界史Bの教科書28ページの3行目には何と書いてあるか？
→ 一字一句正確に答えられる
人間にとっては無意味な問題• 人間が記憶しているのは言葉そのものではなく、言葉が表す情報である=意味，知識知識を問う問題→含意関係認識• 記憶していることと問われていることが意味的に合致しているかどうかを認識する→ 含意関係認識
オスマン帝国について述べた文として正しいものを一つ選べ。
① スレイマン１世の時代が最盛期であった。
② バルカン半島に誕生した後、小アジアへ進出した。
小アジア←アナトリアの片隅

スレイマン1世の時代が最盛期← スレイマン1世が最盛期に導いた

スレイマン１世．．． 46 年の在位の中で13 回もの対外遠征を行い、数多くの軍事的成功を収めてオスマン帝国を最盛期に導いた。

オスマン帝国．．．アナトリアの片隅に生まれたオスマン朝は、やがてバルカン半島など地中海世界の過半を覆い尽くす世界帝国に発展した。

NTCIR• 国立情報学研究所が主催している国際ワークショップ• 情報アクセス技術の評価のための共有データを提供• 国内外の研究グループが同じデータを用いて評価を行い、知見を共有する• 毎回、複数のタスクを設定– 特許翻訳– 地理時間情報検索– RITE: 含意関係認識← 今回、これに参画

センター試験にチャレンジ• センター試験の問題の一部を含意関係認識で解く• 対象科目：社会系６科目– 世界史A・B，日本史A・B，政治経済，現代社会• 6チームが参加– IBM東京基礎研究所– CMU（カーネギーメロン大学）– 京都大学– 東北大学– 北陸先端大学院大学– JUCS (Jadavpur University)データの作り方
センター試験
Wikipedia
×××

出典：Wikipedia 「スレイマン1世」 http://ja.wikipedia.org/wiki/スレイマン1世

含意関係：ありt1: スレイマン1世は、46 年の在位の中で13 回もの対外遠征を行い、数多くの軍事的成功を収めてオスマン帝国を最盛期に導いた。
t2: オスマン帝国は、スレイマン１世の時代が最盛期であった。結果• センター試験の社会系科目の約半数が含意関係認識に帰着できる• 現在最先端の含意関係認識技術により、知識を問う問題の5割～6割程度に正答できる– えんぴつを転がす（正答率25%）よりだいぶ良い– 東大入学レベルにはまだ遠い• 含意関係認識の精度が向上すれば，試験の正答率も向上すると期待されるコンピュータにとっての「知識を問う問題」
このチャレンジはここ知識を問う問題は元々ここを測る

知識と一致するか
認識

記憶☺

人間コンピュータ

☹

☹ ☺

人間コンピュータ

教科書・参考書

試験問題

出典：Wikipedia 「スレイマン1世」 http://ja.wikipedia.org/wiki/スレイマン1世

RITE-2R e c o g n iz i n g
Inference in
TExt@NTCIR10

RITE2 を企画中

• 詳しい情報は– http://www.cl.ecei.tohoku.ac.jp/rite2– Twitter: @NTCIR10_RITE• 人間が試験を解くプロセスにより近い設定– 根拠となる文章を明示的に与えず、Wikipediaや教科書から自分で探す• スケジュール

– 参加申込締切：6月30日– データ公開：7月1日– 最終評価：11月中旬• 興味のある方はチャレンジしてください含意関係認識はなぜ難しいのか？
• たくさんの研究にもかかわらず、含意関係認
識の精度はいまだに低い– 50%～70%程度• 構成的意味・語彙的意味を計算すれば、含意関係認識ができるはずでは？

構成的意味と語彙的意味の相互作用• 語彙的意味：単語の置き換え可能性を表す• いつでも置き換えられるわけではない– 構成的意味の構造により、置き換え可能性が変わる

犬に風邪薬を飲ませると貧血状態に陥ります。
下位類義上位含意メイちゃん（ビーグル♀）

ビーグルが風邪薬を食べたら病気になる！

構成的意味と語彙的意味の相互作用• 犬に風邪薬を飲ませると貧血状態に陥ります。
× → 動物が風邪薬を食べたら貧血になる• 犬に風邪薬を飲ませると貧血状態に陥ることがあります。
○ → 動物が風邪薬を食べたら貧血になるかもしれない• 犬に風邪薬を飲ませるのをやめた。
× → ビーグルに風邪薬を飲ませるのをやめた。
しくみはまだ完全には分かっていないシソーラス・オントロジーの限界• なぜ「スレイマン1世が最盛期に導いた →スレイマン1世の時代が最盛期」と言えるのか？
• 現在の技術では、同義フレーズパターンとして扱うしかない• フレーズは無限にある
オスマン帝国について述べた文として正しいものを一つ選べ。
① スレイマン１世の時代が最盛期であった。
② バルカン半島に誕生した後、小アジアへ進出した。
スレイマン1世の時代が最盛期← スレイマン1世が最盛期に導いた

スレイマン１世．．． 46 年の在位の中で13 回もの対外遠征を行い、数多くの軍事的成功を収めてオスマン帝国を最盛期に導いた。

意味に関わるその他の問題• 時間、アスペクト、様相– お風呂が沸きました– お風呂が沸いています– お風呂を沸かしました– お風呂を沸かしています• 参照関係→ お風呂に入れる→ まだお風呂に入れない– （誰が？）46 年の在位の中で13 回もの対外遠征を行い、数多くの軍事的成功を収めて…

• メタファー、メトニミー– 太宰治を読んだ。
– 官邸は首脳会談の日程を発表した。

これらの問題を解決してはじめて、人間と同等の意味理解が可能になる「意味理解」から「言葉の理解」へ• ここまでの話は、「意味理解」の話
ここでは何が起きている？

情報

今日の話はここだけ情報

おいしいイタリアン知らない？

いいところ知ってますよ。
高級店とカジュアル店のどっちがいいですか？

入力

出力

定性的推論2009年度センター試験 生物Ⅰ

脳下垂体からは様々なホルモンが分泌される．それらの作用を調べるた
めに，ラットを麻酔し，苦痛のない状態で脳下垂体の摘出手術を行い，その後の様子を観察した．脳下垂体を摘出した後，ラットに起こる変化として最も適当なものを選べ．
1. 尿量が増加する．
2. 代謝が盛んになる．

• 知識を検索するだけでは解けない
脳下垂体

分泌ホルモン抑制

ラット

分泌尿量

自然な状況の認識
2009年度センター試験 英語

もう10時だ。ボブがトイレから帰って来たら出た方がいいね。割り勘にする？
いや。僕は君たちよりたくさん食べて飲んだよ。
僕は多く払うべきだと思う。
それは公平だね。
落ち着いて。そんなに興奮すること無いよ。
まけてくれるよう頼んでみる？
雑誌のクーポンを持ってくればよかった。
別々に払うようにする？

• どうして「自然な状況」が分かるのか？
• 経験、常識に基づく判断

その他もろもろ…
• 試験問題を分析すると、言語理解や人工知能のさまざまな問題が見えてくる• ポスター展示へどうぞおわりに• 自然言語の意味の同値性・差異を計算するためにはいろいろな理論・技術が必要– 構文解析、シソーラス・オントロジー、あいまい性解消、…

• 現在最先端の含意関係認識で、センター試験をある程度解くことができる• 人間が理解するように「ことばを理解する」にはまだ遠い• 人間にとって難しいこととコンピュータにとって難しいことは異なる
おいしいイタリアン
知らない？
いいところ知ってますよ。
高級店とカジュアル店のどっちがいいですか？

ご清聴ありがとうございました