ビッグデータからいかに重要な知識を抜き出し推論するか？

知識表現と学習孝太郎、マキシム・クレモン、アブドゥラマン・チャバニ、アレクシ・ロブ、グエン・ディン・ヒェン、
井上 克巳 ソフィ・トゥレ、岡崎
小俣 仁美、山口 順也、インジュン・ポア、菊池 健介、佐久間 淳一、
佐藤泰介、沖本天太 、ニコラ・シュウィンド、坂間千秋、リベロ・トニー、モルガン・マグナン

どんな研究？何がわかる？
昨今パターン認識を中心にした機械学習の研究成果が上がり始めていますが、知識の抽出・表現や推論といった高次処理とはまだ結びついていません。SATのような記号的推論とディープラーニング（深層学習）のようなパターン学習は対立しません。記号推論は認識・学習能力とは相補的であり、より強いAIの実現のためには必要です。本研究は、こうした記号的AIを基礎とした知識表現と、ニューラルネット等の機械学習との統合を目指します。

多目的制約最適化

GPUを用いた高速並列計算
GPUの並列計算能力を用いることで、論理推論やアブダクション、SAT（充足 可 能 性 問 題 ）など、人 工 知 能の「 思考 」を高速化することができます。
こうすることで、モデル検査、プランニング、スケジューリングなどの現実世界問題を早く解決することにつながります。

ある場 所 から移 動したい 時 に、安いけど遅い 移 動 方 法を使うか 、高 いけど時 間 のかからない 移 動 方 法 を使うか 迷ってしまいますね 。安くしたい 、または 早く着 きたいという二 つの 目 的 が 混 在 しているため 、どの 案 がいいか 迷ってしまいます。このように、複 数 の目的 が 存在し、同 時 に 全 ての目 的 を 満 たす 案 が ない 状
況 の 時 、どの 案を採 用すべきかという問 題 が 生じます。

本 研 究では、並 列でSAT問 題を解くアルゴリズムを開 発しました 。このアルゴリズムに基 づくSATソルバ、BatSATを実装しました。BatSATはGPU上で動く重み 付き部 分 MaxSATソルバを用います。このMaxSATソルバ
はGPGPUを使うことによって、最新のMaxSATソルバより、速く解くことができます。分岐の評価をこの高 速 MaxSATソルバで評 価し、効率よくSAT問題を解きます。

例 え ば 、非 常 事 態 が 発 生した 時に、どのようなレスキュー 隊 を派遣すべきかを考えましょう。災 害が 起 きている 場 所 から離 れている経 験 の 高 いチ ームを派 遣 するか 、災 害 の 場 所 か ら 近くに い る
経 験 の 少 ないチ ームを派 遣 するか、このような状 況での意 思 決 定
方 法 について研 究をしています。

解釈遷移からの学習

LFIT (解釈遷移からの学習)は状態遷移からその背後で支配するルールを学習するための手法です。学習したルールはNLP (標準論理プログラム)で表されます。NLPを用いて、各変数間の関係性を発見したり、予測にも使えます。
LFITの実装方式として、論理的手法とニューラルネットワークを用いた手法が提案されています。
応用には、ロボットの行動学習、遺伝子制御ネットワークのモデル化や、患者の症状の予測等があります。

LFIT	

この研究の拡張では、遅延のあるシステムの学習や、連続値での学習、確率的システムの学習などがあります。

多デバイス接触履歴からの視聴行動モデル化と知識更新
昨今進む随時異なるデバイス経由でのテレビ視聴体験により、視聴者はお茶の間での世帯視聴から解放されています。媒体やデバイスを跨ぐ視聴特徴はどのように抽出されるでしょうか？抽出した特徴に介在する視聴態度モデルは何でしょうか？モデルを駆動させる作用や規則は何でしょう？それらを知識化できるのでしょうか？新たな知識から未知の仮説を得られるでしょうか？本研究ではこうした探究に答えるため、同一コンテンツに纏わる複合的な視聴履歴を捉えた調査データに対して 、自然言語処理、ニューラルネットワーク、自動推論分野の人工知能技術を適用しています。視聴態度を表す特徴量を示すデータシーケンスから状態空間モデルを推定し，制約や規則を知識として抽出します．

連絡先：井上 克巳 教授／国立情報学研究所
Email: inoue@nii.ac.jp

情報学プリンシプル研究系

How to extract important knowledge from big data and use it for inference?

Knowledge Representation and Learning
Tourret; Kotaro Okazaki; Maxime Clement; Abderrahmane Chaabani; Alexis Robbes;
Katsumi Inoue SophieNguyễn Đình, Hiển; Hitomi Komata; Junya Yamaguchi; Yin Jun Phua; Kensuke Kikuchi; Junichi Sakuma;
Taisuke Sato; Tenda Okimoto; Nicolas Schwind; Chiaki Sakama; Tony Ribeiro; Morgan Magnin

Research Topic and Target
There have been major breakthroughs in the machine learning research field, particularly around pattern recognition. However higher level tasks such as knowledge
extraction and representation, logical inference have not been advancing as much. Symbolic reasoning such as SAT and deep learning techniques such as those usedin pattern recognition can be integrated together. Symbolic reasoning is complementary to recognition and learning, and is essential towards realizing strong AI. In
our research, we attempt to combine symbolic AI techniques such as knowledge representation, with machine learning techniques such as neural networks.

Highly Parallel Computing with GPU

Multi-Objective Constraint
Optimization

In real life, we are often confronted with problems which have multiple solutions with different trade-offs. For example, whentravelling from one place to another, we can often choose between
a route which is faster but more expensive, or another route which isslower but cheaper. Deciding which route to take often depends on
our current financial situation and the time available.

By using GPU to solve SAT (Boolean Satisfiability Problem), perform logicalinference and abduction, we hope to utilize
the highly parallel nature of GPU to speed
up the “thinking” of AI. This has the implication of being able to speed up the time
it takes to solve certain real world problems,such as model checking, planning, scheduling and many more.
In this research, we have developed
an algorithm to parallelize SAT solving. A SAT solver called BatSAT has
also been implemented based on thisalgorithm. BatSAT relies on an original
implementation of a weighted partial
MaxSAT solver that runs on GPU.
This MaxSAT solver performs better than the current state-of-the-art
MaxSAT solvers. This is used to speed
up the branching heuristc in BatSAT.

We can also consider an emergency situation, in which wehave to form arescue team.
We might have tochoose between
forming a teamthat can work well together, but is too far away from theemergency site, or forming a team that doesn’t work
well together, but is situated near the emergency site.
Additionally, we might have to consider a situation inwhich even in the event of losing a team member, theteam as a whole still has to be functional.

Learning from Interpretation Transition
LFIT is a technique for learning transition rules just by observing the environment. A normal logic program is constructed
to explain the behavior of the environment. This normal logic program can then be used to explain the relationship between thevariables, or can be used to perform predictions. Multiple approaches have been developed, including logical methods and neural networks.
Such techniques can be applied to motion learning for robots,
modelling gene regulatory networks, and also predicting if apatient will become sick if exposed to certain viruses.

LFIT	

Recent extensions has also been made to deal with systems with continuous values, systems that contains delays or even systems that areasynchronous.

Modelling Trans-Device Content Experience andKnowledge Development for Detection of TV Audience
Many people no longer watch television at fixed times. This research focuses on obtaining consumer characteristics across multiple mediums and devices, attempting to construct a model that could explain consumer behaviors. By answering what the rules and functions that drive consumer behaviors are, whether
these can be encoded into knowledge base, and whether this knowledge can lead to the discovery of unknown behavior patterns, the television industry might
be able to devise more effective content promotion. We apply several AI
techniques such as natural language
processing, neural networks, and automated reasoning based on survey
data which captures a composite viewing history for a particular content. Astate space model is constructed fromdata sequence representing feature
vectors of consumer attitude. Rules andconstraints are then extracted as knowledge.

Contact: Professor KATSUMI INOUE, Principles of Informatics Research Division
Email: inoue@nii.ac.jp