人工知能はいかにして知識を獲得・表現・利用しているか？

Learning
Representation

NeuralSymbolic

井上 克巳

岡崎 孝太郎、 ポア インジュン、 マニアン モルガン、 リベロ トニー、 ブルニュ ゴヴァン、
山口 順也、 佐久間 純一、 菊地 健介、勝俣 翔太、 池田 光、ギヨム ロルトワール、 ナンジァン、 テーム リンタラ、中田聖也、戸塚悠太郎
国立情報学研究所・総研大・東工大・SONAR・LS2N・LIP6・アールト大・アーヘン工科大

どんな研究？ 何がわかる？

昨今パターン認識を中心にした機械学習の研究成果が上がり始めていますが、知識の抽出・表現や推論といった高次処理とはまだ結びついていません。SATのような記号的推論とディープラーニング(深層学習)のようなパターン学習は対立しません。
記号推論は認識・学習能力とは相補的であ り、より強いAIの実現のためには必要です。本研究は、こうした記号的AIを基礎とした知識表現と、ニューラルネット等の機械学習との統合を目指します。

Learning

解釈遷移からの学習深層学習を用いた実行例からの学習

LFIT(解釈遷移からの学習)は状態遷移からその背後で支配するルールを学習するための手法です。学習したルールは、NLP(標準論理プログラム)で表されます。NLPを用いて、各変数間の関係性を発見したり、予測にも使えます。LFITの実装方式として、論理的手法とニューラルネットワークを用いた手法が提案されています。
研究の拡張:・遅延(kマルコフシステム)・多値変数・非同期式更新
・非決定的/確率的遷移

エージェント
モデル

?

背景知識
観測履歴・
経験

内部
状態

時系列
データ

x1
1 1x2
1 0
x3 = 0 0︙︙ ︙xn
1 0

深層学習を用いることでプログラムの実行例から人工知能がプログラムの実行方法を学ぶ手法です。
実行例をいくつか与えると、人工知能はそのプログラムを理解し、与えられた環境の中で自動的にそのプログラムを実行できるようになります。

Attractor

1 10 0
1 1︙ ︙
1 1

正しい出力：
2054

ダイナミック環境

応用例としてはExcelのFlash Fillなどがあります。これは、途中まで入力されたデータのペアがどういうルール （プログラム）で入力されていってるのかを学習し、続きを自動的に入力してくれます。
この研究は将来的には文字列操作にとどまらず、プログラマーが実際に書くような、より高レベルなプログラムを学習することが期待されています。

Neural Networkを用いた解釈遷移からの学習
実世界のデータは、ノイズや曖昧さを有していることがほとんどです。多くのシンボリックな方法ではそのようなデータを取り扱うことはできません。 そのため，実世界のデータを扱うときには限界があります。シンボリックな手法では学習データに存在しないものに対して一般化することができません。したがって、 生物学のような分野でそのような方法を適用することは非常に困難です。 一方、ニューラルネットワークは、データに存在する曖昧さやノイズに対して頑健であり、学習データに表れていないものに対して一般化することもできます。
本研究では、ニューラルネットワークを利用し、 曖昧なデータに対してロバストであるだけでなく、トレーニングデータには含まれていないデータを一般化する手法の開発を目的としています。同時に、学習したモデルが人間に読解可能で解釈可能であることも目指します．

時系列データ

理解可能なモデル

Representation

部分観測からの状態遷移確率モデルと学習実世界での問題を解決するためにはモデル化が役に立ちます。しかし、モデル化に必要十分な従属変数が予め判っていることは稀です。うつろいやすい実世界のどこをどれだけ捉えれば、学習するに値する観測値が得られるのでしょうか? そしてそこからどのようにして知識を抽出すればよいのでしょうか?
本研究では、動的なビッグデータからの部分観測値から 前処理としてスパースモデリングとベイジアン推定によって、状態遷移の変数削減と完全観測化を実現します。
マルコフ性の特質により状態遷移の定常分布から、確率測度付きの論理プログラムを背景知識として抽出することを目指しています。

NeuralSymbolic

応用には、ロボットの行動学習、遺伝子制御ネットワークのモデル化や患者の症状の予測等があります。
この研究の拡張では、遅延のあるシステムの学習や連続値での学習、確率的システムの学習などがあります。

この研究の目的は、SATソルバに必要なテクニックである変数選択ヒューリスティックをより賢くすることです。SAT問題をグラフ表現することで、グラフの構造的な情報からSAT問題の特徴を学習し、SATソルバを高速化させます。

未知の入力：
1289, 765…

Input:pairs of interpretations of the form (It, It+1) ∈ 2HB×2HB
Output:logic program P such that It+1=TP(It) for any(It,It+1)ある論理式に、充足する解(モデル)が存在するかを判定する問題をSAT問題と呼び、SAT問題を解くためのソフトウェアがSATソルバです。SATソルバを用いることで、CPUなどのハードウェアが正常に動作するかを検証したり、Linuxで使われているライブラリ間の依存関係を解決できます。

学習モデル

入力: 3. 5 出力: 8
入力: 5, 12 出力: 17
入力: 13, 5 出力: 18t=0 t=1 t=k-1 t=k t=k+1

SATのグラフ表現からの学習

文字変換プログラムを学習し自動補完してくれるプログラムの実行例

︙︙

Vector01
1︙
1

途中まで入力するHow Does Artificial Intelligence Acquire, Represent and Reason Knowledge?

Learning
Representation

NeuralSymbolic

Okazaki; Yin Jun Phua; Morgan Magnin; Tony Ribeiro; Gauvain Bourgne;
Katsumi Inoue Kotaro
Junya Yamaguchi; Junichi Sakuma; Kensuke Kikuchi; Shota Katsumata; Hikaru

Ikeda; Guillaume Lorthioir; Nan Jiang; Teemu J Rintala; Seiya Nakata; Yutaro Totsuka

NII, SOKENDAI, Tokyo Tech, SONAR, LS2N, LIP6, Aalto U., RWTH Aachen

Research Topic and Target

There have been major breakthroughs in the machine learning research field, particularly around pattern recognition. However higher
level tasks such as knowledge extraction and representation, logical inference have not been advancing as much. Symbolic reasoning
such as SAT and deep learning techniques such as those used in pattern recognition can be integrated together. Symbolic reasoning iscomplementary to recognition and learning, and is essential towards realizing strong AI. In our research, we attempt to combine
symbolic AI techniques such as knowledge representation, with machine learning techniques such as neural networks.

Learningfrom Interpretation Transition
AgentModel?

History/Experience

InternalStateTime-Series
Data

x1
1 1x2
1 0x3 = 0 0︙
︙ ︙xn
1 0

Attractor

1 10 0
1 1︙ ︙
1 1︙

︙

Vector0
1
1︙
1

t=0 t=1 t=k-1 t=k t=k+1

Input:pairs of interpretations of the form (It, It+1) ∈ 2HB×2HB
Output:logic program P such that It+1=TP(It) for any(It,It+1)

Dynamic Environments

LFIT is a technique for learningtransition rules just by observing theenvironment. A normal logic program
is constructed to explain the behaviorof the environment. This normal logic
program can then be used to explain
the relationship between the variables,
or can be used to perform predictions.
Multiple approaches have beendeveloped, including logical methods
and neural networks.

Learning from Graph
Representation of SAT

Learning modelThis work involves learning
1289, 765
Program
how to generate andinput: 3, 5 output: 8
input: 5, 12 output: 17
execute a program based input: 13, 5 output: 18
Correct output：
only on execution trace. By2054
providing several example
execution traces, the AI willEnter halfway
learn about the programthat generated the execution
traces, and it can executethe same program on
Learn the character conversion program
different inputs within theand automatically complements
same environment.
An example of such application is Excel's Flash Fill. Given asemi-completed data, the program that describes the patternof the input data can be learned. That program is then used toautomatically complete the rest of the missing data.
Unknown input：

In the future, this research is expected not only to manipulate
strings but also to learn higher level programs like that a
programmer actually writes.

Learning fromInterpretation Transaction
Using Neural Network

Real world data are often noisy and fuzzy. Most
A problem of determining whether asymbolic methods cannot deal with such data,
given Boolean formula has a satisfying
assignment is called ‘’SAT’' problem. SAT which often limit their application to real world
solvers allow us to verify that a hardware data. Symbolic methods also have a problemof being unable to generalize beyond the(e.g. CPU) correctly implements its
specification or resolve the dependencies training dataset. As such, it is very difficult toapply such methods in fields like biology wherebetween libraries in Linux.
data is rare and fuzzy. On the other hand,neural networks are robust to fuzzy data andThe aim of this research is to devise acan generalize very well, but they are notnovel branching heuristic, which is ahuman-readable and interpretable.
heuristic incorporated in modern SAT
solvers, that could solve SAT problem
faster. It tries to learn beneficial featuresfrom the structural information ofgraphically represented SAT problems.

In this work, we propose a method utilizing
neural networks, that is not only robust tofuzzy data, but also generalizes to data thatare not in the training data. At the same time,the model it learns is also human-readable andinterpretable.

Time series data

Interpretable Model

Representation

Learning Probabilistic
Transition Models
from Partial Observation

NeuralSymbolic

Such techniques can be applied tomotion learning for robots,
modelling gene regulatory
networks, and also predicting if apatient will become sick if exposedto certain viruses.
Recent extensions has also been made to deal with systems with
continuous values, systems that contains delays or even systems
that are asynchronous.

Programming By Example
Using Deep Learning…

Background
Knowledge

Extensions:・delays(k-Markov system)
・multi-valued variables
・asynchronous update・nondeterministic /probabilistic transitions

Learning

Modeling is good way to solve theproblem in real world. However it is hard
to know sufficient numbers of variables
in advance. Can unstable real worldprovide us enough observations ? Andhow we can extract robust
knowledge in partial observations?
Our challenge is to complete
observations by sparse modeling andBayesian estimation, and to induce NLP
with probabilistic measure fromsteady-state distribution underMarkov models.