井上克巳,	  ソフィ・トゥレ,	  佐藤泰介,	  沖本天太,	  岡﨑孝太郎,ニコラ・シュウィンド,	  マキシム・クレモン,アンゲラン・ジャンテ	  ダイナミクスを扱うAI	  頑強なシステムの設計	  AIに対する関心の高まり	
• ICT分野における次世代の基幹技術	  複雑で取扱いにくい	  “データ”	  • 大量で,	  間断なく,	  うつろいやすく,	  不完全	  既存技術の限界	  	  • リアルタイム処理 -­‐	  推論が考慮されていない	  • データマイニング -­‐ 時間変化を考慮していない	  •
•
•

•
•
••
•
•
	  	  
意見伝播の制御	  マルチエージェントによる学習	  レジリエントなシステム	  システムの検証	  ダイナミック・スケジューリング	  サイバーセキュリティ	  ダイナミック環境におけるAI技術の統合	
•

機械学習によるモデル構築と制約最適化による意思決定をハイブリッド，モデル検査により検証.	  	  *7,)61"'

405&?
$! %

様々な知識や背後に存在するユーザの意図や行動パターンを，アブダクションや帰納推論により学習し，知識ベース・モデルに反映			

1E50D<$&-B;C,?)
% 	  #+	  	  	  	  	  	  	  07-Behavior	.(23/+#
Behavior	
405!
*7,)61

.(23/+

解釈遷移からの学習	  	   &

機械学習 	  意思決定	!. :((• ' FH?C3>46:AG• • * Ac#on• * /( A"ractor(";E7

環境に関する知識やユーザの意図に関する仮説を制約ネットワークとして捉え，制約充足問題(CSP)や多目的最適化(Mul6-­‐Objec6ve	  Op6miza6on)の技術を用いて，最適な行為を決定.	

モデル検査	  モデル検査を用いて，ダイナミック環境
で未来に起こりうる結果を予測しつつ，ソフトウェアエージェントが正しく動作するか検証．	

ソーシャルネットワークにおける意見拡散	  	  	  研究動機と目標	Ø ソーシャルネットワークにおける意見の発展	  Ø デマや誤情報の伝播を避けたい製品や	  プランド	  	  研究の枠組み:	  Ø 信念翻意ゲーム[AAAI’15]	  Ø 各時点で，各エージェントは	  近隣からの意見とコミュニケートする	  Ø ネットワーク内のあるエージェントが，	  し自分の意見で全員を纏めたいとしたら，	  自分の知人と意見を共有すべきか?	  
Ø 一般にはそう思えるが，そうでない場合もある．	  
Ø 例えば，最初から嘘をついたほうが良い	  場合など．[IJCAI’16]にて出版予定.	  

8/=@92
Ø Inoue	  K.,	  Ribeiro	  T.,	  Sakama,	  C.:	  “Learning	  from	  Interpreta6on	  Transi6on”,	  	  	  	  	  	  	  	  	  	  	  Machine	  Learning,	  94(1):51-­‐79,2014	  	  応用:	  Ø 生物学	  Ø 不確定な環境下でのロボットの行動規則	  Ø 演繹規則の学習	  Ø ＤＲＥＡＭチャレンジ	  LFIT

入力:	  48時点以上の45,000以上の遺伝子からのデータ	  LFITの出力:	  新しい知識の発見を可能にする動的なモデル.	  

NII	  自動発想推論	  	  	  文脈(理論)のみによらない与えられた観察についての説明(仮説)を探索する	  	  応用:	  	  	   医療診察	  Ø
	   機械学習	  Ø	  Ø	   プランニング	  	   バグ解析	  Ø	  	  例:	  Ø 配列処理問題	  Ø 観察：２要素を	  書き込む順番によって	  ラベルが変わるセル	  Ø (発見された)仮説:	  異なる２つのラベルを持つ同一セルに２要素が上書きされる	  連絡先： 井上 克巳 教授， 国立情報学研究所 情報学プリンシプル系, Email : inoue@nii.ac.jp	

Katsumi	  Inoue,	  Sophie	  Tourret,	  Taisuke	  Sato,	  Tenda	  Okimoto,	  Kotaro	  Okazaki,	  Nicolas	  Schwind,	  Maxime	  Clement,	  Enguerrand	  Gentet	  Design	  of	  Robust	  Systems	  Dynamics	  of	  AI	  Growing	  interest	  in	  Ar8ﬁcial	  Intelligence.	  
• Cri8cal	  technology	  for	  next	  genera8on	  in	  ICT	  ﬁeld	  Complex	  “data”	  • Massive,	  con8nuous,	  changing,	  incomplete	  Limita8ons	  of	  conven8onal	  technologies	  	  • Real-­‐8me	  processing	  -­‐	  No	  reasoning	  • Data-­‐mining	  -­‐	  No	  considera8on	  of	  temporal	  changes	  ••••••
•
•
•	  

	  Control	  of	  opinion	  propaga8on	  Mul8-­‐agent	  learning	  Resilient	  systems	  System	  veriﬁca8on	  Dynamic	  scheduling	  Cyber	  security	  Integra#on	  of	  AI	  Technologies	  in	  Dynamic	  Environments	  Decision	  Making:	  	  •Integra8on	  of	  Machine	  Learning	  and	  Constraint	  Op8miza8on	  techniques	  for	  Decision	  Making.	  

Behavior		  Behavior	

Machine	  Learning:	   	  Using	  experiences	  to	  learn	  rule	  models,	  behavior	  paFerns	  and	  hidden	  inten8ons	  of	  users	  or	  agents	  by	  Abduc8on	  and	  Induc8ve	  reasoning.	  	  	Model  Checking	Use	  a	  Constraint	  Networks	  as	  a	  knowledge	  language	  representa8on:	  hypothesis,	  agents’	  preferences	  and	  goals,	  systems	  speciﬁca8ons.	  Compute	  op8mal	  solu8ons	  using	  eﬃcient	  algorithms	  exploi8ng	  the	  problem	  structure.	  

Model-­‐checking:	  	  Predict	  possible	  future	  results	  in	  a	  dynamic	  environment	  by	  Model-­‐checking,	  and	  verify	  the	  expected	  behavior	  of	  a	  so[ware.	  	  		Learning	  from	  Interpreta#on	  Transi#on	  	  Opinion Diffusion in Social Networks	  Ø Mo#va#on	  and	  Goal:	  Ø Opinions	  evolve	  in	  a	  social	  network.	  
Ø A	  brand’s	  goals	  is	  to	  avoid	  the	  propaga8on	  of	  	  	  	  	  	  	  	  	  	  fallacious	  informa8on	  within	  the	  social	  network.	  	  Ø Our	  Framework:	  Ø Belief	  Revision	  Game,	  published	  in	  [AAAI’15]	  Ø At	  each	  8me	  step,	  agents	  communicate	  	  	  	  	  	  	  	  	  	  their	  opinions	  to	  their	  neighbors.	  	  Ø If	  an	  agent	  in	  the	  network	  wants	  her	  opinion	  	  	  	  	  	  	  	  	  	  to	  be	  unanimously	  adopted,	  should	  she	  	  	  	  	  	  	  	  	  	  share	  her	  opinion	  with	  her	  acquaintances?	  
Ø We	  show	  that	  it	  in	  general,	  is	  not	  the	  case,	  i.e.,	  	  	  	  	  	  	  	  	  	  in	  some	  cases	  it	  is	  beFer	  to	  lie	  from	  the	  	  	  	  	  	  	  	  	  	  beginning.	  
Ø To	  be	  published	  in	  [IJCAI’16].	  	  	  	  	  	  	  	  	  Automated	  Abduc#ve	  Reasoning	  Applica8ons:	  Ø Biology	  Ø Robots	  ac8ons	  in	  uncertain	  environment	  Ø Learning	  deduc8on	  rules	  Ø DREAM	  challenge	  LFITInput:	  Data	  from	  up	  to	  45.000	  genes	  over	  48	  8me	  points.	  
Output	  from	  LFIT:	  Dynamic	  model	  that	  allow	  the	  discovery	  of	  new	  knowledge.	  

NII	  

	  	  
	  Search	  for	  explana8on	  (Hyp.)	  of	  a	  given	  observa8on	  (Obs.)	  not	  explained	  by	  the	  context	  (Th.)	  alone.	  	  Applica8ons:	  	  Ø	   Diagnosis	  Ø	   Machine	  Learning	  Ø	   Planning	  Ø
	   Bug	  Analysis	  	  	  	  Example:	  Ø Theory:	  array	  manipula8on	  Ø Observa8on:	  inser8on	  of	  two	  elements	  in	  an	  array,	  result	  depends	  on	  the	  order	  of	  inser8on.	  
Ø Hypothesis	  (discovered):	  inser8on	  of	  two	  diﬀerent	  elements	  in	  the	  same	  cell.	  
	  Contact	  ：	  Professor	  KATSUMI	  INOUE,	  Principles	  of	  Informa#cs	  Research	  Division,	  Na#onal	  Ins#tute	  of	  Informa#cs, Email : inoue@nii.ac.jp