SR-Model (Schwind et al., AAMAS 2013)
 動動的なシステム
 マルチエージェントシステム
 制約に基づくシステム
 エージェント及び制約の追加・削除が可能

概要 : 生物学的ネットワークのモデル化（遺伝子制御）
 ポジティーブ・ネガティーブなフィードバックを含む動的な振る舞いの分析
 複雑なシステムのモデル化（セルオートマトン，ライフゲーム）
 論理プログラムの意味論
 状態遷移軌跡とアトラクターの計算
qr
prqpp  q.

耐性 Resistancepqr

q  p  r.

+

回復可能性 Recoverabilityr  p.

=qr

pq

p

εr

Attractor #1: (p,q,r) = 101 ⇒ 010 ⇒ 101 ⇒…
Attractor #2: (p,q,r) = 001 ⇒ 001 ⇒ …

レジリエンス Resilience概要 :レジリエンスな動的システム： (耐性, 回復可能性, 機能性, 可安定化性)
多くの研究領域において、ロバストな動的システムの構築は重要な課題
Open problems:
決定問題: ある動的システムがレジリエンスであるか
最適化問題: 各パラメータの最小値を求める問題

概要 :



動的システムの帰納学習
状態遷移図からのブーリアンネットワークの学習
配置の変化列からのセルオートマトンの学習
c(x,t+1)  c(x-1,t) ∧ c(x,t) ∧ ￢c(x+1,t).
c(x,t+1)  c(x-1,t) ∧ ￢c(x,t) ∧ c(x+1,t).
c(x,t+1)  ￢c(x-1,t) ∧ c(x,t) ∧ c(x+1,t).
c(x,t+1)  ￢c(x-1,t) ∧ c(x,t) ∧ ￢c(x+1,t).
c(x,t+1)  ￢c(x-1,t) ∧ ￢c(x,t) ∧ c(x+1,t).

Wolfram’s Rule 110 (Turing-complete)

参考文献:Nicolas Schwind, Tenda Okimoto, Katsumi Inoue, Hei Chan, Tony Ribeiro, Kazuhiro Minami, Hiroshi
Maruyama: “Systems Resilience : a Challenge Problem for Dynamic Constraint-Based Agent Systems”.
In Proceedings of the 12th International Conference on Autonomous Agents and Multi-Agent Systems(AAMAS 2013), pp. 785-788 (Challenges and Visions Papers 3rd prize).

参考文献:

Katsumi Inoue and Chiaki Sakama: “Learning from Interpretation Transition”,
The 22nd International Conference on Inductive Logic Programming (ILP 2012).

システムズ・レジリエンスにおける論理 :問題の定式化: SR-Model 動的システムの可能世界意味論
 予測／アブダクション

 数学的モデル
 人工知能によるアプローチ

課題： 大きな擾乱に対して、どのようにシステムをレジリエントに設計・運用するか
金融危機
攻撃者
自然災害

社会インフラ 金融・経済 社会

革命的技術
工学システムTaoi-cho, Miyagi Pref.
http://www.bousaihaku.com/cgi-bin/hp/index2.cgi?ac1=B742&ac2=&ac3=1574&Page=hpd2_view• レジリエントなシステムのデザイン：• レジリエンスの計算：

 機械学習 感度分析
 マルチエージェントシステム／シミュレーション

 完全／近似アルゴリズム
 デザイン／最適化問題／複雑性

概要 : 不確実性: システムは完全な情報をもつとは限らない
 ロバスト性分析： 撹乱 (例えば，環境の変化，想定外のイベント，エラーの推定)に対して，インプットされたモデルがどのように変化するか
 動的なモデル: 外的な事象に対して，時間と共に変化するシステムの表現 適応性のあるマルチエージェントシステム：各エージェントは環境の変化に適応しなければならない

概要 :レジリエンスとの関連性 :サイバーセキュリティ問題:

撹乱に対してロバストなシステムの検証
システムの変更がロバスト性を改善しているかを決定
ロバスト性と機能性間のトレードオフ

X2X3Y1Y2Y3Z1Z2Z3

T=1

T=2

T=3X1

参考文献 : Hei Chan, Sensitivity Analysis of Probabilistic Graphical Models, Verlag-Muller, 2009.
 Tony Ribeiro, Katsumi Inoue, Gauvain Bourgne: IJAWS 2012, “Modular Reasoning in
Multi-Agent Systems Using Meta-Knowledge and Answer Set Programming”.

NII

Taoi-cho, Miyagi Pref.
http://fullload.jp/blog/2011/04/post-265.php

組織・企業

実世界に存在する様々な最適化問題では，異なる評価基準を同時に考慮する場合が存在する
分散型多元制約最適化問題における解法を提案
制約に基づくモデル (SR-model)
動的な環境への拡張

レジリエンスとの関連 :

レジリエントなシステムのモデル化と解法
複数の評価基準 → パレートフロント
セキュリティやプライバシーを同時に考慮する必要がある
分散型多元制約最適化によるモデル化と解法の提案
サイバー攻撃システムダウン

サイバー攻撃参考文献 :


分散型
評価基準の追加

制約の追加

ロバストなモデル
プライバシー保護変数の追加
Tenda Okimoto, Yuko Sakurai, Makoto Yokoo, Katsumi Inoue:“Complete/Incomplete Algorithms for MO-DCOPs”, JAWS 2012 received the best paper award.

Nicolas Schwind*1, Tenda Okimoto*2, Katsumi Inoue*1,3，Hei Chan*2, Tony Ribeiro*3, Kazuhiro Minami*2, Hiroshi Maruyama*4*1: National Institute of Informatics (NII)， *2: Transdisciplinary Research Integration Center (TRIC),*3: The Graduate University for Advanced Studies (Sokendai), *4 Institute of Mathematical Statistics (ISM)

Motivation

••
•

•

Unexpected events:• 3.11 earthquake• Economic crisis•

Resilient systems: absorb/recover from damages•

So far, there is no common agreement on thedefinition of resilience in computer science

SR-modelProvide principles for building resilient systems
A general dynamic system framework
Introduce resilience through key properties:• Resistance• Recoverability• Functionality• Stabilizability

BackgroundA dynamic system is a graph where each node
represents one system state at a given time (S0 is theinitial state.) Edges represent possible state transitions,labelled by controlled but non-deterministic actions.

Dynamic System

Example:Performing the action a2 on B may result in A or C
depending on the environment.
Strategy: choose a specific action in each system(choose a1 in S0.)
System trajectory: one possible scenario, i.e. asequence of states (e.g., S0, A, B, C, D, B, …)••Properties of Resilience
Configuration Trajectory: some specifications of aparticular system trajectory S0, S1, S2, …
Properties on configuration trajectories:• l-resistance: the cost of each state has to be kept
under l• <p,q>-recoverability: to recover to a baseline ofacceptable quality (< p) as quickly and inexpensively(dashed area < q) as possible• f-functionality: to provide an average degree of
quality f during the lifetime of the system• s-stabilizability: to avoid high (> s) transitional costs

7-resistant and <3,5>-recoverable configuration trajectory

A system is <l,p,q,f,s>-resilient if there is a strategy whose all
scenarios admit a configuration trajectory, which is lresistant, <p,q>-recoverable, s-stabilized and f-functional.

Open Problems•••

Given a dynamic system DS and non negative integers
l,p,q,f,s, is DS <l,p,q,f,s>-resilient?
Given l and p, what is the minimal q to satisfy l-resistanceand <p,q>-recoverability?
What are the minimal values of l,p,q,f,s such that thesystem satisfies <l,p,q,f,s>-resilience?

NII

Two configuration trajectories that are not 3-stabilizable
Publication:
Nicolas Schwind, Tenda Okimoto, Katsumi Inoue, Hei Chan, Tony Ribeiro, Kazuhiro Minami,Hiroshi Maruyama: “Systems Resilience : a Challenge Problem for Dynamic ConstraintBased Agent Systems”. In Proceedings of the 12th International Conference on Autonomous
Agents and Multi-Agent Systems (AAMAS 2013), pp. 785-788 (Challenges and Visions
Papers 3rd prize).

Correspondence： Nicolas Schwind (National Institute of Informatics, Tokyo), Email : schwind@nii.ac.jp