第 10 回マルチ・エージェントと協調計算ワークショップ (MACC2001) 2001.11.16-171

義務と権利に基づく社会行動の即応制御モデル
大澤 一郎

A new computational model of socially interactive systems driven by obligations and rights is proposed. Obligations and rights are explicitly represented with the operators \O" and \R", and theinternal computation is interactively executed on are ective architecture based on recall and observation inside. We implement a prototype system toshow its performance on some social domains suchas business transactions, secure information handling, and driving on the road.

1

許可を双対なものとみなして体系化しようとして [4]、義務論理のパラドックスを生じさせていた。 Castel-franchi [2]は権利を社会的コミットメントに基づいて派生するものと考えたが、 Norman [5]は権利を明示的に表現し、権利の概念を柔軟に扱おうとした。 Alonso[1]は、義務と権利の関係に着目し、権利の背後にある周囲の義務を含めて権利を定義しようとしている。このような権利の明示的表現という論理的な研究の流れに対応して、 Sloman[3]らのグループは、データーベースにおけるセキュリティ管理を一般化して、役割 (ロール) に基づく義務と権利をオブジェクト指向モデルに導入している。また、 Wagner [8]はエージェント指向モはじめにコンピュータ・システムが社会のあらゆるところにデルに義務と権利の枠組みを導入しようとしている。

入り込み、政治、経済、金融から、一般の人々の生活ま本研究では、このような研究動向を踏まえ、義務と権でもが、世界中に張り巡らされたコンピュータ・ネット利に基づいて社会的に自律動作するインタラクティブワークによって密接に結び付けられつつある。このよシステムの内部計算モデルを提案し、実際に実装したプうな状況下では、ネットワーク内で活躍するエージェンロトタイプによる社会的行動の内部シミュレーションをト・システムも社会的あるいは組織的に守られた特殊な示す。以下では、 2 節でシステム内部における情報の存在ではなく、社会人と呼ばれる成人のように社会で一表現形式を説明し、 3 節で基本となる計算モデルを集人前に行動できなければならない。しかしながら、これ合的概念に基づいて提案する。そして、 4 節でマルチまでの大半のエージェント・システムは、 BDI モデルエージェントによる実装と、 5 節でプロトタイプによで代表されるような、欲求ベースで行動する幼児のようるシミュレーションを紹介する。

な存在でしかなかった。

2

近年、社会的行為における義務と権利の重要性が明ら義務と権利の表現かになるにつれ、この分野で多くの研究が行われつつ2.1 BDI モデルの言語拡張ある。様相論理の一種である義務論理の多くは、義務と義務と権利に関する情報を明示的に扱うために、人工知能における BDI モデル [7]を言語拡張する。義務A re ective computational model of socially interactive systems
Ichiro Osawa, AIST 情報処理研究部門を O (obligation) で表現し、権利を R(right) で表現する。

3

第 10 回マルチ・エージェントと協調計算ワークショップ (MACC2001) 2001.11.16-17

2.2

基本的な BDI モデルでは、システムの内部状態を信2

メッセージの解釈

念 B (belief) と 欲 求 D (desire) と 意 図 I (intention) に

オブジェクト指向システムでは、システムがメッセーよって表現する。信念 B がシステムの信じている情報ジを受信すると、受信メッセージに対応するメソッドがで、欲求 D がシステムの望んでいる状態あるいは事自動的に起動され、メソッドのプログラムに従ってメッ

象、意図 I がシステムの決意した状態あるいは事象でセージの処理が実行される。メッセージの基本的な送受ある。例えば、システム s が x という命題を信じてい信機構に義務や権利の概念は含まれていないので、送て、 y という状態を望み、 z という事象を意図してい信者によって異なるメッセージ処理を行うようにするにる場合を以下のように表現する。

は、メソッドのプログラム内に送信者情報に基づいた分Example 1

岐処理を内在させておかなければならない。

Bs:x^

Ds:y^

それに対してこのシステムでは、明示的に定義して

I s:z

欲求 D は実現すれば望ましい状態であり、将来におある規則に基づいて、受信したメッセージを義務 (あいて成り立つ可能性があると信じていれば、他の欲求とるいは情報) として解釈し、義務の履行という形式で相反していても良い。一方、意図 I は実現を確信してメッセージの処理を実行する。例えば、システム tom

身を委ねるような状態あるいは事象であり、将来においからの質問メッセージに対して必ず回答しなければなて必ず成立すると信じていなければならない。

らな いシス テムの 場合、以下 の規則 を定義 してお く(M s:内容@t は t から s へのメッセージを表す)。

義務 O は、あるシステム s がシステム t に対して状態あるいは事象の実現の責務を負っていることを表現

Example 4する。この義務の表現を用いれば、商店主が客から代金Oi; s: ans; s; p[を受け取った場合に商品を渡さなければならないという規則を次のように記述することができる。但し、 [行為]3は done(行為者; 行為) の略記である。

3.1

Example 2[

自己反映型即応計算モデル
計算モデル

信念 B 、欲求 D、意図 I 、および義務 O と権利 R にOs; t: give; t; x]] ^ Bs:price(x; p) ^ Bs:[take; t; p]
なお、基本的な BDI モデルでは、意図 I は行為の実←] ← M i:[ans; s; p]@s ^ s = tom[Ds: sell; t; x

基づいてシステムをインタラクティブに動作させるために、その計算機構として自己反映型 [6]の即応システム
RRS を用いる。この節では、この計算機構のベースに行を意図する場合と、状態の達成を意図する場合の両なっている計算モデルを集合論的な概念に基づいて定義方に用いられるが、本モデルでは意図 I を行為の実行する。
自己反映型即応システム RRS は、時々刻々と変化意図のみに用い、状態達成の意図は自己に対する義務する状態 RSt と想起規則 RR とから構成され、時刻

Oi; i:x で表現している。

権利 R は、システム s に事象の実行権があることをt における状態 RSSR

De nition 1 (自己反映型即応システム RRS )RRS = (RSt ; RR)[t = 0; 1; 2; ; ; ]RSt = (SOt ; SMt ; SRt )ば、その客から代金を受け取る権利があるという規則を以下のように記述できる。

Example 3[]
Os; t:[sell; t; x] ^ Bs:price(x; p)^Bs::[take; t; p]

時刻 t におけるシステムの観測としては、外部世界Rs: take; t; p←

t は、観測 S Ot と記憶 S Mt と想起

t の 3 状態から構成される。

表現する。例えば、商店主は客に商品を売る義務があれからのメッセージ M あるいはイベント情報 E 、若しくはシステム自身がその時点で想起している信念 B と欲求 D と意図 I と義務 O と権利 R に関する想起情報

t01 の中から、まだ未観測のものを一つだけ取捨選SR択することができる。すなわち、システムの観測対象で4

第 10 回マルチ・エージェントと協調計算ワークショップ (MACC2001) 2001.11.16-17
ある世界 Wt は、メッセージ M とイベント情報 E か: I ×S Mt →E
RR4 : O ×S Mt →D + R
RR = RR1 + RR2 + RR3 + RR4
RR : (M + D + I + O )×S Mt →E + B DI + OR
RR3ら成る外部世界 OWt と、想起 SRt01 に基づく内部世界から構成されており、時刻 t における観測 S Ot は次のように表現できる。但し、 : は とほぼ同義で、右以 上 の こと か ら 時刻 t に お ける 想 起 S Rt は、 記 憶側の集合に含まれる要素の種類 (タイプ) を拡張 BDI モ

t と想起規則 RR から以下のように定義できる。
De nition 5 (想起 SRt )S Rt = ∪x∈SMt ∩(M ∪D∪I ∪O) RR(x; SMt )S Rt : E + B DI + OR

デルのオントロジーに基づいて補足的に表現している。

:SM+ E は、集合 S の要素が M あるいは E の情報であることを表している (尚、省略形として M + E の代わりに M E 、 B + D + I の代わりにBDI 、 O + R の代わりに OR を用いている)。
例えば S

3M

ここで強調しておきたいことが一つある。このモデル

De nition 2 (観測 SOt )Wt = OWt ∪S Rt01 : M E + B DI + OR
S Ot  Wt −S Mt01 : M E + B DI + OR
jS O t j  1
記憶 S Mt は、直前の記憶 S Mt01 をベースに計算する。 S Mt は、 S Mt01 の情報をほぼ全て継承するが、の本質的な点であるが、システムが想起していても観測していない情報は、システムに認識されておらず、システムの動作に全く影響を与えていないということである。 RR3 による行為の実行だけは、実行それ自体をシステムが観測していなくても外界に何かしらの影響があるので間接的な情報の観測によってシステムは影響されメッセージ M の場合は、そのメッセージから想起規則るかも知れない。しかしながら、それ以外の信念 B 、RR で想起され未観測のものがあるときだけ継承され欲求 D、意図 I 、義務 O、権利 R の想起に関しては、る。解釈の終了したメッセージを記憶から抹消するため直にその想起を観測しない限りはシステムに影響を与えである。そして観測 S Ot を加えることで時刻 t におけることがない。

る記憶 S Mt が計算できる。

De nition 3 (記憶 SMt )SMt = S Ot ∪(SMt01 −M )∪fmjm∈S Mt01 ∩M^jRR(m; S Mt01)−S Mt01 j > 0g
SMt : M E + B DI + OR
想起規則 RR は、記憶 SMt 内の情報に基づいて想3.2

記憶の自動調整シ ステ ムの 信念 B は時々 刻々変 化し てい る。あ る
時、活動用のエネルギーが不足してきたという信念に基づいてエネルギーの補充欲求が生じたとしても、その後の信念の変化によって、活動用のエネルギーが不足しているという信念が消えてしまうことがある。このような起す る情報 を求め る規則 である。規 則は大 きく分 類

場合には、エネルギーの補充欲求も消滅してほしい。こして 4 つのタイプがある。 (1) メッセージ M から信念の思考の自動調整機能は以下のように簡単に実現でき

B あるいは義務 O を想起する規則 RR1 、(2) 欲求 Dる。

De nition 6 (欲求・意図・権利の活性状態)
xはactive , x∈SRt ∩S Mt ∩(D ∪I ∪R)から別の欲求 D 、あるいは意図 I 、義務 O 、権利 R を想起する RR2 、 (3) 意図 I から実行プロセスを想起す
る RR3 、そして (4) 義務 O から欲求 D あるいは権利システムの欲求 D 、意図 I 、権利 R は、想起規則にR を想起する RR4 である。 RR1 でメッセージを解釈

基づ いて想 起され、 それが観 測され ること で活性 化

し、 RR2 はいわゆるトップダウンのプランニング、し、システムの動作に影響を与える。しかしながら、t 内の信念等の変化によって、活性化していた欲求

RR3 が意図に対応する行為の実行、 RR4 が義務 O かSM

ら欲求 D や権利 R を想起する。

D 、意図 I 、権利 R の想起がなくなってしまうことがDe nition 4 (想起規則 RR)
RR1 : M ×S Mt →B + O
RR2 : D ×S Mt →D + I + O + Rある。この場合、観測によって S Mt 内に加えられている欲求 D、意図 I 、権利 R に関して、以下の定義にしたがって活性状態でなくなったものを継承しないように5

第 10 回マルチ・エージェントと協調計算ワークショップ (MACC2001) 2001.11.16-174する。

項の 1 つ目は表示されていなければならない情報で、

De nition 7 (修正 SMt )S Mt = S Ot
∪S Mt01 ∩(E ∪B ∪O)∪fxjx∈S Mt01 ∩(D ∪I ∪R) ^ xはactiveg∪fxjx∈S Mt01 ∩M^jRR(x; S M + t 0 1)−S Mt01 j > 0g

2 つ目は非表示でなければならない情報である (他エージェントの表示情報は「情報 @ エージェント」という表現形式によって自己の表示情報と区別している)。出

4

力項には、入力項の条件が満たされた時に自己の表示D に付け加えるべき情報を定義しておく。以下に示しAた例は、食べたいという情報があり、食べる権利のあるものに関する情報がエージェント m から観測できない

マルチエージェントアーキテクチャ

4.1

場合に、食べる権利のあるものを欲求するという情報を自己の表示 AD に付け加えるという規則である。

基本エージェント

Example 6

前節で述べた自己反映型即応システムを効率よく実装

fするために、表示と観測に基づいて各エージェントが自[]g×fRx:z 3 [eat; z ]@mg → Dx:y 3 [eat; y ]Dx: eat

律動作するマルチエージェントアーキテクチャ [9]を用4.2いる。各エージェントは、自己および他エージェントのエージェントの拡張表示している情報を常時観測し、エージェント毎に定義

規則 AR を拡張し、自己の表示情報を更新するだけされている規則に基づいて表示情報の更新計算を行う。

でなく、他エージェントに直接作用して他エージェントシステム内で変化する情報は全体の僅かな割合なので、の表示情報を更新できるようにしてある。すなわち、出この計算は非常に素早く実行できる。全てのエージェン

力項の情報定義を「情報 @ エージェント」という形式

トの表示情報が固定した時点で、自己反映型即応システで記述しておくことで、入力項の条件が満たされた時にムの一時刻における計算が終了する。

出力項の情報が別のエージェントの表示情報として用い

De nition 8 (エージェント)
エージェントA = (観測AO ; 規則AR ; 表示AD )られる。これはエージェントのモジュール性を損なうよ
うにも思えるが、オブジェクト指向のメッセージに代わ各エージェントはローカルに情報を保持し、保持してるものとして利用することができる。

いる情報が全てそのまま表示される。自己の表示していそして、人間の長期記憶あるいはデーターベースのよる情報は全て観測できるが、他エージェントの表示情報うに持続性をもって蓄えられる情報を処理するために、に関しては予め観測したいものを宣言しておく。すなわ

特殊なエージェント m を用意した。この m エージェン

ち、観測したい情報の種類と情報源を予め観測 AO とトに対して、「+情報@m」という形式で直に表示情報して定義しておく。例えば、 memory エージェント内を送ると、内部に情報が書き込まれ持続的に表示されの意図情報を観測したい場合には以下のように定義してる。その後に情報を抹消したい場合は「 情報@m」とおく。

いう形式で m エージェントに抹消希望の情報を送る。

0

Example 5[observing; I x:y @memory ]4.3※xとy は変数

自己反映型即応システムのアーキテクチャ

この定義により、 memory エージェントの表示 AD

自己反映型即応システム RRS は、 m エージェントに I a:[eat] 等の情報が表示されていれば、その情報をを含む 12 の主要エージェントから構成される (図 1)。

観測することができる。

sensor エージェ ント は、外 部 から のメッ セージ あるDe nition 9 (規則 AR )規則AR : 表示情報×非表示情報 → 表示情報
規則 AR は、観測した自己および他エージェントの表示情報から自己の表示 AD を更新計算する。各規則

ントは sensor エージェントが観測したメッセージをは 2 つの入力項と 1 つの出力項から構成される。入力

解 釈 終了 ま で 一時 的 に 保持 す る。 メッ セージ 解 釈 はいは イベン ト情報、 若しくは システ ムが想 起して いる BDI+OR 情報の中からまだ未観測のものを観測して m エージェントに書き込んでいく。 stm エージェ6

第 10 回マルチ・エージェントと協調計算ワークショップ (MACC2001) 2001.11.16-17

8.4857535.1893-.817.

149.49154

71/09

5

義務と権利に基づく社会行動システム
プロトタイプ・システム

これまでに、本システムにおける情報表現 (2 節)、計5+21/*9*9154

算モデル (3 節)、実装方法 (4 節) に関して説明してき149.767.9*9154

た。この節では、 SUN の SICStus

3.357;

Prolog (v.3.8.5)

上に実装したプロトタイプシステムでの実験に基づき、
62*4

7.,*22

義務と権利をベースにした社会行動の即応制御がどのよ*,9:*957

うに実現できるかを概説する。
例 題 と して、 こ の プロ ト タ イ プシ ス テ ムに 対 し、interpretation エージェントが想起規則 RR1 に基づ

Tom という人物から Jo という人物の血液型を尋ねられたという簡単な状況を考える。システムは Tom に対する問いに対しては回答する義務があり、 Jo はシいて行い、結果を recall エージェント内に表示する。

ステムが管理している病院の患者なので、システムは

図1

アーキテクチャ

desire エージェントと intention エージェントと rightdoctor 権限があればデーターベース DB に問い合わせエージェントは欲求 D と意図 I と権利 R を管理し、て調べることができる。

活性状態のものを memory エージェント内に表示し、活性状態でなくなったものを m エージェント内から抹5.2消する。 obligation エージェントは義務 O を管理し、この例題で必要となる主要な想起規則は、以下の想起未達成 の義務を memory エージェ ント内に表 示し、規則と次節 (5.3.) で述べる役割に基づく想起規則の二達成した義務を m エージェントから抹消する。 plan

種類になる。

エージェントは memory エージェント内の BDI+OR

Example 7

情報 を観測し、 想起規 則 (RR2 と RR3 と RR4 ) に 基

想起規則 (RR1 )づ き想 起 され た情 報 を recall エー ジェ ント あ るい は

(1) Oi; tom:[ans; tom; q ] ← M i:[ans; tom; q ]@tom

想起規則

想起規則 (RR2 )actuator エージェントに表示する。

込まれていないものを各単位時間毎に最大で一つ取捨選(2) Dx:(y : p) ← Dx:[ans; z; y : p] ^:Bx:(y : p > a)(3) Dx:role(doctor ) ← Dx:(y : p) ^ B x:patient(y ) ^:Rx:role(doctor)(4) I x:[ask; DB; q] ← Dx:[ask; DB; q ](1) の想起規則は、 Tom からの問い合わせに対する回答義務を表現している。 (2) は、対象 y の属性 p 値択し、 m エージェントに書き込んでいく。この観測制を対象 z に報告したい欲求があるが、その値を知らな限は、システム内に雑多なシンボル情報が一度に流れ込い場合に、その値を知りたいという欲求の想起で、 (3)んで解釈処理等が混乱するのを避けるためで、どの情報は、対象 y の属性 p 値を知りたいという欲求があり、を選択するかはこのエージェントに託されている。以下

y は患者であ るが、 doctor 権限がない場合に doctorは現在の取捨選択の優先順序である (同優先度内ではラ権限が欲しくなるという欲求の想起である。最後の (4)ンダム)。

は、データーベース DB に問い合わせたいという欲求

4.4

sensor エージェント

sensor エージェントは、外部からのメッセージとイベント情報、およびシステムが想起している BDI+OR情報を観測し、その中からまだ m エージェントに書き

1. 外部の注目情報源 (話相手等) からの情報
2. 内部で想起された BDI+OR 情報
3. 外部からの情報があれば、問い合わそうという意図の想起規則である。
その他に、本論文中では範囲外としてあまり言及してこなかったが、義務達成時に義務情報を抹消するための7

第 10 回マルチ・エージェントと協調計算ワークショップ (MACC2001) 2001.11.16-17
規則が必要になる。

6

Example 8(5) :Ox; y:[ans; y; q ]← Ox; y:[ans; y; q ] ^ [ans; y; q > a]@x6

結論と今後の方向

義務と権利に基づいて社会的に自律動作するインタラクティブシステムの内部モデルを提案した。表現形式として BDI モデルを拡張し、計算モデルとして自己反映

5.3

役割に基づく情報管理 (役割エージェント)型即応計算モデルを提案した。

義務と権利に関する多くの規則は、部長や医者等の役マルチエージェントベースのプロトタイプ実装によ割 (権限) という枠組みで管理するのが望ましい [3]。こり、例題として取り上げた doctor 権限による質疑応答のシステムでは、役割に応じて専門の役割エージェント

以外に、商取引での基本的な売買における義務と権利のを用意し、役割に応じた義務と権利の定義が可能になっ問題や、自動車の運転における左方優先義務を順守したている。さらに、役割によって得た情報を役割エージェ

直進等の例題シミュレーションでシステムがうまく動作ント内で管理することで、異なる役割での越権的な情報することをこれまでに確認している。

処理を防いでいる。以下の想起規則は doctor という役

Example 10割エージェント内で定義されている。

店主の想起規則 (RR4 )Example 9[]

Rx=shop: take; y; m^← Ox; y:[sell; y; a]

想起規則 (RR2 )(6) Rx=doctor:[ask; DB; y : p]
← Dx:(y : p) ^ B x:patient(y)(7) I x=doctor:[ans; z; q > a]
← Dx:[ans; z; q ] ^ Bx=doctor:(q > a)
想起規則 (6) は、対象 y の属性 p 値を知りたい欲求(Bx:price a; m)^:[take; y; m]@x

運転手の想起規則 (RR2 )[] ← Dx:[go] ^ :Bi:exist(c; L)

Rx=driver: move

今後は、システムに複数の役割がある場合の役割同士間の相互関係モデル、および義務の達成条件の一般的なモデル、そして達成不可能な場合の責任 (義務) のモデがあり、 y が患者であれば、データーベース DB に問ルを構築し、システムに実装していきたいと考えていい合わす権利の想起である。 (7) は、対象 z に質問 qる。また、 Sloman 流の役割ベースの義務と権利の管の回答を行いたい欲求があり、 doctor 権限においてそ理方式と Wagner のダイアグラムを融合させ、義務との回答を知っていれば、 doctor という役割条件で回答権利のダイアグラムから想起規則を自動生成することを行う意図が想起されるという規則である。

で、既存の義務と権利に関する外部モデルとこの論文で提案した内部モデルをリンクさせていきたい。

5.4

シミュレーション (情報管理)

図 2に実行履歴を示す。観測情報の右側は情報源で、

参考文献[1] Eduardo Alonso. Right and coordination in multiagent systems. In UKMAS'98, 1998.
[2] Cristiano Castelfranchi. Commitments: From individual intentions to groups and organizations. In
In Proc. ICMAS-95, pp. 41{48, 1995.
[3] Emil C. Lupu and Morris Sloman. Towards a role
based framework for distributed systems management. Journal of Network and Systems Manaement,
Vol. 5, No. 1, pp. 5{30, 1997.
[4] J. J. Ch. Meyer and R. J. Wieringa, editors. Deontic logic in computer science. Wiley&Sons, 1993.
[5] Timothy J. Norman, Carles Sierra, and Nick R.
Jennings. Right and commitment in multi-agentagreements. In In Proc. ICMAS-98, pp. 222{229,1998.

想起の○が未観測の情報、●が観測済みの情報を表している。最初 (時刻 320) に Jo が患者であるという情報を観測している。時刻 331 で Tom からの問い合わせメッセージ (Jo の血液型) を受けた。時刻 332 で Tomからのメッセージを回答義務として解釈し、時刻 333以降で doctor 権限欲求を想起している。時刻 416 でdoctor 権限を得たので DB への問い合わせを実行し、

時刻 423 に情報 (A 型) を得ている。その結果、 Tomへの回答意図が想起され、時刻 424 でその意図を認識し、 doctor 権限で Tom への回答を行っている。

8

第 10 回マルチ・エージェントと協調計算ワークショップ (MACC2001) 2001.11.16-17
時刻 t

観測 (S Ot )00320

Bi.patient(jo) @ i

00331[ans,tom,jo:bt] @ tom○ Oi,tom.[ans,tom,jo:bt]

00332

Oi,tom.[ans,tom,jo:bt] @ i○ Di.(jo:bt)

00333

Di.(jo:bt) @ i○ Di.role(doctor)

7

想起 (SRt )● Di.(jo:bt)

00416

Ri.role(doctor) @ i○ Ri/doctor.[ask,db,jo:bt]● Di.(jo:bt)

00417

Ri/doctor.[ask,db,jo:bt] @ i○ Di/doctor.[ask,db,jo:bt]● Ri/doctor.[ask,db,jo:bt]● Di.(jo:bt)

00418

Di/doctor.[ask,db,jo:bt] @ i○ Ii/doctor.[ask,db,jo:bt]● Di/doctor.[ask,db,jo:bt]● Ri/doctor.[ask,db,jo:bt]● Di.(jo:bt)

00419

Ii/doctor.[ask,db,jo:bt] @ i○ [ask,db,jo:bt] @ i/doctor● Ii/doctor.[ask,db,jo:bt]● Di/doctor.[ask,db,jo:bt]● Ri/doctor.[ask,db,jo:bt]● Di.(jo:bt)

00423

Bi/doctor.(jo:bt>a) @ db

○ Ii/doctor.[ans,tom,jo:bt>a]● Ri/doctor.[ask,db,jo:bt]● Di.(jo:bt)

00424

Ii/doctor.[ans,tom,jo:bt>a] @ i○ [ans,tom,jo:bt>a] @ i/doctor● Ii/doctor.[ans,tom,jo:bt>a]● Ri/doctor.[ask,db,jo:bt]● Di.(jo:bt)

00425[ans,tom,jo:bt>a] @ i/doctor
図2

シミュレーション[6] Ichiro Osawa. A computational model of an intelligent agent for natural language dialogue systems.
In Proc. of PRICAI'90, pp. 209{214, 1990.
[7] Anand S. Rao and Michael P. George . Modelingrational agents within a bdi-architecture. Technical
Report 14, AAII, 1991.

[8] Gerd Wagner. Towards agent-oriented information systems. Technical report, Freie UniversityBerlin, 1999.
[9] 大澤一郎. 人間と対話する知能エージェントのモデル. コンピュータ・ソフトウェア, Vol. 13, No. 2, pp. 35{44,1996.

9