社会情報学

第８巻２号

2019

特集「計算社会科学」
・論文
レギュラーネットワーク上の規範と協力の共進化ダイナミクス
An analysis of co-evolution dynamics of norms and cooperation in
regular networks
キーワード：
協力の進化 間接互恵性 社会的ジレンマ 規範ノックアウト手法

エージェントベースドシミュ

レーション
keyword：Evolution of cooperation, Indirect reciprocity, Social dilemma, Norm knockout method, Agentbased simulation

立正大学
Rissho University

要

山

本

仁

志

Hitoshi YAMAMOTO

約
互恵的な協力は人間社会の持続的な発展の重要な基盤である。基礎的な互恵的協力として「過去において自身に協力した他者には協力する」という直接互恵が存在する。一方で，直接的な見返りが期待できない見知らぬ人間同士でも安定して協力行動を維持する仕組みは関係の流動性の高い現代において極めて重要になりつつある。このような協力が安定して成立するためには，非協力的な人だけが得をしないように，良い人と悪い人とを判断する評価ルール（規範）が必要であり，有効な規範の精緻な分析が進められてきた。しかし多くの先行研究は単一の規範が社会で共有されるという前提を置いており，多様な規範が混在する中からどのような規範が社会で受け入れられるのか，更には社会のネットワーク構
造が規範の進化に与える影響は未解明の課題であった。そこで本研究ではエージェントシミュレーショ
ンを用いて多様な規範が存在する規範エコシステムをモデル化し，規範と協力の共進化過程がネット
ワーク構造によってどのような影響を受けるのかを分析した。その結果これまで協力を実現できないと原稿受付：2019年11月３日
掲載決定：2019年11月13日

35

レギュラーネットワーク上の規範と協力の共進化ダイナミクス
山本仁志

されてきた規範が，相互接続の次数が高い社会において協力が進化するためには必須であることがわかった。この結果は協力社会の実現のためには協力を維持する方策だけではなく，協力の進化過程において必要な規範についても検討する必要性を示している。
Abstract
Despite extensive studies on the evolution of cooperation in indirect reciprocity, little is known
about which social norms are favored in a process of evolution of society. Because most previous
studies rely on an assumption which a single norm is shared in all members of society. However,different people often follow different norms, which lead to different opinions of the same person.
To address this issue, this paper considers the situation where various norms coexist in society as“a norm ecosystem” and clarify the roles of each norm in this ecosystem. In addition, the effect of
the network structure of society on the evolution of the norm has been an unsolved problem. The
paper analyzes how the co-evolution process of norms and cooperation is affected by the network
structure. The results show that norms that had been considered impossible to achieve
cooperation were indispensable for the evolution of cooperation in societies with a high degree ofconnection. These results indicate that in order to realize a cooperative society, it is necessary toconsider not only measures to maintain cooperation but also norms necessary for the evolution ofcooperation.

36

社会情報学

１

第８巻２号

2019

選択，ネットワークの張替えなどと組み合わせたはじめに

分 析 が 行 わ れ て い る（Brandt et al. ，2003；
Sylwester & Roberts，2013；Chen et al. ，社会における相互協力は人類の発展において重要な基盤であると同時に実現が困難な課題でもあ2012；Gallo & Yan，2015）。

る。特に個人間ないし個人と集団間で利害が対立

間接互恵を支える基本的なメカニズムは，ヒトする場面において，如何にして協力的な関係を構が良いヒトと悪いヒトを効果的に分別する規範を築し維持していくかは古典的でありながらもち，良いヒトにのみ協力するという傾向を持つ（Hardin，1968）今なお課題が出現し続ける今ことによって支えられている。これまでに様々な日的な課題であり続けている。こうした社会的ジ

協力を安定させる規範が提案されてた（Sugden，

レンマ状況において相互協力的な関係が進化する

1986；Nowak & Sigmund，1998；Wedekind

メカニズムの解明は，今日においても人類が解く& Milinski，2000；Kandori，1992；Pacheco

べき重要な課題として残されている（Kennedy

et al. ，2006；Takahashi & Mashima，2006；& Norman，2005）。

Sasaki et al. ，2017）。また，協力の維持に頑健

また近年の情報技術の発展により人々の過去のな規範を網羅的に探索した研究も存在する

行動履歴や人間関係は広範に観測可能となり，こ（Ohtsuki & Iwasa，2006）。しかし規範そのもれらを用いて人々の信用や評価を社会システムとのとネットワーク構造の関係についてはごくわずして共有するという試みも実用化され始めているか な 研 究 し か な さ れ て い な い（Sasaki et al. ，（後 藤・ 本 田，2018； 大 屋，2019）。 一 方 で，

2017）。

インターネットが社会のあらゆる場面に浸透する

更に多くの先行研究では社会である一つの規範ことで，多様な価値観や規範が混在・共存する環が共有されているという前提をおいている。しか境が出現している。こうした高度かつ複雑な情報

し現実の社会において他者を評価する規範が単一環境において人々の相互協力が如何にして実現可であるとは考えられず，実験によっても人によっ能であるかを検討することは社会情報学の重要なて異なる評価ルールが採用されていることが確認課題といえる。

されている（Swakman et al. ，2016；Okada et

協力行動の進化メカニズムについては，原始的

al. ，2018）。複数の規範の混在に関する理論的なには血縁選択（Hamilton，1964）や自分を助け分析は近年になって試みられるようになってきたてくれた他者を助けるという直接互恵が協力行動

が（Uchida & Sigmund，2010；Yamamoto etを促進するという幅広い知見がある（Trivers，

al.， 2017；Uchida et al. ，2018）， こ れ ら の 研

1971；Axelrod & Hamilton，1981）。しかし関究はネットワーク構造の影響を検討していない。

係の流動性が大きい人間社会でより一般的に重要

本研究では複数規範の混在環境を規範エコシスとなるのは，誰かを助けた他者を助けるという間テムとしてモデル化し，規範エコシステムにおい接互恵であり，近年多くの研究がなされているてネットワーク構造の導入がどのような影響を与（Alexander，1987；Sugden，1986；

えるかをエージェントベースドシミュレーション

Kandori，1992；Wedekind & Milinski，2000；（Gilvert & Troitzsch，1999）によって分析する。

Panchanathan & Boyd，2004）。更に相互作用

本研究は間接互恵の基本的なモデルであるギビンにネットワーク構造を導入することの効果も知ら

グゲームを用いてネットワーク構造を持つ社会でれている（Nowak，2006）。ネットワーク構造

協力と規範が共進化するメカニズムを明らかにすを導入した多くの先行研究では懲罰やパートナーる。

37

レギュラーネットワーク上の規範と協力の共進化ダイナミクス
山本仁志

図１はモデルの概念図である。エージェントは
ドナーとレシピエントに割り当てられギビング
ゲームをおこなう。この時ドナーが協力を選ぶと

２

モデル

2.1

シミュレーションモデルの構築

コストを払ってレシピエントに利得を与えること

本節では，多様な規範が存在する環境下におけになる。全てのドナーが協力を選べば社会全体のる協力の進化を分析するために，ギビングゲーム

利得はパレート優位になるが，コストを払わないを用いた規範エコシステムのエージェントベース

ドナーのほうが利得は高くなるので，このゲーム

ドシミュレーションモデルを構築する。社会はN

は社会的ジレンマの構造を持つ。一方でドナーの個体のエージェントで構成され，それぞれのエー

行動は他のエージェントに観察される。観察者はジェントは次数d のレギュラーネットワーク上に自身の規範を用いてドナーの評価（善悪）を更新配置される。エージェントi とエッジが張られたする。他者から良いと判断されたドナーは次に自エージェントの集合をエージェントi の近傍E i と身がレシピエントになったときに協力されることする。E i はi 自身を含む。シミュレーションは１になる。この仕組みが間接互恵である。エージェ

試行がG 世代で構成される。１世代はR ラウンド

ントはレギュラーネットワーク上に配置され，で構成される。

ネットワーク上で連結されたエージェントと相互

１ラウンドのゲームはギビングゲームフェーズ

作用しながら自身の規範を進化させる。規範の時と評価フェーズで構成される。ギビングゲーム

間発展と社会の協力率を観察することで規範と協フェーズでは，集団からランダムに選ばれたエー

力の共進化の過程を分析することができる。

ジェントi がドナーとなり，E i からランダムに選

また，本研究では規範エコシステムにネット択されたエージェントj をレシピエントとしてギ

ワーク構造を導入する最初のステップとして，次ビングゲームをおこなう。ドナーはGoodと評価数の効果を分析することを目的とする。そのためしているレシピエントに「協力（C）」し，Badとネットワーク構造はレギュラーネットワークに評価しているレシピエントに対しては「非協力限って分析することとする。

（D）」を選択する。ドナーが協力を選択すると，ドナーはc のコストを支払い，レシピエントはb（b＞c＞ 0）の利益を得る 。ドナーが非協力を選択
すると両者の利得は変化しない。ドナーは確率qで行動エラーをおこす。行動エラーは協力と非協力の行動が反転することで表現される。
このゲームをi を除くE i に含まれるエージェン
トが観察し，ドナーi に対する評価をアップデー
トする。これが評価フェーズである。観察者（kとする）は２種類の情報を用いてドナーi の評価を更新する。k はi の行動（C/D）とレシピエントj
に対するk の評価を用いてi の評価を更新する。kがi の評価を更新する際確率p で認知エラーをおこす。認知エラーは評価の結果のGoodとBadが反転することで表現される。上記のギビングゲーム

図１

フェーズと評価フェーズを全てのエージェントがモデルの概念図38

社会情報学

第８巻２号

2019

１回ずつドナーとなるよう繰り返し１ラウンドがる裏切り）はGoodと判断する。Simple standing

終了する。

（Sugden，1986；Leimar & Hammerstein，
2001）は甘やかしもGoodと判断し，良い個人へ

2.2

エージェントの規範の非協力のみをBadと判断する

エージェントの持つ規範は表１のように表現さ
表２：代表的な規範の一覧

れ，エージェントは４ビットで表現される規範を持つ。第１ビットは，GoodなレシピエントにCをとったドナーに対する評価であり，向社会的な行動に対する評価ルールを表す。第２ビットは，
BadなレシピエントにCをとったドナーに対する評価であり，寛容な行動に対する評価ルールを表す。第３ビットは，GoodなレシピエントにDをとったドナーに対する評価であり，反社会的な行動に対する評価ルールを表す。第4ビットは，

2.3

進化過程

BadなレシピエントにDをとったドナーに対する全てのエージェントが１回ずつドナーとして評価であり，懲罰的な行動に対する評価ルールを

ゲームを行うことで１ラウンドが終了し，R ラウ表す。

ンドのゲームの後，エージェントの規範は利得を適応度とした遺伝的アルゴリズム（GA）を用い
表１：エージェントの規範て進化する。エージェントは親となるエージェン
トをE i から２体ルーレット選択によって選ぶ。あるエージェントi がルーレット選択によって親として選ばれる確率πiは（１）式のように記述さ
れる。
2
πi＝
（Ui－Umin）2/∑（Ujj－Umin）

（１）

Uiはエージェントiがその世代で得た累積利得でこの記法を用いることでこれまでよく知られてあり，UminはE i 中の全エージェントが得た利得のいる規範を次のように記述することができる（表うち最小の値である。選ばれた２体の親から一様２）。ドナーの行動のみを用いて判断する単純な交叉によって新たな子孫の遺伝子が生成される。

規範がImage scoring（IS）（Nowak & Sigmund，また，確率m で各遺伝子座の値が反転することで1998）である。ドナーの行動に加えてレシピエ

突然変異を表現する。

ントのイメージを用いる規範としては次の３種類がよく知られている。最も非寛容な規範として知2.4

規範ノックアウト手法

ら れ て い るShunning（SH）（Takahashi &協力の進化における必須規範を明らかにするた

Mashima，2006）は良いレシピエントへの協力

め 規 範 ノ ッ ク ア ウ ト 手 法（Yamamoto et al. ，の み をGoodと 判 断 す る。Stern judging（SJ）2017）による分析を用いて協力の進化に必須と（Kandori，1992；Pacheco et al. ，2006）は悪なる規範を分析する。規範ノックアウト手法は遺いレシピエントへの協力（甘やかし）はBadと判伝 工学 で 用 い ら れ る 遺 伝 ノ ッ ク ア ウ ト 手 法

断し，悪いレシピエントへの非協力（正当化され（Strepp et al. ，1998）の技法を社会シミュレー

39

レギュラーネットワーク上の規範と協力の共進化ダイナミクス
山本仁志

ションに応用したものである。遺伝ノックアウト

2.5

手法は，ある生物に機能欠損型の遺伝子を導入す

シミュレーションパラメータ

本研究のシミュレーションで採用したパラメー

るという遺伝子工学の技法であり，配列は既知でタを表３に示す。

あるが，機能がよくわかっていない遺伝子を研究するときに用いられる。研究者は，ノックアウト
個体と正常個体の間の相違から，遺伝子の機能について推論する。
社会シミュレーションにおいて，

３

結果

3.1

次数と規範ノックアウトの効果

特定の規範を表現する遺伝子配列だけ集団から排第一に規範生態系において適応的となる規範を除する方法を採用して，その規範が協力の進化に分析する。図２は様々な次数における規範の進化

おいて重要な役割を果たす必須規範であるかどうの時間的発展を示している（b ＝５，p ＝q ＝0）。

かを明らかにする。

各パネルが１回の試行の結果であり，パネルの縦規範ノックアウト手法は以下のように実装され方向にシミュレーション時間が進んでいる。本論

る。ある特定の規範を表す遺伝型は各世代の最初

文では多数の規範が共存する状況を分析するために取り除かれる。具体的には，エージェントの規

代表的な規範をカラーで表現し視覚化している。

範が進化の結果ノックアウトされる規範と同一に

具体的にはBBBBで表現される常に非協力な規範なった際には，他の15タイプの規範へとランダム

は黒，GGGGは緑，GBBB（SH）は赤，GBBG（SJ）に変更される。その結果，ノックアウトされた規はオレンジ，GGBB（IS）は水色，GGBG（ST）は

範は，常に集団内に１エージェントも存在しない。

黄緑で表現されている。またその他の規範で第１ビットがGのものは白，第１ビットがBのものは

表３：シミュレーションパラメータ40

社会情報学

第８巻２号

2019

動や認知にエラーがあった場合適応的な規範は如何に変化するであろうか。また次数や協力で得られる利得の大きさの効果を網羅的に分析する必要があろう。
図３は協力時の利得b と次数d を変化させたときの社会全体の協力率を示している。協力率は異なる乱数種で50回試行を行い，500世代時点の協力率の平均によって算出した。上段が認知エラー・
行動エラーともない環境の結果であり，下段がエラーを導入した環境の結果である。カラーチャー
トは青が協力率１に対応し，黒が協力率０に対応する。規範ノックアウト手法を用いない場合，エラーの有無にかかわらず多くの領域で協力が支配
図２：規範の進化過程の空間的パターン

的になっている。次数が高く利得が低いときにのみ非協力支配となっている。この環境は完全なラ

灰色に統一した。

ンダムマッチングかつ協力のコストが高いことを

図２左から１列目の結果は規範ノックアウト手意味している。多数の規範が混在し更に協力への法を用いない場合の結果である。つまり16種類

誘因が低い非常に厳しい環境では協力の進化は困すべての規範が存在している。このとき次数が低難であることがわかる。

いときにはSJ（オレンジ）やST（黄緑）などの規

SHをノックアウトした場合は次数が高い環境

範が共存していることがわかる。一方次数が高くで利得の大きさに関わらず非協力が支配的となっな る に つ れSJは 観 測 さ れ ず 黄 緑 や 緑 の 混 在 にている。つまり次数が低い環境ではSHが存在しよって社会が構成されている。左から２列目はなくても協力は進化できるが次数の高い環境ではSHをノックアウトした結果を示している。次数SHは協力の進化に必須であることがわかる。相が低いときには同様にいくつかの協力的な規範が互作用の範囲が広くランダムな相手と次々にやり混在しているが次数が高くなるにつれ非協力が支取りをする環境で協力が進化するためには社会に配的になっている。続いてSJをノックアウトした

SH規範の存在が必要である。

場合，次数が高くなるにつれ非協力が支配する時

SJをノックアウトした場合はエラーの有無に間が長くなるが，協力支配のフェーズと非協力支

よって様相が異なる。エラーがある環境ではノッ

配のフェーズが交互に生じている。ISをノックア

クアウトを用いない場合とほぼ同様の結果となっ

ウトした場合はSHと同様に次数が高くなると非ている。つまりこの環境ではSJの存在は協力の進

協力支配になる。対照的にSTをノックアウトし化に影響を与えていない。しかしエラーがないとた場合は，低次数の時からSJが支配的となって安きには完全ネットワークに近いときのみSJが協定している。

力の進化に必要となっている。
ISをノックアウトした場合はSHとほぼ同様の結3.2

エラーと次数の影響果である。つまり次数の高い環境においてISはSH

前節の結果はある特定のパラメータにおける１と同様に協力の進化に必須であることがわかる。

回のシミュレーション結果を示している。では行

STをノックアウトした場合はエラーの有無に41

レギュラーネットワーク上の規範と協力の共進化ダイナミクス
山本仁志

図３：ネットワーク構造と協力率

よって様相が大きく異なる。エラーがない場合はノックアウトを用いない場合と同様の結果である。図２からわかるようにSTをノックアウトした場合にはSJが支配的な規範となっている。つまりSTがいなくてもSJによって協力が安定的に維持されていることがわかる。しかしエラーがある
場合には協力の進化がほぼ見られない。他のケースでは常に協力が支配的となる次数が低く利得が
図４：ST規範ノックアウト時のエラーの影響高い領域であっても協力が安定することはない。
エラーのある環境でSTの存在が欠けたとき何が起こるのであろうか？

に協力を維持することがわかる。
しかしなぜ，エラーがある環境ではSTがひと

3.3

Simple Standingの重要性つ欠けただけで協力が安定しないのであろうか。

図４はSTをノックアウトした場合のエラーの協力的な社会に非協力的なフリーライダーが侵入有無による規範の時間発展である。上段のエラー

するのを防ぐためには非協力な個体をBadと評価が無い場合の結果は図１最右列に対応している。

し協力的な個体と峻別する必要がある。例えば

もっとも特徴的な違いはエラーがある場合SJがGGGGで表現される完全協力者はどんな相手にほとんど存在しないことである。SJがエラーに脆

対しても協力してしまうために協力の維持に貢献

弱 で あ る こ と は 知 ら れ て い る が（Uchida &できない。ISはGGBBで表現される規範でありSasaki，2013），これまでは単一の規範が社会でもっともシンプルな間接互恵規範である。しかし共有される前提においての脆弱性が検討されていISは安定的に協力を維持することができないことた。しかし規範が多数存在する環境においてもSJが知られている。なぜならISは協力行動を必ずはエラーに脆弱であることがわかった。一方エGoodと評価し非協力行動を必ずBadと評価する。

ラーがない場合にはSJは非常に頑健かつ安定的

つまり，誰に対して行動したかを考慮していない。

42

社会情報学

第８巻２号

2019

そのため，あるドナーが悪い評判の個体に対してる乖離があるのか，もしくは集団内に2次情報を

非協力行動をとった際にも，その行動をBadと判活用する人々がある程度含まれていれば良いのか

断してしまうためいったん非協力行動が発生するといった現実社会との接合を今後検討する必要がと非協力の連鎖が止められなくなるのである。

ある。

つまりここで重要となるのは，悪い個体に対す

第三は社会構造と社会規範の関係を分析する重る非協力は正当化される，という評価ルールであ要性である。シミュレーション結果からネットる。この評価ルールを持つ規範はSJとSTのみでワークの構造によって必要となる規範が異なるこ（1）ある 。SJがエラーに対して脆弱なため正当化さとがわかった。これは社会の繋がりのパターンにれる非協力をGoodと評価して非協力の侵入を防

よって互恵的な協力をもたらす社会規範が異なる

ぐためにはSTが必要となるのである。

ことを示唆している。今日，社会にはオンライン・
オフラインを問わず多種多様なコミュニティが多４層的に存在している。またそれらは互いに相互作考察用しつつ動的に変化している。こうした複雑な社

本研究の結果から示される洞察は大きく４つに会システムを健全に維持し発展させるためには相まとめることができる。第一が協力の進化ダイナ

互協力が必須となるが，その実現のために構造とミクスを分析する重要性である。これまでの研究

規範を同時に分析することの重要性を本研究の結は社会である一種類の規範が共有される前提の上果は示唆している。

で協力を安定させることができる規範を探求して第四は規範ノックアウト手法の手法的な重要性いた。その文脈においてSHやISは進化的に安定である。Yamamotoら（Yamamoto et al. ，2017）

な規範ではないことが明らかになっている。しかが開発したこの手法は複雑な社会システムにおいし規範と協力の共進化過程において，これらの両てある特定の個人や集団が果たしている役割を分規範が存在しなければ協力が創発することはない

析する手法として応用範囲が広い。この手法をさことが明らかになった。これは規範エコシステム

らに発展させることで間接互恵のみならず協力のを用いたアプローチによって初めてわかることで進化研究をさらに推し進めることが可能となろう。

ある。
第二がST規範の重要性である。ST規範はBad

５な個体への非協力をGoodと判断する。これは集まとめ団がフリーライダーの侵入に頑健であるために本研究ではネットワーク上の間接互恵性によるは，フリーライダーを排除するだけでなくフリー

規範と協力の共進化ダイナミクスを分析するためライダーを排除する個体を守る必要があることをに規範エコシステムをモデル化し，それぞれの規意味する。一方でST規範のように行動の情報（１

範の役割とネットワーク構造の影響を分析した。

次情報）だけでなく行動の相手の情報（２次情報）

シミュレーションの結果から，ローカルな繋がりを用いるという複雑な情報処理を実際に人間がに限定された低次数社会では様々な規範が小さな行っているかどうかは議論が分かれるところでもコロニーを形成しつつ協力を安定させることがわ

あ る（Milinski et al. ，2001； 真 島，2015；

かった。一方で多くの人とランダムな相互作用がSwakman et al .，2016；Okada et al. ，2018）。

生じる高次数社会では協力が進化するためにはい

理論的には2次情報を用いるST規範の存在が必須

くつかの必須となる規範が存在することがわかっとなるが，実際の人間の情報処理との間に如何なた。その中でもShunning規範とImage scoring規43

レギュラーネットワーク上の規範と協力の共進化ダイナミクス
山本仁志

範は単独では協力を安定させることができないが究 の 一 部 はJSPS科 研 費（17H02044，

協力の進化過程には重要な役割を果たしているこ

18H03498，19H02376，19K21570） の 助 成 をとがわかった。

受けている。

本研究は規範エコシステムにネットワーク構造を導入する第一歩の試みである。そのため多くの参考文献検討すべき課題が残っている。第一にネットワー

Alexander, R. (1987). The biology of moral

systems . Aldine de Gruyter, New York.

ク構造の多様性の導入である。本研究では次数の効果に着目するためにネットワークを特徴付ける

Axelrod, R., & Hamilton, W.D. (1981). The

他の要素を捨象して分析をおこなった。しかし不evolution of cooperation. Science , 211,

均質なネットワークが協力の進化に与える影響の1390-1396.

研究も多く存在するため（Santos & Pacheco，

Brandt, H., Hauert, C., & Sigmund, K. (2003).

2005；Rong et al. ，2007；Santos et al .，Punishment and reputation in spatial public

2008；石田他，2007），間接互恵性においてもgoods games. Proceedings of the royal

この影響は今後探求されるべきである。また，確society of London. Series B: biological

信的な個人の存在も検討すべき課題として残ってsciences , 270(1519), 1099-1104.

いる。社会には周囲の環境によらず自身の意見をChen, X., Schick, A., Doebeli, M., Blachford,

変えない個人や集団も存在する（安野，2006）。

A., & Wang, L. (2012). Reputation-based

こうした人々の行動や彼らが下す評価は集団全体

conditional interaction supports cooperationの意見分布にも影響を与え得る。当然，間接互恵

in well-mixed prisoner’s dilemmas. PLoS

における規範においてもこのような確信的な個人

One , 7(5), e36260.

の影響は考慮されるべきである。協力の進化におGallo, E., & Yan, C. (2015). The effects of

ける理論的研究でも常に単一の行動をとり続ける

reputational and social knowledge on

エージェントの効果は検討されておりcooperation. Proceedings of the National（Matsuzawa et al .，2016；Yamamoto &Academy of Sciences , 112(12), 3647-3652.

Okada，2016），確信的な個人が社会全体の規範

Gilvert, N., & Troitzsch, K. (1999). Simulationに与える影響の分析も重要な課題と言えよう。

for the Social Scientist . Open University

注釈

後藤晶＆本田正美．（2018）．監視カメラの社会（１）良い個体に対する協力はGood，良い個体的許容度に関する一考察．社会情報学，6(3)，Press.

に対する非協力はBadというルールを固定

63-78.

すると，正当化される非協力をGoodと評

Hamilton, W.D. (1964). The genetical evolution

価する規範はGBBGまたはGGBGのみとな

of social behaviour. ii. Journal of theoreticalる。これはSJとSTを指す。

biology , 7(1), 17-52.
Hardin, G. (1968). The tragedy of the

謝辞

commons. science , 162(3859), 1243-1248.

稿執筆にあたり貴重なコメントを頂いた岡田勇

石田芳文，山本仁志，岡田勇＆太田敏澄．（2007）．

氏（創価大学），内田智士氏（倫理研究所），佐々ネットワーク構造がもたらす協調の頑健性と脆木達矢氏（F-Power）に深く感謝する。また本研

弱性．コンピュータ

44

ソフトウェア，24(1)，社会情報学

1_70-1_80.

第８巻２号

2019

of selective inattention in reputation-based

Kandori, M. (1992). Social norms andcooperation. Scientific reports , 8（1）, 14813.

community enforcement. The Review ofPacheco, J.M., Santos, F.C., & Chalub, F.A.C.

Economic Studies , 59(1), 63-80.

（2006）. Stern-judging: A simple, successful

Kennedy, D., & Norman, C. (2005). What don’t

norm which promotes cooperation under

we know? Science , 309(5731), 75-75.

indirect reciprocity. PLoS computational

biology , 2（12）, e178.

Leimar, O., & Hammerstein, P. (2001).
Evolution of cooperation through indirect

Panchanathan, K., & Boyd, R.（2004）. Indirect

reciprocity. Proceedings of the Royal Society

reciprocity can stabilize cooperation withoutof London. Series B: Biological Sciences ,the second-order free rider problem. Nature ,268(1468)，745-753.

432, 499-502.

真島理恵．
（2015）．
間接互恵性状況での人間行動．

Rong, Z., Li, X., & Wang, X.（2007）. Roles ofIn亀田達也（Ed.），
「社会の決まり」はどのよmixing patterns in cooperation on a scale-free

うに決まるのか（p. 117-147）．勁草書房．

networked game. Physical Review E , 76（2）,

Matsuzawa, R., Tanimoto, J., & Fukuda, E.

027101.

(2016). Spatial prisoner’s dilemma games

Santos, F.C., & Pacheco, J.M.（2005）. Scale-Freewith zealous cooperators. Physical Review E ,Networks Provide a Unifying Framework for
the Emergence of Cooperation. Physical94(2), 022114.

Review Letters , 95
（9）
, 098104.

Milinski, M., Semmann, D., Bakker, T.C., &Krambeck, H.-J. (2001). Cooperation through

Santos, F.C., Santos, M.D., & Pacheco, J.M.

indirect reciprocity: image scoring or（2008）. Social di ver sit y pr omotes t hestanding strategy? Proceedings of the Royalemergence of cooperation in public goods

Society of London. Series B: Biologicalgames. Nature , 454（7201）, 213-216.

Sciences , 268(1484), 2495-2501.

Sasaki, T., Okada, I., & Nakai, Y.（2017）. The

Nowak, M.A. (2006). Five rules for theevolution of conditional moral assessment inevolution of cooperation. Science , 314

indirect reciprocity. Scientific reports , 7,(5805), 1560-1563.

41870.

Nowak, M.A., & Sigmund, K. (1998). Evolution

Sasaki, T., Yamamoto, H., Okada, I., & Uchida, S.

of indirect reciprocity by image scoring.

（2017）. The Evolution of Reputation-BasedNature , 393(June), 573-577.

Cooperation in Regular Networks. Games , 8

Ohtsuki, H., & Iwasa, Y. (2006). The leading

（1）
, 8.

eight: social norms that can maintain

Strepp, R., Scholz, S., Kruse, S., Speth, V., &cooperation by indirect reciprocity. Journal

Reski, R.（1998）. Plant nuclear gene knockoutof theoretical biology , 239(4), 435-44.

reveals a role in plastid division for the

大屋雄裕．
（2019）．
個人信用スコアの社会的意義．

homolog of the bacterial cell division protein
FtsZ, an ancestral tubulin. Proceedings of the

情報通信政策研究，2(2)，15-26.

National Academy of Sciences , 95（8）
, 4368-

Okada, I., Yamamoto, H., Sato, Y., Uchida, S.,& Sasaki, T. (2018). Experimental evidence

4373.

45

レギュラーネットワーク上の規範と協力の共進化ダイナミクス
山本仁志

Sugden, R.（1986）. The Economics of Rights,

Uchida, S., & Sasaki, T.（2013）. Effect of

Cooperation and Welfare . Oxford: Basilassessment error and private information on

Blackwell.

stern-judging in indirect reciprocity. Chaos,

Solitons & Fractals , 56, 175-180.

Swakman, V., Molleman, L., Ule, A., & Egas, M.
（2016）. Reputation-based cooperation:

Uchida, S., Yamamoto, H., Okada, I., & Sasaki, T.

Empirical evidence for behavioral strategies.

（2018）. A theoretical approach to norm

Evolution and Human Behavior , 37
（3）
, 230-

ecosystems: two adaptive architectures of235.

indirect reciprocity show different paths to theevolution of cooperation. Frontiers in Physics ,Sylwester, K., & Roberts, G.（2013）. Reputationbased partner choice is an effective alternative

6, 14.

to indirect reciprocity in solving social

Wedekind, C., & Milinski, M.（2000）. Cooperation

dilemmas. Evolution and Human Behavior , 34

through image scoring in humans. Science ,（3）, 201-206.

288（5467）, 850-852.

Takahashi, N., & Mashima, R.（2006）. The

Yamamoto, H., & Okada, I.（2016）. How to keep

importance of subjectivity in perceptual errors

pu n ish me n t t o m a i n t a i n coo pe r at ion:on the emergence of indirect reciprocity.

Introducing social vaccine. Physica A , 443,

Journal of theoretical biology , 243（3）, 418-36.

526-536.

Trivers, R.L.（1971）. The evolution of reciprocal

Yamamoto, H., Okada, I., Uchida, S., & Sasaki, T.

altruism. The Quarterly review of biology , 35-（2017）. A norm knockout method on indirect

57.

reciprocity to reveal indispensable norms.

Scientific Reports , 7（1）, 44146.

Uc hida, S., & Sig m u nd, K. （2010）. T hecompetition of assessment rules for indirect

安野智子．
（2006）．重層的な世論形成過程：メディ

reciprocity. Journal of theoretical biology , 263

ア・ネットワーク・公共性．東京大学出版会．

（1）, 13-19.

46