並列分散処理

並列分散処理（へいれつぶんさんしょり、, PDP）とは、認知科学における人間をコンピューターのような記号処理系とみなす指導原理の下、遅くて不正確なハードウェアである「脳」を持つ人間が無意識下で行っているとされる情報処理方式複数の分散した処理ユニットが同時並行的に情報処理を行う方式で、通常のコンピュータでは、単一の中央処理ユニット(CPU)が、情報処理を直列（継時的）に行っていることと対比される。中央の処理ユニットが故障すれば情報処理全体が破綻してしまう直列集中処理に対し、複数の処理ユニットを持つ並列分散処理は一部の処理ユニットが故障してもある程度の処理がなされうる。こうした障害への頑健性も並列分散処理の利点である。、特にそのモデル（PDPモデル）を言うPDPモデル 序文、監訳者あとがき。

人間の認知を解明する認知科学において、情報の並列分散処理を論ずることが心の働きを理解するに不可欠であるとするコネクショニズムの登場と共に提案されたPDPモデル 監訳者あとがき。パーセプトロン、ニューラルネットワークの推論モデルである。
 概要 
ギュスターヴ・ル・ボンが『群集心理』で述べたように、あらゆる個人が、種々な影響を受けて一時にせよ集合すると、その種族本来の性質とされるものとは大いに相違する新たな性質、集団精神が現れる。文明の変遷に先立って現れる大動乱の前後では、民衆の思想には深刻な変化が発見されるとも言われるテレビや新聞の報道内容を額面通り取るだけでは、そのような人々の思想の変化の詳細を捉えることは、その集団精神が作り出す雰囲気を想像しかねる後年の人物にとっては特に、難しい。が、ことに人間の歴史において人間の思想、心の働きの変化は重要な役割を果たす人類にとって普遍の関心事である。

認知科学はその人間の心の働きを解明しようという科学であり、1950年代にアメリカで成立した。心の働きをコンピュータプログラムの形で表せば科学としての研究の基盤である客観性と再現性を保証できることから、認知科学はその当時発展しつつあったコンピュータをその存立基盤に持ち、指導原理を「人間もコンピューターも記号を処理する機械である」としたことから、人工知能と歩みを共にすることとなった。

並列分散処理（parallel distributed processing）は、人間の知性を実現させている脳神経系における情報処理の仕組みを見直すことで、脳の情報処理の特徴である、複数の処理ユニット（＝神経細胞）が同時並行的に働いていることに注目した研究者グループによって研究が始められ当初は、数理論理学とアルゴリズムに裏付けられた逐次直列型の情報処理方式に基づき、コンピュータに人間のような知的行為を行わせることを通して人間の認知の仕組みを研究していた。こうした逐次直列型情報処理方式でも一定程度の知性の解明できたが、人間の認知の特徴である曖昧な属性の処理や、類似性を利用した処理を実現することは困難であった。、1986年にグループの代表的研究者であったデビッド・ラメルハートとジェームズ・マクレランドによる『並列分散処理論』（Parallel Distributed Processing: 邦訳書は『PDPモデル』）としてまとめられた具体的な研究手法は、数学的なモデル構成や、仮想的な人工神経細胞を組み合わせたネットワークによるコンピュータシミュレーションである。情報処理の仕組みが神経細胞網（ニューラルネットワーク）に似ていることから、ニューラルネットワークモデルとも呼ばれる。ネットワークを構成する仮想的な人工神経細胞は、神経細胞を単純化したもので、細胞体に相当する「ノード(node)」と軸索に相当する「リンク(link)」からなる。複数のノード間の複雑なリンクの結びつき（コネクション）が情報の流れと処理を決定することから、コネクションに注目した命名もなされ、コネクショニズムやコネクショニストモデルとも呼ばれる。。

直列集中処理との違いは、処理様式だけでなく、離散的な記号処理を行うか否かという点にも見られる。コンピュータをモデルとする直列集中処理モデルにおいては、人間の認知現象をデジタルな記号処理によって説明しようとする。一方、脳神経系をモデルとする並列分散処理モデルでは、情報をアナログなまま処理するため、記号の存在を仮定する必要がない。こうした点に注目し、言語の使用など記号処理を伴う高次の認知プロセスのモデルには直列集中処理モデルが、顔の識別など記号処理を伴わない低次の認知プロセスのモデルには並列分散処理モデルが適しているという主張もなされる。

 一般的枠組み 
 サムネイル|500x500ピクセル | 一般的PDPモデルの図。PDPモデル p.50 からの翻案
並列分散処理モデル（Parallel Distributed Processing model; PDPモデル）は、主要な次の８つの要素から構成されるPDPモデル pp.49-51。
 処理ユニットの集合 uj
 各時刻 t におけるユニットの活性化の状態 aj(t)
 各ユニットの「出力関数」 fj
 ユニット間の結合度のパターンである「結合荷重」 wjk
 ネットワークによって活動パターンを伝播させるための「伝播規則」
 一つのユニットの新しい活性化レベルを算出するために、そのユニットの入力と現在の活動状態とを結び合わせる「活性化規則」 
 結合度パターンが経験によって変化するための「学習規則」
 システムが動作する環境
 脚注 

 参考文献 



関連項目
 コネクショニズム
 人工知能
 ニューラルネットワーク
 デビッド・ラメルハート
 ジェームズ・マクレランド

Category:情報処理
Category:人工知能
Category:心理学