2009/12/17
田山 忠行

学習の研究は動物を用いた実験を通して発展してきた。近年の認知科学の発展により、学習の研究は人を対象として行われるようになった。
行動主義心理学はある意味で古典的であると位置づけられるようになったが、ここでは古典的基礎である動物の行動を主として学習を勉強する。

条件付けの分類
2. 古典的条件づけ
3. オペラントの条件づけ
4. その他1.



新しい事態に対し、過去の経験を利用して適応した行動を形成すること。



狭い意味では、知識や技術の習得という意味。広い意味では、経験による比較的永続的な行動の変化という意味。

 古典的条件づけ(classical conditioning)（パブロフ型条件づけともいう。）
無条件刺激の提示に引き続いて中性刺激（条件刺激）を提示し、これを繰り返すことによって条件付けを行う方法。パブロフ、ワトソンらによって研究された。
 道具的条件づけ(instrumental conditioning)（オペラント条件づけ(operant conditioning)ともいうことがあるが厳密には尐し異なる。）
条件反応が強化（報酬や罰）をもたらす手段や道具となるような条件づけ。刺激が上手くいくことによって強化される。ソーンダイクやスキナーらによって研究された。

補足
無条件刺激：生体が本来持っている反応、無条件反応を引き起こす刺激。
中性刺激：無条件反応を引き起こさない刺激。
条件刺激：条件付けが行われ、条件反応を引き起こすようになった中性刺激。

条件刺激と無条件刺激を組み合わせて呈示することにより行う条件づけ。

条件づけの原理・・・パブロフの実験
 条件刺激と無条件刺激の時間関係 般化・分化 強化・消去 その他
一般的に「パブロフの犬」としてよく知られる実験である。犬のほおに手術で管を通し、唾液の分泌量を調べた。

概要
中性刺激を提示した直後に無条件刺激を提示することを繰り返した。するとそのうち、（中性）刺激のみで（無条件）反応が起こるようになった。これは中性刺激と無条件刺激の関係が学習され、条件付けられた結果であると考えられる。
無条件刺激(UnConditional Stimulus, UCS) ：肉を与える
無条件反応(UnConditional Response, CR) ：唾液の分泌
中性刺激：音を鳴らす
条件反応(Conditional Stimulus, CS) ：音を鳴らす（学習成立後）条件反応(Conditional Response, CR) ：唾液の分泌（学習成立後）

学習が一番効率的になるのは、 どのタイミングでUCSとCSを提示したときだろうか。

 四つの異なるタイミング UCS

US① 同時条件づけ(simultaneous) UCSとUSが同時② 遅延(延滞)条件づけ(delayed) UCS→US(終わりは同時)③ 痕跡条件づけ(trace) UCS→→US(UCSから尐し遅れてUS)④ 逆行条件づけ(backward) US→UCS①→②→③→④の順番で効果的に学習が形成された。
同時が最も効果的で、先に報酬が与えられた場合は最も学習率が低かった。

般化と分化は逆の概念である。前者は刺激を「だいたい同一である」とみなし、後者はそれらを「別々のもの」とみなす。
 般化(generalization)
条件刺激と詳細は異なるが似たような刺激に対して、同様の条件反応が生じること。

 分化(differentiation / discrimination)
類似した刺激の中から、ある特定の刺激のみに反応するようになること。

条件反応の強度は、条件づけの諸手続きによって変動する。
強く条件づけが形成される正の強化もあれば、その逆の負の強化もある。
基本的に学習曲線は試行回数が増えるに従って負の加速をし、無条件刺激をやめると正の減速をして、やがてはその学習が消去される。
一般的に再条件づけは容易であって、一度学習が消去されたと思っても完全に消えていない場合が多く、反応はまた現れる。(自発的回復)

自発的回
復条件付け

第１消去

第２消去

再条件付け

 古典的条件づけの応用
 アルバート坊や
ジョン・B・ワトソンの実験。
ドラの音（恐怖の無条件刺激）と白ネズミ（条件刺激）の組み合わせ。
この実験はアルバート坊やが条件刺激に反応しなくなるまでの消去の過程も含めて行われたものではあったが、子供にトラウマを残しかねないという点で人道的に問題があったとも考えられている。

 ガルシア効果(味覚嫌悪学習)
ネズミで行われた実験。嫌悪刺激と、ある味覚刺激を一緒に提示すると、その味自体に嫌悪を抱くようになる学習効果。
例：カキにあたると、それ以後カキが嫌いになってしまう。

ソーンダイク、スキナーらによって研究された。オペラント行動（Operantbehavior、スキナーによる造語。 操作するoperateから自発的に環境に変化をもたらす行動）を強化する条件づけのことを、オペラント条件づけという。

 ネコの問題箱 オペラントの条件づけの原理(強化の3項随伴性)
 強化スケジュール
 強化の4タイプ
 学習曲線

猫を箱に入れ、ある一定の動作(ひっかき棒をひっかく)を行うことにより脱出が可能になるように仕組んだもの。脱出までに費やした時間を測定し、その学習の様子を明らかにした。以下にそこから導かれた結果を示す。
 試行錯誤学習(trial and error learning)
試行を繰り返す事で、成功までに費やす時間が短くなること。

 効果の法則(low of effect)
満足や快をもたらす行動は、以後同じ状況で再び起こりやすくなる。
練習の法則(low of practice)、用意の法則(low of readiness)：
それぞれ上手くなるために練習すること、準備中に中断するのが不快であることを法則としてまとめた。

 ダーウィニズムの影響

オペラント：同じ効果を結果としてもたらすような種類の反応の集合。

刺激制御

弁別刺激

強化スケジュール

オペラント(反応）

動機づけ

個体差

強化(刺激)

情動 弁別刺激
ある行動の手掛かりとなる刺激。

 オペラント反応
人や動物が環境に対して自発的に働きかける反応。

 強化刺激ある反応に伴って与えられることにより、その反応の生じる確率を変化させる刺激のこと。正の強化(報酬)と、負の強化(罰)がある。

 制御刺激その弁別刺激がオペラント反応の出現頻度やパターンを制御しているという意味で「制御刺激」という言葉を用いる。

ネズミをもとに多くの強化スケジュールが考えられたが、これがそのまま人に適用できるかというと疑問がある。

定時(FI)強化スケジュール(給料の支払いなど)
定率(FR)強化スケジュール
変時(VI)強化スケジュール(ゲームの勝敗など)
変率(VR)強化スケジュール(ゲームの勝敗など)
 低頻度分化(DRL)強化スケジュール環境内の事象快になること

オペラン
ト反応によって不快になること

オペラント反応のその後の出現傾向

増加

生じる
正の強化

罰

負の罰

負の強化

なくなる

減尐

 刷り込み 知覚学習 賞と罰の効果
 学習性絶望 感覚運動学習(学習曲線)
 その他

 ヒナが最初に見た動く対象(生物であれ非生物であれ)を親だと思い込み、後をついて歩く現象。臨界期があり、短時間で完了する。
 刻印づけ、imprintingとも言われる。ローレンツによって見いだされた現象で、水鳥類に典型的に起こる。
 孵化直後に提示されたある種の刺激対象への恒久的な接近・追従反応の触発といえる。生得的触発機構。
 One trial learningである。

今さかんに研究が行われている分野であるが、ここでは一昔前の定義に従って説明する。

 経験によって知覚が成立すること。
 無条件刺激や強化刺激がなくても成立する。
 臨界期が存在する。
現在は長期間の訓練で変わると考えられている。

例：縦縞の檻の中の子猫
縦縞しか見えない壁（檻）の中で子猫を生まれた直後から数ヶ月育てる。
すると、特徴抽出ニューロンの、横縞に反応する部分がほとんどなくなってしまう。

 賞が反復を促進する一方で、罰は抑制効果のみで情動的混乱を引き起こす。
 罰の多用は人間関係を損なう恐れがあり、注意して用いる必要がある。
 賞の効果は持続するが罰は減衰する。罰を用いるには適度に賞と結びつける必要がある。
 どんなに強い罰が与えられても反応はなくならない。
 罰の反動で、その後の反応が促進されることを行動対比という。

イヌを使った実験（Seligman, M. and Maier, S, 1967）
 本訓練の前に、あらかじめ群ごとに異なる訓練を行った。
• 電気ショック（嫌刺激）からの逃避方法を学習していた群（逃避群）• 逃避群と同じ回数の電気ショックを受けたが、逃避方法がなかった群（ヨークト群）• 本訓練の前に何も行わなかった群（ナイーブ群）
 本訓練では、電気ショックから逃避行動を起こす際の潜時が計測された。
 逃避群、ナイーブ群は試行回数が増えるに従って潜時が小さくなっていったが、ヨークト群はまったく変らなかった。（そもそも逃避行動を起こさなかった） これは、ヨークト群が事前に「電気ショックと自分の行動は何も関係がない」と学習してしまった（＝“絶望”してしまった）からだと考えられる。
 学習性無力感（learned helplessness）ともいう。

 負の加速曲線
試行を重ねるにつれて、学習成績の増分が減ってゆく。

 正の加速曲線
試行を重ねるにつれて、学習成績の増分が増加する。

 S字型曲線
試行を重ねるにつれて、学習成績の増分がはじめ増加し、後に減尐する。
高原現象:試行を重ねてもほとんど成績が向上せず、曲線が平らになってしまう時期がある。これを高原現象、あるいはプラトーと呼ぶ。通常この時期を越えると、また向上する時期が現れる。
プラトー 練習法：集中学習と分散学習
一気に学習するか、分けて学習するかの区別。通常は分散して学習した方が定着率が高くなると考えられるが、例外もある。似たような言葉として、分習と全習がある。

 学習の転移第一学習の課題が別の第二学習の課題に影響を与えること。
正の転移(学習が容易になる)と、負の転移(学習が困難になる)がある。

 観察学習、模倣学習
他人の行動に対し強化が行われるのを観察すると、観察者自身の行動も強化される学習。代理強化。フィクションの影響なども。

 概念学習一定の概念が学習される過程。