第5回 WBAレクチャー趣旨説明

全脳計算モデルの実現に向けた認知モデルの役割
静岡大学 情報学部 行動情報学科
森田純哉

WBAIのゴール

人間のような知的能力を持つ汎用人工知能の実現

汎用人工知能 (AGI) に対する一般的イメージ

OpenAIのスタンス

https://openai.com/research/overview

OpenAIのスタンス

https://openai.com/research/overview???

AGIに向けた別のアプローチ

https://wba-initiative.org/about/アラインメントの方法• 静岡大学情報学部「認知科学と行動情報」（1年・必修）授業スライド

認知モデルの研究事例

自動操縦の利用 (Morita et al. CogSci2011)
モデル

実験

コミュニケーションの発生 (Morita et al. CogSci2012)､｢､､､ｦ､ｨ､ｪ

シミュレー
ション

結果の対応づけ

渦慨 ЖH

モデル

実験
シミュレー
ション

結果の対応づけ

実験モデル

静岡大学情報学部「認知科学と行動情報」講義資料

階層的強化学習の必要

相互模倣の必要だが，しかしふと周りを⾒渡すと，このアプローチは，今 や⼈⼯知能研究にとっても，認知科学にとっても，絶滅 危惧種となりつつある．論⽂や研究費のリジェクト率， 査読者から受けるコメント，授業での受講⽣の反応，い ずれの⽅⾯からも⼼を折るフィードバックが増えている． もちろん，この背景には，単純な作業の質の低下など， いろいろな要因があり得る．しかし，⾃⾝のアプロー
チ が時代に合わなくなっているのでは？という疑念も否定できない．

生き延びるために材料 2：⽣成 AI 時代に認知モデルの意義をアピールする特集
国際的な場での活動を持続的なものとするためには， ⾃⾝が⽣活をする地域での活動の下地（地域からの理解） も必要である．つまり，筆者のライフワーク継続の下地 の⼀部は，⽇本のコミュニティに対して，この分野の素晴らしさを伝えていくことでつくられる．

人工知能学会誌特集（3月）

1. ⽣成 AI 時代における認知モデリングの現状と展望
2. ⽣成 AI と認知アーキテクチャ
3. ⽣成 AI と認知モデルの⾃覚的な橋渡し
4. 次のステップとしての解釈可能性
5. ⽣成 AI と認知モデルの⽇本的融合
6. ⽣成 AI と認知モデルが導く社会11

人工知能学会誌特集（3月）
認知モデリングは⼈間の認知機能を計算機上で模倣 する学術的な営みである．その⽬的は，⼈間あるいは⽣物が有する認知機能の理論的な理解である．
認知モデリングの研究は⻑い歴史をもつものの，現在，Big Tech により構築された⽣成 AI の影響を強く受けている．
⽣成モデルの出現は，⼈間に対する 理解の仕⽅を⼤きく変化させつつ，同時に AI 研究にお ける認知モデリングの意義を揺らがせている．以前は， ⼈間あるいは⽣物を理解することは知的な⼈⼯物の構築 に役⽴つというストーリーが成り⽴った．しかし，近年の⽣成 AI の構築において，⼼理学や⾔語学の理論が利 ⽤されたという話は聞かない．
⼈間を理論的に理解することの応⽤的価値が問われる現代において，認知モデルの研究はどのような⽅向に向 かうべきか．あるいは，どのようにこの時代の中で研究を持続可能とし，社会にインパクトを与えていくか．

12

Future認知モデルによりガイドされる全脳AI
How can we develop socially agreeableinterpretable (explainable) brain-inspired
cognitive architectures?

6/30-7/5のうち1日
投稿期日: 5/1

認知アーキテクチャと⽣成AIが織りなす
⼈と機械の共通基盤
静岡大学 情報学部 行動情報学科
森田純哉

森田純哉
静岡大学情報学部行動情報学科 教授 (2023.4〜)• 経歴• 静岡大学情報学部行動情報学科 准教授 (2016 -)• 名古屋大学未来社会創造機構特任助教 (2014 -2016)• 北陸先端科学技術大学院大学助教 (2006-2014)• 名古屋大学人間情報学研究科博士課程修了 (2006.3)• 所属学会• 日本認知科学会: 常任運営委員（国際担当）• 人工知能学会: 編集委員

研究分野
• 応用認知モデリング研究室• 認知モデル・認知アーキテクチャの社会応用を目指す研究室

AppliedCognitiveModeling
Laboratory

http://acml-shizuppi.net/

認知モデルとはー人と機械のアラインメントー• 静岡大学情報学部「認知科学と行動情報」
講義資料

図の出典

http://act-r.psy.cmu.edu/about/もう一つの汎用人工知能？

http://act-r.psy.cmu.edu/

認知アーキテクチャとは？

認知モデルと認知アーキテクチャ• 認知モデル：人間の認知プロセスをシミュレートするプログラム• 認知アーキテクチャ：認知モデルを作る土台・構造・制約
Models for different tasks
Calc.
model

Drivingmodel

Communication
language
model
model

Maze
model

Inflection
model

Cognitive Architecture
共通の認知アーキテクチャをベースに多様なタスクの認知モデルが作られる

アーキテクチャ：構造と機能の対応
元々は建築から

市場
居住

レンガ、柱

構造

アーキ
テクチャ

機能
認知ニューロン？

進化ACT-Rがカバーする認知機能
学習と記憶
言語処理
知覚と注意

問題解決と意思決定

ACT-Rの論文を整理したIndexモジュール単位で構造を実装
エンジン、フォーク、フレームなどのパーツ単位で掲載

脳の部位と機能が対応
例：側頭葉の一部を欠損すると言葉が出なくなる脳の部位と認知のモジュールの対応
前頭葉

矢印は状態遷移ではなく情報の受け渡し、もしくは制御

思い出す

見る
考える

イメー
ジ
体を動かす

話す

後頭葉

基底核

頭頂葉

聞く

ウェル
ニッケ
野

運動野

ブロー
カ野

ACT-Rのモジュール構造
ゴール
モジュール

イマジナルモジュール

宣言的モジュール
（宣言的知識）聴覚モジュール

プロダクション
モジュール（手続き知識）

統合と指令

発話
モジュール

視覚モジュール

運動モジュール

外部環境認知アーキテクチャ界隈の最近の動向
共通認知モデル (Common Models ofCognition) による統合
Laird, Lebiere & Rosenbloom (2017).
A Standard Model of the Mind,
AI Magazine

過去に構築された様々な認知アーキテクチャ
Kotseruba & Tsorsos (2020).
40 years of cognitive architecture,
Artificial Intelligence Review

共通構造の抽出認知アーキテクチャ界隈のさらに最近の動向

認知アーキテクチャと生成AIの統合
https://acml-shizuppi.net/aaai-fss2023/

FSS 2023における発表内容

Cognitive Architecture Toward Common Ground Sharing Among Humans and Generative AIs:

Trial Modeling on Model-Model Interactionin Tangram Naming Task
Junya Morita, Tatsuya Yui, Takeru Amaya,
Ryuichiro Higashinaka, Yugo Takeuchi

Shizuoka University, Nippon Telegraph and Telephone Corporation

My opinions on the theme
1. Controlling generative AIs by cognitive architectures:
Toward transparent and trustworthy AIs
2. Constructing cognitive models by generative AIs:
Toward richer and friendly cognitive modeling
3. Concretizing cognitive models by generative AIs:
Toward a common grounds between humans and AIs

Our research

Communication (Shannon model)

Information
SourceTransmitter

ChannelRecieverDestination

Noise generation

Misconmunication is explained by noise generation

Communication (Cognitive view)
Information
Source(Image)Transmitter(Language)

Peace

ChannelReciever(Language)

Destination(Image)

Piece

Miscommunication is explained bydifferent interpretaions on ambiguous language expressions

Communication (Cognitive view)
Commonality
Information
Source(Image)Transmitter(Language)

Peace

ChannelReciever(Language)

Destination(Image)Piece

Common ground is needed

Commonality of attention and imagination mechanisms

Tangram naming task (Clark, 1986)
Try to share names for each tangram between participants• They cannot see the other’s arrangement• Only verbal communication can be used

Typical communication
Two types of expressions• Holistic utterance
Metaphorical expression• Analytic utterance
Describing arrangement of geometricshapesHolistic utterance is dominant• People have a rich imagination• Imagination is the foundation of oursociety (by Harari’s Sapiens)

Assumed architecture• Modules made by NN are controled by
the central rule engine• Imaginative process is realized by agenerative AIOriginality

Too expensive for a single cognitive processPipeline behind the holistic utterances

Originaly traind CNN

GPT-2

Originaly traind CNN

Learning procedure
Today’s report

Pick up success trials for backprop
on component networks• Large improvement from the chance• (Slightly but) Statistically significant
improvement by the learning (p < .01)

Tentative results
0.395

10 trials (n=10)

Average
0.288

Accuracy

Initial level
0.270

Chance leve0.166 (8/48)
TrialsBenefit ofcoordinarion inmodel parameters
Benefit of common
knowledge (used acommon seed value forimage generations by
the sender andreceiver)

Updated from the paper and the poster

Initial and best confusion matrix
InitialAcc = 0.395

Sender’s intention

Acc = 0.270

Receiver’s interpretationBestImplication and Significance 1

Generative AI concretaizes cognitive
process to be easily interepretatble byhumans →Leads a common grounding between
humans and AIs

Implication and Significance 2

Cognitive Architecture provides
structure of organizing implicit cognitive
process generated by genAIs→
Leads another common grounding
between humans and AIs

人とAIの共通基盤形成に向けて
認知アーキテクチャ

生成AI• 人間に対する科学的な理解に基づく汎用人工知能• 文明的な認知• 人間からのフィードバックにより学習する汎用人工知能• 自然な認知

両者の補完的な関係により理解の平面（グラウンド）が完成