第39回全脳アーキテクチャ勉強会 2023年11月28日

記憶の自己構築性から
脳と社会とAIの「知」を考える
東海大学情報通信学部
倉重 宏樹
h.kura00@gmail.com

⾃⼰紹介
Ø⽒名：
倉重 宏樹
Ø所属：
東海⼤学情報通信学部 講師
Ø専⾨分野：
認知神経科学，計算論的神経科学

研究テーマ

数理モデリングを用いた認知・神経現象の研究

脳計測を用いた記憶・学習の研究

Kurashige et al., (2019)
Kurashige et al., (2018)

AI（機械学習）を用いた認知・神経データ解析

Kurashige & Kaneko, (2022)
Kurashige et al., (2020)

Kurashige et al., (2021)

予備知識：意味空間と神経表現幾何学

モノやコトの意味は幾何学的表現を持つ：⼼理実験ベース
⾃由連想課題に基づく単語間の意味ネットワーク

Kenett, Y. N., Anaki, D., & Faust, M. (2014). Investigating the structure of semantic networks in low
and high creative persons. Frontiers in human neuroscience, 8, 407.

モノやコトの意味は幾何学的表現を持つ：⼼理実験ベース
類似性評価に基づくオブジェクトのマッピング

Hebart, M.N., Zheng, C.Y., Pereira, F. et al. Revealing the multidimensional mental representationsof natural objects underlying human similarity judgements. Nat Hum Behav 4, 1173‒1185 (2020).

モノやコトの意味は幾何学的表現を持つ：脳活動ベース
神経表現の類似性に基づくオブジェクトのマッピング

Charest, I., Kievit, R. A., Schmitz, T. W., Deca, D., & Kriegeskorte, N. (2014). Unique semantic space in the brain ofeach beholder predicts perceived similarity. Proceedings of the National Academy of Sciences, 111(40), 14565-14570.

モノやコトの意味は幾何学的表現を持つ：脳活動ベース
神経応答のエンコーディングモデルに基づくオブジェクトのマッピング

Huth, A. G., Nishimoto, S., Vu, A. T., & Gallant, J. L. (2012). A continuous semantic space describes the representationof thousands of object and action categories across the human brain. Neuron, 76(6), 1210-1224.

モノやコトの意味は幾何学的表現を持つ：脳活動ベース
再構成脳活動の機能的結合に基づく認知機能のマッピング(発表者らの成果)

Kurashige H, Kaneko J, Yamashita Y, Osu R, Otaka Y, Hanakawa T, Honda M and Kawabata H (2020) Revealing Relationships Among
Cognitive Functions Using Functional Connectivity and a Large-Scale Meta-Analysis Database. Front. Hum. Neurosci. 13:457.

モノやコトの意味は幾何学的表現を持つ：⾃然⾔語処理ベース
材料科学⽂献を対象にした⾃然⾔語処理に基づく材料のマッピング

Tshitoyan, V., Dagdelen, J., Weston, L., Dunn, A., Rong, Z., Kononova, O., ... & Jain, A. (2019). Unsupervised wordembeddings capture latent knowledge from materials science literature. Nature, 571(7763), 95-98.

モノやコトの意味は幾何学的表現を持つ：⾃然⾔語処理ベース
⾃然⾔語処理に基づく学術論⽂のマッピング

Kozlowski, D., Dusdal, J., Pang, J., & Zilian, A. (2021). Semantic and relational spaces in science of science:
deep learning models for article vectorisation. Scientometrics, 126(7), 5881-5910.

本講演のメインクエスチョン：

記憶はどこに行けるのか？

本講演のメインクエスチョン：

記憶はどこに行けるのか？
サブクエスチョン：
記憶はどのように変化をするか？
その神経生理学的メカニズムはなにか？

記憶は再帰的に自己構築をする記憶学習は能動的な情報選択の過程である

information
information

information
information

Memoryinformation
information

information
information

記憶学習は能動的な情報選択の過程である

information
information

information
information

Memoryinformation
information

information
information

記憶学習は能動的な情報選択の過程である

information
information

information
information

Memoryinformation
information

information
information

記憶学習は能動的な情報選択の過程である

information
information

information
information

Memoryinformation

active selection

information
information

information

記憶学習は能動的な情報選択の過程である

information
information

information

Memoryinformation

active selection

information
information
•
•
•
•
•
•

information

information

事前知識 (≒記憶スキーマ)
目的 (Sweegers et al., 2015)
好奇心 (Kang et al., 2009; Gruber, Gelman & Ranganath, 2014)
知識使用への予期 (Fischer & Born, 2009; Wilhelm et al., 2011; van Dongen et al., 2012)
実際の知識使用 (Karpicke & Roediger, 2008; Karpicke & Blunt, 2011; Moskaliuk, Kimmerle & Cress 2009)
情報の望ましさ (Sharot, Korn & Dolan, 2011)

記憶学習は能動的な情報選択の過程である

information
information

information

Memoryinformation

active selection

information
information
•
•
•
•
•
•

information

information

事前知識 (≒記憶スキーマ)
目的 (Sweegers et al., 2015)
好奇心 (Kang et al., 2009; Gruber, Gelman & Ranganath, 2014)
知識使用への予期 (Fischer & Born, 2009; Wilhelm et al., 2011; van Dongen et al., 2012)
実際の知識使用 (Karpicke & Roediger, 2008; Karpicke & Blunt, 2011; Moskaliuk, Kimmerle & Cress 2009)
情報の望ましさ (Sharot, Korn & Dolan, 2011)

能動的情報選択に関わるある脳メカニズム

能動的情報選択に関わるある脳メカニズム
Preplay：
経験に先⽴って作られる神経活動シーケンスが，のちに実際の経験に対する神経表現になる⇒神経表現のプロトタイプのようなもの

Dragoi, G., & Tonegawa, S. (2011). Preplay of future place cell sequences by hippocampal cellular assemblies. Nature, 469(7330), 397-401.
Dragoi, G., & Tonegawa, S. (2013). Distinct preplay of multiple novel spatial experiences in the rat. Proceedings of the National Academy of Sciences, 110(22), 9100-9105.

能動的情報選択に関わるある脳メカニズム
神経表現プロトタイプによる知識獲得の促進は事前知識に依存して⽣じる(発表者らによる成果)
prior sentence

posterior sentence

A is B.

Therefore, C is D.

corr.

Kurashige, H., Yamashita, Y., Hanakawa, T., & Honda, M. (2018). A knowledge-based arrangement of prototypical neural representation
prior to experience contributes to selectivity in upcoming knowledge acquisition. Frontiers in human neuroscience, 12, 111.

能動的情報選択に関わるある脳メカニズム
神経表現プロトタイプによる知識獲得の促進は事前知識に依存して⽣じる(発表者らによる成果)
ROI analysis (entorhinal cortex)
with prior knowledge

without prior knowledge

whole-brain analysis

Kurashige, H., Yamashita, Y., Hanakawa, T., & Honda, M. (2018). A knowledge-based arrangement of prototypical neural representation
prior to experience contributes to selectivity in upcoming knowledge acquisition. Frontiers in human neuroscience, 12, 111.

能動的情報選択に関わるある脳メカニズム
神経表現プロトタイプによる知識獲得の促進は事前知識に依存して⽣じる(発表者らによる成果)

Kurashige, H., Yamashita, Y., Hanakawa, T., & Honda, M. (2018). A knowledge-based arrangement of prototypical neural representation
prior to experience contributes to selectivity in upcoming knowledge acquisition. Frontiers in human neuroscience, 12, 111.

学習は事前知識(≒記憶スキーマ)に相対的に起こる：
スキーマ同化とスキーマ調節

事前知識相対的に⽣じる学習：スキーマ同化とスキーマ調節
学習は事前に持っている知識枠組み(スキーマ)相対的に⽣じる
スキーマ同化：スキーマに整合的な情報をスキーマに⼤きな変更を加えることなく受⼊れる
スキーマ調節：スキーマに不整合な情報をスキーマ⾃体を再編成して受⼊れる
A

F
G

スキーマ同化
A

B

F

E

C

•
•
•
•

受⼊れ易いものを受⼊れる学習
スキーマへの情報追加
⽇常的に起こり易い
実験室的にも起こし易い

D

B
E

C

A
D

スキーマ調節

F
G

B
E

C
D

• 受⼊れ難いものを受⼊れる学習• スキーマ⾃体の再編成＋情報追加• ⽇常的に頻繁に起こっているわけではないが「柔軟な知」のためには不可⽋• 実験室的に起こすのが難しいスキーマ同化スキーマ同化の脳メカニズム•••

スキーマに整合する記憶はよく獲得される
内側前頭前野(mPFC)はスキーマ整合の記憶の獲得に寄与
海⾺およびその周辺領域はスキーマ不整合の記憶の獲得に寄与

Van Kesteren, M. T., Beul, S. F., Takashima, A., Henson, R. N., Ruiter, D. J., & Fernández, G. (2013). Differential roles for medial prefrontal
and medial temporal cortices in schema-dependent encoding: from congruent to incongruent. Neuropsychologia, 51(12), 2352-2359.

スキーマ同化の脳メカニズム•••

スキーマに整合する記憶はよく獲得される
内側前頭前野(mPFC)はスキーマ整合の記憶の獲得に寄与
海⾺およびその周辺領域はスキーマ不整合の記憶の獲得に寄与

スキーマに整合ってなに？
あとスキーマに整合なら常にこの効果はあるの？

Van Kesteren, M. T., Beul, S. F., Takashima, A., Henson, R. N., Ruiter, D. J., & Fernández, G. (2013). Differential roles for medial prefrontal
and medial temporal cortices in schema-dependent encoding: from congruent to incongruent. Neuropsychologia, 51(12), 2352-2359.

スキーマ同化の脳メカニズム
触覚刺激提⽰条件で物品名-視覚パターンの連合を記憶する• スキーマに整合する記憶はよく獲得される• 内側前頭前野(mPFC)はスキーマ整合の記憶の再認に関与• mPFCと体性感覚野の機能的結合はスキーマ整合の記憶の再認に関与

Van Kesteren, M. T., Rijpkema, M., Ruiter, D. J., & Fernández, G. (2010). Retrieval of associative information congruent with priorknowledge is related to increased medial prefrontal activity and connectivity. Journal of Neuroscience, 30(47), 15888-15894.

スキーマ同化の脳メカニズム
100⽇間の医学試験勉強後に病名(事前知識有り)か名前(事前知識無し)と顔写真の連想記憶を作る• 事前知識にある情報との連合はより強く記憶される• 事前知識(スキーマ)の増加と記憶符号化時の海⾺活動の減少が相関

in MRI

Brod, G., Lindenberger, U., Wagner, A. D., & Shing, Y. L. (2016). Knowledge acquisition during exam preparation
improves memory and modulates memory formation. Journal of Neuroscience, 36(31), 8103-8111.

スキーマ同化の脳メカニズム専攻の専⾨知識(スキーマ)に関連する新規情報と関連しない新規情報の学習• 内側前頭前野(mPFC)はスキーマに関連する記憶の獲得に寄与• 海⾺およびその周辺領域はスキーマに関連しない記憶の獲得に寄与

Van Kesteren, M. T., Rijpkema, M., Ruiter, D. J., Morris, R. G., & Fernández, G. (2014). Building on prior knowledge: schemadependent encoding processes relate to academic performance. Journal of Cognitive Neuroscience, 26(10), 2250-2261.

スキーマ同化の脳メカニズム
ラットの匂い-場所連合学習• 事前スキーマに関連づけられる記憶は，急速に海⾺⾮依存になる

hippocampal lesion

establishing prior knowledge

acquiring novel knowledge

Tse, D., Langston, R. F., Kakeyama, M., Bethus, I., Spooner, P. A., Wood, E. R., ... & Morris, R. G. (2007).
Schemas and memory consolidation. Science, 316(5821), 76-82.

スキーマ同化の脳メカニズム
SLIMM：
Schema-linked interactions between medial prefrontal and medial temporal regions

Van Kesteren, M. T., Ruiter, D. J., Fernández, G., & Henson, R. N. (2012). How schema and novelty
augment memory formation. Trends in neurosciences, 35(4), 211-219.

スキーマ同化の脳メカニズム
注意：スキーマ同化への海⾺の関与はまだ決着していない(何らかの役割を果たしている可能性は⾼いです)

Gilboa, A., & Marlatte, H. (2017). Neurobiology of schemas and schema-mediated memory.
Trends in cognitive sciences, 21(8), 618-631.

スキーマ調節事前知識相対的に⽣じる学習：スキーマ同化とスキーマ調節
学習は事前に持っている知識枠組み(スキーマ)相対的に⽣じる
スキーマ同化：スキーマに整合的な情報をスキーマに⼤きな変更を加えることなく受⼊れる
スキーマ調節：スキーマに不整合な情報をスキーマ⾃体を再編成して受⼊れる
A

F
G

スキーマ同化
A

B

F

E

C

•
•
•
•

受⼊れ易いものを受⼊れる学習
スキーマへの情報追加
⽇常的に起こり易い
実験室的にも起こし易い

D

B
E

C

A
D

スキーマ調節

F
G

B
E

C
D

• 受⼊れ難いものを受⼊れる学習• スキーマ⾃体の再編成＋情報追加• ⽇常的に頻繁に起こっているわけではないが「柔軟な知」のためには不可⽋• 実験室的に起こすのが難しいスキーマ調節の脳メカニズム？
どんでん返しのある映画のシーンの神経表現の変化を調べた研究• ネタばらしによりデフォルトモードネットワークの幾らかで神経表現の更新が⾒られた
Ø スキーマ調節のメカニズムそのものではないØ 確⽴されたスキーマの調節と⾔えるかは不明

Zadbood, A., Nastase, S., Chen, J., Norman, K. A., & Hasson, U. (2022). Neural representations of
naturalistic events are updated as our understanding of the past changes. Elife, 11, e79045.

スキーマ調節の脳メカニズム？
⼀⾒無関係のシーン群を提⽰して，それからその間をリンクする出来事を提⽰する• ⼀般にリンキングにより記憶が促進されるが，左⾓回へのcTBSがその効果を抑制する
Ø スキーマの再編成とは必ずしも⾔えないGrob, A.M., Heinbockel, H., Milivojevic, B., Doeller, C., & Schwabe, L., (2023). Causal role of theangular gyrus in insight-driven memory reconfiguration. eLife, 12:RP91033.

スキーマ調節の脳メカニズム？
⼀⾒無関係のシーン群を提⽰して，それからその間をリンクする出来事を提⽰する• リンキングによりリンクされたシーン間のmPFC神経表現の類似性が増加する
Ø メカニズムを⾒ているものではないØ スキーマの再編成とは必ずしも⾔えない

Milivojevic, B., Vicente-Grabovetsky, A., & Doeller, C. F. (2015). Insight reconfigures hippocampalprefrontal memories. Current Biology, 25(7), 821-830.

スキーマ調節の脳メカニズム
逆転論述課題パラダイムを⽤いたスキーマ調節の脳メカニズムの検討(発表者らの成果)• 積極的な解釈を要する難読⽂章を⽤いたスキーマ調節課題• ⼀度確⽴した解釈に逆転を要する場⾯を作る• スキャナ内ではスキーマ調節を促す課題を⾏う⇒⽂章に出てきた⽂を提⽰して解釈を再検討させ，その解釈が更新された瞬間を答える• 解釈に更新が⽣じた試⾏ vs ⽣じなかった試⾏ の⽐較

Kurashige, H., Kaneko, J., & Matsumoto, K. (in preparation)

スキーマ調節の脳メカニズム
逆転論述課題パラダイムを⽤いたスキーマ調節の脳メカニズムの検討(発表者らの成果)• changed > unchanged の⽐較にて，左中前頭回と左下頭頂⼩葉に有意差が⾒られた(Threshold-Free Cluster Enhancement, FWE-corrected)
coactivation map• つまり前頭頭頂ネットワークの関与が⽰唆された(from Neurosynth)

R

L

Kurashige, H., Kaneko, J., & Matsumoto, K. (in preparation)

スキーマ調節の脳メカニズム
逆転論述課題パラダイムを⽤いたスキーマ調節の脳メカニズムの検討(発表者らの成果)• changed > unchanged の⽐較にて，左中前頭回と左下頭頂⼩葉に有意差が⾒られた(Threshold-Free Cluster Enhancement, FWE-corrected)• つまり前頭頭頂ネットワークの関与が⽰唆された
top-10 functional associations (from Neurosynth)

Kurashige, H., Kaneko, J., & Matsumoto, K. (in preparation)

スキーマ調節の脳メカニズム(外側)前頭頭頂ネットワークは実⾏制御や注意に関わる“⾼次”の領域

スキーマ調節

スキーマ同化

Uddin, L. Q., Yeo, B. T., & Spreng, R. N. (2019). Towards a universal taxonomy of macro-scale functional human brain networks. Brain topography, 32(6), 926-942.

スキーマ調節の脳メカニズム

情動的・直観的なスキーマ同化&
理性的・熟慮的なスキーマ調節

記憶の再帰的自己構築に相補的な役割を担いそうスキーマ調節の脳メカニズム

情動的・直観的なスキーマ同化&
具体的にどんな役割で，理性的・熟慮的なスキーマ調節
どういった意味で相補なのか…？

記憶の再帰的自己構築に相補的な役割を担いそう事前知識相対的に⽣じる学習：スキーマ同化とスキーマ調節
学習は事前に持っている知識枠組み(スキーマ)相対的に⽣じる
スキーマ同化：スキーマに整合的な情報をスキーマに⼤きな変更を加えることなく受⼊れる
スキーマ調節：スキーマに不整合な情報をスキーマ⾃体を再編成して受⼊れる
A

F
G

スキーマ同化
A

B

F

E

C
D

B

•
•
•
•

受⼊れ易いものを受⼊れる学習
スキーマへの情報追加
⽇常的に起こり易い
スキーマ自体の再編成
実験室的にも起こし易いって何がどうなること？
あと種類はないの？

E

C

A
D

スキーマ調節

F
G

B
E

C
D

• 受⼊れ難いものを受⼊れる学習• スキーマ⾃体の再編成＋情報追加• ⽇常的に頻繁に起こっているわけではないが「柔軟な知」のためには不可⽋• 実験室的に起こすのが難しい記憶のオフラインダイナミクス

記憶のオフラインダイナミクス
固定化(consolidation)：• 記憶がオフライン的に処理され，整理・統合されつつ⻑期記憶化する過程

Roediger III, H. L., & Abel, M. (2022). The double-edged sword of memory retrieval.
Nature Reviews Psychology, 1(12), 708-720.

記憶のオフラインダイナミクス
同じシーンと連合されたオブジェクトの神経表現が固定化を経て…
• mPFCと海⾺後部では類似性が増加し，海⾺前部では類似性が減少する

Tompary, A., & Davachi, L. (2017). Consolidation promotes the emergence of representational
overlap in the hippocampus and medial prefrontal cortex. Neuron, 96(1), 228-241.

記憶のオフラインダイナミクス
固定化による神経表現の類似性増加に対するスキーマの影響を調べた研究• オブジェクトとシーンのペアがスキーマに整合であった場合，mPFCで表現類似度の増加が促進される

Audrain, S., & McAndrews, M. P. (2022). Schemas provide a scaffold for neocortical
integration of new memories over time. Nature Communications, 13(1), 5795.

記憶のオフラインダイナミクス
固定化による神経表現の類似性増加に対するスキーマの影響を調べた研究• オブジェクトとシーンのペアがスキーマに整合であった場合，mPFCで表現類似度の増加が促進される

スキーマに整合ってなに？
あとスキーマに整合なら常にこの効果はあるの？

Audrain, S., & McAndrews, M. P. (2022). Schemas provide a scaffold for neocortical
integration of new memories over time. Nature Communications, 13(1), 5795.

想起がもたらす記憶変容

想起がもたらす記憶変容
記憶の想起は記憶の変容を促す• 神経可塑性の分野では再固定化(reconsolidation)が知られている• 学習科学の分野ではテスト効果が知られている• スキーマに変化をもたらす現象と考えられる

Roediger III, H. L., & Abel, M. (2022). The double-edged sword of memory retrieval.
Nature Reviews Psychology, 1(12), 708-720.

想起がもたらす記憶変容
単語のペア連合学習により，その単語の類似性評価がどのように変わるかを調べた研究• ⼀般にペアの単語の類似性評価は増加し，各⼈の類似性評価増加と記憶成績は正相関していた• 中程度の強さのルアー語との類似性は，再学習よりも想起テストによって⼤きく減少した

Walsh, C. R., & Rissman, J. (2023). Behavioral representational similarity analysis reveals how episodic
learning is influenced by and reshapes semantic memory. Nature Communications, 14(1), 7548.

想起がもたらす記憶変容
単語のペア連合学習により，その単語の類似性評価がどのように変わるかを調べた研究• ⼀般にペアの単語の類似性評価は増加し，各⼈の類似性評価増加と記憶成績は正相関していた• 中程度の強さのルアー語との類似性は，再学習よりも想起テストによって⼤きく減少した

こういう単語ペアレベルの記憶変容が頻繁に起きていたとして，
単語の意味空間全体の構造はどうなるか？

Walsh, C. R., & Rissman, J. (2023). Behavioral representational similarity analysis reveals how episodic
learning is influenced by and reshapes semantic memory. Nature Communications, 14(1), 7548.

これまでに出てきたモヤモヤ

information
information

Memoryこちらの解明が進んでいる
information

information

information

active selection

information
information

information

そもそもこっちがinformation
分かっていない…
information

Memoryこちらの解明が進んでいる
information

information

information

active selection

information
information

information

何に入れているか
informationが分かっていない
information？

Memory

調味料の味は分かってもinformation

information

information

active selection

information
information

information

何に入れているか
informationが分かっていない
information？

Memory

調味料の味は分かってもinformation

information

information

active selection

information
information

information

記憶という構造物それ自体が分からなければ記憶学習とは何かが結局わからない

記憶という構造物を理解する

構造の幾何学的複雑性を減らすvs増やすなど？

整合＝構造内の特定の位置関係を結ぶ連合？

記憶の機能に影響する幾何学的性質の何かは大きく変わるが，何かは保たれる？

機能的に破綻しないように構造の幾何学的性質が保たれる？

本講演のメインクエスチョン：

記憶はどこに行けるのか？
サブクエスチョン：
記憶はどのように変化をするか？
その神経生理学的メカニズムはなにか？

記憶の大域構造と，学習やオフライン処理によるその変化，
そして記憶の機能に構造がどう関わるかを明らかにしたい記憶の大域構造と，学習やオフライン処理によるその変化，
そして記憶の機能に構造がどう関わるかを明らかにしたい記憶はシステムである，むしろ複雑系である

複雑系：多要素の関係性から創発する“固有の法則を有する現象の階層”
ü 複雑系はそれ⾃体が⼀つの⼩世界をなすようなモノとコトの集まりü システム全体への視線が必要であり，要素はそのなかに位置付けられる必要がある
駒の動きの規則⇒戦局・戦略のあるゲーム

気体分⼦⇒流体法則

命題⇒数学体系

化学反応⇒細胞・⽣体from Principia Mathematica (Whitehead & Russell)

個⼈⇒社会

https://en.wikipedia.org/wiki/Metabolic_network

局所ルール⇒The game of life

https://mathworld.wolfram.com/CellularAutomaton.html

記憶：様々な情報とそれら間の関係が⼩世界をなす複雑システム

記憶は…
ü ⾃⼰組織化された秩序構造を持つ
ü 構成要素である情報同⼠の関係性に依拠して⾃発変化する
ü 現在の状態に依拠して外界と相互作⽤し，⾃らと外界を変えるü まとまりのある考え(＝サブシステム)が創発し，それが階層をなす
Ø 閃きや洞察もこの“サブシステムの出現“だろうか？
ü “知”＝体系化された情報ならば，複雑系としての記憶は“知”である
Ø 複雑系としての記憶が⼗分解明されれば，思考なども⼤体分かると思います丸暗記を理解できるか？

丸暗記：記憶のシステム性の無視記憶のシステム性を無視した学習法である丸暗記を理解できるか？
• 丸暗記は「すぐに忘れる」「応⽤が効かない」と⾔われ，経験上も納得感がある• しかし記憶術との⽐較では，しばしばそれらと同等以上の記憶定着が観られる(下図)• 中⽴的な丸暗記に⽐べ，記憶術は記憶の⼤域構造から無理のある学習にもなりうる

これを定量的に理解できるだろうか？

Wang, A. Y., & Thomas, M. H. (1992). The effect of imagery-based mnemonics on thelong-term retention of Chinese characters. Language Learning, 42(3), 359-376.

丸暗記：記憶のシステム性の無視記憶のシステム性を無視した学習法である丸暗記を理解できるか？
• 丸暗記は「すぐに忘れる」「応⽤が効かない」と⾔われ，経験上も納得感がある• しかし記憶術との⽐較では，しばしばそれらと同等以上の記憶定着が観られる(下図)• 中⽴的な丸暗記に⽐べ，記憶術は記憶の⼤域構造から無理のある学習にもなりうる

これを定量的に理解できるだろうか？

「記憶のシステム性を無視しない深い学びとはなにか？」↑
これに本質的に答えるには？

Wang, A. Y., & Thomas, M. H. (1992). The effect of imagery-based mnemonics on thelong-term retention of Chinese characters. Language Learning, 42(3), 359-376.

記憶が構造を持つことの生物学的基礎

記憶が構造を持つことの⽣物学的基礎：Hebb型可塑性“Neurons that fire together wire together.”と呼ばれるシナプス前後のニューロンの共発⽕によるシナプス増強が基礎中の基礎

Sumner, R. L., Spriggs, M. J., Muthukumaraswamy, S. D., & Kirk, I. J. (2020). The role of Hebbian learning in human perception: a methodologicaland theoretical review of the human Visual Long-Term Potentiation paradigm. Neuroscience & Biobehavioral Reviews, 115, 220-237.

記憶が構造を持つことの⽣物学的基礎：集合的発⽕の形成
何らかの理由で共発⽕したニューロンは連合し，その後，共発⽕しやすくなる

Holtmaat, A., & Caroni, P. (2016). Functional and structural underpinnings of neuronalassembly formation in learning. Nature neuroscience, 19(12), 1553-1562.

記憶の全体構造とそのダイナミクスを捉える戦略これらの方法は我々の記憶の豊かさを捉えるには弱い“記憶の⼤域構造”と“記憶の⼤域構造が次の構造を定める仕⽅”をどう同定するか？
(案)⼤規模⾔語モデルと⼈の知識構造の類似性に⽴脚①ʼ 個⼈へのfine-tuning① pre-trained LLM② LLMからの関係知識の抽出③ 関係知識の埋め込み⑥ 架空概念の学習(LLM fine-tuning)④ 関係知識の多様体Mの同定⑤ 関係知識から架空概念を⽣成⑦ 架空概念の学習(ヒト)
架空概念の整合性・多様体上の位置と…
Ø 記憶の促進・抑制の関係
Ø 固定化を通じた神経表現の変化
Ø etc.

“記憶の⼤域構造”と“記憶の⼤域構造が次の構造を定める仕⽅”をどう同定するか？
(案)⼤規模⾔語モデルと⼈の知識構造の類似性に⽴脚①ʼ 個⼈へのfine-tuning① pre-trained LLM② LLMからの関係知識の抽出

関係知識※を知識抽出に最適化したプロンプトに変換し，LLMが有する知識を抽出する⼿法(Jiang et al., 2020 Trans ACL)を⽤いる※ 対象𝑎と𝑏が関係𝑟で結ばれる知識※ 例：⟨𝑎,𝑟,𝑏⟩=⟨東京,⾸都である,⽇本⟩③ 関係知識の埋め込み⑥ 架空概念の学習(LLM fine-tuning)④ 関係知識の多様体Mの同定⑤ 関係知識から架空概念を⽣成⑦ 架空概念の学習(ヒト)
架空概念の整合性・多様体上の位置と…
Ø 記憶の促進・抑制の関係
Ø 固定化を通じた神経表現の変化
Ø etc.

“記憶の⼤域構造”と“記憶の⼤域構造が次の構造を定める仕⽅”をどう同定するか？
(案)⼤規模⾔語モデルと⼈の知識構造の類似性に⽴脚①ʼ 個⼈へのfine-tuning① pre-trained LLM② LLMからの関係知識の抽出③ 関係知識の埋め込み

translational embedding※で関係知識をベクトル空間に埋め込む※ ⟨𝑎,𝑟,𝑏⟩に対して𝑣! +𝑣" = 𝑣# をなるべく満⾜する
ように最適化した埋め込み(Bordes et al., 2013
Adv NeurIPS)⑥ 架空概念の学習(LLM fine-tuning)④ 関係知識の多様体Mの同定⑤ 関係知識から架空概念を⽣成⑦ 架空概念の学習(ヒト)
架空概念の整合性・多様体上の位置と…
Ø 記憶の促進・抑制の関係
Ø 固定化を通じた神経表現の変化
Ø etc.

“記憶の⼤域構造”と“記憶の⼤域構造が次の構造を定める仕⽅”をどう同定するか？
(案)⼤規模⾔語モデルと⼈の知識構造の類似性に⽴脚①ʼ 個⼈へのfine-tuning① pre-trained LLM② LLMからの関係知識の抽出③ 関係知識の埋め込み④ 関係知識の多様体Mの同定⑤ 関係知識から架空概念を⽣成

関係知識⑥𝑎,架空概念の学習(LLM
𝑟, 𝑥 , 𝑎′, 𝑟′, 𝑥 , ⋯で意味付けられる架空
fine-tuning)
概念𝑥を考える．
1. 関係知識が整合の場合(𝑣! +𝑣" = 𝑣!$ +𝑣"$ )と不整合の場合(𝑣! +𝑣" ≠ 𝑣!$ +𝑣"$ )を作れる
2. 整合の場合，概念𝑥は多様体𝐌上に⼀貫し⑦ 架空概念の学習(ヒト)た位置𝑣% ≡ 𝑣! +𝑣" = 𝑣!$ +𝑣"$ を持つ
架空概念の整合性・多様体上の位置と…
Ø 記憶の促進・抑制の関係
Ø 固定化を通じた神経表現の変化
Ø etc.

“記憶の⼤域構造”と“記憶の⼤域構造が次の構造を定める仕⽅”をどう同定するか？
(案)⼤規模⾔語モデルと⼈の知識構造の類似性に⽴脚①ʼ 個⼈へのfine-tuning① pre-trained LLM

このfine-tuningで多様体の構造はどのように変化するか？

② LLMからの関係知識の抽出③ 関係知識の埋め込み⑥ 架空概念の学習(LLM fine-tuning)④ 関係知識の多様体Mの同定⑤ 関係知識から架空概念を⽣成⑦ 架空概念の学習(ヒト)
架空概念の整合性・多様体上の位置と…
Ø 記憶の促進・抑制の関係
Ø 固定化を通じた神経表現の変化
Ø etc.

“記憶の⼤域構造”と“記憶の⼤域構造が次の構造を定める仕⽅”をどう同定するか？
(案)⼤規模⾔語モデルと⼈の知識構造の類似性に⽴脚①ʼ 個⼈へのfine-tuning① pre-trained LLM② LLMからの関係知識の抽出③ 関係知識の埋め込み⑥ 架空概念の学習(LLM fine-tuning)④ 関係知識の多様体Mの同定⑤ 関係知識から架空概念を⽣成
このループを回したとき，概念の整合性や多様体上の位置から予想
される結果が⼀貫して得られるか？

⑦ 架空概念の学習(ヒト)
架空概念の整合性・多様体上の位置と…
Ø 記憶の促進・抑制の関係
Ø 固定化を通じた神経表現の変化
Ø etc.

“記憶の⼤域構造”と“記憶の⼤域構造が次の構造を定める仕⽅”をどう同定するか？
(案)⼤規模⾔語モデルと⼈の知識構造の類似性に⽴脚①ʼ 個⼈へのfine-tuning① pre-trained LLM② LLMからの関係知識の抽出③ 関係知識の埋め込み⑥ 架空概念の学習(LLM fine-tuning)④ 関係知識の多様体Mの同定⑤ 関係知識から架空概念を⽣成

この多様体のダイナミクスを数理モデル化する!
!"

𝑔 𝑥, 𝑡 = −2Ric 𝑔 𝑥, 𝑡

←注)これはただのイメージ⑦ 架空概念の学習(ヒト)
架空概念の整合性・多様体上の位置と…
Ø 記憶の促進・抑制の関係
Ø 固定化を通じた神経表現の変化
Ø etc.

記憶の大域構造と，学習やオフライン処理によるその変化，
そして記憶の機能に構造がどう関わるかを明らかにしたい記憶の機能にその構造がどう関わるか？

記憶が知覚を作る
概念的知識の構造が知覚構造を定める• 有する情動概念間の類似性についての知識が情動顔知覚に影響を与える

Brooks, J. A., & Freeman, J. B. (2018). Conceptual knowledge predicts the representational
structure of facial emotion perception. Nature Human Behaviour, 2(8), 581-591.

記憶が思考を作る
意味的知識の構造が創造性に関与する• ⾼創造性群は低創造性群に⽐べ，パーコレーション転移が起きやすい意味ネットワークを持つ

low semantic creativity

high semantic creativity

Kenett, Y. N., Levy, O., Kenett, D. Y., Stanley, H. E., Faust, M., & Havlin, S. (2018). Flexibility of thought in high creative
individuals represented by percolation analysis. Proceedings of the National Academy of Sciences, 115(5), 867-872.

思考のために記憶が作られる
創造性を増す知識が選択的に獲得される• 合成語の記憶課題で，そこからの発想に意味的跳躍を与えやすいものが選択的に獲得される(発表者らの成果)

Kurashige, H., Yamashita, Y., Hanakawa, T., & Honda, M. (2019). Effective augmentation of creativity-involving
productivity consequent to spontaneous selectivity in knowledge acquisition. Frontiers in Psychology, 10, 600.

そもそも記憶の機能とは？

記憶の機能とは？
機能の⼆つの実現法：ハードウェア実装とコード実装“機能”を広く定義すれば「何かが何かに作⽤して何かが⽣じること」であり，つまり機能を持つものは
𝑦 = 𝐹 𝑥; 𝜃のどこかに居場所を持つ．
記憶は表象であると考えれば，まずデータ𝑥であり得るが，計算の視点からは関数を定義するパラメータ𝜃にもなり得る．

1

ハードウェア実装

コード実装

Turing機械

万能Turing機械

controller

universal controller

0

0

1

data tape

1

1

⋯

⋯ 1

0

0

1

1

code tape

1

1

0

0

1

data tape11⋯

記憶の機能とは？
機能の⼆つの実現法：ハードウェア実装とコード実装“機能”を広く定義すれば「何かが何かに作⽤して何かが⽣じること」であり，つまり機能を持つものは
𝑦 = 𝐹 𝑥; 𝜃のどこかに居場所を持つ．
記憶は表象であると考えれば，まずデータ𝑥であり得るが，計算の視点からは関数を定義するパラメータ𝜃にもなり得る．
ハードウェア実装

コード実装

Turing機械

万能Turing機械

controller

universal controller

知覚学習・運動学習など
1

0

0

1

1

1

⋯

⋯ 1

0

0

1

1

1

code tapedata tape
記憶学習

記憶学習

1

0

0

1

1

1

⋯

data tape
記憶学習データとしての記憶の構造と機能の関係を考える

記憶の構造と機能の関係を考える：データとしての記憶の場合
記憶はデータ構造として望ましい⼤域構造を持つか？
双曲空間へのデータ埋め込みは，埋め込み空間を低次元化できる・データの階層構造を反映した埋め込みが可能など，望ましい特徴を持つ．
そのような意味で，記憶の⼤域構造はデータ構造として望ましい構造を持つだろうか？

Nickel, M., & Kiela, D. (2017). Poincaré embeddings for learning hierarchical representations.
Advances in Neural Information Processing Systems, 30.

記憶の構造と機能の関係を考える：データとしての記憶の場合
記憶はデータ構造として望ましい⼤域構造を持つか？
ビッグデータで学習した深層ニューラルネットは下流タスクで汎⽤的に使える潜在表現を獲得する．
記憶もそのような“よい表現”となっているだろうか？

Devlin, J., Chang, M. W., Lee, K., & Toutanova, K. (2019). BERT: Pretraining of deep bidirectional transformers for language understanding.
Proceedings of NAACL-HLT, 4171‒4186.
Radford, A., Narasimhan, K., Salimans, T., & Sutskever, I. (2018).
Improving language understanding by generative pre-training.

記憶の構造と機能の関係を考える：データとしての記憶の場合
記憶はデータ構造として望ましい⼤域構造を持つか？
そもそも記憶の固定化における関連のある情報の神経表現の類似性が増加していく過程は
self-attentionでモデル化できないか？

Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., ... & Polosukhin, I.
(2017). Attention is all you need. Advances in neural information processing systems, 30.

コードとしての記憶の構造と機能の関係を考える

記憶の構造と機能の関係を考える：コードとしての記憶の場合コードとしての記憶は情報幾何学的に捉えられないだろうか？
コードを定めることを確率モデルのパラメータを定めることに対応づければ，情報幾何の対象になり得る．
とくにニューロ多様体(Amari, et al., 2006. Neural Comput.)で検討されている学習と特異点の問題に関係ありそう？
universal controller

≈

⋯ 1

0

0

1

1

code tape

1

1

0

0

1

data tape1

1⋯

本講演のメインクエスチョン：

記憶はどこに行けるのか？

information
information

information
information

Memoryinformation

active selection

information
information

information

記憶の大域構造のダイナミクスに法則があるということは，
記憶には到達できない場所があるということ

到達し得ない「知」

記憶の大域構造のダイナミクスに法則があるということは，
記憶には到達できない場所があるということ

AIの知についてAIによる知の探索• AIによる知の探索といったときに，⼈と同じ(もしくは⼈より狭い)多様体上に制限されるか，そこから⾶び出るかの違いは(少なくとも発表者にとっては)⼤きい• ⼈と⽐べずとも，どこに制限されているかは重要である

社会レベルの知の探索

社会レベルの知の探索にも法則＝制限がある
⽣物医学系特許の解析の研究••••

男性メインのチームは男性向け発明を，⼥性メインのチームは⼥性向け発明をする傾向
さまざまな周辺要因の影響を考慮してもこの傾向は残る
開発者は本来の性向として同性に偏って利するプロダクトを産み出す
開発者はそもそも男性が多いため，⼥性向け発明の空間は⼗分に探索されない

Koning R, Samila S, Ferguson JP. (2021) Who do we invent for? Patents by womenfocus more on women's health, but few women get to invent. Science 372, 1345‒1348.

社会レベルの知の探索にも法則＝制限がある
この話がさらに⼀般化可能ならば…
••

性別以外・⽣物医薬品開発以外にも⼀般化されたとする
例えば「制度」というものの発明にも⼀般化されるならば…

例えば「制度」の発明にも⼀般化されるならば…

社会レベルの知の探索にも法則＝制限がある
この話がさらに⼀般化可能ならば…
••

性別以外・⽣物医薬品開発以外にも⼀般化されたとする
例えば「制度」というものの発明にも⼀般化されるならば…

例えば「制度」の発明にも⼀般化されるならば…

本講演のメインクエスチョン：

記憶はどこに行けるのか？

人類が思考可能な領域を拡張したい＆
thought-as-it-could-beを知りたい⼈類が思考可能な領域を拡張するには？
そもそも我々がどこにどう制限されているかを知る必要がある(理学的アプローチ)
Ø 今回の話はおもにこれについてだった
制限の外を指向するAIアルゴリズムがあるとよい(⼯学的アプローチ)
Ø 好奇⼼駆動型強化学習は有望な⽅向だと思う
Ø しかし現状では「まだ探索していない」と「探索できない」の区別がつかないØ “外挿できるモデル”が次の⼀歩だと思う脳と強化学習AIの接続を⽬指す
脳と強化学習AIの接続につながり得る研究• Contrastive Audio-Visual Masked Autoencoder(Gong et al., 2023 ICLR)の潜在変数を設計し，あるF3/P3 EEG脳活動を抑制するように最適化した動画刺激を⽣成した• これを被験者に提⽰すると，とくにF3電極の脳活動に期待される抑制効果が観察された(発表者らの成果)

future plan

Kurashige, H., & Nagata, E. (in preparation)

本講演のメインクエスチョン：

記憶はどこに行けるのか？

謝辞
Collaborators:• Jun Kaneko (ex. Toklai Univ.)• Eichiro Nagata (Tokai Univ.)• Kenji Matsumoto (Tamagawa Univ.)• Yuichi Yamashita (National Center of Neurology and Psychiatry)• Manabu Honda (National Center of Neurology and Psychiatry)• Rieko Osu (Waseda Univ.)• Yohei Otaka (Fujita Health Univ.)• Takashi Hanakawa (Kyoto Univ.)• Hideaki Kawabata (Keio Univ.)• Yuna Koyama (JSPS Overseas Research Fellow / Harvard Univ.)
Funding:• the Leading Initiative for the Excellent Young Researchers (MEXT, Japan)• the Grant-in-Aid for Scientific Research (C) (21K07264)• the Grant-in-Aid for Young Scientists (B) (26870934)• the JNNS30 Commemorative Research Grant• the Sasakawa Scientific Research Grant from The Japan Science Society• Tokai University Research & Information Center Project• Tokai University Institute of Advanced Biosciences Project参考⽂献(1/3)
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•

Amari, S. I., Park, H., & Ozeki, T. (2006). Singularities affect dynamics of learning in neuromanifolds. Neural computation, 18(5), 1007-1065.
Audrain, S., & McAndrews, M. P. (2022). Schemas provide a scaffold for neocortical integration of new memories over time. Nature Communications, 13(1), 5795.
Bordes, A., Usunier, N., Garcia-Duran, A., Weston, J., & Yakhnenko, O. (2013). Translating embeddings for modeling multi-relational data. Advances in neural
information processing systems, 26.
Brod, G., Lindenberger, U., Wagner, A. D., & Shing, Y. L. (2016). Knowledge acquisition during exam preparation improves memory and modulates memory
formation. Journal of Neuroscience, 36(31), 8103-8111.
Brooks, J. A., & Freeman, J. B. (2018). Conceptual knowledge predicts the representational structure of facial emotion perception. Nature Human Behaviour, 2(8), 581591.
Charest, I., Kievit, R. A., Schmitz, T. W., Deca, D., & Kriegeskorte, N. (2014). Unique semantic space in the brain of each beholder predicts perceived similarity.
Proceedings of the National Academy of Sciences, 111(40), 14565-14570.
Devlin, J., Chang, M. W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of deep bidirectional transformers for language understanding. Proceedings of NAACLHLT, 4171–4186.
Dragoi, G., & Tonegawa, S. (2011). Preplay of future place cell sequences by hippocampal cellular assemblies. Nature, 469(7330), 397-401.
Dragoi, G., & Tonegawa, S. (2013). Distinct preplay of multiple novel spatial experiences in the rat. Proceedings of the National Academy of Sciences, 110(22), 91009105.
Fischer, S., & Born, J. (2009). Anticipated reward enhances offline learning during sleep. Journal of Experimental Psychology: Learning, Memory, and Cognition, 35(6),1586.
Gilboa, A., & Marlatte, H. (2017). Neurobiology of schemas and schema-mediated memory. Trends in cognitive sciences, 21(8), 618-631.
Grob, A.M., Heinbockel, H., Milivojevic, B., Doeller, C., & Schwabe, L., (2023). Causal role of the angular gyrus in insight-driven memory reconfiguration. eLife,
12:RP91033.
Gruber, M. J., Gelman, B. D., & Ranganath, C. (2014). States of curiosity modulate hippocampus-dependent learning via the dopaminergic circuit. Neuron, 84(2), 486496.
Hebart, M.N., Zheng, C.Y., Pereira, F. et al. Revealing the multidimensional mental representations of natural objects underlying human similarity judgements. Nat
Hum Behav 4, 1173–1185 (2020).
Holtmaat, A., & Caroni, P. (2016). Functional and structural underpinnings of neuronal assembly formation in learning. Nature neuroscience, 19(12), 1553-1562.
Huth, A. G., Nishimoto, S., Vu, A. T., & Gallant, J. L. (2012). A continuous semantic space describes the representation of thousands of object and action categories
across the human brain. Neuron, 76(6), 1210-1224.
Jiang, Z., Xu, F. F., Araki, J., & Neubig, G. (2020). How can we know what language models know?. Transactions of the Association for Computational Linguistics, 8,423-438.
Kang, M. J., Hsu, M., Krajbich, I. M., Loewenstein, G., McClure, S. M., Wang, J. T. Y., & Camerer, C. F. (2009). The wick in the candle of learning: Epistemic
curiosity activates reward circuitry and enhances memory. Psychological science, 20(8), 963-973.
Karpicke, J. D., & Blunt, J. R. (2011). Retrieval practice produces more learning than elaborative studying with concept mapping. Science, 331(6018), 772-775.

参考⽂献(2/3)
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•

Karpicke, J. D., & Roediger III, H. L. (2008). The critical importance of retrieval for learning. Science, 319(5865), 966-968.
Kenett, Y. N., Anaki, D., & Faust, M. (2014). Investigating the structure of semantic networks in low and high creative persons. Frontiers in human neuroscience, 8, 407.
Kenett, Y. N., Levy, O., Kenett, D. Y., Stanley, H. E., Faust, M., & Havlin, S. (2018). Flexibility of thought in high creative individuals represented by percolation
analysis. Proceedings of the National Academy of Sciences, 115(5), 867-872.
Koning R, Samila S, Ferguson JP. (2021) Who do we invent for? Patents by women focus more on women's health, but few women get to invent. Science 372, 1345–
1348.
Kozlowski, D., Dusdal, J., Pang, J., & Zilian, A. (2021). Semantic and relational spaces in science of science: deep learning models for article vectorisation.
Scientometrics, 126(7), 5881-5910.
Kurashige, H., & Kaneko, J. (2022). Correspondence between the Video-Learning Deep Neural Networks and EEG Brain Activity during Naturalistic Video Viewing.
ICIIBMS, 200-207.
Kurashige, H., Kaneko, J., & Matsumoto, K. (in preparation)
Kurashige, H., & Nagata, E. (in preparation)
Kurashige H, Kaneko J, Yamashita Y, Osu R, Otaka Y, Hanakawa T, Honda M and Kawabata H (2020) Revealing Relationships Among Cognitive Functions Using
Functional Connectivity and a Large-Scale Meta-Analysis Database. Front. Hum. Neurosci. 13:457.
Kurashige, H., Hoshino, H., Owaki, T., Ueno, K., Tanskanen, T., Cheng, K., & Câteau, H. (2021). Brain-mimetic Kernel: A Kernel Constructed from Human fMRI
Signals Enabling a Brain-mimetic Visual Recognition Algorithm. Proceedings of ICONIP, 271-283.
Kurashige, H., Yamashita, Y., Hanakawa, T., & Honda, M. (2018). A knowledge-based arrangement of prototypical neural representation prior to experience
contributes to selectivity in upcoming knowledge acquisition. Frontiers in human neuroscience, 12, 111.
Kurashige, H., Yamashita, Y., Hanakawa, T., & Honda, M. (2019). Effective augmentation of creativity-involving productivity consequent to spontaneous selectivity inknowledge acquisition. Frontiers in Psychology, 10, 600.
Milivojevic, B., Vicente-Grabovetsky, A., & Doeller, C. F. (2015). Insight reconfigures hippocampal-prefrontal memories. Current Biology, 25(7), 821-830.
Moskaliuk, J., Kimmerle, J., & Cress, U. (2009). Wiki‐supported learning and knowledge building: effects of incongruity between knowledge and information. Journalof Computer Assisted Learning, 25(6), 549-561.
Nickel, M., & Kiela, D. (2017). Poincaré embeddings for learning hierarchical representations. Advances in Neural Information Processing Systems, 30.
Radford, A., Narasimhan, K., Salimans, T., & Sutskever, I. (2018). Improving language understanding by generative pre-training.
Roediger III, H. L., & Abel, M. (2022). The double-edged sword of memory retrieval. Nature Reviews Psychology, 1(12), 708-720.
Sumner, R. L., Spriggs, M. J., Muthukumaraswamy, S. D., & Kirk, I. J. (2020). The role of Hebbian learning in human perception: a methodological and theoreticalreview of the human Visual Long-Term Potentiation paradigm. Neuroscience & Biobehavioral Reviews, 115, 220-237.
Sweegers CCG, Coleman GA, van Poppel EAM, Cox R and Talamini LM (2015) Mental Schemas Hamper Memory Storage of Goal-Irrelevant Information. Front.
Hum. Neurosci. 9:629.
Tompary, A., & Davachi, L. (2017). Consolidation promotes the emergence of representational overlap in the hippocampus and medial prefrontal cortex. Neuron, 96(1),228-241.

参考⽂献(3/3)
•
•
•
•
•
•
•
•
•
•
•
•
•

Tse, D., Langston, R. F., Kakeyama, M., Bethus, I., Spooner, P. A., Wood, E. R., ... & Morris, R. G. (2007). Schemas and memory consolidation. Science, 316(5821),
76-82.
Tshitoyan, V., Dagdelen, J., Weston, L., Dunn, A., Rong, Z., Kononova, O., ... & Jain, A. (2019). Unsupervised word embeddings capture latent knowledge frommaterials science literature. Nature, 571(7763), 95-98.
Uddin, L. Q., Yeo, B. T., & Spreng, R. N. (2019). Towards a universal taxonomy of macro-scale functional human brain networks. Brain topography, 32(6), 926-942.
Van Dongen, E. V., Thielen, J. W., Takashima, A., Barth, M., & Fernández, G. (2012). Sleep supports selective retention of associative memories based on relevancefor future utilization. PLoS ONE 7(8): e43426.
Van Kesteren, M. T., Beul, S. F., Takashima, A., Henson, R. N., Ruiter, D. J., & Fernández, G. (2013). Differential roles for medial prefrontal and medial temporal
cortices in schema-dependent encoding: from congruent to incongruent. Neuropsychologia, 51(12), 2352-2359.
Van Kesteren, M. T., Rijpkema, M., Ruiter, D. J., & Fernández, G. (2010). Retrieval of associative information congruent with prior knowledge is related to increased
medial prefrontal activity and connectivity. Journal of Neuroscience, 30(47), 15888-15894.
Van Kesteren, M. T., Rijpkema, M., Ruiter, D. J., Morris, R. G., & Fernández, G. (2014). Building on prior knowledge: schema-dependent encoding processes relate toacademic performance. Journal of Cognitive Neuroscience, 26(10), 2250-2261.
Van Kesteren, M. T., Ruiter, D. J., Fernández, G., & Henson, R. N. (2012). How schema and novelty augment memory formation. Trends in neurosciences, 35(4), 211219.
Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., ... & Polosukhin, I. (2017). Attention is all you need. Advances in neural information
processing systems, 30.
Walsh, C. R., & Rissman, J. (2023). Behavioral representational similarity analysis reveals how episodic learning is influenced by and reshapes semantic memory.
Nature Communications, 14(1), 7548.
Wang, A. Y., & Thomas, M. H. (1992). The effect of imagery-based mnemonics on the long-term retention of Chinese characters. Language Learning, 42(3), 359-376.
Wilhelm, I., Diekelmann, S., Molzow, I., Ayoub, A., Mölle, M., & Born, J. (2011). Sleep selectively enhances memory expected to be of future relevance. Journal of
Neuroscience, 31(5), 1563-1569.
Zadbood, A., Nastase, S., Chen, J., Norman, K. A., & Hasson, U. (2022). Neural representations of naturalistic events are updated as our understanding of the pastchanges. Elife, 11, e79045.