헵 이론

**헵 이론**(Hebbian theory) 또는 **헤비안 이론**은 시냅스 효율성 증가가 시냅스전 세포의 시냅스후 세포에 대한 반복적이고 지속적인 자극으로 인해 발생한다고 주장하는 신경심리학 이론이다. 이는 학습 과정에서 신경 세포의 적응인 시냅스 가소성을 설명하려는 시도이다. 헵 이론은 도널드 헵이 1949년에 저술한 그의 저서 《행동의 조직》에서 소개되었다. 이 이론은 **헵의 법칙**(Hebb's rule), **헵의 가설**(Hebb's postulate), 그리고 **세포 집합체 이론**(cell assembly theory)이라고도 불린다. 헵은 다음과 같이 진술했다.

공명 활동(또는 "흔적")의 지속성이나 반복이 안정성을 더하는 지속적인 세포 변화를 유도하는 경향이 있다고 가정하자. ... 세포 A의 축삭돌기가 세포 B를 흥분시킬 만큼 충분히 가깝고 반복적으로 또는 지속적으로 세포 B를 발화시키는 데 참여할 때, A가 B를 발화시키는 세포 중 하나로서 효율성이 증가하도록 두 세포 중 하나 또는 둘 다에서 어떤 성장 과정 또는 대사 변화가 일어난다.

이 이론은 종종 "**함께 발화하는 뉴런은 함께 연결된다**"로 요약된다. 그러나 헵은 세포 A가 세포 B를 "발화시키는 데 참여"해야 하며, 이러한 인과 관계는 세포 A가 세포 B와 동시에 발화하는 것이 아니라 세포 B 바로 전에 발화할 때만 발생할 수 있다고 강조했다. 헵의 작업에서 인과 관계의 이러한 측면은 시간적 선행을 요구하는 스파이크-타이밍-의존적 시냅스 가소성에 대해 현재 알려진 바를 예견했다.

헵 이론은 세포의 동시 활성화가 해당 세포들 사이의 시냅스 강도를 현저히 증가시키는 연합 학습 또는 헵 학습을 설명하려고 시도한다. 또한 교육 및 기억 재활을 위한 오류 없는 학습 방법에 대한 생물학적 근거를 제공한다. 인지 기능에서 인공 신경망 연구에서는 종종 비지도 학습의 신경학적 근거로 간주된다.

## 기억흔적, 세포 집합체 이론, 그리고 학습
헵 이론은 뉴런이 어떻게 연결되어 기억흔적이 될 수 있는지에 대한 설명을 제공한다. 기억흔적은 특정 정보를 인코딩하는 겹치는 세포 집합체 또는 뉴런 그룹에 저장될 수 있다. 원래 특정 피질 뉴런 그룹의 반복 활동을 설명하기 위한 방법으로 만들어진 헵의 세포 집합체 형태와 기능에 대한 이론은 다음에서 이해할 수 있다.

일반적인 아이디어는 오래된 것으로, 동시에 반복적으로 활성화되는 두 세포 또는 세포 시스템은 '연합'되는 경향이 있어서 한 세포의 활동이 다른 세포의 활동을 촉진하게 된다.

헵은 또한 다음과 같이 썼다.
한 세포가 다른 세포를 발화시키는 데 반복적으로 도움을 줄 때, 첫 번째 세포의 축삭돌기는 두 번째 세포의 세포체와 접촉하는 시냅스 돌기(또는 이미 존재하는 경우 확장)를 발달시킨다.

D. 앨런 올포트(D. Alan Allport)는 세포 집합체 이론과 기억흔적 형성에 대한 그 역할에 관해 추가적인 아이디어를 제시하며, 부분적인 단서에 기반하여 정보를 검색하는 뇌의 능력인 자기연합(auto-association) 개념을 다음과 같이 설명한다.

만약 시스템에 대한 입력이 동일한 활동 패턴을 반복적으로 발생시킨다면, 그 패턴을 구성하는 활성 요소들의 집합은 점점 더 강하게 상호 연합될 것이다. 즉, 각 요소는 다른 모든 요소를 켜는 경향이 있고 (음수 가중치로는) 패턴의 일부를 형성하지 않는 요소들을 끄는 경향이 있을 것이다. 다른 말로 하면, 패턴 전체가 '자기연합'될 것이다. 우리는 학습된 (자기연합된) 패턴을 기억흔적(engram)이라고 부를 수 있다.

노벨상 수상자 에릭 캔들의 연구실에서 수행된 연구는 해양 복족류 캘리포니아 군소의 시냅스에서 헵 학습 메커니즘의 역할을 지지하는 증거를 제공했다. 해양 무척추동물의 말초신경계의 시냅스는 실험에서 조절하기가 훨씬 쉽기 때문에, 캔들의 연구는 헵의 장기강화와 활동 의존적 시냅스전 촉진이 캘리포니아 군소의 시냅스 가소성과 고전적 조건형성에 모두 필요하며 상호작용한다는 것을 발견했다.

무척추동물에 대한 연구가 학습과 기억의 근본적인 메커니즘을 확립했지만, 척추동물 뉴런 간의 장기적인 시냅스 변화에 대한 많은 연구는 뇌 세포의 비생리학적 실험 자극을 포함한다. 그러나 척추동물 뇌에서 연구된 생리학적으로 관련 있는 시냅스 변형 메커니즘 중 일부는 헵 과정의 예시로 보인다. 한 검토에 따르면 시냅스 강도의 장기적인 변화는 헵 및 비-헵 메커니즘을 모두 사용하여 생리학적으로 관련 있는 시냅스 활동에 의해 유도될 수 있다.

## 원리
인공 뉴런과 인공 신경망에서 헵의 원리는 모델 뉴런 간의 가중치를 변경하는 방법을 결정하는 방법으로 설명될 수 있다. 두 뉴런이 동시에 활성화되면 두 뉴런 사이의 가중치는 증가하고, 개별적으로 활성화되면 감소한다. 동시에 양수이거나 음수 경향이 있는 노드는 강한 양수 가중치를 가지며, 반대 경향이 있는 노드는 강한 음수 가중치를 갖는다.

다음은 헵 학습의 공식적인 설명이다(다른 많은 설명도 가능하다).

:\,w_{ij}=x_ix_j,

여기서 w_{ij} 는 뉴런  j 에서 뉴런  i 로의 연결 가중치이고,  x_i 는 뉴런  i 에 대한 입력이다. 이것은 가중치가 모든 훈련 예시 후에 업데이트되는 패턴 학습의 한 예시이다. 홉필드 네트워크에서는 i=j 인 경우 (반사적 연결은 허용되지 않음) 연결 w_{ij} 가 0으로 설정된다. 이진 뉴런(활성화가 0 또는 1)의 경우, 연결된 뉴런이 패턴에 대해 동일한 활성화를 가지면 연결은 1로 설정된다.

여러 훈련 패턴이 사용될 때, 표현식은 개별 패턴의 평균이 된다.

:w_{ij} = \frac{1}{p} \sum_{k=1}^p x_i^k x_j^k,

여기서 w_{ij} 는 뉴런  j 에서 뉴런  i 로의 연결 가중치이고,  p 는 훈련 패턴의 수이며 x_{i}^k는 뉴런  i 에 대한  k 번째 입력이다. 이것은 모든 훈련 예시가 제시된 후에 가중치가 업데이트되는 에포크(epoch)별 학습이며, 이 마지막 항은 이산 및 연속 훈련 세트에 모두 적용 가능하다. 다시 홉필드 네트워크에서는 i=j 인 경우 (반사적 연결은 허용되지 않음) 연결 w_{ij} 가 0으로 설정된다.

헵 학습의 변형 중 하나로 차단(blocking)과 같은 다른 신경 학습 현상을 고려한 것은 해리 클로프의 수학적 모델이다. 클로프의 모델은 단순한 적응 메커니즘을 가진 시스템의 일부가 신경망과 같이 더 발전된 적응 행동을 가진 복잡한 시스템의 기반이 될 수 있다고 가정한다.

## 비지도 학습, 안정성, 그리고 일반화와의 관계
헵 학습은 시냅스전 및 시냅스후 활동의 동시성에만 기반한 단순한 특성을 가지고 있기 때문에, 이러한 형태의 가소성이 어떻게 의미 있는 학습으로 이어지는지 직관적으로 명확하지 않을 수 있다. 그러나 헵 가소성이 입력의 통계적 속성을 비지도 학습으로 분류될 수 있는 방식으로 파악한다는 것을 보여줄 수 있다.

이는 간단한 예시에서 수학적으로 나타낼 수 있다. 단일 속도 기반 뉴런의 속도를 y(t)라고 가정하고, 그 입력의 속도를 x_1(t) ... x_N(t)라고 하자. 뉴런 y(t)의 반응은 일반적으로 입력의 선형 조합인 \sum_i w_ix_i에 이어서 활성화 함수 f로 설명된다.
:y = f\left(\sum_{i=1}^N w_i x_i \right).
이전 섹션에서 정의한 대로, 헵 가소성은 시냅스 가중치 w의 시간적 진화를 설명한다.
:\frac{dw_i}{dt} = \eta x_i y.
단순화를 위해 항등 반응 함수 f(a)=a를 가정하면 다음과 같이 쓸 수 있다.
:\frac{dw_i}{dt} = \eta x_i \sum_{j=1}^N w_j x_j
또는 행렬 형태로:
:\frac{d\mathbf{w}}{dt} = \eta \mathbf{x}\mathbf{x}^T\mathbf{w}.
이전 장에서와 같이, 에포크별 학습이 수행되면 \mathbf{x}의 이산 또는 연속 (시간) 훈련 세트에 대한 평균 \langle \dots \rangle을 구할 수 있다.\frac{d\mathbf{w}}{dt} = \langle \eta \mathbf{x}\mathbf{x}^T\mathbf{w} \rangle = \eta \langle \mathbf{x}\mathbf{x}^T\rangle\mathbf{w} = \eta C \mathbf{w}.여기서 C = \langle\, \mathbf{x}\mathbf{x}^T \rangle는 \langle\mathbf{x}\rangle = 0이라는 추가 가정(즉, 입력의 평균이 0) 하에서 입력의 상관 행렬이다. 이것은 N개의 결합된 선형 미분 방정식 시스템이다. C는 대칭행렬이므로 대각화 가능하며, 그 고유 벡터 기저에서 작업하여 해를 다음과 같은 형태로 찾을 수 있다.
:\mathbf{w}(t) = k_1e^{\eta\alpha_1 t}\mathbf{c}_1 + k_2e^{\eta\alpha_2 t}\mathbf{c}_2 + ... + k_Ne^{\eta\alpha_N t}\mathbf{c}_N
여기서 k_i는 임의의 상수이고, \mathbf{c}_i는 C의 고유 벡터이며 \alpha_i는 해당 고유값이다.
상관 행렬은 항상 양의 정부호 행렬이므로 고유값은 모두 양수이며, 위 해결책이 항상 시간에 따라 지수적으로 발산한다는 것을 쉽게 알 수 있다.
이는 헵 법칙의 이 버전이 불안정하기 때문에 발생하는 본질적인 문제이다. 지배적인 신호가 있는 모든 네트워크에서 시냅스 가중치는 지수적으로 증가하거나 감소할 것이다. 직관적으로, 이것은 시냅스전 뉴런이 시냅스후 뉴런을 흥분시킬 때마다 둘 사이의 가중치가 강화되어 미래에 더 강한 흥분을 유발하는 식으로 자기 강화 방식으로 진행되기 때문이다. 시냅스후 뉴런의 발화율을 비선형 포화 반응 함수 f를 추가하여 제한하는 것이 해결책이라고 생각할 수도 있지만, 사실 어떤 뉴런 모델에서도 헵 법칙은 불안정하다는 것을 보여줄 수 있다. 따라서 뉴런의 네트워크 모델은 일반적으로 BCM 이론, 오야의 법칙, 또는 일반화된 헵 학습 알고리즘과 같은 다른 학습 이론을 사용한다.

그럼에도 불구하고, 위 불안정한 해결책의 경우에도 충분한 시간이 지나면 한 항이 다른 항을 지배하게 되며,
:\mathbf{w}(t) \approx e^{\eta\alpha^* t}\mathbf{c}^*
여기서 \alpha^*는 C의 가장 큰 고유값이다. 이때, 시냅스후 뉴런은 다음 연산을 수행한다.
:y \approx e^{\eta\alpha^* t}\mathbf{c}^* \mathbf{x}
다시 말하지만, \mathbf{c}^*는 x_i들 사이의 상관 행렬에서 가장 큰 고유값에 해당하는 고유 벡터이기 때문에, 이는 입력의 첫 번째 주성분을 계산하는 것과 정확히 일치한다.

이 메커니즘은 추가적인 시냅스후 뉴런을 추가함으로써 입력의 완전한 PCA(주성분 분석)를 수행하도록 확장될 수 있다. 단, 시냅스후 뉴런이 모두 동일한 주성분을 선택하는 것을 방지해야 한다. 예를 들어, 시냅스후 층에 측면 억제를 추가할 수 있다. 이로써 우리는 헵 학습을 PCA와 연결했는데, 이는 네트워크가 입력의 유용한 통계적 측면을 파악하고 이를 출력에서 정제된 방식으로 "설명"할 수 있다는 점에서 비지도 학습의 기본적인 형태이다.

## 헵 학습과 거울 신경 세포
헵 학습과 스파이크-타이밍-의존적 시냅스 가소성은 거울 신경 세포가 어떻게 출현하는지에 대한 영향력 있는 이론에 사용되었다. 거울 신경 세포는 개인이 행동을 수행할 때와 다른 사람이 유사한 행동을 수행하는 것을 보거나 들을 때 모두 발화하는 뉴런이다. 이러한 뉴런의 발견은 개인이 다른 사람의 행동을 어떻게 이해하는지 설명하는 데 매우 영향력이 있었다. 왜냐하면 사람이 다른 사람의 행동을 인지할 때, 그 사람이 유사한 행동을 수행하는 데 사용할 뇌의 운동 프로그램이 활성화되어, 인지에 정보를 추가하고 인지자 자신의 운동 프로그램에 기반하여 그 사람이 다음에 무엇을 할지 예측하는 데 도움을 주기 때문이다. 거울 뉴런 기능에 대한 이 아이디어의 한계는 개인이 행동을 수행할 때와 다른 사람이 유사한 행동을 수행하는 것을 듣거나 볼 때 모두 반응하는 뉴런을 어떻게 발달시키는지 설명하는 것이다.

신경과학자 크리스티안 케이저스와 심리학자 데이비드 페럿은 개인이 행동을 수행하는 것을 관찰하거나 듣는 것이 마치 스스로 행동을 수행하는 것처럼 뇌 영역을 활성화한다고 제안했다. 이러한 재-구심성 감각 신호는 행동의 시각, 소리, 느낌에 반응하는 뉴런의 활동을 유발한다. 이 감각 뉴런의 활동은 행동을 유발하는 운동 뉴런의 활동과 시간적으로 지속적으로 겹치기 때문에, 헵 학습은 행동의 시각, 소리, 느낌에 반응하는 뉴런과 행동을 유발하는 뉴런을 연결하는 시냅스가 강화될 것이라고 예측한다. 사람들이 거울을 보거나, 옹알이를 듣거나, 다른 사람에게 모방될 때도 마찬가지이다. 이러한 재-구심성 신호가 반복적으로 발생한 후, 행동의 감각적 및 운동적 표상을 연결하는 시냅스는 너무 강해져서 운동 뉴런이 행동의 소리나 시각에 발화하기 시작하고, 거울 뉴런이 생성된다.

수많은 실험은 헵 학습이 거울 뉴런 형성에 중요하는 아이디어를 뒷받침하는 증거를 제공한다. 증거에 따르면 운동 프로그램은 새로운 청각 또는 시각 자극과 운동 프로그램 실행의 반복적인 짝짓기 후 유발될 수 있다. 예를 들어, 피아노를 쳐본 적이 없는 사람들은 피아노 음악을 들을 때 피아노 연주와 관련된 뇌 영역을 활성화하지 않는다. 피아노를 5시간 배우면서 참가자가 건반을 누를 때마다 피아노 소리에 노출되면 나중에 피아노 음악을 들을 때 뇌의 운동 영역 활동을 유발하기에 충분하다는 것이 입증되었다. 스파이크-타이밍-의존적 시냅스 가소성이 시냅스전 뉴런의 발화가 시냅스후 뉴런의 발화를 예측하는 경우에만 발생한다는 사실과 일치하게, 감각 자극과 운동 프로그램 간의 연결도 자극이 운동 프로그램에 따라 달라지는 경우에만 강화되는 것으로 보인다.

## 헵 이론과 인지 신경과학
헵 학습은 의사 결정 및 사회 학습과 같은 인지 과정과 연관되어 있다. 인지 신경과학 분야는 선조체 및 전두엽 피질과 같은 보상 처리 및 사회 인지를 담당하는 뇌 영역과 헵 이론의 교차점을 탐색하기 시작했다. 특히, 헵 모델에 노출된 선조체 투사는 생체 내에서 장기강화 및 장기 억제를 나타낸다. 또한, 전두엽 피질의 자극에 대한 모델("혼합 선택성")은 무작위 연결성만으로는 완전히 설명되지 않지만, 헵 패러다임이 통합되면 모델에서 혼합 선택성 수준에 도달한다. 피터 퍼트넘(Peter Putnam)과 로버트 W. 풀러는 이러한 영역에서의 헵 가소성이 습관 형성, 강화 학습, 심지어 사회적 유대감 발달과 같은 행동의 근간이 될 수 있다고 가설을 세웠다.

## 한계
헵 모델이 장기강화에 널리 사용됨에도 불구하고, 헵 이론은 모든 형태의 장기 시냅스 가소성을 다루지는 않는다. 헵은 억제성 시냅스에 대한 규칙이나 역인과적 스파이크 시퀀스(시냅스전 뉴런이 시냅스후 뉴런보다 나중에 발화하는 경우)에 대한 예측을 제시하지 않았다. 시냅스 변형은 활성화된 뉴런 A와 B 사이에서만 발생하는 것이 아니라 인접한 시냅스에서도 발생할 수 있다. 따라서 모든 형태의 이종시냅스 가소성과 항상성 가소성은 비-헵적인 것으로 간주된다. 한 가지 예는 시냅스전 말단으로의 역행성 신호이다. 역행성 전달체로 가장 흔히 인식되는 화합물은 높은 용해성과 확산성 때문에 종종 주변 뉴런에 영향을 미치는 일산화 질소이다. 볼륨 학습으로 알려진 이러한 유형의 확산성 시냅스 변형은 전통적인 헵 모델에 포함되지 않는다.

## 현대의 발전, 인공지능, 그리고 계산적 발전
현대 연구는 헵의 원래 아이디어를 확장했다. 예를 들어 스파이크-타이밍-의존적 시냅스 가소성(STDP)은 뉴런 스파이크의 정확한 타이밍을 헵 이론에 통합하여 헵의 원리를 정교하게 다듬는다. 또한 실험적 발전은 헵 학습을 의사 결정 및 정서 조절과 같은 복잡한 행동과 연결시켰다. 인공지능(AI) 및 양자 컴퓨팅에 대한 현재 연구는 적응형 알고리즘을 개발하고 기계 학습 모델을 개선하기 위해 헵의 개념을 계속 활용하고 있다.

AI에서 헵 학습은 전통적인 신경망을 넘어 응용 분야를 확장했다. 중요한 발전 중 하나는 강화 학습 알고리즘인데, 여기서 헵과 유사한 학습이 훈련 단계 동안 자극의 타이밍과 강도에 따라 가중치를 업데이트하는 데 사용된다. 일부 연구자들은 인공 시스템 학습을 위한 생물학적으로 더 그럴듯한 모델을 개발하기 위해 헵 원리를 적용했으며, 이는 AI 응용 분야에서 모델 효율성과 수렴을 향상시킬 수 있다.

헵 학습의 양자 컴퓨팅 적용은 점차 관심이 높아지는 분야이다. 고전 신경망이 헵 이론의 주요 적용 분야이지만, 최근 연구에서는 양자에서 영감을 받은 알고리즘의 잠재력을 탐구하기 시작했다. 이러한 알고리즘은 양자 중첩 및 얽힘 원리를 활용하여 양자 시스템의 학습 과정을 향상시킨다. 현재 연구는 헵 원리가 보다 효율적인 양자 기계 학습 모델 개발에 어떻게 영향을 미칠 수 있는지 탐구하고 있다.

헵 학습을 개선하거나 확장하는 새로운 계산 모델이 등장했다. 예를 들어, 일부 모델은 이제 신경 스파이크의 정확한 타이밍(스파이크-타이밍-의존적 시냅스 가소성과 같이)을 고려하며, 다른 모델은 도파민과 같은 신경전달물질이 시냅스 연결의 강도에 어떻게 영향을 미치는지 설명하기 위해 신경조절의 측면을 통합했다. 이러한 고급 모델은 헵 학습이 뇌에서 어떻게 작동하는지에 대한 보다 미묘한 이해를 제공하며, 보다 사실적인 계산 모델 개발에 기여하고 있다.

헵 학습에 대한 최근 연구는 전통적인 헵 모델에서 종종 간과되는 억제성 뉴런의 역할에 초점을 맞추고 있다. 고전적인 헵 이론은 주로 흥분성 뉴런에 초점을 맞추지만, 신경 학습의 보다 포괄적인 모델은 흥분성 및 억제성 시냅스 간의 균형 잡힌 상호 작용을 고려한다. 연구에 따르면 억제성 뉴런은 신경 회로의 안정성을 유지하는 데 중요한 조절을 제공할 수 있으며, 헵 학습에서 폭주하는 양성 피드백을 방지할 수 있다.

## 같이 보기

* 데일의 원리
* 동시발생 감지
* Leabra
* 메타가소성
* 강직성 자극
* 시냅스 지향성 가설
* 신경가소성
* 행동주의
* 세 가지 요소 학습
* BCM 이론

## 각주

## 추가 문헌
* 
* 
* 
* 

## 외부 링크
* 개요 
* 헵 학습 튜토리얼 (1부: 신기함 필터링, 2부: PCA)

분류:비지도 학습