| 기계 학습과 데이터 마이닝 |
| --- |
| Scatterplot featuring a linear support vector machine's decision boundary (dashed line) |
| 패러다임
* 지도 학습
* 비지도 학습
* 온라인 기계 학습
* 메타-학습
* 준지도 학습
* 자기 지도 학습
* 강화 학습
* 규칙 기반 기계 학습
* 양자 기계 학습
 |
| 문제
* 분류
* 클러스터 분석
* 회귀 분석
* 클러스터 분석
* 이상 탐지
* 데이터 정제
* 연관 규칙
* 구조 기반 예측
* 특징 공학
* 특징 학습
* 순위 학습
* 문법 유도
* 온톨로지 학습
* 멀티모달 학습
 |
| 지도 학습 (**통계적 분류** • **회귀 분석**)
* 결정 트리 학습법
* 앙상블 학습법 (배깅, Boosting, 랜덤 포레스트)
* 최근접 이웃 탐색
* *k*-NN
* 선형 회귀
* 나이브 베이즈
* 인공신경망
* 로지스틱 회귀
* 퍼셉트론
* 상관 벡터 머신(RVM)
* 서포트 벡터 머신(SVM)
 |
| 클러스터 분석
* BIRCH
* 계층적 군집화
* *k*-평균 알고리즘
* 기댓값 최대화 알고리즘
* DBSCAN
* OPTICS
* Mean-shift
 |
| 차원 축소
* 인자 분석
* CCA
* 독립 성분 분석
* LDA
* 음수 미포함 행렬 분해
* 주성분 분석
* t-SNE
 |
| 구조화 예측
* 그래프 모형
	+ 베이즈 네트워크
	+ 조건부 무작위장
	+ 은닉 마르코프 모형
* 잠재 디리클레 할당
 |
| 이상 탐지
* *k*-최근접 이웃 알고리즘
* 국소 특이점 요인
 |
| 인공 신경망
* 오토인코더
* 인지 컴퓨팅
* 딥 러닝
* 딥드림
* 생성적 적대 신경망
* 확산 모델
* 다층 퍼셉트론
* 순환 신경망
	+ LSTM
	+ GRU
* 제한된 볼츠만 머신
* 변환기
	+ 비전
* 자기조직화지도
* 합성곱 신경망
 |
| 강화 학습
* Q 러닝
* SARSA
* 시간차 학습
 |
| 인간 참여학습
* 러닝 커브
* 크라우드소싱
* 인간 참여형
 |
| 모델 진단
* 러닝 커브
 |
| 이론
* 편향-분산 트레이드오프
* 계산학습이론
* 경험적 위험 최소화
* PAC 러닝
* 통계적 학습이론
* VC 이론
 |
| 회의/저널
* NeurIPS
* ICML
* ICLR
* ML
* JMLR
 |
| 관련 문서
* 기계 학습 알고리즘 목록
* 기계 탈학습
* 지식 증류
* 유사도 학습
* 대조 학습
 |
| * v
* t
* e
 |

**베이즈 네트워크**(Bayesian network) 혹은 **빌리프 네트워크**(영어: belief network) 또는 **방향성 비순환 그래픽 모델**(영어: directed acyclic graphical model)은 랜덤 변수의 집합과 방향성 비순환 그래프를 통하여 그 집합을 조건부 독립으로 표현하는 확률의 그래픽 모델이다. 예를 들어, 베이지안 네트워크는 질환과 증상 사이의 확률관계를 나타낼 수 있다. 증상이 주어지면, 네트워크는 다양한 질병의 존재 확률을 계산할 수 있다. "베이즈 네트워크"라는 용어는 유디 펄이 다음의 세 개 특징을 강조하면서 만들어졌다. (1) 입력 정보의 주관적인 특성, (2) 정보를 갱신하기 위한 기초로 베이지 조건에 의존함, (3) 추론의 원인과 증거 사이의 구분. 그리고, 이러한 것들은 토마스 베이즈의 1763년 논문에 기초하고 있다.

형식적으로, 베이즈 네트워크는 방향성 비순환 그래프로서, 그래프의 각 마디(node)는 변수를 나타내고, 마디를 연결하는 호(arc)는 변수 간의 조건부 의존성(conditional dependency)을 표현한다. 마디는 측정된 모수, 잠재 변수, 가설 등 어떤 종류의 변수든 표현할 수 있다.

베이즈 네트워크에서는 추론과 학습을 수행하기 위한 효과적인 알고리즘이 존재한다. 음성 신호나 단백질 순열과 같은 일련의 변수를 모형화하는 베이지 네트워크를 동적 베이즈 네트워크(dynamic Bayesian network)라고 부른다. 불확실성 하에 문제를 표현하고 해를 구할 수 있는 베이즈 네트워크의 일반화를 영향 다이어그램이라고 부른다.

공식적으로, 베이지안 네트워크는 베이지안 관점에서 랜덤 변수를 나타내는 노드를 갖는 DAG(Directed acyclic Graph)이다(수량 혹은 잠재변수, 매개 변수, 알 수 없는 가설들을 관찰할 수 있다.). 선(edge: 그래프에서 노드를 연결하는 선)은 조건부 의존성을 표현한다(연결되지 않은 노드는 서로 다른 것의 조건부 독립 변수를 나타낸다.). 노드는 서로, 그 노드의 부모 변수를 위한 변수의 집합을 입력으로 주어지고 노드에 의해 나타난 변수의 확률이 주어진, 확률 함수로 관련되어있다. 예를 들어, 부모가 Boolean 변수 m이면 그 확률 함수는 2^{m} 항목의 테이블(true 혹은 false인 부모의 가능한 조합2^{m}의 각각을 위한 하나의 엔트리)에 의해 표현될 수 있다.

효율적인 알고리즘으로 베이지안 네트워크에서 추론과 학습을 수행하는 것이 존재한다. 변수들의 시퀀스(*e.g.* 음성신호 혹은 단백질 서열) 모델링하는 베이지안 네트워크는 동적 베이지안 네트워크(Dynamic Bayesian Network)로 불린다. 불확학설하에 있는 문제 결정을 표현하고 풀어낼 수 있는, 베이지안 네트워크의 일반화는 영향 다이어그램(influence diagram)이라 불린다.

정의와 개념
------

베이지안 네트워크의 몇 가지 방정식 정의가 있다. *G* = (*V*,*E*)를 DAG라 하고, *X* = (*X**v*)*v* ∈ *V*를 *V*로 인덱싱된 랜덤변수의 집합이라고 하자.

### 분해의 정의

X는 베이지안 네트워크이고, 그에 관련된 *G*의 (곱 측도(product measure)에 관련되는) 결합 확률 밀도 함수가 부모 변수로 조건화된 독립 밀도 함수의 곱으로 쓰인다면:

p(x)=\prod \_{{v\in V}}p{\big (}x\_{v}\,{\big |}\,x\_{{\operatorname {pa}(v)}}{\big )}
여기서 pa(*v*)는 *v*의 부모 집합이다.(i.e. those vertices pointing directly to *v* via a single edge).

몇몇 랜덤 변수의 집합 때문에, 결합 분포의 몇몇 멤버의 확률은 다음에 따라 연쇄 법칙(chain rule)을 사용하여 조건부 확률로부터 계산될 수 있다.

{\mathrm P}(X\_{1}=x\_{1},\ldots ,X\_{n}=x\_{n})=\prod \_{{v=1}}^{n}{\mathrm P}(X\_{v}=x\_{v}\mid X\_{{v+1}}=x\_{{v+1}},\ldots ,X\_{n}=x\_{n})
위 정의를 이것과 비교하라.

{\mathrm P}(X\_{1}=x\_{1},\ldots ,X\_{n}=x\_{n})=\prod \_{{v=1}}^{n}{\mathrm P}(X\_{v}=x\_{v}\mid X\_{j}=x\_{j} for each X\_{j}\, which is a parent of X\_{v}\,)
두 표현의 차이는, 부모 변수의 값이 주어졌을 때, 그것의 비 후손의 것으로부터 나온 변수와 조건부 독립이다.

### 로컬 마르코프 속성

*X*가 베이지안 네트워크이고, 그에 관련된 G가 *로컬 마르코프 속성*(local Markov property)을 만족한다면, 각 변수는, 부모 변수가 주어졌을 때, 그것의 비 후손과 조건부 독립이다.

X\_{v}\perp \!\!\!\perp X\_{{V\setminus \operatorname {de}(v)}}\,|\,X\_{{\operatorname {pa}(v)}}\quad {\text{for all }}v\in V
여기서 de(*v*)는 *v*의 자식 집합이다.

이것은 또한 다음과 같이 첫 번째 정의 항과 비슷한 표현이 될 수 있다.

{\mathrm P}(X\_{v}=x\_{v}\mid X\_{i}=x\_{i} for each X\_{i}\, which is not a descendent of X\_{v}\,)=P(X\_{v}=x\_{v}\mid X\_{j}=x\_{j} for each X\_{j}\, which is a parent of X\_{v}\,)
그래프가 비순환이기 때문에 부모 집합이 비 후손의 집합의 하위 집합이다.

### 마르코프 블랭킷

노드의 마르코프 블랭킷은 그 노드의 부모와 자식, 자식의 부모이다. *X*가 베이지안 네트워크이고, 그와 관련된 *G*는 마르코프 블랭킷(Markov blanket)이 주어지면 모든 노드가 네트워크에서 모든 다른 노드에 조건부 독립이다.

예
-

심플한 베이지안 네트워크 예제
잔디가 젖을 수 있는 두 가지 이벤트(스프링클러 혹은 비)가 있다고 하자. 또한, 비는 스프링클러의 사용과 같은 효과를 갖는다고 하자(비가 올 땐 보통 스프링클러를 끈다). 이 상황을 베이지안 네트워크로 표현 모델링할 수 있다. 모두 세 개의 변수가 T(true)와 F(false)로 두 개의 확률 값을 갖는다.

결합 확률 함수는 다음과 같다.

{\mathrm P}(G,S,R)={\mathrm P}(G|S,R){\mathrm P}(S|R){\mathrm P}(R)
여기서 *G*는 잔디의 젖음을, *S*는 스프링클러를, *R*은 비를 간략화하여 표기한 것이다.

그 모델은 조건부확률식과 모든 장애 변수를 합함에 의하여 "잔디가 젖었다면 비였을 확률이 몇이냐?"는 질문에 답할 수 있다.

{\mathrm P}({\mathit {R}}=T\mid {\mathit {G}}=T)={\frac {{\mathrm P}({\mathit {G}}=T,{\mathit {R}}=T)}{{\mathrm P}({\mathit {G}}=T)}}={\frac {\sum \_{{{\mathit {S}}\in \{T,F\}}}{\mathrm P}({\mathit {G}}=T,{\mathit {S}},{\mathit {R}}=T)}{\sum \_{{{\mathit {S}},{\mathit {R}}\in \{T,F\}}}{\mathrm P}({\mathit {G}}=T,{\mathit {S}},{\mathit {R}})}}
{\displaystyle ={\frac {(0.99\times 0.01\times 0.2=0.00198\_{TTT})+(0.8\times 0.99\times 0.2=0.1584\_{TFT})}{0.00198\_{TTT}+0.288\_{TTF}+0.1584\_{TFT}+0\_{TFF}}}\approx 35.77\%.}
예에서 분자를 명시적으로 가리킴으로써, 결합 확률 함수는 가중 함수의 각 반복을 계산하는데 사용된다. In the numerator(분자) marginalizing over {\mathit {S}} and in the denominator(분모) marginalizing over {\mathit {S}} and {\mathit {R}}.

다른 한편으로, 만약 우리가 "우리가 잔디가 젖게 했다면 비가 왔을 가능성은?"이라는 중재적인 질문(interventional question)에 답을 원한다면, 대답은 전부 중재 분포로부터 {\mathrm P}(G|S,R) 요소를 제거하여 얻은 후부 중재 결합 분포 함수(post-intervention joint distribution function) {\mathrm P}(S,R|do(G=T))=P(S|R)P(R)에 의해 좌우된다. 기대한 것처럼, 비가 올 가능성은 행위에 의해 영향을 받지 않는다:{\mathrm P}(R|do(G=T))=P(R).

결합 분포에서 의존성이 희박하다면, 베이지안 네트워크의 사용은 상당한 양의 메모리를 절약할 수 있다. 예를 들어, 테이블에서 두 개의 값을 가질 수 있는 10개의 변수의 조건부 확률을 순수한 방법으로 저장한다면 2^{{10}}=1024의 저장 공간이 필요하다. 만약 지역 분포에서 어떤 변수도 세 개가 넘는 부모변수에 의존하지 않는다면, 베이지안 네트워크 표현은 최대 10\*2^{3}=80 저장 공간만을 필요로 한다.

베이지안 네트워크의 한 가지 이점은 복잡한 결합 분포(complete joint distribution)보다 직접적인 의존성(a sparse set of direct dependecies)과 지역 분포(local distribution)를 사람이 이해하는데 직관적이라는 것이다.

응용 분야
-----

베이즈 네트워크는 생물 정보학, 약학, 문서 분류, 영상 처리, 자료 양합 및 결정 지원 시스템 등의 분야에서 지식을 모형화하는 데 사용되고 있다.

참고 문헌
-----

* Ben-Gal I. Bayesian Networks Archived 2016년 11월 23일 - 웨이백 머신, in Ruggeri F. Faltin F. Kenett R. (Eds.), Encyclopedia of Statistics in Quality and Reliability, John Wiley & Sons, 2007.

* Castillo, Enrique, José Manuel Gutiérrez, and Ali S. Hadi. *Expert Systems and Probabilistic Network Models*. New York: Springer-Verlag, 1997. ISBN 0-387-94858-9
* Fenton NE and Neil M, "Combining evidence in risk analysis using Bayesian Networks".