정보기하학

정보기하학(information geometry)은 확률론과 통계학을 연구하기 위해 미분기하학의 기술을 적용하는 학제간 분야이다. 이는 점들이 확률 분포에 해당하는 리만 다양체인 통계적 다양체를 연구한다.

 서론 
역사적으로, 정보기하학은 칼리암푸디 라다크리슈나 라오의 작업에서 시작되었는데, 그는 처음으로 피셔 정보 행렬을 리만 계량으로 다루었다. Reprinted in  현대 이론은 주로 아마리 슌이치의 작업에서 비롯되었으며, 그의 작업은 이 분야의 발전에 큰 영향을 미쳤다.

고전적으로, 정보기하학은 매개변수화된 통계 모델을 리만, 켤레 접속, 통계적, 그리고 이중 평탄 다양체로 간주했다. 텐서 계량과 레비-치비타 접속을 가진 일반적인 매끄러운 다양체와 달리, 이들은 켤레 접속, 비틀림, 아마리-첸초프 계량을 고려한다. 위에 제시된 모든 기하학적 구조는 정보 이론과 기계 학습에서 응용된다. 이러한 모델에는 피셔 정보 계량으로 알려진 리만 계량의 자연스러운 선택이 있다. 통계 모델이 지수족인 특수한 경우, 통계적 다양체를 헤세 계량(즉, 볼록 함수의 퍼텐셜에 의해 주어진 리만 계량)으로 유도하는 것이 가능하다. 이 경우, 다양체는 자연스럽게 두 개의 평탄 아핀 접속과 정규 브레그만 발산을 상속한다. 역사적으로, 많은 연구가 이러한 예시들의 관련 기하학을 연구하는 데 전념했다. 현대적 환경에서 정보기하학은 비지수족, 비모수 통계학, 심지어 알려진 통계 모델에서 유도되지 않은 추상적인 통계적 다양체를 포함하여 훨씬 더 넓은 맥락에 적용된다. 그 결과는 정보 이론, 아핀 미분기하학, 볼록 해석학 및 기타 여러 분야의 기술을 결합한다. 가장 유망한 정보기하학적 접근법 중 하나는 기계 학습에 응용된다. 예를 들어, 정보기하학적 최적화 방법(미러 하강 및 자연 경사 하강)의 개발 등이 있다.

이 분야의 표준 참고 문헌은 아마리 슌이치와 나가오카 히로시의 책인 "정보기하학 방법(Methods of Information Geometry)"과 니하트 아이(Nihat Ay) 등이 쓴 최근의 책이다. 프랭크 닐슨(Frank Nielsen)의 설문 조사에서 쉬운 소개가 제공된다. 2018년에는 이 분야에 전념하는 "정보기하학(Information Geometry)" 저널이 발행되었다.

 기여자 
정보기하학의 역사는 적어도 다음 사람들과 많은 다른 사람들의 발견과 관련이 있다.

 로널드 피셔
 하랄드 크라메르
 칼리암푸디 라다크리슈나 라오
 해럴드 제프리스
 솔로몬 쿨백
 장루이 코쥘
 리처드 라이블러
 클로드 섀넌
 임레 치사르
 니콜라이 첸초프 (N. N. Čencov로도 표기)
 브래들리 에프론
 아마리 슌이치
 올레 바른도르프-닐슨
 프랭크 닐슨
 다미아노 브리고
 A. W. F. 에드워즈
 그랜트 힐리어
 키스 얀 판 가르더런

 응용 분야 
학제간 분야로서 정보기하학은 다양한 응용 분야에서 사용되어 왔다.

다음은 불완전한 목록이다.
 통계적 추론
 시계열 및 선형 시스템
 필터링 문제
 양자 시스템
 신경망
 기계 학습
 통계 역학
 생물학
 통계학
 수리 금융

 같이 보기 
 루페이너 기하학
 쿨백-라이블러 발산
 확률 기하학
 확률 미분 기하학
 사영 필터

 각주 

 외부 링크 
  슈프링거의 정보기하학 저널
  코스마 로힐라 살리치(Cosma Rohilla Shalizi)의 정보기하학 개요, 2010년 7월
 Information Geometry 존 바에즈의 정보기하학 노트, 2012년 11월
 신경망을 위한 정보기하학(pdf ), 다니엘 바게나르(Daniel Wagenaar)