피셔 정보 계량

정보 기하학에서 **피셔 정보 계량**은pmid=37190442 매끄러운 통계적 다양체, *즉,* 확률 공간에서 정의된 확률 측도를 갖는 매끄러운 다양체에서 정의할 수 있는 특정 리만 계량이다. 측정들 사이의 정보 차이를 계산하는 데 사용할 수 있다. 이 계량은 여러 측면에서 흥미롭다. Chentsov의 정리에 따르면 통계 모델의 피셔 정보 계량은 충분한 통계 하에서 불변인 유일한 리만 계량이다.isbn=0-8218-0531-2doi=10.1007/s41884-018-0006-4 이는 상대 엔트로피의 극소 형태(*즉*, 쿨백-라이블러 발산)로 이해될 수도 있다. 구체적으로는 발산의 헤세 행렬이다. 또는 변수를 적절하게 변경한 후 평평한 공간 유클리드 계량에 의해 유도된 계량으로 이해될 수도 있다. 복소 사영 힐베르트 공간으로 확장되면 푸비니-슈투디 계량이 된다. 혼합 상태로 표현하면 양자 Bures 계량이다. 순수하게 행렬로 보았을 때, 피셔 정보 행렬로 알려져 있다. 관측된 무작위 변수의 관점에서 숨겨진 매개변수를 추정하는 데 사용되는 측정 기술로 여겨지며 관측된 정보라고 한다.
# 정의
좌표 \theta=(\theta_1, \theta_2, \ldots, \theta_n)가 주어진 통계적 다양체가 주어지면, 확률 밀도를 \theta의 함수 p(x,\theta)로 쓴다. 여기서 x는 (이산 또는 연속) 확률 변수 *X*에 대한 값 공간 *R*에서 추출된다. 확률은 \int_R p(x,\theta) \,dx = 1로 정규화된다. 여기서 p(x,\theta)\,dx는 X의 분포이다. 피셔 정보 계량은 다음과 같은 형식을 취한다. : g_{jk}(\theta) = \int_R \frac{\partial^2 i(x,\theta)}{\partial \theta_j \,\partial \theta_k} p(x,\theta) \, dx = \mathrm{E} \left[ \frac{\partial^2 i(x,\theta)}{\partial \theta_j \,\partial \theta_k} \right]. 적분은 *R*의 모든 값 *x*에 대해 수행된다. 변수 \theta는 이제 리만 다양체의 좌표이다. 이름표 *j*와 *k는* 다양체의 국소 좌표축을 나타낸다. 마르코프 과정에서와 마찬가지로, 확률이 깁스 측도에서 파생되면 \theta는 라그랑주 승수로 이해될 수도 있다. 라그랑주 승수는 어떤 수량의 기대값을 일정하게 유지하는 것과 같은 제약 조건을 적용하는 데 사용된다. *n*개의 서로 *다른* 기대값을 일정하게 유지하는 *n개의* 제약 조건이 있는 경우 다양체의 차원은 원래 공간보다 *n* 차원 더 작다. 이 경우 계량은 분배 함수에서 명시적으로 유도될 수 있다. 거기서 유도가 제시된다. 정보 이론에서 i(x,\theta) = -\log{}p(x,\theta)로 대입하면 위 정의의 동등한 형식은 다음과 같다. : g_{jk}(\theta) = \- \int_R \frac{\partial^2 \log p(x,\theta)}{\partial \theta_j \,\partial \theta_k} p(x,\theta) \, dx. 등식이 위의 정의와 동일하다는 것을 보여주기 위해 다음을 참고하라. : \mathrm{E} \left[ \frac{\partial\log{}p(x,\theta)}{\partial \theta_j} \right]=0 이고, 양 변에 \frac{\partial}{\partial\theta_{k를 취한다.
# 예
피셔 정보 계량은 지수족에 대해 특히 간단하다. p(x, \theta) = \exp\\!\bigl[\ \eta(\theta) \cdot T(x) - A(\theta) + B(x)\ \bigr] 계량은 다음과 같다. g_{jk}(\theta) = \frac{\partial^2 A(\theta)}{\partial \theta_j \,\partial \theta_k} \- \frac{\partial^2 \eta(\theta)}{\partial \theta_j \,\partial \theta_k} \cdot \mathrm{E}[T(x)]자연 매개변수를 사용하는 경우 계량은 특히 간단한 형식을 갖는다. 이 경우, \eta(\theta) = \theta이고, 따라서 계량은 \nabla^2_\theta A과 같다. .
## 정규 분포
다변량 정규분포 \mathcal N(\mu, \Sigma)-\ln p(x | \mu, \Sigma) = \frac 12 (x - \mu)^T \Sigma^{-1}(x - \mu) + \frac 12 \ln\det(\Sigma) + C T = \Sigma^{-1} 가 precision 행렬이라 하자. g_{\mu, \Sigma} = 0 이므로 계량은 평균 부분과 정밀도/분산 부분으로 분할된다. 평균 부분은 정밀도 행렬 g_{\mu_i, \mu_j} = T_{ij}이다. 정밀도 부분은 g_{T,T} = -\frac 12 \nabla_T^2 \ln\det T . 특히, 단일 변수 정규 분포의 경우, g = \begin{bmatrix} t & 0 \\\ 0 & (2t^2)^{-1} \end{bmatrix} = \sigma^{-2}\begin{bmatrix} 1 & 0 \\\ 0 & 2 \end{bmatrix} . x = \mu/\sqrt 2, y = \sigma 라 하면 ds^2 = 2\frac{dx^2 + dy^2}{y^2} 이다. 이는 푸앵카레 반평면이다. 두 개의 일변수 정규 분포 사이의 측지선은 \sigma 축 또는 \mu/\sqrt 2 축 중심에 있는 반원호 중 하나에 평행하다. \delta_{\mu_0}, \delta_{\mu_1}를 연결하는 측지선은 \phi \mapsto \mathcal N\left( \frac{\mu_0 + \mu_1}{2} + \frac{\mu_1 - \mu_0}{2} \cos\phi, \sigma^2 \sin^2\phi \right)여기서 \sigma = \frac{\mu_1 - \mu_0}{2\sqrt 2}이고, 호 길이 매개변수화는 s = \sqrt 2 \ln \tan(\phi/2)과 같다.
# 쿨백-라이블러 발산과의 관계
또는 *상대 엔트로피* 또는 쿨백-라이블러 발산의 2차 도함수로 계량을 얻을 수 있다.isbn=0-471-24195-4 이를 얻기 위해 두 가지 확률 분포P(\theta) 와 P(\theta_0)를 고려한다. 이는 서로 무한소만큼 떨어져있다. : P(\theta) = P(\theta_0) + \sum_j \Delta\theta^j \left.\frac{\partial P}{\partial \theta^j}\right|_{\theta_0} \Delta\theta^j는 *j* 방향으로 \theta의 무한소 변화이다. P(\theta) = P(\theta_0)일 때 쿨벡-라이블러 발산 D_{\mathrm{KL[P(\theta_0)\| P(\theta)]이 절대 최소값은 0을 가지므로, \theta = \theta_0에서 2차까지 멱급수 전개된다: : f_{\theta_0}(\theta) := D_{\mathrm{KL[P(\theta_0) \| P(\theta)] = \frac{1}{2} \sum_{jk}\Delta\theta^j\Delta\theta^k g_{jk}(\theta_0) + \mathrm{O}(\Delta\theta^3) . 대칭 행렬 g_{jk}은 양의 (반) 정부호이며, 임계값 \theta_0에서 함수 f_{\theta_0}(\theta)의 헤세 행렬이다. 이는 직관적으로 "통계적 미분 다양체에서 무한소만큼 떨어진 두 점 사이의 거리는 두 점 사이의 정보 차이이다."라고 생각할 수 있다.
# 루파이너 기하학과의 관계
루파이너 계량 과 바인홀트 계량은 평형 통계 역학에서 발견되는 것과 같은 깁스 분포에 대해 계산된 피셔 정보 계량이다.doi=10.1088/1751-8113/42/2/023001pmid=17930381
# 자유 엔트로피의 변화
리만 다양체에서 곡선의 작용은 다음과 같이 주어진다. : A=\frac{1}{2}\int_a^b \frac{\partial\theta^j}{\partial t} g_{jk}(\theta)\frac{\partial\theta^k}{\partial t} dt 여기서 경로 매개변수는 시간 *t*이다. 이 작용은 시스템이 *a* 시간에서 *b* 시간으로 이동할 때 시스템의 자유 엔트로피에 변화를 주는 것으로 이해될 수 있다.pmid=17930381 구체적으로 자유 엔트로피의 변화로 : \Delta S = (b-a) A \, 를 얻는다. 이러한 관찰은 화학 및 가공 산업에 실제적으로 적용되는 결과를 가져왔다.: 시스템의 자유 엔트로피 변화를 최소화하려면 프로세스의 원하는 끝점 사이의 극소 측지 경로를 따라야 한다. 측지선은 작용이 곡선의 길이 제곱에 의해 아래로 제한된다는 코시-슈바르츠 부등식으로 인해 엔트로피를 최소화한다.
# 젠슨-섀넌 발산과의 관계
피셔 계량을 사용하면 작용과 곡선 길이가 젠슨-섀넌 발산과 관련될 수도 있다.pmid=17930381 구체적으로, : (b-a)\int_a^b \frac{\partial\theta^j}{\partial t} g_{jk}\frac{\partial\theta^k}{\partial t} \,dt = 8\int_a^b dJSD 여기서 피적분 함수 *dJSD는* 선택한 경로를 따라 젠슨-섀넌 발산의 무한소 변화로 이해된다. 마찬가지로, 곡선 길이에 대해 다음과 같다. : \int_a^b \sqrt{\frac{\partial\theta^j}{\partial t} g_{jk}\frac{\partial\theta^k}{\partial t \,dt = \sqrt{8}\int_a^b \sqrt{dJSD} 즉, 젠슨-섀넌 발산의 제곱근은 단지 피셔 계량(다음의 제곱근으로 나눈 값)이다. 이산 확률 공간, 즉 유한 집합의 확률 공간에 대해 피셔 계량은 단순히 변수를 적절하게 변경한 후 단위 구의 양의 오탄트 (예: R^2에서 "사분면")로 제한된 유클리드 계량으로 이해될 수 있다. 점 y=(y_0,\cdots,y_n)으로 매개변수화된 N+1 차원 유클리드 공간을 생각하자. 유클리드 공간의 계량은 다음과 같이 제공된다. : h=\sum_{i=0}^N dy_i \; dy_i 여기서 \textstyle dy_i는 제 1형식이다; 이는 여접공간의 기저 벡터이다. \textstyle \frac{\partial}{\partial y_j}는 접공간의 기저 벡터로 사용되므로 : dy_j\left(\frac{\partial}{\partial y_k}\right) = \delta_{jk}. 유클리드 계량은 다음과 같이 쓸 수 있다. : h^\mathrm{flat}_{jk} = h\left(\frac{\partial}{\partial y_j}, \frac{\partial}{\partial y_k}\right) = \delta_{jk} 위첨자 'flat'은 좌표 형식으로 작성될 때 이 계량이 평면 공간 y 좌표를 기준으로 한다는 점을 상기시키기 위한 것이다. N+1 차원 유클리드 공간에 매장된 *N*차원 단위 구는 다음과 같이 정의될 수 있다. : \sum_{i=0}^N y_i^2 = 1 이 매장은 구에 계량을 유도하며 주변 공간의 유클리드 계량에서 직접 물려받는다. 좌표가 구 표면에 있도록 제한되도록 주의하면서 위와 정확히 동일한 형식을 취한다. 이는 예를 들어 라그랑주 승수를 사용하여 수행할 수 있다. 이제 변수 변환 p_i=y_i^2을 고려하자. 구형 조건은 이제 확률 정규화 조건이 된다. : \sum_i p_i = 1 계량은 다음과 같이 된다. : \begin{align} h &=\sum_i dy_i \; dy_i = \sum_i d\sqrt{p_i} \; d\sqrt{p_i} \\\ &= \frac{1}{4}\sum_i \frac{dp_i \; dp_i}{p_i} = \frac{1}{4}\sum_i p_i\; d(\log p_i) \; d(\log p_i) \end{align} 마지막은 피셔 정보 계량의 4분의 1로 인식될 수 있다. 프로세스를 완료하려면 확률이 다양체 변수 \theta의 매개변수 함수라는 점을 기억하라. 즉, p_i = p_i(\theta). 따라서 위의 내용은 매개변수 다양체에 대한 계량을 유도한다. : \begin{align} h & = \frac{1}{4}\sum_i p_i(\theta) \; d(\log p_i(\theta))\; d(\log p_i(\theta)) \\\ &= \frac{1}{4}\sum_{jk} \sum_i p_i(\theta) \; \frac{\partial \log p_i(\theta)} {\partial \theta_j} \frac{\partial \log p_i(\theta)} {\partial \theta_k} d\theta_j d\theta_k \end{align} 또는 좌표 형식에서 피셔 정보 계량은 다음과 같다. : \begin{align} g_{jk}(\theta) = 4h_{jk}^\mathrm{fisher} &= 4 h\left(\frac{\partial}{\partial \theta_j}, \frac{\partial}{\partial \theta_k}\right) \\\ & = \sum_i p_i(\theta) \; \frac{\partial \log p_i(\theta)} {\partial \theta_j} \; \frac{\partial \log p_i(\theta)} {\partial \theta_k} \\\ & = \mathrm{E}\left[ \frac{\partial \log p_i(\theta)} {\partial \theta_j} \; \frac{\partial \log p_i(\theta)} {\partial \theta_k} \right] \end{align} 이전과 마찬가지로 : d\theta_j\left(\frac{\partial}{\partial \theta_k}\right) = \delta_{jk}. 이 표현이 \theta 좌표에 적용 가능함을 상기시키기 위해 위 첨자 '피셔'가 표시된다. 비좌표 형식은 유클리드(평면 공간) 계량과 동일하다. 즉, 통계적 다양체에 대한 피셔 정보 계량은 변수를 적절하게 변경한 후 구의 양의 오르탄트로 제한된 유클리드 계량(4배)이다. 확률변수 p는 이산적이지 않고 연속적일 때, 이 논의는 여전히 유효하다. 이는 두 가지 방법 중 하나로 볼 수 있다. 한 가지 방법은 모든 조작이 잘 정의되고 수렴되는지 확인하기 위해 무한 차원 공간에서 위의 모든 단계를 신중하게 재구성하고 한계를 적절하게 정의하는 등의 작업을 수행하는 것이다. 다른 방법은 다음과 같다. 그로모프가 지적한 바에 따르면, 범주론적 접근 방식을 사용하는 것이다. 즉, 위의 조작은 확률 범주에서 여전히 유효하다는 점에 유의하라. 여기서 이러한 범주는 라돈-니코딤 성질을 갖게 된다. 즉, 라돈-니코딤 정리가 이 범주에 적용된다. 여기에는 힐베르트 공간이 포함된다. 이는 제곱 적분 가능하며 위의 조작에서는 제곱에 대한 합을 제곱에 대한 적분으로 안전하게 대체하는 데 충분하다.
# 푸비니–슈투디 계량
유클리드 계량에서 피셔 계량을 유도하는 위의 조작은 복소 사영 힐베르트 공간으로 확장될 수 있다. 이 경우 푸비니-슈투디 계량을 얻는다.이름6=Franco 푸비니-슈투디 계량이 양자 역학에서 정보를 측정하는 수단을 제공하므로 이는 놀라운 일이 아니다. 헬스트롬 계량이라고도 알려진 뷰래스 계량은 푸비니-슈투디 계량과 동일하지만 후자는 일반적으로 아래와 같이 순수 상태로 작성되는 반면 Bures 계량은 혼합 상태로 작성된다. 복소 좌표의 페이즈를 0으로 설정하면 위와 같이 피셔 정보 계량의 정확히 1/4을 얻을 수 있다. 하나는 극좌표로 작성된 확률 진폭을 구성하는 동일한 트릭으로 시작한다. : \psi(x;\theta) = \sqrt{p(x; \theta)} \; e^{i\alpha(x;\theta)} 여기서, \psi(x;\theta)는 복소수 확률 진폭이다. p(x; \theta)와 \alpha(x;\theta) 는 실수이다. 이전 계산은 \alpha(x;\theta)=0을 설정하여 얻는다. 확률이 단체내에 있는 일반적인 조건은 다음과 같다. : \int_X p(x;\theta) \, dx =1 제곱 진폭이 정규화된다는 아이디어로 동등하게 표현된다. : \int_X \vert \psi(x;\theta)\vert^2 \, dx = 1 \psi(x;\theta)이 실수일 때 이것은 구의 표면이다. 양자 역학 브라켓 표기법을 사용하여 극소 형태로 작성된 푸비니-슈투디 계량은 다음과 같다. : ds^2 = \frac{\langle \delta \psi \mid \delta \psi \rangle} {\langle \psi \mid \psi \rangle} - \frac {\langle \delta \psi \mid \psi \rangle \; \langle \psi \mid \delta \psi \rangle} \langle \psi \mid \psi \rangle}^2}. 이 표기법에서는 \langle x\mid \psi\rangle = \psi(x;\theta)이고 전체 측도 공간 *X* 에 대한 적분은 다음과 같이 작성된다. : \langle \phi \mid \psi\rangle = \int_X \phi^*(x;\theta) \psi(x;\theta) \, dx. 표현식 \vert \delta \psi \rangle는 아주 작은 변화로 이해될 수 있다. 동등하게, 여접공간에서는 1-형식으로 이해될 수 있다. 무한소 표기법을 사용하면 위 확률의 극좌표 형식은 다음과 같다. : \delta\psi = \left(\frac{\delta p}{2p} + i \delta \alpha\right) \psi 위의 내용을 푸비니–슈투디 계량에 대입하면 다음이 제공된다. : \begin{align} ds^2 = {} & \frac{1}{4}\int_X (\delta \log p)^2 \;p\,dx\\\\[8pt] {}&\+ \int_X (\delta \alpha)^2 \;p\,dx \- \left(\int_X \delta \alpha \;p\,dx\right)^2 \\\\[8pt] & {} + \frac{i}{2} \int_X (\delta \log p \delta\alpha - \delta\alpha \delta \log p) \;p\,dx \end{align} \delta\alpha=0라 두면 위에서 첫 번째 항은 피셔 정보 계량의 1/4이라는 점을 분명히 알 수 있다. 위의 전체 형식은 표준 리만 기하학의 표기법을 변경하여 약간 더 명확하게 만들 수 있으므로 계량은 접공간에 작용하는 대칭 2 형식이 된다. 표기 변경은 \delta \to d 와 ds^2\to h로 간단히 교체만 하면 된다. 적분은 단지 기대값일 뿐이라는 점에 유의하라. 그래서: : \begin{align}h ={}& \frac{1}{4} \mathrm{E}\left[(d\log p)^2\right] \+ \mathrm{E}\left[(d\alpha)^2\right] \- \left(\mathrm{E}\left[d\alpha\right]\right)^2\\\\[8pt] {}&\+ \frac{i}{2}\mathrm{E}\left[d\log p\wedge d\alpha\right] \end{align} 허수 항은 심플렉틱 형식이며 베리 페이즈 또는 기하학적 페이즈이다. 첨자 표기법에서 계량은 다음과 같다. : \begin{align}h_{jk} = {} & h\left(\frac{\partial}{\partial\theta_j}, \frac{\partial}{\partial\theta_k}\right) \\\\[8pt] = {} & \frac{1}{4} \mathrm{E}\left[ \frac{\partial\log p}{\partial\theta_j} \frac{\partial\log p}{\partial\theta_k} \right]\\\\[8pt] {}&\+ \mathrm{E}\left[ \frac{\partial\alpha}{\partial\theta_j} \frac{\partial\alpha}{\partial\theta_k} \right] \- \mathrm{E}\left[ \frac{\partial\alpha}{\partial\theta_j} \right] \mathrm{E}\left[ \frac{\partial\alpha}{\partial\theta_k} \right] \\\\[8pt] & {} + \frac{i}{2}\mathrm{E}\left[ \frac{\partial\log p}{\partial\theta_j} \frac{\partial\alpha}{\partial\theta_k} \- \frac{\partial\alpha}{\partial\theta_j} \frac{\partial\log p}{\partial\theta_k} \right] \end{align} 다시 말하지만, 첫 번째 항은 \alpha=0로 놓으면 피셔 정보 계량의 4분의 1로 명확하게 표시될 수 있다. 동등하게, 푸비니-슈투디 계량은 평면 유클리드 계량의 복소 확장에 의해 유도된 복소 사영 힐베르트 공간의 계량으로 이해될 수 있다. 이것과 Bures 계량의 차이점은 Bures 계량이 혼합 상태로 작성된다는 것이다.
# 연속값 확률
다음과 같이 좀 더 형식적이고 추상적인 정의를 내릴 수 있다.doi=10.1016/j.difgeo.2007.11.027 *X를* 유향 다양체라고 하고, (X,\Sigma,\mu)를 *X*에 대한 측도라 하자. 마찬가지로 (\Omega, \mathcal{F},P)이 \Omega=X, 시그마 대수 \mathcal{F}=\Sigma 그리고 확률 P=\mu인 확률 공간이라 하자. *X*의 통계적 다양체 *S* (*X*)는 *X*에서 모든 측도 \mu의 공간으로 정의된다.(시그마 대수 \Sigma이 고정됨) 이 공간은 무한차원 공간이며 일반적으로 프레셰 공간으로 여겨진다. *S* (*X*)의 점은 측도이다. 점 \mu\in S(X)를 고르고 접공간 T_\mu S를 고려하자. 피셔 정보 계량은 접공간의 내적이다. 표기법을 남용 하면 다음과 같이 쓸 수 있다. : g(\sigma_1,\sigma_2)=\int_X \frac{d\sigma_1}{d\mu}\frac{d\sigma_2}{d\mu}d\mu 여기서, \sigma_1와 \sigma_2는 접공간의 벡터이다. 즉, \sigma_1,\sigma_2\in T_\mu S . 표기법의 남용은 접벡터를 도함수인 것처럼 작성하고 적분을 작성할 때 외부 *d를* 삽입하는 것이다. 적분은 전체 공간 *X*에 걸쳐 측도 \mu를 사용하여 수행되어야 한다. 실제로 이러한 표기법의 남용은 측도론에서는 완벽하게 정상적인 것으로 여겨진다. 이는 라돈-니코딤 미분에 대한 표준 표기법이다. 적분이 잘 정의되기 위해서는 공간 *S*(*X*)가 Radon-Nikodym 성질을 가져야 하며, 보다 구체적으로 접공간은 제곱 적분 가능한 벡터로 제한된다. 제곱 적분성은 코시 수열이 약위상에서 유한 값으로 수렴한다고 말하는 것과 동일하다. 공간에는 극한값이 포함되어 있다. 힐베르트 공간은 이 속성을 가지고 있음에 주목하라. 이러한 계량의 정의는 여러 단계에서 이전 정의와 동일하다고 볼 수 있다. 먼저, 매끄럽게 변하는 매개변수 \theta에 의해 매개변수화되는 측도 \mu만 고려하여 *S* (*X*)의 부분 다양체를 선택한다. 그렇다면 만약 \theta가 유한차원이라면 부분다양체도 마찬가지이다. 마찬가지로 접공간은 \theta과 같은 차원을 갖는다. 추가적인 언어 남용과 함께 지수 사상은 접공간의 벡터에서 기저 다양체의 점까지 사상을 제공한다는 점에 주목한다. 따라서 만약 \sigma\in T_\mu S는 접공간의 벡터이면 p=\exp(\sigma)는 p\in S(X)와 관련된 해당 확률이다. (지수 사상을 \mu로 평생운송한 후.) 반대로, 주어진 점이 p\in S(X), 로그는 접공간에 점을 제공한다(대략적으로 말하면 원점에서 점 \mu으로 이동해야 함). 따라서 이전에 주어진 더 간단한 정의에서는 로그 모양을 갖는다.
# 참고자료
* Garvesh Raskutti Sayan Mukherjee, (2014). *거울 하강의 정보 기하학* https://arxiv.org/pdf/1310.7780.pdf * pmid=19257090 * Shun'ichi Amari (1985) *Differential-geometrical methods in statistics*, Lecture Notes in Statistics, Springer-Verlag, Berlin. * Shun'ichi Amari, Hiroshi Nagaoka (2000) *Methods of information geometry*, Translations of mathematical monographs; v. 191, American Mathematical Society. * Paolo Gibilisco, Eva Riccomagno, Maria Piera Rogantin and Henry P. Wynn, (2009) *Algebraic and Geometric Methods in Statistics*, Cambridge U. Press, Cambridge. 위키데이터 속성 추적 분류:미분기하학