Patent KR-19990016586-A (KR)
Title: 케이차 의존 관계에 의한 확률 분포의 최적 곱 근사 방법과의존 관계에 의한 다수 결정 결합 방법
Filed: 1997-08-18
Abstract: 본 발명은 1차 이상의 고차 의존관계에 의한 확률 분포의 최적 곱 근사 방법을 제공하는 것을 목적으로 한다. 
     본 발명의 다른 목적은, 1차 이상의 고차 의존관계에 의한 확률분포의 최적 곱 근사에서 구성 분포 항을 구하는 방법을 제공하는 것이다. 
     그리고 본 발명의 또 다른 목적은, 의존관계에 의한 다수 결정 결합 방법을 제공하는 것이다. 
     상기한 제 1 목적을 달성하기 위한 본 발명의 차 의존 관계에 의한 확률분포의 최적 곱 근사 방법은, 
     K개 결정기 집합이 , 
     L개 결정 후보의 집합이 , 
     입력이 , 
     의존관계의 차수가 , 
       일 경우, 
     포스테리어 확률 가 
       = 일 때, 
     
       
     
     = 가 되고, 
       가 를 나타낸다면, 
       일 경우, 
       는 및 
     
       
     
     = 관계가 성립하는 경우, 
     상기한 고차 확률 분포 를 차 의존 관계에 의해 저차 확률 분포의 곱으로 최적 근사화 하는 방법에 있어서, 
     1차 의존 관계를 구하는 단계; 
     조건부 독립 가정을 구하는 단계; 
     2차 의존 관계를 구하는 단계; 
     조건부 1차 의존 관계를 구하는 단계; 
     . 
     . 
     . 
       차 의존 관계를 구하는 단계; 및 
     조건부 차 의존 관계를 구하는 단계를 포함하여 이루어지는 것이 특징이다. 
     상기한 제 2 목적을 달성하기 위한 본 발명의 차 의존 관계에 의한 확률분포의 최적 곱 근사시 구성 분포 항을 구하는 방법은, 
     K개 결정기 집합이 , 
     L개 결정 후보의 집합이 , 
     입력이 , 
     의존관계의 차수가 , 
       , 
     포스테리어 확률 가 
       = 일 때, 
     
       
     
     = 가 되고, 
       가 를 나타내면, 
       일 때, 
       는 및 
     
       
     
     = 관계가 성립하는 경우, 
       차 의존 관계에 의한 확률분포의 최적 곱 근사시 구성 분포 항을 구하는 방법에 있어서, 
     실제 확률 분포 , 근사 확률 분포 일 때, 
       로 정의되는 
     유사도(Measure of Closeness)를 최소화하는 는, 
     for       ㉠      do         /* 1차 의존관계 */ 
     /* 이때 상기 ㉠은 1차 의존관계로서 일 경우 
       및 
       로 주어진다 */ 
     for       ㉡      do         /*  2차 의존관계 */ 
     /* 이때 상기 ㉡은 2차 의존 관계로서 일 경우 
       및 
       로 주어진다 */ 
     ........                   ........ 
     for      ㉢       do         /* ( -1)차 의존관계 */ 
     /* 이때 상기 ㉢은 ( -1)차 의존관계로서 0 i( -1)(j), ... ,i1(j) j 일 경우 
       및 
       로 주어진다 */ 
     while (  ㉣     ) do         /* 차 의존관계 */ 
     /* 이때 상기 ㉣은 차 의존관계로서 0 i (j), ... ,i1(j) j 인 경우 
       및 
       로 주어진다 */ 
     ....... 
     end 
     end 
     ....... 
     end 
     end 
     와 같이, 1개의 1차 의존관계, 1개의 2차 의존관계, ... , 1개의 ( -1)차 의존관계, (K- )개의 차 의존관계등으로 구성되고, ( -1)개의 내포된 for 루프와 1개의 while 루프를 포함하여 구해지는 깃이 특징이다. 
     상기한 제 3 목적을 달성하기 위한 본 발명의 의존관계에 의한 다수 결정 결합 방법은, 
     K개 결정기 집합이 , 
     L개 결정 후보의 집합이 , 
     입력이 , 
     의존관계의 차수가 , 
       의 관계가 있을 때, 차 의존 관계에 의한 확률분포의 최적 곱 근사 및 이를 위한 구성 분포 항을 구하는 방법의 수행을 통한 결정 방법을 통상의 베이지안 결정 방법과 결합하는 방법에 있어서, 
     훈련용 샘플 데이터를 참조하여 상기한 차 의존관계에 의한 확률분포의 최적 곱 근사 집합을 구하는 제 1 단계; 및 
     상기 단계에서 구해진 근사 집합을 베이지안 기법과의 결합식에 적용하여 실질적으로 다수 결정기의 결정을 확률적으로 결합하는 제 2 단계를 
     포함하여 이루어지며, 독립가정을 필요로 하지 않고, 다수 결정을 내리는 결정기 간의 의존관계를 고려하는 것을 특징으로 한다. 
     본 발명의 적용분야 및 효과는 다음과 같다: 
     1) 본 발명은 독립 가정을 취하지 않음으로써 독립가정에 의해 야기될 수 있는 문제점을 피할 수 있다. 
     2) 고차 확률 분포를 저차 확률 분포의 곱으로 근사시키는 데 있어서 의존 관계 차수를 변화시키면서 해당 차수 의존 관계 기반으로 한 최적 곱 근사 분포 집합을 구할 수 있다. 
     3) 이에 필요한 저장량 복잡도도 독립 가정 기반에 비해 크지만 BKS 기법보다는 작다는 장점을 가진다. 왜냐하면, O(L 2 ) O(L k+1 ) O(L K+1 )의 관계가 성립하기 때문이다. 
     4) 1차 의존관계만이 아닌 고차 의존관계를 처리할 수 있는 방법론을 제시하므로써, 곱 근사 연구에 대한 기존의 연구 결과를 확장하였다. 
     5) 고차 의존관계를 기반으로 다수 결정기의 결정을 결합하는 것이 그 성능에 있어서 우수함을 보여 주었다. 
     6) 패턴 인식 분야에서 다수의 인식기를 사용하여 그 결정을 결합하는 실험을 통하여 본 발명의 우수성을 보였다. 
     7) 패턴 인식 분야에서 다수의 인식기를 사용하여 그 결정을 결합하는 실험을 통하여 본 발명의 우수성을 나타내었다. 비록 본 발명은 패턴 인식 분야에 대한 실시예에 대해서만 기술하였으나 본 발명의 사상은 그룹 의사 결정, 제어분야등 다른 분야에도 적용가능하다.