## INFERENSI STATISTIK DARI DISTRIBUSI NORMAL DENGAN METODE BAYES UNTUK NON-INFORMATIF PRIOR
Alan Prahutama 1 , Sugito 2 , Agus Rusgiyono 2
1 Mahasiswa Program S-2 Statistika ITS Surabaya
2 Staf Pengajar Program Studi Statistika FMIPA UNDIP

## Abstract
One of the method that can be used in statistical inference is Bayesian method. It combine sample distribution and prior distribution to get a posterior distribution. In this paper, sample distribution used  is  univariate  normal  distribution.  Prior  distribution  used  is  non-informative  prior. Determination  technique  of  non-informative  prior  use  Jefrrey’s  method    from  univariate  normal distribution.  After  got  the  posterior  distribution,  find  the    marginal  distribution  of  mean  and variance.  So  that  will  get the  parameter  estimation  of  interval  for  mean  and  variance.  Hypothesis testing for mean and variance can find from parameter estimation of formed interval.
Keywords :   Bayesian  method,  non-informatif  prior,  Jeffrey’s  method,  Parameter  Estimation  of Interval, Hypothesis test

## 1. Pendahuluan
Metode  statistik  dibedakan  menjadi  dua  yaitu  statistik  deskriptif  dan  statistik inferensi. Statistik deskriptif adalah  metode-metode yang berkaitan dengan pengumpulan dan penyajian suatu gugus data sehingga memberikan informasi yang berguna. Sedangkan statistik inferensi adalah metode-metode  yang berhubungan dengan analisis sebagian data untuk kemudian sampai pada peramalan atau penarikan kesimpulan mengenai keseluruhan data [6] .  Inferensi  statistik  dapat  dibedakan  menjadi  dua  yaitu  estimasi  parameter  dan  uji hipotesis.  Estimasi  parameter  dibedakan  menjadi  dua  yaitu  estimasi  parameter  titik  dan estimasi  parameter  berupa  interval.  Inferensi  statistik  dapat  dicari  dengan  metode  klasik dan metode bayes [5] .
Pada  teori  estimasi  dapat  dilakukan  dengan  dua  metode  yaitu  metode  klasik  dan metode bayes. Metode klasik sepenuhnya mengandalkan proses inferensi pada data sampel yang  diambil  dari  populasi,  sedangkan  metode  bayes  disamping  memanfaatkan  data sampel  yang  diperoleh  dari  populasi  juga  memperhitungkan  suatu  distribusi  awal  yang disebut  distribusi  prior.  Salah  satu  teknik  yang  digunakan  dalam  metode  klasik  adalah metode maksimum likelihood [3] .
Metode  klasik  memandang  parameter  sebagai  besaran  tetap  yang  tidak  diketahui harganya,  dan  inferensi  didasarkan  hanya  pada  informasi  dalam  sampel.  Metode  Bayes memandang  parameter  sebagai  variabel  yang  menggambarkan  pengetahuan  awal  tentang parameter  sebelum  pengamatan  dilakukan  dan  dinyatakan  dalam  suatu  distribusi  yang disebut dengan distribusi prior. Sedangkan Penentuan parameter distribusi prior yang tidak didasarkan pada data yang ada disebut non-informatif prior. Setelah pengamatan dilakukan, informasi  dalam  distribusi  prior  dikombinasikan  dengan  informasi  dengan  data  sampel melalui  teorema  Bayes,  dan  hasilnya  dinyatakan  dalam  bentuk  distribusi  yang  disebut distribusi  posterior  yang  selanjutnya  menjadi  dasar  untuk  inferensi  di  dalam  metode Bayes [2] .
Langkah-langkah  yang  dilakukan  adalah  mencari  distribusi  non-informatif  prior dari  distribusi  normal  kemudian  digabungkan  dengan  informasi  sampel  melalui  teorema
bayes sehingga dihasilkan distribusi posterior [1] . Selanjutnya bisa dicari distribusi posterior marginal  untuk  tiap  parameter  dari  distribusi  posterior  yang  terbentuk.  Sehingga  bisa didapatkan  estimasi  interval  untuk  tiap  parameter  yang  nantinya  bisa  ditentukan  juga  uji hipotesis untuk tiap parameter [4] .
Dalam  tulisan  ini  distribusi  sampel  yang  digunakan  adalah  distibusi  normal  dan distribusi prior yang digunakan adalah non-informatif prior. Teknik penentuan non-informatif prior menggunakan metode Jefrrey’s dari distribusi normal univariat.

## 2. Inferensi  Statistik  Distribusi  Normal  Menggunakan  Metode  Bayes  untuk Non-Informatif Prior

## Distribusi Normal sebagai Distribusi Sampel
Jika  sebuah  variabel  random X dikatakan  mengikuti  distribusi  normal  dengan parameter  mean  dan  variansi 2  dapat  dilambangkan  dengan   2 σ , N ~ X  , maka memiliki fungsi kepadatan peluang dalam bentuk:

##  
                 2 2 2 1 exp 2 1 , ;       i i x x f untuk      i x , dimana       dan     0 .
Likelihood dari Distribusi Normal
Jika n X X X ,..., , 2 1 adalah  sampel  random  berdistribusi  normal  dengan  densitas   2 , ;   i x f , maka fungsi likelihoodnya didefinisikan dengan:
       n i i x f L 1 2 2 , ; ,                     n i i n x 1 2 2 2 / 2 2 1 exp 2   

## Metode Jeffrey’s
Salah  satu  bentuk  pendekatan  dari  non-informatif  prior  adalah  dengan menggunakan  metode  Jeffrey’s.  Metode  ini  menyatakan  bahwa  distribusi  prior    f merupakan akar kuadrat dari informasi Fisher yang dinyatakan dalam:
      2 1   I f 
dimana    I merupakan nilai harapan informasi Fisher
              2 2 ; log     x f E I
Jika   t p    ,....., 1  adalah vektor, digunakan
      2 1 det   I f 
dimana    I adalah matriks informasi Fisher   p p  dengan indeks   j i , maka
                      ; log 2 x f E I j i ij dengan i = 1, 2, …, p ; j = 1, 2, …, p

## Non-Informatif Prior dari Distribusi Normal
Distribusi  non-informatif  prior    f dimana   2 ,     ,  diasumsikan  bahwa 
dan 2  adalah independen sehingga       2    f f f 
Menentukan distribusi non-informatif prior
  2  f
                   2 2 2 1 exp 2 1 , ;       X X f     2 2 2 2 2 log 2 1 2 log 2 1 , ; log            X X f
Jika 2   u maka     u X u u X f 2 log 2 1 2 log 2 1 , ; log 2             2 2 2 2 1 , ; log u X u du u X f d           6 2 4 2 2 2 1 , ; log        X du u X f d             2 2 2 , ; log du u X f d E I   4 2 1       2 2   I f  2 1  
Sedangkan nilai non-informatif prior untuk   c f   (konstan) diperoleh [3]
  2 1    f

## 3. Pembahasan Distribusi Posterior
Setelah mencari fungsi likelihood dan menentukan distribusi prior dari distribusi normal  maka dapat dicari distribusi posteriornya sebagai berikut:
                   
0 2 2 2 2 2 , , ,             d d f L f L x f
                                                                2 1 2 1 2 2 2 1 exp 2 2 1 2 2 1 2 1 2 2 1 2 2 2 n s n n x n n n i i n n                                                                       n i i n n x n s n n 1 2 2 1 2 2 1 2 1 2 2 1 2 1 exp 2 1 2 1 2    
Distribusi Posterior Marginal untuk 2 
Jika   x f 2 ,   dan  merupakan  distribusi  posterior  yang  sudah  terbentuk  maka distribusi posterior marginal untuk 2  adalah:
        d x f x f      2 2 ,                                                            2 2 1 2 1 2 1 2 1 2
2 1 exp 2 1 2 1   s n n s n n n ;
Jadi nilai distribusi posterior marginal untuk 2  yang terbentuk   x f 2  adalah distribusi Invers Gamma dengan nilai  
2 1   n  dan  
2 1 2 s n                  2 1 , 2 1 ~ 2 2 s n n IG x f 
Interval Kepercayaan untuk 2 
Menurut [7] ,  jika    , ~ k Gamma Invers X  maka
   1 , ~ 1 k Gamma X .  Berdasar
M.D  Anderson  Cancer  Center,  maka  distribusi  posterior  dapat  ditulis  dalam  bentuk distribusi gamma sebagai             2 2 1 2 , 2 1 ~ 1 s n n Gamma        n i i x x 1 2 2 2 1   berdistribusi Chi-Square dengan derajat bebas 1  n , kemudian akan disusun interval  kepercayaan  untuk  variansi   2  .Interval  konfidensi   % 100 1   untuk
2  adalah:
        1 1 2 2 1 2 2 2 2 1 1 2            n x x n x x n i i n i i     

## Distribusi Marginal untuk 
Jika   x f 2 ,   merupakan distribusi posterior yang sudah terbentuk maka distribusi marginal untuk  adalah     2 0 2 2 ,      d x f x f                 1 1 2 1 2 2 1 1 1 1 2 1 , 2 1    
                          n s n x n n n n s 
 Jika  nilai   n s x t    maka     1 ~  n t x f 
Interval Kepercayaan untuk 
Interval konfidensi   % 100 1   untuk  adalah         1 0 0 H terima P                     1 1 1 2 2 n t t n t P     1 1 2 2       n t t n t         1 1 2 2        n t n s x n t          1 1 2 2        n t n s x n t n s        1 1 2 2           n t n s x n t n s x        1 1 2 2        n t n s x n t n s x        1 1 2 2        n t n s x n t n s x   
Estimator  Distribusi  Normal  Menggunakan  Metode Maximum  Likelihood  Estimator (MLE)
Misal n X X X ,..., , 2 1 merupakan sampel random dari distribusi normal dengan mean  dan  variansi 2  .  Dengan  menggunakan  metode  maksimum  likelihood  dapat  dicari estimator titik untuk  dan 2  .   2 , ~   N X i , maka fungsi densitasnya adalah:
 
                 2 2 2 1 exp 2 1 , ;       i i x x f
Fungsi Likelihood:
       n i i x f L 1 2 2 , ; ,         
                 n i i x 1 2 2 / 1 2 2 1 exp 2                           2 2 2 / 1 2 2 1 2 2 / 1 2 2 1 exp 2 .... 2 1 exp 2       n x x                 n i i n x 1 2 2 2 / 2 2 1 exp 2    Log Likelihood:     2 , log   L l             n i i x n n 1 2 2 2 2 1 log 2 2 log 2         l 0 ˆ  x x n n i i     1 1 ˆ      l 0 ˆ 2        n i i x x n 1 2 2 1 ˆ 
Uji  Hipotesis  Distribusi  Normal  untuk  Parameter  Mean  dan  Varian 2  Tidak Diketahui dengan Generilized Likelihood Ratio Test (GLRT)
Misal n X X X ,..., , 2 1 merupakan sampel random dari distribusi normal dengan mean  dan  variansi 2  keduanya  tidak  diketahui.  Sehingga  bisa  ditentukan  uji  hipotesisnya dengan uji rasio likelihood (GLRT).
Misal ditentukan uji hipotesis untuk  adalah
0 0 :    H 0 1 :    H
Penyelesainnya:   2 , ~   N X i , maka fungsi densitasnya adalah:
                   2 2 2 1 exp 2 1 , ;       i i x x f Densitas bersama dari n X X X ,..., , 2 1 adalah:       2 2 1 2 2 1 , ; .... , ; , , ; ,..., ,       n n x f x f x x x f       
                 2 2 2 / 1 2 2 1 2 2 / 1 2
2 1 exp 2 .... 2 1 exp 2       n x x
                n i i n x 1 2 2 2 / 2
2 1 exp 2   
Telah diperoleh dari estimator maksimum likelihood bahwa:
x   ˆ dan       n i i x n 1 2 2 1 ˆ   Untuk 0    maka:
0 0     dan        n i i x n 1 2 0 2 1 0                                              n i i n i i n n i i n n x x n x x x x n x x x f 1 2 1 2 2 1 2 2 / 2 2 1 1 2 exp 1 2 , ; ,..., , max                         2 exp 1 2 2 1 2 2 / n x x n n n i i n        2 2 1 2 2 1 0 2 1 , ; ,..., , max , ; ,..., , max ,..., ,        n n n x x x f x x x f x x x                                             2 exp 1 2 2 exp 1 2 2 1 2 2 / 2 1 2 0 2 / n x x n n x n n n i i n n n i i n        2 1 2 1 2 0 n n i i n i i x x x                            2 1 2 1 2 0 2 n n i i n i i x x x n x x                            2 1 2 2 0 1 n n i i x x x n                            2 1 2 2 0 1 1 1 1 n n i i x x n n x n 
      
             
  2 2 1 1 1 n t n           Dengan / 0 n s x t    dan          n i i x x n s 1 2 1 1
Untuk
      2 2 1 2 2 1 0 2 1 , ; ,..., , max , ; ,..., , max ,..., ,        n n n x x x f x x x f x x x        2 2 1 1 1 n t n          
Tolak 0 H jika   k x x x n  ,..., , 2 1    k t n n           2 2 1 1 1   1 2 1 1 1 k t n    dengan n k k 2 1   c t  2 dengan    1 1 1    n k c
Sehingga GLRT:
  { 2 , 1 , 0 2 1 ,..., , c T lainnya yang n x x x   
Dengan c ditentukan dari:      c T P 2         c F P n 1 , 1
Karena 1 0 ~    n t n s x T  maka GLRT dapat dinyatakan dengan:
Tolak 0 H jika 1 0    n t n s x  atau 1 0     n t n s x 
Misal ditentukan uji hipotesis untuk 2  adalah 2 0 2 0 :    H 2 0 2 1 :    H dengan 0 2
0  
Untuk 0    maka: x   0  dan 2 0 2 0                  
               2 0 1 2 2 2 0 2 / 2 2 1 0 2 exp 2 , ; ,..., , max       n i i n n n x x x x x f
Untuk    maka:
x    dan 2 2 S   
                             2 1 2 2 2 2 / 2 2 1 2 exp 2 , ; ,..., , max
S x x S x x x f n i i n n n     dimana      2 2 1 x x n S i          
                            2 2 2 2 2 / 2 0 2 2 2 0 2 / 2 2 1 2 2 1 0 2 1 2 exp 2 2 exp 2 , ; ,..., , max , ; ,..., , max ,..., , S nS S nS x x x f x x x f x x x n n n n n n n                                    n nS S n 2 0 2 2 2 0 2 2 1 exp  
Tolak 0 H jika   k x  ~  k n nS S n                         2 0 2 2 2 0 2 2 1 exp   atau c nS  2 0 2  dengan   n k c    2 2
Sehingga GLRT:
  { 2 0 2 , 1 , 0 2 1 ,..., , c nS lainnya yang n x x x    
Dengan c ditentukan dari:
          c nS P 2 0 2 Karena   2 1 2 0 2 ~  n ns   maka GLRT dapat dinyatakan dengan:
Tolak 0 H jika   1 2 2 2 0 2   n ns    atau   1 2 2 1 2 0 2    n ns   
Sehingga terdapat hubungan yang kuat antara uji hipotesis dan interval konfidensi. Secara umum  dapat  dikatakan  bahwa  interval  konvidensi  berkorespondensi  dengan  uji  hipotesis dan sebaliknya. Sehingga akan menghasilkan interval kepercayaan untuk  , yaitu
    1 1 2 2       n t n s x n t n s x   
Interval kepercayaan untuk 2  :         1 1 2 2 1 2 2 2 2 1 1 2            n x x n x x n i i n i i     
4. Kesimpulan
Penentuan inferensi statistik dari distribusi normal dengan parameter mean ( ) dan varian  ( )  dengan  keduanya  tidak  diketahui  menggunakan  metode  bayes  yang dibandingkan terhadap metode maksimum likelihood dalam kasus ini ternyata memberikan uji hipotesis yang sama.

## DAFTAR PUSTAKA
1.  Albert, J., Bayesian Computation with R Second Edition , Springer Scince, USA, 2009. 2.  Bolstad,  W.M., Introduction  to  Bayesian  Statistics  Second  Edition ,  A  John  Wiley  & Sons Inc, America, 2007.
3.  Box,  G.E.P  and  Tiao,  G.C., Bayesian  Inference  In  Statistical  Analysis ,  Addision- Wesley Publishing Company, Inc, Philippines, 1973.
4.  Pollard,  W.E., Bayesian  Statistics  for  Evaluation  Research ,  Sage  Publication,  Inc: California, 1986.
5.  Walpole,  R.  E  dan  Myers,  R.  H., Ilmu  Peluang  dan  Statistika  untuk  Insinyur  dan Ilmuwan , Terbitan Kedua, ITB, Bandung, 1986.
6.  Walpole,  R.  E., Pengantar  Statistika  Edisi  ke-3 ,  PT  Gramedia  Pustaka  Utama, Jakarta, 1993.
7. _______, M.D.  Anderson  Cancer  Center, Parameter  Solver,  Version  2.3  User’s Guide ,  University  of  Texas.  Department  of  Biostatistics  and  Applied  Mathematics. URL: http://biostatistics.mdanderson.org/SoftwareDownload/, (diakses pada tanggal 10 Maret 2010).