Akaike information criterion

Akaike information criterion (AIC) (dibacana ah-kah-ee-keh), dimekarkeun Professor Hirotsugu Akaike (赤池 弘次) (1927-) dina 1971 sarta diusulkeun dina taun 1974, nyaéta model statistik ukuran fit. modél ieu ngitung goodness-of-fit relatif tina sababaraha model statistik nu aya saméméhna nu mana sampel data geus aya. modél ieu maké rarangka gawe analisa informasi nu taliti dumasar kana konsép entropy. Ide satukangeun AIC ieu nyaéta ku ayana karuwetan dina modél nu babarengan jeung datangna data séjén kana modél tur ngahadilkan ukuran di antara duanana.

Rumusan AIC nyaéta , nu mana k nyaéta jumlah parameters, jeung L nyaéta fungsi likelihood.

Ilaharna, eror sebaran normal diasumsikeun sarta diitung maké rumus , numama n nyaéta lobana observasi jeung RSS nyaéta sesa kuadrat kasalahan.

modél nu loba parameterna bakal nembongkeun fit nu alus kana data, tapi bakal mibanda tingkat kabebasan nu saeutik tur pamakéan nu heureut. Kasaimbangan ieu bakal nyababkeun overfitting. Dina kaayaan ieu leuwih hadé dipilih modél nu mibanda nilai AIC pangleutikna.métodeuAIC nyoba keur nangtukeun modél minimal nu nerangkeun data kalayan bener, nu mungkin béda jeung métodeu  nu leuwih tradisional dina nyieun modél, sapertinu mimiti tina null hypothesis.

Variasi tina AIC kaasup AICc, QAIC, jeung QAICc.

AICc leuwih hadé tinimbang AIC lamun ukuran sampel, n, saeutik. Rumus AICc nyaéta:

AICc = AIC + 2k(k + 1) / (n - k - 1), or

AICc = -2ln(L) + 2k(n / (n - k - 1)).

Sabab AICc konvergen jeung AIC keur n nu loba, disarankeun sacara praktis maké AICc dina unggal kasus ( Burnham and Anderson, 2004).

QAIC dideukeutkeun keur over-dispersion atawa teu pas dina fit, saperti dihartikeun:

QAIC = -[2ln(L)/c] + 2k,

nu mana c mangrupa faktor inflation.

Keur ukuran sample nu leutik QAIC nyaéta:

QAICc = QAIC + 2k(k + 1) / (n - k - 1).

métodeu  ieu loba dimekarkeun di widang séjén saperti dina widang téhnik sipil, upamana dina widang géotéhnik, saperti Akaike Bayesian Information Criterion jeung Extended Bayesian Method.

Rujukan 

 
 Burnham, K.P., and D.R. Anderson. 2002. modél Selection and Multimodél Inference: A Practical-Théoretic Approach, 2nd Edition. Springer, New York. ISBN 0-387-95364-7. 
 Burnham, K.P., and D.R. Anderson. 2004. Multimodél Inference: understanding AIC and BIC in modél Selection, Amsterdam Workshop on modél Selection (available online: PDF )
 Yusuke Honjo and Budhi Setiawan. 2004. On selection of a prior distribution in inverse analysis by Akaike Bayesian Information Criterion.Journal of Applied Mechanic JSCE, vol. 7. no. 1-2004 p. 145 - 154 in Japanese

Tempo ogé
 Bayesian information criterion
 deviance information criterion
 Kullback-Leibler divergence
 Occam's Razor

Tumbu kaluar 
 http://www.garfield.library.upenn.edu/classics1981/A1981MS54100001.pdf

Statistika
Econometrics