Kufiri Cramér–Rao

Në teorinë e vlerësimit dhe statistikë, kufiri Cramér–Rao ( CRB ) lidhet me vlerësimin e një parametri përcaktues (fiks, megjithëse i panjohur). Rezultati është emërtuar për nder të Harald Cramérit dhe C. R. Raos,    por gjithashtu është nxjerrë në mënyrë të pavarur nga Maurice Fréchet,  Georges Darmois,  dhe nga Alexander Aitken dhe Harold Silverstone .   Njihet gjithashtu si kufiri i poshtëm Fréchet-Cramér–Rao ose Fréchet-Darmois-Cramér-Rao. Ai pohon se saktësia e çdo vlerësuesi të paanshëm është e shumta sainformacioni i Fisherit ; ose (në mënyrë të njëvlerëshme) reciprokja e informacionit Fisher është një kufi më i ulët në variancën e tij.

Një vlerësues i paanshëm që e arrin këtë kufi thuhet se është (plotësisht) efikas . Një zgjidhje e tillë arrin gabimin në katror të mesataruar më të ulët të mundshëm midis të gjitha metodave të paanshme, dhe për këtë arsye është vlerësuesi minimal i variancës së paanshme (VMVP). Megjithatë, në disa raste, nuk ekziston asnjë teknikë e paanshme që arrin kufirin. Kjo mund të ndodhë ose nëse për çdo vlerësues të paanshëm, ekziston një tjetër me një variancë rreptësisht më të vogël, ose nëse ekziston një vlerësues MVU, por varianca e tij është rreptësisht më e madhe se anasjellta e informacionit Fisher.

Kufiri Cramér–Rao mund të përdoret gjithashtu për të kufizuar variancën e vlerësuesve biased të paragjykimit të dhënë. Në disa raste, një qasje e njëanshme mund të rezultojë në një variancë dhe një gabim mesatar në katror që janë below kufirin e poshtëm të paanshëm Cramér–Rao; shih zhvendosjen e vlerësuesit .

 Deklarata 

 Rasti skalar i paanshëm 
Supozoni  është një parametër i panjohur përcaktues  i cili duhet vlerësuar nga  vëzhgimet (matjet) e pavarura të , secila nga një shpërndarje sipas disa funksioneve të densitetit të probabilitetit  . Varianca e çdo vlerësuesi të paanshëm  e  më pas kufizohet  nga ana reciproke e informacionit Fisher  :



ku informacioni i Fisherit  është përcaktuar nga



dhe  është logaritmi natyror i funksionit të gjasave për një kampion të vetëm  dhe  tregon vlerën e pritur në lidhje me densitetin  e  . Nëse nuk tregohet, në atë që vijon, pritshmëria merret në lidhje me  .

Nëse  është dy herë i diferencueshëm dhe ekzistojnë kushte të caktuara të rregullsisë, atëherë informacioni i Fisherit mund të përcaktohet gjithashtu si më poshtë: 



Efikasiteti i një vlerësuesi të paanshëm  mat sa afër është varianca e këtij vlerësuesi me këtë kufi të poshtëm; efikasiteti i vlerësuesit përcaktohet si



ose variancën minimale të mundshme për një vlerësues të paanshëm pjesëtuar me variancën e tij të tanishme. Pra, kufiri i poshtëm Cramér–Rao jep

  .

 Rasti i përgjithshëm skalar 
Një formë më e përgjithshme e kufirit mund të merret duke marrë parasysh një vlerësues të njëanshëm , pritshmëria e të cilit nuk është  por një funksion i këtij parametri, të themi,  . Prandaj  në përgjithësi nuk është e barabartë me 0. Në këtë rast, kufiri jepet nga



ku  është derivat i  (nga  ), dhe  është informacioni i Fisherit i përcaktuar më sipër.

 Rasti me shumë variacione 
Zgjerimi i lidhjes Cramér–Rao në disa parametra, përcaktoni një vektor kolone parametri



me funksionin e densitetit të probabilitetit  që plotëson dy kushtet e rregullsisë më poshtë.

Matrica e informacionit Fisher është a  matricë me element  përcaktuar si



Le  të jetë një vlerësues i çdo funksioni vektorial të parametrave, , dhe shënoni vektorin e tij të pritjes  nga  . Lidhja Cramér-Rao më pas thotë se matrica e kovariancës së  kënaq

  ,


ku

 Mosbarazimi i matricës  kuptohet se matrica  është e gjysmëpërcaktuar pozitive, dhe
  është matrica jakobiane e së cilës  elementi jepet nga  .

Nëse  është një vlerësues i paanshëm i  (dmth,  ), atëherë kufiri Cramér–Rao reduktohet në



 Kushtet e rregullsisë 
Kufiri mbështetet në dy kushte të dobëta rregullsie mbi funksionin e densitetit të probabilitetit, , dhe vlerësuesin  :

 Informacioni i Fisherit është gjithmonë i përcaktuar; në mënyrë të barabartë, për të gjitha  sikurse  , 
 Veprimet e integrimit në lidhje me  dhe diferencimi në lidhje me  mund të ndërrohen në pritshmërinë e  ; kjo eshte, 

 Një provë e pavarur për rastin e përgjithshëm skalar 
Supozojmë se  është një vlerësues me pritshmëri  (bazuar në vëzhgimet  ), pra atë  . Qëllimi është që ta vërtetojmë këtë për të gjithë  ,



Le  të jetë një ndryshore e rastit me funksion të densitetit të probabilitetit  . Këtu  është një statistikë, e cila përdoret si vlerësues për  . Përcaktoni  si rezultat :



ku rregulli i zinxhirit përdoret në barazinë përfundimtare të mësipërme. Pastaj pritshmëria e , shkruar , është zero. Kjo është për shkak se:



ku derivati integral dhe i pjesshëm kanë këmbyer vendet (justifikohet me kushtin e dytë të rregullsisë).

Nëse marrim parasysh kovariancën  e  dhe , ne kemi , sepse  . Duke e zgjeruar këtë shprehje kemi



përsëri sepse veprimet e integrimit dhe diferencimit ndërrohen (kushti i dytë).

Mosbarazimi Cauchy–Schwarz tregon këtë:



prandaj



që vërteton propozimin.

 Shembuj 

 Shpërndarja normale me shumë variacione 
Për rastin e një shpërndarje normale <i id="mwATI">d</i> -variate



matrica e informacionit të Fisherit ka elemente 



ku "tr" është gjurma .

Për shembull, le  të jetë një shembull i  vëzhgime të pavarura me mesatare të panjohur  dhe variancën e njohur  .



Pastaj informacioni i Fisher është një skalar i dhënë nga



dhe kështu kufiri Cramér–Rao jepet si



 Variancë normale me mesataren e njohur 
Supozoni se X është një ndryshore e rastit e shpërndarë normalisht me mesataren e njohur  dhe variancë të panjohur  . Merrni parasysh statistikën e mëposhtme:



Atëherë T është i paanshëm për , si  . Cila është varianca e T ?



(barazia e dytë rrjedh drejtpërdrejt nga përkufizimi i variancës). Termi i parë është momenti i katërt në lidhje me mesataren dhe ka vlerë  ; i dyti është katrori i variancës, ose  . Kështu



Tani, cili është informacioni i Fisher në vëzhgime. Kujtojmë se rezultati  përkufizohet si



ku  është funksioni i përgjasisë . Kështu në këtë rast,





ku barazia e dytë është nga llogaritja elementare. Kështu, informacioni në një vëzhgim të vetëm është vetëm minus pritshmëria e derivatit të , ose



Kështu informacioni në një mostër të  vëzhgimet e pavarura janë të drejta  herë kjo, ose 

Kufiri Cramér–Rao thotë se



Në këtë rast, mosbarazimi është i ngopur (barazia arrihet), duke treguar se vlerësuesi është efikas .

Megjithatë, ne mund të arrijmë një gabim mesatar më të ulët në katror duke përdorur një vlerësues të njëanshëm. Vlerësuesi



padyshim ka një variancë më të vogël, që është në fakt



Anshmëria e tij është



pra gabimi mesatar i tij në katror është



që është më pak se ajo që vlerësuesit e paanshëm mund të arrijnë sipas kufirit Cramér–Rao.
Kategoria:Faqe me përkthime të pashqyrtuara