Markov kate

Probabilitate-teorian, Markov katea aldi bakoitzean
multzo diskretu eta finko bateko
i egoera batetik j egoera batera aldatzeko pij probabilitate konstanteak dituen prozesu estokastiko bat da,
hasiera batean egoera bakoitzean izateko probabilitateak ere zehazten dituena. Nabarmendu behar da egoera jakin
batera aldatzeko probabilitatea aurreko aldiko egoeraren mendean dagoela soilik. Prozesu hauek Andrei Markov matematikariaren izena hartzen dute, bera izan baitzen horiek aztertu zituen lehena.

Adibidez, toki batean egun bakoitzean euria egiteko probabilitatea bezperan euria egin zuen mendean dago.
Bezperan euria egin bazuen, biharamunean euria egin eta ateri izateko probabilitateak
0.3 eta 0.7 dira, hurrenez hurren. Aldiz, bezperan ateri izan bazen, biharamunean euria eta ateri
izateko probabilitateak 0.4 eta 0.6 dira. Horrela, prozesu honi dagokion Markov katea honela
irudika daiteke, matrize bat erabiliz, errenkadek bezpera eta zutabeak biharamuna adierazten dutelarik:

Arestian agertzen direnak P(A/B) baldintzapeko probabilitateak dira: B gertatu dela jakinda, A gertatzeko probabilitatea alegia. Adibidean horrela planteatuta, biharamun bateko eguraldia bezperako eguraldiaren mendean dago soilik, Markoven kateen propietatea errespetatuz.

Markov kateen azterketaz denboran zehar gertatzen den bilakaeraren ezaugarri eta propietateak ezagutuko dira,
esaterako ohikoa da kateak izan dezakeen banaketa egonkorra kalkulatzea, epe luzera
(kontuan hartu gabe zein alditan den) egoera bakoitzean izateko probabilitateak zehaztea. Emandako adibidean, banaketa egonkorrak
epe luzera, eguna zehaztu gabe, edozein egunetan euria egin eta ateri izateko probabilitateak adieraziko lituzke, gaur egunetik behatuta.

Oinarrizko kontzeptu eta kalkuluak 

Egoera batetik bestera aldatzeko probabilitateei trantsizio-probabilitate deritze eta p( j / i )=pij izendatzen dira
eta i lerro eta j errenkada dituen  matrize baten bitartez irudika daitezke. Matrizeko errenkadetako probabilitateen batura 1 izan behar da. Hasiera batean egoera bakoitzean izateko probabilitateak hasierako banaketa deritze eta  i elementuko bektore batez adierazten da.
i edo j egoera posible guztiek S egoera-espazioa osatzen dute.

Hasierako 0 aldi batetik begiratuta, n-garren aldian egoera bakoitza suertatzeko probabilitateak honela kalkulatzen dira,
i-tik j-ra heltzeko bide edo bilakaera posible guztien probabilitateak batuz:

Adibidez, gaur, astelehena, euria egin eta ateri izateko probabilitateak 0.2 eta 0.8 izanik eta arestiko adibideko trantsizio-probabilitateak harturik,
asteazkenean (bi egunetara, alegia) euria eta ateri izateko probabilitateak 0.362 eta 0.368 dira hurrenez hurren eta honela kalkulatzen dira:

Trantsizio-probabilitateen matrizea behin eta berriz biderkatuz, ondokoak ez diren
egun ezberdinetako trantsizio probabilitateak lor daitezke. Adibidez, egun batetik besterako trantsizio-
probabilitateak hartuz, egun batetik hiru egunetarako trantsizio probabilitateak hauek dira:

Horrela adibidez, gaur euria egiten badu, etzidamu (hiru egunetara) euria egiteko probabilitatea 0.363 da.

Banaketa egonkorrak 

Epe luzera, n aldi askotara behatuta alegia, egoera bakoitzean izateko probabilitateak aldi batetik bestera aldatzen ez direnean, egoera egonkor batera heldu dela esaten da. Egoera egonkor honetako probabilitateak edo banaketa egonkorra honela kalkulatzen da:

.

Izan ere, egoera egonkorrean egoera bakoitzean izateko probabilitateak, gaur egunetik behatuta, ez daude gaur egunetik igarotzen den egun kopuruaren mendean.

Arestiko adibidean,

Biderketak eginez ekuazio hauek sortzen dira:

Eta hauetatik: . Hau da, epe luzera egun batean euria egin eta ateri izateko probabilitateak 0.3636 eta 6363 dira hurrenez hurren, gaurtik zenbatgarren eguna den kontuan hartu gabe. p+q=1 betetzen dela ere egiazta daiteke,  bektore guztietan bezalaxe Egoera egonkorreko epe luzeak zenbat aldi hartzen dituen ezin da zehaztu: adibide honetan, egun gutxi batzuk izan daitezke edota probabilitate horiek egun askotara soilik gerta daitezke.

Kanpo estekak 

Probabilitatea
Ausazko testu sorkuntza