**Markov katea** grafo baten bitartez irudika daiteke. Irudian, artikuluko adibideko Markoven kateari dagokion grafoa: E, euria; A, ateri. Puntu batetik ateratzen diren probabilitateen batura 1 izan behar da.
Probabilitate-teorian, **Markov katea** aldi bakoitzean
multzo diskretu eta finko bateko
*i* egoera batetik *j* egoera batera aldatzeko *pij* probabilitate konstanteak dituen prozesu estokastiko bat da,
hasiera batean egoera bakoitzean izateko probabilitateak ere zehazten dituena. Nabarmendu behar da egoera jakin
batera aldatzeko probabilitatea aurreko aldiko egoeraren mendean dagoela soilik. Prozesu hauek Andrei Markov matematikariaren izena hartzen dute, bera izan baitzen horiek aztertu zituen lehena.

Adibidez, toki batean egun bakoitzean euria egiteko probabilitatea bezperan euria egin zuen mendean dago.
Bezperan euria egin bazuen, biharamunean euria egin eta ateri izateko probabilitateak
0.3 eta 0.7 dira, hurrenez hurren. Aldiz, bezperan ateri izan bazen, biharamunean euria eta ateri
izateko probabilitateak 0.4 eta 0.6 dira. Horrela, prozesu honi dagokion Markov katea honela
irudika daiteke, matrize bat erabiliz, errenkadek bezpera eta zutabeak biharamuna adierazten dutelarik:

  

{\displaystyle {\begin{bmatrix}p(biharamuna\ euria/bezpera\ euria)&p(biharamuna\ ateri/bezpera\ euria)\\p(biharamuna\ euria/bezpera\ ateri)&p(biharamuna\ euria/bezpera\ ateri)\\\end{bmatrix}}={\begin{bmatrix}0.3&0.7\\0.4&0.6\\\end{bmatrix}}}
Arestian agertzen direnak P(A/B) baldintzapeko probabilitateak dira: B gertatu dela jakinda, A gertatzeko probabilitatea alegia. Adibidean horrela planteatuta, biharamun bateko eguraldia bezperako eguraldiaren mendean dago soilik, Markoven kateen propietatea errespetatuz.

Markov kateen azterketaz denboran zehar gertatzen den bilakaeraren ezaugarri eta propietateak ezagutuko dira,
esaterako ohikoa da kateak izan dezakeen banaketa egonkorra kalkulatzea, epe luzera
(kontuan hartu gabe zein alditan den) egoera bakoitzean izateko probabilitateak zehaztea. Emandako adibidean, banaketa egonkorrak
epe luzera, eguna zehaztu gabe, edozein egunetan euria egin eta ateri izateko probabilitateak adieraziko lituzke, gaur egunetik behatuta.

Oinarrizko kontzeptu eta kalkuluak
----------------------------------

Egoera batetik bestera aldatzeko probabilitateei **trantsizio-probabilitate** deritze eta *p( j / i )=pij* izendatzen dira
eta *i* lerro eta *j* errenkada dituen {\displaystyle \mathbf {p} } matrize baten bitartez irudika daitezke. Matrizeko errenkadetako probabilitateen batura 1 izan behar da. Hasiera batean egoera bakoitzean izateko probabilitateak **hasierako banaketa** deritze eta {\displaystyle \mathbf {\pi \_{0}} =\pi \_{i0}} *i* elementuko bektore batez adierazten da.
*i* edo *j* egoera posible guztiek *S* **egoera-espazioa** osatzen dute.

Hasierako 0 aldi batetik begiratuta, n-garren aldian egoera bakoitza suertatzeko probabilitateak honela kalkulatzen dira,
i-tik j-ra heltzeko bide edo bilakaera posible guztien probabilitateak batuz:

  

{\displaystyle \mathbf {\pi \_{n}} =\mathbf {\pi \_{0}} \mathbf {p} ^{n}}

  

Adibidez, gaur, astelehena, euria egin eta ateri izateko probabilitateak 0.2 eta 0.8 izanik eta arestiko adibideko trantsizio-probabilitateak harturik,
asteazkenean (bi egunetara, alegia) euria eta ateri izateko probabilitateak 0.362 eta 0.368 dira hurrenez hurren eta honela kalkulatzen dira:

  

{\displaystyle {\begin{bmatrix}0.2&0.8\\\end{bmatrix}}{\begin{bmatrix}0.3&0.7\\0.4&0.6\\\end{bmatrix}}{\begin{bmatrix}0.3&0.7\\0.4&0.6\\\end{bmatrix}}={\begin{bmatrix}0.362&0.638\\\end{bmatrix}}}

  

Trantsizio-probabilitateen matrizea behin eta berriz biderkatuz, ondokoak ez diren
egun ezberdinetako trantsizio probabilitateak lor daitezke. Adibidez, egun batetik besterako trantsizio-
probabilitateak hartuz, egun batetik hiru egunetarako trantsizio probabilitateak hauek dira:

  

{\displaystyle {\begin{bmatrix}0.3&0.7\\0.4&0.6\\\end{bmatrix}}{\begin{bmatrix}0.3&0.7\\0.4&0.6\\\end{bmatrix}}{\begin{bmatrix}0.3&0.7\\0.4&0.6\\\end{bmatrix}}={\begin{bmatrix}0.363&0.637\\0.364&0.636\\\end{bmatrix}}}

  

Horrela adibidez, gaur euria egiten badu, etzidamu (hiru egunetara) euria egiteko probabilitatea 0.363 da.

Banaketa egonkorrak
-------------------

Epe luzera, *n* aldi askotara behatuta alegia, egoera bakoitzean izateko probabilitateak aldi batetik bestera aldatzen ez direnean, egoera egonkor batera heldu dela esaten da. Egoera egonkor honetako probabilitateak edo banaketa egonkorra honela kalkulatzen da:

  

{\displaystyle \mathbf {\pi } =\mathbf {\pi } \mathbf {p} }.
Izan ere, egoera egonkorrean egoera bakoitzean izateko probabilitateak, gaur egunetik behatuta, ez daude gaur egunetik igarotzen den egun kopuruaren mendean.

Arestiko adibidean,

  

{\displaystyle {\begin{bmatrix}p&q\\\end{bmatrix}}{\begin{bmatrix}0.3&0.7\\0.4&0.6\\\end{bmatrix}}={\begin{bmatrix}p&q\\\end{bmatrix}}}

  

Biderketak eginez ekuazio hauek sortzen dira:

  

{\displaystyle 0.3p+0.4q=p\,}
{\displaystyle 0.7p+0.6q=q\,}

  

Eta hauetatik: {\displaystyle p=0.3636;\ q=0.6363\,}. Hau da, epe luzera egun batean euria egin eta ateri izateko probabilitateak 0.3636 eta 6363 dira hurrenez hurren, gaurtik zenbatgarren eguna den kontuan hartu gabe. p+q=1 betetzen dela ere egiazta daiteke, {\displaystyle \mathbf {p} \,} bektore guztietan bezalaxe Egoera egonkorreko epe luzeak zenbat aldi hartzen dituen ezin da zehaztu: adibide honetan, egun gutxi batzuk izan daitezke edota probabilitate horiek egun askotara soilik gerta daitezke.

Kanpo estekak
-------------

|  |  |
| --- | --- |
| Autoritate kontrola | 
* **Wikimedia proiektuak**
* Wd Datuak: Q176645
* Commonscat Multimedia: Markov chains

---

* **Identifikadoreak**
* GND: 4037612-6
* LCCN: sh85081369
* **Hiztegiak eta entziklopediak**
* Britannica: url
* **Medikuntzako identifikadoreak**
* MeSH: D008390

 |

* Wd Datuak: Q176645
* Commonscat Multimedia: Markov chains