Markov zinciri

Matematikte, Markov Zinciri (Andrey Markov'un adına atfen), Markov özelliğine sahip bir stokastik süreçtir. Markov özelliğine sahip olmak, mevcut durum verildiğinde, gelecek durumların geçmiş durumlardan bağımsız olması anlamına gelir. Bir başka deyişle, mevcut durumun açıklaması, sürecin gelecekteki evrimini etkileyebilecek tüm bilgiyi kapsar. Gelecek durumlara belirli bir şekilde değil, olasılıksal bir süreçle ulaşılacaktır.
Her bir anda sistem belirli bir olasılık dağılımına bağlı olarak kendi durumunundan başka bir duruma geçebilir yahut aynı durumda kalabilir. Durumda olan değişiklikler geçiş olarak bilinir ve çeşitli durum değişmeleriyle ilişkili olasılıklar da geçiş olasılıkları olarak adlandırılır.
Markov zincirine bir örnek basit rastgele yürüyüş olur. Basit rastgele yürüyüş için durum uzayı bir gösterim üstünde bir grup köşeler halindedir. Geçiş aşamaları ise (yürüyüşün geçmişinde ne olmuş olursa olsun) cari köşeden herhangi bir komşu köşeye gitmeyi kapsar. Cari köşeden herhangi bir komşu köşeye gitme olasılığı hep aynı olup birbirine eşittir.
Tanımı
Markov zincir Markov özelliğini taşıyan, yani mevcut durum verilmiş olursa geçmiş ve gelecek durumların bağımsız olduğu, ardı ardına gelen, X1, X2, X3, ... ile ifade edilen, bir seri rassal değişkendir. Matematiksel biçimle
Xi'in mümkün değerleri, S olarak ifade edilen ve zincirin durum uzayı adı verilen sayılabilir bir set oluşturur.
Çok kere Markov zincirleri bir yönlendirilmiş gösterim ile tanımlanmaktadır ve bu gösterimde kenar doğrular bir durumdan diğer bir duruma geçiş olasılıkları ile tanıtılmaktadır.
Çeşitlemeleri
Sürekli-zaman Markov sürecinin sürekli bir endeksi bulunur.
Zaman içinde homojen Markov zincirleri zamana göre homojen olan geçiş olasılıkları bulunan Markov zincirleridir ve tüm n değerleri için
olan süreçlerdir.
m sonlu bir sayı ise, bir m dereceli bir Markov zinciri (yani m bellekli bir Markov zinciri) için tüm n değerleri için şu ifadeler verilebilir:
'Klasik' Markov özelliği olan (Xn)den yeni bir (Yn) zincirinin şöyle kurulması mümkündür: Yn sıralamalı m-boyutlu X değerlerinden şöyle kurulsun:
Yn = (Xn, Xn-1, ..., Xn-m+1)
O zaman Yn, durum uzayı Sm olan ve klasik Markov özelliği bulunan bir Markov zinciri olur.
Örnek
Markov zincirlerinin özellikleri
İndirgenebilirlik
Dönemsellik
Tekrarlama
Eğer i durumdan başladığımız bilindiği halde, i durumuna hiçbir zaman dönme imkanı yaratmayan bir sıfıra eşit olamayan olasılık bulunuyorsa i durumu geçiş durum olarak nitelendirilir. Daha matematik biçimle ve notasyonla bir rassal değişken olan Ti i durumuna ilk geri dönüş zamanı (vurma zamanı') olsun; yani

Bu halde i durumu geçişli olması için ancak ve ancak

olmalıdır.
Eğer bir durum i geçişli değilse (yani 1 olasılıkla bir sonlu olan vurma zamanına sahipse), o halde i durumu yinelenen veya ısrarlı durum olarak adlandırılır. Vurma zamanı sonlu olmakla beraber bir sonlu beklenen değeri bulunması gerekmez. Mi beklenen geri dönüş zamanı, yani

olsun. O halde eğer Mi sonlu ise i durumu da pozitif yinelenen olur; aksi halde i durumu sıfır yinelenen olacaktır; bu durumlara aynı sırayla sıfır olmayan ısrarlı veya sıfır ısrarlı durum adları da verilir.
Bir durumun yinelenen olması ancak ve sadece ancak

ifadesi gerçekse ortaya çıkacağı ispatlanamıştır.
Eger durum i yi girdikten sonra hiçbir zaman o durumdan çıkmak mümkün değilse, i durumu yutan durum olarak adlandırılır. Bu halde i durumu yutan durum olması için ancak ve sadece ancak şu koşulu sağlaması gerekir;
and for
Ergodiklik
P geçiş matrisinde tüm durumlar birbirleri arasında geçiş sağlayabiliyorsa bu zincire ergodik markov zinciri denir.
üstteki P matrisi ergodik bir markov zinciridir.
üstteki P matrisi ise ergodik bir markov zinciri değildir. Sebebi ise 4. duruma hiçbir şekilde varılamamaktadır.
Sonlu durum uzayında Markov zincirleri
Tersinebilir Markov zincirleri
Bernoulli şeması
Genel durum uzayında Markov zincirleri
Uygulamalar
Fizik
Sınama
Kuyruk kuramı
İnternet uygulamaları
Google'in kullandığı internet sayfalarının PageRank'i Markov zinciri ile tanımlanmaktadır. Markov zincirinde durağan dağılımda tüm bilinen internet sayfaları arasından sayfasında bulunma olasılığıdır. Eğer bilinen internet sayfaları ise ve sayfası bağlantısına sahip ise, o zaman bağlantılı olduğu tüm sayfalar için ve bağlantısı olmadığı tüm sayfalar için geçiş olasılığına sahiptir. parametresi yaklaşık 0.15 olarak alınmıştır.
Markov modelleri aynı zamanda kullanıcıların internet gezinti davranışlarını analiz etmek için de kullanılmıştır. Bir kullanıcının bir internet sayfasından web bağlantısı ile geçişi, birincil ya da ikincil Markov modelleri ile modellenebilir ve gelecekteki hareketleri öngörmede ve dolayısıyla internet sayfasını kullanıcı için kişiselleştirme de kullanılabilir.
İstatistik
İktisat
Matematiksel biyoloji
Müzik
Beyzbol
Markov parodi üreticileri
Tarihçe