pada model markov umum (vanilla/visible markov model), state-nya langsung dapat diamati, oleh karena itu probabilitas transisi state menjadi satu-satunya parameter.
di dalam model markov yang tersembunyi, state-nya tidak dapat diamati secara langsung, akan tetapi yang dapat diamati adalah variabel-variabel yang terpengaruh oleh state.
setiap state memiliki distribusi probabilitas atas token-token output yang mungkin muncul.
oleh karena itu rangkaian token yang dihasilkan oleh hmm memberikan sebagian informasi tentang sekuens state-state.
hidden markov model sangat populer diaplikasikan di bidang speech recognition dan bioinformatics.
diagram di atas menggambarkan arsitektur umum tentang hmm. masing-masing bentuk oval menggambarkan sebuah variabel acak (random variable) yang berisikan nilai.
variabel acak x(t) berisikan nilai sebuah variabel tersembunyi pada saat t. variabel acak y(t) berisikan nilai sebuah variabel yang dapat diamati (tidak tersembunyi) pada saat t.
anak panah menunjukkan ketergantungan kondisional.
dari diagram, jelas kiranya bahwa nilai x(t) hanya bergantung pada nilai x(t-1).
selain itu, nilai y(t) hanya bergantung pada x(t).
probabilitas barisan (sequence) yang teramati
probabilitas mengamati barisan y = y(0), y(1), ... , y(l-1), dengan panjang barisan l diberikan oleh persamaan:
di mana penjumlahannya meliputi seluruh node tersembunyi (hidden) pada barisan x = x(0), x(1), ... , x(l-1).
perhitungan kasar (brute force) p(y) termasuk intractable untuk masalah-masalah di dunia nyata, karena jumlah hidden node yang sangat besar (pada umumnya).
akan tetapi, perhitungan nya dapat sangat dipercepat menggunakan algoritma dynamic programming yang dinamai forward algorithm.
penggunaan hidden markov model
ada tiga permasalahan utama yang dapat diselesaikan hmm
sebuah contoh konkret
misalkan anda memiliki seorang kawan yang tinggal di tempat yang jauh, dan anda selalu berbicara dengannya setiap hari lewat telepon, tentang apa yang dia lakukan pada hari tersebut.
kawan anda hanya tertarik pada tiga macam aktivitas: berjalan di taman, berbelanja, dan membersihkan apartemen.
pilihan atas apa yang hendak dia lakukan hanya ditentukan berdasarkan cuaca pada hari tersebut.
anda tidak memiliki informasi yang sahih tentang cuaca di tempat kawan anda, tapi anda tahu kecenderungannya secara umum.
berdasarkan apa yang dia ungkapkan setiap hari, anda mencoba menebak seperti apa cuaca di sana.
anda mengasumsikan bahwa cuaca bergerak sebagai sebuah rantai markov diskret.
ada dua macam state: "hujan" dan "cerah", namun anda tidak dapat mengamatinya secara langsung (dengan kata lain, state ini tersembunyi dari anda).
pada setiap harinya, ada peluang tertentu bahwa kawan anda melakukan satu dari tiga aktivitas ini (bergantung dari cuaca di tempatnya) : "jalan-jalan"/'walk', "berbelanja"/'shop', atau "membersihkan"/'clean'.
pengamatan di sini adalah penyampaian informasi aktivitas yang dilakukan kawan anda. keseluruhan sistem dapat dianggap sebagai sebuah hidden markov model (hmm).
anggaplah anda tahu kecenderungan cuaca di daerah kawan tersebut, dan kecenderungan apa yang kawan anda lakukan (secara rata-rata).
dengan kata lain, parameter-parameter dari hmm sudah diketahui.
anda bisa menuliskannya di dalam bahasa pemrograman python:
states = ('rainy', 'sunny')
observations = ('walk', 'shop', 'clean')
start_probability = {'rainy': 0.6, 'sunny': 0.4}
transition_probability = {
'rainy' :dalam penggalan kode di atas, start_probability mewakili ketidakpastian tentang state mana hmm berada ketika kawan anda menelfon untuk pertamakali.
(yang anda ketahui hanyalah kecenderungan untuk hujan).
distribusi peluang yang digunakan di sini bukanlah yang setimbang, yang (merujuk pada peluang transisi) kira-kira {'rainy':0.571, 'sunny':0.429}.
transition_probability menggambarkan perubahan cuaca di rantai markov yang dipakai.
dalam contoh ini, hanya 30% peluang bahwa besok akan cerah jika hari ini hujan.
emmision_probability menggambarkan seberapa mungkin kawan anda melakukan aktivitas tertentu pada satu harinya.
jika hari hujan, maka ada 50% peluang bahwa dia sedang membersihkan apartemennya; jika hari cerah, ada 60% peluang bahwa dia ada di luar untuk berjalan-jalan.
aplikasi dari hidden markov model
speech recognition atau optical character recognition
bioinformatika dan genomik
prediksi daerah produsen protein dalam barisan genome
pemodelan famili dna terkait atau barisan protein
prediksi elemen struktur sekunder dari barisan protein primer