stanford-oval/wikipedia huggingface dataset:
اوک وود، مریلند

| اوک وود، مریلند | اوک وود، مریلند |
| --- | --- |
محدوده ثبت‌نشده: محدوده ثبت‌نشده
اوک وود، مریلند: اوک وود، مریلند
OakwoodLocation within the State of Marylandنمایش نقشه مریلندOakwoodOakwood (ایالات متحده آمریکا)نمایش نقشه ایالات متحده آمریکا: OakwoodLocation within the State of Marylandنمایش نقشه مریلندOakwoodOakwood (ایالات متحده آمریکا)نمایش نقشه ایالات متحده آمریکا
مختصات: ۳۹°۴۱′۵۶″ شمالی ۷۶°۱۰′۴۸″ غربی﻿ / ﻿۳۹٫۶۹۸۸۹°شمالی ۷۶٫۱۸۰۰۰°غربی﻿ / 39.69889; -76.18000: مختصات: ۳۹°۴۱′۵۶″ شمالی ۷۶°۱۰′۴۸″ غربی﻿ / ﻿۳۹٫۶۹۸۸۹°شمالی ۷۶٫۱۸۰۰۰°غربی﻿ / 39.69889; -76.18000
کشور:  United States
ایالت:  مریلند
شهرستان:  شهرستان سیسیل، مریلند
ارتفاع: ۳۷۱ فوت (۱۱۳ متر)
منطقهٔ زمانی: یوتی‌سی -۵ (منطقه زمانی شرقی)
 • تابستانی (DST): یوتی‌سی -۴ (EDT)
شماره GNIS: ۵۸۶۲۸۳
اوک وود (به انگلیسی: Oakwood) یک منطقهٔ مسکونی در ایالات متحده آمریکا است که در شهرستان سیسیل، مریلند واقع شده‌است. اوک وود ۱۱۳٫۰۸ متر بالاتر از سطح دریا واقع شده‌است.
اپسوم اند اول

| Borough of Epsom and Ewell | Borough of Epsom and Ewell |
| --- | --- |
Non-metropolitan district, Borough: Non-metropolitan district, Borough
Epsom and Ewell shown within Surrey: Epsom and Ewell shown within Surrey
کشور: بریتانیا
کشور: انگلستان
ناحیه: جنوب شرقی انگلستان
Non-metropolitan county: ساری (انگلستان)
Status: Non-metropolitan district, Borough
Admin HQ: Epsom
Incorporated: ۱ آوریل ۱۹۷۴
حکومت: حکومت
 • نوع: Non-metropolitan district council
 • نهاد: Epsom and Ewell Borough Council
 • Leadership: Alternative - Sec. 31 (Independent)
 • MPs: Chris Grayling
مساحت: مساحت
 • کل: ۱۳٫۱۵ مایل مربع (۳۴٫۰۷ کیلومتر مربع)
 • رتبه: 304th (of 317)
جمعیت (2008 est.): جمعیت (2008 est.)
 • کل: ۸۰٬۶۲۷
 • رتبه: 288th (of 317)
 • تراکم: ۶۱۰۰/مایل مربع (۲۴۰۰/کیلومتر مربع)
 • Ethnicity: ۹۱٫۳% White ۳٫۸% S.Asian
منطقهٔ زمانی: یوتی‌سی ۰ (ساعت گرینویچ)
 • تابستانی (DST): یوتی‌سی +۱ (BST)
ONS code: 43UC (ONS) E07000208 (GSS)
OS grid reference: TQ205605
وبگاه: www.epsom-ewell.gov.uk
اپسوم اند اول (به انگلیسی: Epsom and Ewell) منطقه‌ای است در ناحیه جنوب شرقی انگلستان کشور انگلستان.
این منطقه در سال ۱۹۹۱ میلادی ۶۴٫۴۰۵ نفر جمعیت داشته و در سرشماری سال ۲۰۰۱ جمعیت آن به ۶۴٫۴۹۳ نفر رسیده‌است. میزان رشد سالانهٔ جمعیت اپسوم اند اول ‎۰٫۲۲ درصد می‌باشد و جمعیت آن در سال ۲۰۱۲ به ۶۶٫۰۹۱ نفر تغییر یافت.
بالگردگاه لاپد هوپر

بالگردگاه لاپد هوپر  (به انگلیسی: LAPD Hooper Heliport) یک فرودگاه خصوصی پایگاه هوایی است. این فرودگاه در شهر لس‌آنجلس کشور ایالات متحده آمریکا قرار دارد و در ارتفاع ۹۲ متری از سطح دریا واقع شده است.
اپسوم، ایندیانا

| اپسوم، ایندیانا | اپسوم، ایندیانا |
| --- | --- |
محدوده ثبت‌نشده: محدوده ثبت‌نشده
اپسوم، ایندیاناموقعیت اپسوم، ایندیانا در نقشهنمایش نقشه ایندیانااپسوم، ایندیانااپسوم، ایندیانا (ایالات متحده آمریکا)نمایش نقشه ایالات متحده آمریکا: اپسوم، ایندیاناموقعیت اپسوم، ایندیانا در نقشهنمایش نقشه ایندیانااپسوم، ایندیانااپسوم، ایندیانا (ایالات متحده آمریکا)نمایش نقشه ایالات متحده آمریکا
مختصات: ۳۸°۴۷′۰۷″ شمالی ۸۷°۰۳′۴۷″ غربی﻿ / ﻿۳۸٫۷۸۵۲۸°شمالی ۸۷٫۰۶۳۰۶°غربی﻿ / 38.78528; -87.06306: مختصات: ۳۸°۴۷′۰۷″ شمالی ۸۷°۰۳′۴۷″ غربی﻿ / ﻿۳۸٫۷۸۵۲۸°شمالی ۸۷٫۰۶۳۰۶°غربی﻿ / 38.78528; -87.06306
کشور: ایالات متحده آمریکا
ایالت آمریکا: ایندیانا
County: شهرستان دیویس، ایندیانا
Township: Bogard
ارتفاع: ۵۰۹ فوت (۱۵۵ متر)
منطقهٔ زمانی: یوتی‌سی -۵ (منطقه زمانی شرقی)
 • تابستانی (DST): یوتی‌سی -۴ (منطقه زمانی شرقی)
زیپ‌کد: ۴۷۵۶۸
کد منطقه: 812
سامانه اطلاعات نام‌های جغرافیایی feature ID: ۴۳۴۲۲۲
اپسوم (به انگلیسی: Epsom) یک منطقهٔ مسکونی در ایالات متحده آمریکا است که در ایندیانا واقع شده‌است. اپسوم ۱۵۵٫۱۵ متر بالاتر از سطح دریا قرار دارد.
انیاز مکینتاش

| انیاز مکینتاش | انیاز مکینتاش |
| --- | --- |
زادهٔ: ۱ ژوئیهٔ ۱۸۷۹
درگذشت: ۸ مهٔ ۱۹۱۶ (۳۶ سال)
انیاز مکینتاش (انگلیسی: Aeneas Mackintosh؛ ۱ ژوئیهٔ ۱۸۷۹ – ۸ مهٔ ۱۹۱۶) یک سیاح اهل بریتانیا بود.
اچ.استرن

| 0 | 1 |
| --- | --- |
نوع: شرکت سهامی خاص
صنعت: کالای لوکس
بنا نهاده: ۱۹۴۵ (۱۹۴۵)
بنیانگذاران: هانس استرن
دفتر مرکزی: ریو دو ژانیرو، ریو دو ژانیرو، برزیل
محصولات: گوهرسنگ ساعت مچی جواهرات
مالک: هانس استرن
وبگاه: www.hstern.com.br
اچ. استرن (انگلیسی: H.Stern) شرکت کالای لوکس برزیلی است، که در سال ۱۹۴۵ توسط هانس استرن تأسیس شد.
الی میدی

| الی میدی | الی میدی |
| --- | --- |
الی میدی در مستند یک ۱۴ عالی: الی میدی در مستند یک ۱۴ عالی
زادهٔ: ۱۵ آوریل ۱۹۸۸ ایلسبوری، ساسکاچوان، کانادا
درگذشت: ۱ مارس ۲۰۱۹ (۳۰ سال) ونکوور، بریتیش کلمبیا، کانادا
سال‌های فعالیت: ۲۰۱۱ - ۲۰۱۸
اطلاعات مدلینگ: اطلاعات مدلینگ
قد: ۱۷۳ سانتیمتر (۵ فوت ۸ اینچ)
 :  
اَشلی شاندرل لوتر (به انگلیسی: Ashley Shandrel Luther؛ زاده ۱۵ آوریل ۱۹۸۸ - درگذشت ۱ مارس ۲۰۱۹) که بیشتر با نام اِلی مِیدِی (به انگلیسی: Elly Mayday) شناخته می‌شود، کنشگر در زمینه سلامت زنان و مدل اهل کانادا بود. او در طول فعالیتش به عنوان مدل برای مبارزه‌اش با بیماری سرطان تخمدان شناخته شده بود و اغلب با زخم‌های جراحی و بدون موی‌سر که ناشی از شیمی‌درمانی بود، از او عکس‌برداری می‌شد.
زندگینامه

او در ۱۵ مارس ۱۹۸۸ میلادی در مزرعه‌ای در نزدیکی ایلسبوری در استان ساسکاچوان به دنیا آمد. او سه برادر داشت و خانواده او مزرعه‌دار و صاحب یک رستوران بودند و مادرش هنرمند بود. اشلی در ۱۳ سالگی به مدرسه شبانه‌روزی رفت و در دانشگاه در رشته‌های مطالعات جنسیت و روان‌شناسی دانش کسب‌کرد و پس از آن با برادرش در ونکوور زندگی می‌کرد.
مدلینگ

او در ۲۳ سالگی همزمان هم به عنوان مهماندار هواپیما در سان‌وینگ ایرلاینز کار می‌کرد و هم به عنوان مدل فعالیت می‌کرد. به او گفته‌شده بود که به اندازه کافی لاغر و قد بلند نیست تا در کار مدلینگ سنتی فعالیت کند اما برای مدلینگ پین‌آپ مناسب است. او همچنین موضوع اصلی مستندی به نام یک ۱۴ عالی بود که در باره زندگی او و مبارزه‌اش با سرطان ساخته‌شده بود.
مرگ

اشلی در ونکوور در ۱ مارس ۲۰۱۹ میلادی در ۳۰ سالگی در اثر بیماری سرطان درگذشت.
نگارخانه

الی میدی در مستند یک ۱۴ عالی
الی میدی در مستند یک ۱۴ عالی
هارتستور

| هارتستور   | هارتستور   |
| --- | --- |
کشور: آلمان
ایالت: تورینگن
ناحیه: Nordhausen
انجمن شهرداری: Hohnstein/Südharz
مساحت: مساحت
 • کل: ۷۴٫۱۲ کیلومتر مربع (۲۸٫۶۲ مایل مربع)
ارتفاع: ۲۱۰ متر (۶۹۰ فوت)
جمعیت (2013-12-31): جمعیت (2013-12-31)
 • کل: ۶٬۰۵۰
 • تراکم: ۸۲/کیلومتر مربع (۲۱۰/مایل مربع)
منطقهٔ زمانی: CET/CEST (UTC+1/+2)
کدهای پستی: 99768, 99762
کدهای شماره‌گیری: 036331
پلاک خودرو: NDH
هارتستور (به آلمانی: Harztor) یک شهر و در آلمان است که در Hohnstein/Südharz واقع شده‌است. هارتستور ۶٬۲۱۱ نفر جمعیت دارد.
مدل مارکوف پنهان

مثالی از پارامترهای احتمالاتی یک مدل پنهان مارکوف

x — حالت‌ها

y — مشاهده‌های ممکن

a — احتمال‌های انتقال بین حالت‌ها

b — احتمال‌های خروجی‌ها
مدل پنهان مارکوف (به انگلیسی: Hidden Markov Model) یک مدل مارکوف آماری است که در آن سیستم مدل شده به صورت یک فرایند مارکوف با حالت‌های مشاهده نشده (پنهان) فرض می‌شود. یک مدل پنهان مارکوف می‌تواند به عنوان ساده‌ترین شبکه بیزی پویا در نظر گرفته شود.
در مدل عادی مارکوف، حالت به‌طور مستقیم توسط ناظر قابل مشاهده است و بنابراین احتمال‌های انتقال بین حالت‌ها تنها پارامترهای موجود است. در یک مدل پنهان مارکوف، حالت به‌طور مستقیم قابل مشاهده نیست، اما خروجی، بسته به حالت، قابل مشاهده است. هر حالت یک توزیع احتمال روی سمبل‌های خروجی ممکن دارد؛ بنابراین دنبالهٔ سمبل‌های تولید شده توسط یک مدل پنهان مارکوف اطلاعاتی دربارهٔ دنبالهٔ حالت‌ها می‌دهد. توجه داشته باشید که صفت 'پنهان' به دنبالهٔ حالت‌هایی که مدل از آن‌ها عبور می‌کند اشاره دارد، نه به پارامترهای مدل؛ حتی اگر پارامترهای مدل به‌طور دقیق مشخص باشند، مدل همچنان 'پنهان' است.
مدل‌های پنهان مارکوف بیشتر به‌دلیل کاربردشان در بازشناخت الگو، مانند تشخیص صدا و دست‌خط، تشخیص اشاره و حرکت، برچسب‌گذاری اجزای سخن، بیوانفورماتیک و … شناخته‌شده هستند.
شرح از نظر مسائل ظرف‌ها

مدل پنهان مارکوف در حالت گسسته جز خانوادهٔ مسائل ظرف‌ها قرار می‌گیرد. به‌طور مثال از ربینر ۱۹۸۹: ظروف x1 ،x2 ،x3... و توپ های رنگی y1, y2, y3… را در نظر می‌گیریم، که نفر مقابل دنباله‌ای از توپ‌ها را مشاهده کرده ولی اطلاعی از دنبالهٔ ظرف‌هایی که توپ‌ها از آن‌ها انتخاب‌شده ندارد. ظرف n ام با احتمالی وابسته به ظرف n-1 ام انتخاب می‌شود و چون به انتخاب ظرف‌های خیلی قبل‌تر وابسته نیست یک فرایند مارکوف است.
معماری مدل پنهان مارکوف

شکل زیر معماری کلی یک نمونه HMM را نشان می‌دهد. هر شکل بیضی یک متغیر تصادفی است که می‌تواند هر عددی از مقادیر را انتخاب کند. متغیر تصادفی  x(t) یک حالت پنهان در زمان t و متغیر تصادفی  y(t) مشاهده در زمان t است. فلش‌ها به معنای وابستگی‌های شرطی می‌باشند. از شکل مشخص است که توزیع احتمال شرطی متغیر پنهان  x(t)، در همهٔ زمان هایt مقداری را برایx ارائه می‌دهد که فقط به مقدار متغیر پنهان  x(t-1) وابسته است: مقادیر در زمان‌های t-2 و قبل‌تر از آن هیچ اثری ندارند. این مشخصهٔ مارکف نامیده می‌شود.
به‌طور مشابه، مقدار متغیر مشاهده‌ای y(t) تنها به مقدار متغیر پنهان x(t) (هر دو در زمان خاص t) بستگی دارد.
در حالت استاندارد مدل پنهان مارکوف که در اینجا در نظر گرفته شده‌است، فضای حالت متغیرهای پنهان گسسته است؛ درحالی‌که متغیرهای مشاهده‌ای می‌توانند گسسته یا پیوسته (از توزیع گوسین) باشند.
در مدل پنهان مارکوف دو نوع پارامتر وجود دارد:احتمال جابه‌جایی‌ها (بین حالات) و احتمال خروجی‌ها (یا مشاهدات). احتمال جابه‌جایی نحوهٔ انتقال از حالت t-1 به t را کنترل می‌کند.
فضای حالت پنهان شامل N مقدار ممکن برای حالات است. متغیر پنهان در زمان t می‌تواند هر یک از این مقادیر را اختیار کند. احتمال جابجایی احتمال این است که در زمان t در حالت k (یکی از حالات ممکن) و در زمان t+1 در حالت k1 باشیم. بنابرین در کل  N^{2}احتمال جابجایی وجود دارد. (مجموع احتمالات جابجایی از یک حالت به تمام حالتهای دیگر ۱ است)
احتمال خروجی، احتمال رخ دادن هر یک از اعضای مجموعهٔ مشاهده‌ای را برای هر حالت پنهان ممکنه مشخص می‌سازد که می‌تواند از یک توزیع احتمال پیروی کند. تعداد اعضای مجموعهٔ مشاهده‌ای بستگی به طبیعت متغیر مشاهده‌ای دارد.
اگر تعداد اعضای مجموعهٔ متغیرهای مشاهده‌ای برابر M باشد، بنابراین مجموع تعداد احتمالات خروجی NM می‌باشد/
مسایلی که به کمک مدل پنهان مارکوف حل می‌شود

با توجه به پارامترهای مدل پنهان مارکوف، می‌توانیم مسایلی به صورت زیر را حل کنیم.
Annotation: مدل را داریم به این معنی که احتمالات مربوط به انتقال از حالتی به حالت دیگر و همین‌طور احتمال تولید الفبا در هر حالت معلوم است. توالی از مشاهدات داده شده، می‌خواهیم محتمل‌ترین مسیری (توالی حالات) که توالی را تولید می‌کند را پیدا کنیم. الگوریتم viterbi می‌تواند این‌گونه مسایل را به صورت پویا (Dynamic) حل کند.
classification: مدل را داریم، توالی از مشاهدات داده شده‌است، می‌خواهیم احتمال (کل) تولید شدن این توالی توسط این مدل را (جمع احتمالات تمامی مسیرهایی که این توالی را تولید می‌کنند) حساب کنیم. الگوریتم forward
Consensus: مدل را داریم، می‌خواهیم بدانیم محتمل‌ترین توالی که توسط این مدل تولید می‌شود (توالی که بیشترین احتمال را داراست) چیست. الگوریتم Backward
Training: ساختار مدل را داریم به این معنی که تعداد حالات و الفبای تولیدی در هر حالت معلوم است، تعدادی توالی داریم (داده‌های آموزش) می‌خواهیم احتمال انتقال بین حالات و همین‌طور احتمال تولید الفبا در هر حالت را محاسبه کنیم. الگوریتم Baum-Welch
یادگیری

وظیفه یادگیری در HMM، یافتن بهترین احتمالات جابجایی‌ها و خروجی‌ها بر اساس یک دنباله یا دنباله‌هایی از خروجی هاست. معمولاً این پارامترها به وسیله متد maximum likelihood بر اساس خروجی داده شده تخمین زده می‌شوند. هیچ الگوریتم قطعی برای حل این مسئله وجود ندارد ولی برای پیدا کردن maximum likelihood محلی می‌توان از الگوریتم‌های کارایی مانند Baum-welch algorithmو یا Baldi-chauvin algorithmاستفاده کرد.
الگوریتم Baum-Welch نمونه‌ای از الگوریتم forward-backwardو به صورت خاص موردی از الگوریتم expectation-maximization می‌باشد.
یک مثال ملموس

دو دوست به نام‌های آلیس و باب را در نظر بگیرید. آن‌ها دور از هم زندگی کرده و هر روز دربارهٔ کارهای روزمره‌شان با هم تلفنی صحبت می‌کنند. فعالیت‌های باب شامل "قدم زدن در پارک"،"خرید کردن" و "تمیز کردن آپارتمان" می‌شود. انتخاب اینکه هر روز کدام کار را انجام دهد منحصراً بستگی به هوای همان روز دارد. آلیس اطلاع دقیقی از هوای محل زندگی باب نداشته ولی از تمایلات کلی وی آگاه است (بنا به نوع هوا چه کاری را دوست دارد انجام دهد). بر اساس گفته‌های باب در پایان هر روز، آلیس سعی می‌کند هوای آن روز را حدس بزند. آلیس هوا را یک زنجیرهٔ گسستهٔ مارکوف می‌پندارد که دو حالت "بارانی" و "آفتابی" دارد. اما به‌طور مستقیم هوا را مشاهده نمی‌کند؛ بنابراین، حالات هوا بر او پنهان است. در هر روز احتمال اینکه باب به "قدم زدن"،"خرید کردن" و "تمیز کردن"بپردازد بستگی به هوا داشته و دارای یک احتمال مشخص است. مشاهدات مسئله شرح فعالیت‌هایی است که باب در انتهای هر روز به آلیس می‌گوید.
آلیس اطلاعات کلی دربارهٔ هوای محل زندگی باب و اینکه در هر نوع آب و هوا با چه احتمالی چه کار انجام می‌دهد را دارد. به عبارت دیگر پارامترهای مسئله HMM معلوم هستند که در کد زیر مشاهده می‌شوند:
states = ('Rainy', 'Sunny')

observations = ('walk', 'shop', 'clean')

start_probability = {'Rainy': 0.6, 'Sunny': 0.4}

transition_probability = {
   'Rainy': {'Rainy': 0.7, 'Sunny': 0.3},
   'Sunny': {'Rainy': 0.4, 'Sunny': 0.6},
  }

emission_probability = {
   'Rainy': {'walk': 0.1, 'shop': 0.4, 'clean': 0.5},
   'Sunny': {'walk': 0.6, 'shop': 0.3, 'clean': 0.1},
  }
در این کد start_probability نمایانگر احتمال رخ دادن هر یک از حالات HMM (بارانی یا آفتابی) در روز اولی که باب با آلیس صحبت می‌کند می‌باشد.transition_probability نمایانگر تغییر هوا بر اساس قواعد زنجیرهٔ مارکو است. به‌طور مثال اگر امروز بارانی باشد به احتمال ۳۰٪فردا آفتابی است.emition_probability نمایانگر این است که باب علاقه دارد که در هر هوایی چه کار کند به‌طور مثال در هوای بارانی با احتمال ۵۰٪ آپارتمانش را تمیز کرده یا در هوای آفتابی با احتمال ۶۰٪در پارک قدم می‌زند.
کاربردهای مدل پنهان مارکوف

بازشناسی گفتار
ترجمه ماشینی
پیش‌بینی ژن
هم‌ترازسازی توالی
تشخیص فعالیت
تاشدگی پروتئین
تشخیص چهره
تاریخچه

مدل پنهان مارکوف برای اولین بار در مجموعه‌مقالات آماری leonard E.Baum و سایر نویسندگان در نیمه دوم دهه ۱۹۶۰ توضیح داده شد. یکی از اولین کاربردهای HMM تشخیص گفتار بوده که در اواسط دههٔ ۱۹۷۰ شروع شد. HMM در نیمهٔ دوم ۱۹۸۰ وارد حوزهٔ آنالیز دنباله‌های بیولوژیکی، به‌طور خاص DNA شد. از آن پس، کاربرد آن در بیوانفورماتیک گسترش یافت.
انواع مدل پنهان مارکوف

مدل پنهان مارکوف می‌تواند فرایندهای پیچیده مارکوف را که حالتها بر اساس توزیع احتمالی مشاهدات را نتیجه می‌دهند، مدل کند. به‌طور مثال اگر توزیع احتمال گوسین باشد در چنین مدل مارکوف پنهان خروجی حالتها نیز از توزیع گوسین تبعیت می‌کنند.
علاوه بر این مدل پنهان مارکوف می‌تواند رفتارهای پیچیده‌تر را نیز مدل کند. جایی که خروجی حالت‌ها از ترکیب دو یا چند توزیع گوسین پیروی کند که در این حالت احتمال تولید یک مشاهده از حاصلضرب گوسین انتخاب شدهٔ اولی در احتمال تولید مشاهده از گوسین دیگر به دست می‌آید.
فرایند مارکوف گسسته

یک سیستم مانند شکل زیر را که در هر لحظه در یکی از حالت متمایز S1,... ,SN است در نظر بگیرید. در زمان‌های گسسته و با فواصل منظم، حالت سیستم با توجه به مجموعه‌ای از احتمالات تغییر می‌کند. برای زمان‌های… ,t=۱٬۲ حالت در لحظه t را با qt نشان می‌دهیم. برای یک توصیف مناسب از سیستم فعلی نیاز به دانستن حالت فعلی در کنار تمام حالات قبلی می‌باشد. برای یک حالت خاص از زنجیره مارکوف مرتبه اول، توصیف احتمالاتی تنها با حالت فعلی و حالت قبلی مشخص می‌شود.
\ P(q_{t}=S_{j}|q_{t-1}=S_{i},q_{t-2}=S_{k},...)=
\ P(q_{t}=S_{j}|q_{t-1}=S_{i})
حال تنها فرایندهایی را در نظر می‌گیریم که در آن‌ها سمت راست رابطه فوق مستقل از زمان است و به همین دلیل ما مجموعه‌ای از احتمالات انتقال بین حالت‌ها را خواهیم داشت.
\ a_{ij}=P(q_{t}=S_{j}|q_{t-1}=S_{i})\qquad i\geq 1,N\geq j
که در آن احتمال انتقال بین حالات دارای خواص زیر است.
a_{ij}\geq 0
\sum _{j=1}^{N}a_{ij}=1
فرایند تصادفی فوق را مدل مارکوف قابل مشاهده می‌گویند زیرا خروجی مدل مجموعه‌ای از حالات است که قرار گرفتن در آن‌ها متناظر با یک مشاهده می‌باشد. ما می‌توانیم دنباله مشاهدات مورد انتظار خود را تولید کنیم و احتمال وقوع آن در زنجیره مارکوف را محاسبه نماییم. برای مثال با داشتن دنباله مشاهدات  \ O={q_{1},...,q_{t}}احتمال وقوع آن به صورت زیر بیان می‌شود.
\ P(O|Model)=P({q_{1},q_{2},...,q_{2}}|Model)
\ P(q_{1}).P(q_{2}|q_{1}).P(q_{3}|q_{2})...P(q_{t}|q_{t-1})
یکی دیگر از مواردی که مطرح می‌شود این است که اگر سیستم در حالت  \ q_{i} باشد با چه احتمالی به حالت  \ q_{j} می‌رود و با چه احتمالی در همان حالت  \ q_{i} باقی می‌ماند.
مرتبه مدل مارکوف > ۱- مدل مارکوف مرتبه صفر

یک مدل مارکوف از مرتبه صفر هیچ حافظه‌ای ندارد و برای هر t و t' در دنباله سمبل‌ها،  \ pr(X_{t}=S_{i})=pr(X_{t'}=S_{i}) خواهد بود. مدل مارکوف از مرتبه صفر مانند یک توزیع احتمال چند جمله‌ای می‌باشد.
مرتبه مدل مارکوف > ۲- مدل مارکوف مرتبه اول

یک مدل مارکوف مرتبه اول دارای حافظه‌ای با طول ۱ می‌باشد. توزیع احتمال در این مدل به صورت زیر مشخص می‌شود.
\ pr(X_{t}=S_{i}|X_{t-1}=S_{j}),fori=1..k,j=1..k
تعریف فوق مانند این است که k مدل مارکوف در مرتبه صفر برای هر  \ S_{j} داشته باشیم.
مرتبه مدل مارکوف > ۳- مدل مارکوف مرتبه m ام

مرتبه یک مدل مارکوف برابر است با طول حافظه‌ای که مقادیر احتمال ممکن برای حالت بعدی به کمک آن محاسبه می‌شود. برای مثال، حالت بعدی در یک مدل مارکوف از درجه ۲ (مدل مارکوف مرتبه دوم) به دو حالت قبلی آن بستگی دارد.
مثال ۱: برای مثال اگر یک سکه معیوب A داشته باشیم که احتمالات شیر یا خط آمدن برای آن یکسان نباشد، می‌توان آن را با یک مدل مارکوف درجه صفر با استفاده از احتمالات (pr(H و (pr(H توصیف نمود.
pr(H)=0.6, pr(T)=۰٫۴
مثال ۲: حال فرض کنید که سه سکه با شرایط فوق در اختیار داریم. سکه‌ها را با اسامی B, A و C نام‌گذاری می‌نماییم. آنگاه برای توصیف روال زیر به یک مدل مارکوف مرتبه اول نیاز داریم:
فرض کنید سکه X یکی از سکه‌های A یا B باشد.
مراحل زیر را تکرار می‌کنیم.
a) سکه X را پرتاب می‌کنیم و نتیجه را می‌نویسیم.
b) سکه C را نیز پرتاب می‌کنیم.
c) اگر سکه C خط آمد، آنگاه سکه X را تغییر می‌دهیم (A را با B یا B را با A جایگزین می‌کنیم) و در غیر این صورت تغییری در سکه‌ها نمی‌دهیم.
انجام روال فوق مدل مارکوف مرتبه اول زیر را نتیجه خواهد داد.
یک پردازش مارکوفی مانند نمونه فوق در طول پیمایش احتمالات، یک خروجی نیز خواهد داشت. یک خروجی نمونه برای پردازش فوق می‌تواند به شکل HTHHTHHttthtttHHTHHHHtthtthttht باشد.
مدل مارکوف فوق را می‌توان به صورت نموداری از حالات و انتقال‌ها نیز نشان داد. کاملاً مشخص است که این‌گونه بازنمایی از مدل مارکوف مانند بازنمایی یک ماشین انتقال حالت محدود است که هر انتقال با یک احتمال همراه می‌باشد
انواع مدل‌های پنهان مارکوف و HMM پیوسته

همان‌طور که گفته شد نوع خاصی از HMM وجود دارد که در آن تمام حالات موجود با یکدیگر متصل هستند. لیکن مدل مخفی مارکوف از لحاظ ساختار و اصطلاحاً توپولوژی انواع مختلف دارد. همان‌طور که گفته شد برای مدل ارگودیک برای تمام i و jها  \ a_{ij}>0 است و ساختار مدل مثل یک گفتار کامل است که راسها در آن دارای اتصالات بازگشتی نیز می‌باشند. لیکن برای کاربردهای متفاوت و با توجه به پیچیدگی فرایند نیاز به ساختار متفاوتی وجود دارد. از جمله این ساختارها که به شکل گسترده‌ای در کاربردهای شناسایی گفتار مبتنی بر واج و شناسایی گوینده مورد استفاده قرار می‌گیرد، مدل چپ به راست یا مدل بکیس است. این مدل که ساختار آن را در شکل ۲ نیز می‌بینید، دارای اتصالات چپ به راست است و برای مدل کردن سیگنالهایی که خواص آن‌ها با زمان تغییر می‌کند مورد استفاده قرار می‌گیرد. در مدل چپ به راست تنها یک حالت ورودی وجود دارد که همان حالت اول است و به این ترتیب:
\pi _{t}={\begin{cases}0,&\,i\neq 1\\1,&\,i\neq 1\end{cases}}
مدلهای ارگودیک و چپ به راست مدل‌های HMM پایه هستند و در پردازش گفتار نیز بیشترین کاربرد را دارا می‌باشند. هرچند می‌توان با اتصال چندین مدل یا تغییر در ساختار اتصالات آن مدلهایی با انعطاف‌پذیری بیشتری ایجاد نمود. شکل ۲-ج یک نمونه از مدل موازی چپ به راست، که شامل دو مدل چپ به راست است، را نشان می‌دهد.
در قسمت‌های قبل مدل‌های HMM برای مجموعه مشاهدات گسسته را مورد بررسی قرار دادیم. اگر چه می‌توان با چندی‌سازی تمام فرایندهای پیوسته را به فرایندهای با دنباله مشاهدات گسسته تبدیل نمود، اما این کار ممکن است باعث افت مدل شود. در مدل HMM پیوسته احتمال قرار گرفتن مشاهدات در یک حالت را با توابع چگالی احتمال نشان می‌دهند. در این شرایط برای هر حالت i و ورودی O، احتمال مشاهده  \ b_{t}(O) به صورت یک توزیع شامل M مخلوط نشان داده می‌شود:
\ b_{t}(O)=\sum _{m=1}^{M}c_{im}R(O,\mu _{im},U_{im})
\ c_{im}\geq 0,1\leq i\leq N,1\leq m\leq M
مدل مخلوط گاوسی

مدل مخلوط گوسی یکی از مهمترین روش‌های مدل کردن سیگنال است که در واقع شبیه یک HMM یک حالته است که تابع چگالی احتمال آن حالت دارای چندین مخلوط نرمال می‌باشد. احتمال تعلق بردار آزمایشیd به یک مدل مخلوط گاوسی دارای M مخلوط به شکل زیر بیان می‌شود:
P(x|GMM)=\sum _{t=1}^{M}c_{t}.N(\mu _{t},\Sigma _{t}),
که در آن  \ c_{t} وزن مخلوط  \mu _{t} و  \Sigma _{t}به ترتیب بردار میانگین و ماتریس کوواریانس توزیع نرمال هستند. ماتریس کوواریانس مدل GMM معمولاً به صورت قطری در نظر گرفته می‌شود، گرچه امکان استفاده از ماتریس کامل نیز وجود دارد.
برای به‌دست آوردن پارامترهای مدل GMM، شامل وزن مخلوط‌های گاوسی و میانگین و کواریانس توزیع‌ها، از الگوریتم ماکزیمم نمودن امید ریاضی(EM)استفاده می‌شود. باید توجه داشت که تعداد مخلوطهای گاوسی با تعداد نمونه‌های موجود آموزشی رابطه مستقیم دارند و نمی‌توان با مجموعه داده‌ای ناچیز یک مدل GMM دارای تعداد بیش از حد از مخلوطها را آموزش داد. در تشکیل و آموزش مدل GMM مانند تمام روش‌های تشکیل مدل رعایت نسبت میزان پیچیدگی مدل و نمونه‌های آموزشی الزامی می‌باشد.
فرضیات تئوری مدل پنهان مارکوف

برای اینکه مدل پنهان مارکوف از لحاظ ریاضی و محاسباتی قابل بیان باشد فرضهای زیر در مورد آن در نظر گرفته می‌شود.
۱- فرض مارکوف
با داشتن یک مدل پنهان مارکوف، احتمال انتقال از حالت i به حالت j به صورت زیر تعریف می‌شود:
\ a_{ij}=p(q_{t+1}|q_{t}=i)
به بیان دیگر فرض می‌شود که حالت بعدی تنها به حالت فعلی بستگی دارد. مدل حاصل از فرض مارکوف یک مدل HMM مرتبه صفر می‌باشد.
در حالت کلی، حالت بعدی می‌تواند با k حالت قبلی وابسته باشد. این مدل که مدل HMM مرتبه k ام گفته می‌شود، با استفاده از احتمالات انتقال به صورت زیر تعریف می‌گردد.
\ a_{i1}a_{i2}a_{i3}a{i4}...=p(q_{t+1}=j|q_{t}=i_{1},q_{t-1}=i_{2}....,q_{t-k+1}=i_{k},1\leq i_{1},i_{2},...i_{k},j\leq N))
به نظر می‌رسد که یک مدل HMM از مرتبه بالاتر باعث افزایش پیچیدگی مدل می‌شود. علی‌رغم اینکه مدل HMM مرتبه اول متداول‌ترین مدل است، برخی تلاشها برای استفاده از مدل‌های دارای مرتبه بالاتر نیز در حال انجام می‌باشد.
۲- فرض ایستایی (stationarity)
در اینجا فرض می‌شود که احتمال انتقال در بین حالات از زمان واقعی رخداد انتقال مستقل است. در این صورت می‌توان برا ی هر  \ t_{1},t_{2} نوشت
\ p(q_{t_{1}+1}=j|q_{t_{1}}=i)=p(q_{t_{2}+1}=j|q_{t_{2}}=i
۳- فرض استقلال خروجی
در این حالت فرض می‌شود که خروجی (مشاهدات) فعلی به صورت آماری از خروجی قبلی مستقل است. می‌توان این فرض را با داشتن دنباله‌ای از خروجی‌ها مانند بیان نمود:
\ O=o_{1},o_{2},....o_{T}
آنگاه مطابق با این فرض برای مدل HMM با نام \ \lambda  خواهیم داشت:
\ p(O|q_{1},q_{2},..q_{T},\lambda )={\begin{matrix}\prod _{t=1}^{T}p(O_{t}|q_{t},\lambda )\end{matrix}}
اگر چه بر خلاف دو فرض دیگر این فرض اعتبار کمتری دارد. در برخی حالات این فرضیه چندان معتبر نیست و موجب می‌شود که مدل HMM با ضعفهای عمده‌ای مواجه گردد.
مسئله ارزیابی و الگوریتم پیشرو (forward)

در این حالت مسئله این است که با داشتن مدل  \lambda =(A,B,\pi ) و دنباله مشاهدات  O=\{O_{1},O_{2},...,O_{T}\} باید مقدار  \ P(O|\lambda ) را پیدا نماییم. می‌توانیم این مقدار را با روش‌های آماری مبتنی بر پارامترها محاسبه نماییم. البته این کار به محاسباتی با پیچیدگی  \ O(N^{T}) احتیاج دارد. این تعداد محاسبات حتی برای مقادیر متوسط t نیز بسیار بزرگ است. به همین دلیل لازم است که راه دیگری برای این محاسبات پیدا نماییم. خوشبختانه روشی ارائه شده‌است که پیچیدگی محاسباتی کمی دارد و از متغیر کمکی  \ a_{t}(i) با نام متغیر پیشرو استفاده می‌کند.>
متغیر پیشرو به صورت یک احتمال از دنباله مشاهدات  O=\{O_{1},O_{2},...,O_{t}\} تعریف می‌شود که در حالت i خاتمه می‌یابد. به بیان ریاضی:
\alpha _{t}(i)=p\{O_{1},O_{2},...,O_{t},q_{t}=i|\lambda \}
آنگاه به سادگی مشاهده می‌شود که رابطه بازگشتی زیر برقرار است.
\ a_{t+1}(j)=b_{j}(O_{t+1}\sum _{i=1}^{N})a_{t}(i)a_{ij},1\leq j\leq N,1\leq t\leq T-1
که در آن
\ a_{1}(j)=\pi _{j}b_{j}(O_{1}),1\leq j\leq N
با داشتن این رابطه بازگشتی می‌توانیم مقدار زیر را محاسبه نماییم.
\ a_{T}(i),1\leq i\leq N
و آنگاه احتمال  \ P(O|\lambda ) به صورت زیر محاسبه خواهد شد:
p\{O|\lambda \}=\sum _{i=1}^{N}a_{T}(i)
پیچیدگی محاسباتی روش فوق که به الگوریتم پیشرو معروف است برابر با  \ O(N^{2}T) است، که در مقایسه با حالت محاسبه مستقیم که قبلاً گفته شد، و دارای پیچیدگی نمایی بود، بسیار سریعتر است.
روشی مشابه روش فوق را می‌توان با تعیین متغیر پسرو،  \beta _{t}(i)، به عنوان احتمال جزئی دنباله مشاهدات  O=\{O_{t+1},O_{t+2},...,O_{T}\} در حالت i تعریف نمود. متغیر پیشرو را می‌توان به شکل زیر نمایش داد.
\beta _{t}(i)=p\{O_{t+1},O_{t+2},...,O_{T}|q_{t}=i,\lambda \}
مانند روش پیشرو یک رابطه بازگشتی به شکل زیر برای محاسبه  \beta _{t}(i) وجود دارد.
\beta _{t}(i)=\sum _{i=1}^{N}\beta _{t+1}(j)a_{ij}b_{j}(O_{t+1}),1\leq i\leq N,1\leq t\leq T-1
که در آن
\beta _{t}(i)=1,1\leq i\leq N
می‌توان ثابت کرد که
\ a_{t}(i)\beta _{t}(i)=p\{O,q_{t}=i|\lambda \},1\leq i\leq N,1\leq t\leq T
آنگاه می‌توان با کمک هر دو روش پیشرو و پسرو مقدار احتمال  \ P(O|\lambda ) را محاسبه نمود.
p\{O|\lambda \}=\sum _{i=1}^{N}p\{O,q_{t}=i|\lambda \}=\sum _{i=1}^{N}a_{t}(i)\beta _{t}(i)
رابطه فوق بسیار مهم و مفید است و بخصوص برای استخراج روابط آموزش مبتنی بر گرادیان لازم می‌باشد.