فیلتر کالمان

چپ
فیلتر کالمان که به عنوان تخمین خطی مرتبه دوم نیز از آن یاد می‌شود، الگوریتمی است که حالت یک سیستم پویا را با استفاده از مجموعه‌ای از اندازه‌گیری‌های شامل خطا در طول زمان برآورد می‌کند. این فیلتر معمولا تخمین دقیق‌تری را نسبت به تخمین بر مبنای یک اندازه‌گیری واحد را بر مبنای استنباط بیزی و تخمین توزیع احتمال مشترکی از یک متغیر تصادفی در یک مقطع زمانی ارائه می‌کند. این فیلتر از نام رودولف ئی کالمن، یکی از پایه‌گذاران این تئوری گرفته شده‌است.
فیلتر کالمان کاربردهای بسیاری در علم و فناوری مانند مسیریابی و پایش وسایل نقلیه، به خصوص هواپیما و فضاپیماها، دارد. فیلتر کالمان مفاهیم گسترده‌ای را در زمینه سری‌های زمانی، پردازش سیگنال و اقتصادسنجی مطرح می‌کند. این فیلتر از مفاهیم پایه در زمینه برنامه‌ریزی و پایش ربات‌ها و همچنین مدلسازی سیستم عصبی محسوب می‌شود. بر اساس تاخیر زمانی میان ارسال فرامین و دریافت پاسخ آن‌ها، استفاده از فیلتر کالمان در تخمین حالات مختلف سیستم را ممکن می‌سازد.
این الگوریتم در دو گام اجرا می‌شود. در گام پیش‌بینی، فیلتر کالمان تخمینی از وضعیت فعلی متغیرها را در شرایط عدم قطعیت ارائه می‌کند. زمانی که نتیجه اندازه‌گیری بعدی بدست آید، تخمین قبلی با میانگین وزن‌دار آپدیت می‌شود. به این ترتیب که وزن اطلاعاتی که دارای قطعیت بیشتری هستند، بیشتر خواهد بود. الگوریتم بازگشتی می‌باشد و با استفاده از ورودی‌های جدید و حالات محاسبه شده قبلی به‌صورت بی‌درنگ اجرا می‌شود.
درمورد ورودی‌های فیلتر کالمان نمی‌توان بیان کرد که تمام خطاها گوسی هستند. اما در عمل فیلتر برآوردهای احتمالاتی را با فرض توزیع طبیعی داشتن انجام می‌دهد.
مثال کاربردی
تهیه اطلاعات پیوسته و گسسته به روز و دقیق در مورد مکان و سرعت یک شی معین فقط به کمک توالی مشاهدات در مورد موقعیت آن شی، که هر کدام شامل مقداری خطاست امکان‌پذیر است. این فیلتر در طیف گسترده‌ای از کاربری‌های مهندسی از رادار گرفته تا بینایی رایانه‌ای کاربرد دارد. روش فیلتر کالمان یکی از عناوین مهم در تئوری کنترل و مهندسی سیستم‌های کنترلی می‌باشد.
به عنوان مثال، برای کاربری آن در رادار، آنجا که علاقه‌مند به ردیابی هدف هستید، اطلاعات در مورد موقعیت، سرعت و شتاب هدف با حجم عظیمی از انحراف به لطف پارازیت در هر لحظه اندازه‌گیری می‌شود. فیلتر کالمان از پویایی هدف بهره می‌گیرد به این صورت که سیر تکاملی آن را کنترل می‌کند، تا تاثیرات پارازیت را از بین ببرد و یک برآورد خوب از موقعیت هدف در زمان حال (تصفیه کردن) و در آینده (پیش بینی) یا در گذشته (الحاق یا هموار سازی) ارائه می‌دهد. یک نسخه ساده شده فیلتر کالمان، فیلتر آلفا بتا (alpha beta filter)، که همچنان عموما استفاده می‌شود از ثابت‌های static weighting به جای ماتریس‌های کواریانس استفاده می‌کند.
نام‌گذاری و تاریخچه توسعه
اگر چه Thorvald Nicolai Thiele و Peter Swerling قبلا الگوریتم مشابهی ارائه داده بودند، این فیلتر به افتخار Rudolf E. Kalman، فیلتر کالمان نام‌گذاری شد و Stanley F. Schmidt عموما به خاطر توسعه اولین پیاده‌سازی فیلتر کالمان شهرت یافت. این رخداد هنگام ملاقات با کالمان در مرکز تحقیقاتی ناسا (NASA Ames Research Center) روی داد و وی شاهد کارایی ایده کالمان در برآورد مسیر پرتاب پروژه آپولو بود، که منجر به الحاق آن به رایانه ناوبری آپولو شد. این فیلتر بر روی کاغذ در ۱۹۵۸ توسط Swerling، در ۱۹۶۰ توسط Kalman و در ۱۹۶۱ توسط Kalman and Bucy ایجاد و بسط داده شد.
این فیلتر بعضی مواقع فیلتر Stratonovich-Kalman-Bucy نامیده می‌شود، چرا که یک نمونه خاص از فیلتر بسیار معمولی و غیر خطی‌ای است که قبلا توسط Ruslan L. Stratonovich ایجاد شده، در حقیقت معادله این نمونه خاص، فیلتر خطی در اسنادی که از Stratonovich قبل از تابستان ۱۹۶۰، یعنی زمانی که کالمان ،Stratonovich را در کنفرانسی در موسکو ملاقات کرد به چاپ رسید بود.
در تئوری کنترل، فیلتر کالمان بیشتر به برآورد مرتبه دوم (LQE) اشاره دارد. امروزه تنوع گسترده‌ای از فیلتر کالمان بوجود آمده، از فرمول اصلی کالمان در حال حاضر فیلترهای: کالمان ساده، توسعه یافته اشمیت، اطلاعاتی و فیلترهای گوناگون جذر بیرمن، تورنتون و بسیاری دیگر بوجود آمده‌اند. گویا مرسوم‌ترین نوع فیلتر کالمان فاز حلقه بسته (phase-locked loop) می‌باشد که امروزه در رادیوها، رایانه‌ها و تقریبا تمامی انواع ابزارهای تصویری و ارتباطی کاربرد دارد.
اساس مدل سیستم پویا
فیلترهای کالمان بر اساس سیستم‌های خطی پویا (linear dynamical systems) گسسته در بازه زمانی هستند. آن‌ها بر اساس زنجیره مارکوف (Markov chain) به کمک عملگرهای خطی ساخته شده‌اند و توسط نوفه گاوسی (Gaussian noise) تحریک می‌شوند. حالت سیستم توسط برداری از اعداد حقیقی بیان می‌شود. در هر افزایش زمانی که در بازه‌های گسسته صورت می‌گیرد، یک عملگر خطی روی حالت فعلی اعمال می‌شود تا حالت بعدی را با کمی پارازیت ایجاد کند و اختیارا در صورت شناخت روی کنترل‌کننده‌های سیستم برخی اطلاعات مرتبط را استخراج می‌کند. سپس عملگر خطی دیگر به همراه مقدار دیگری پارازیت خروجی قابل مشاهده‌ای از این حالت نامشخص تولید می‌کند. فیلتر کالمان قادر است مشابه مدل نامشخص مارکوف برخورد کند. با این تفاوت کلیدی که متغییرهای حالت نامشخص در یک فضای پیوسته مقدار می‌گیرند (نقطه مقابل فضای حالت گسسته در مدل مارکوف). بعلاوه، مدل نامشخص مارکوف می‌تواند یک توزیع دلخواه برای مقادیر بعدی متغییرهای حالت ارائه کند، که در تناقض با مدل پارازیت گاوسی‌ای است که در فیلتر کالمان استفاده می‌شود. در اینجا یک دوگانگی بزرگ بین معادلات فیلتر کالمان و آن مدل مارکوف وجود دارد. مقاله‌ای در رابطه با این مدل و دیگر مدل‌ها در Roweis and Ghahramani و فصل ۱۳ Hamilton ارائه شده‌است.
برای تخمین حالت درونی یک فرایند که توسط مجموعه‌ای مشاهدات دارای پارازیت ارائه شده‌است باید آن را منطبق بر چارچوب فیلتر کالمان کنیم. به این منظور ماتریس‌های زیر را ارائه می‌کنیم:
F k: مدل انتقال حالات،
H k: مدل مشاهده شده،
Q k: کوواریانس پارازیت فرایند،
R k: کوواریانس پارازیت مشاهده شده،
B k: مدل ورودی-کنترل
فیلتر کالمان بیان می‌کند که می‌توان حالت k را با استفاده از حالت (k - 1) با استفاده از رابطه زیر محاسبه کرد:
به‌طوری‌که:
F k: حالت انتقالی اعمال شده به x k−۱،
B k: مدل ورودی-کنترل اعمال شده به بردار کنترلی u k,
w k: فرایند نویزی با توزیع نرمال، میانگین صفر و واریانس Q k
در زمان k،مشاهده z k با توجه به حالت x k به صورت زیر بدست می‌آید:
به‌طوری‌که H k مدل مشاهده شده که به فضای مشاهده شده نگاشت می‌شود و همچنین v k نویز مشاهده شده با توزیع گاوسی، میانگین صفر و کوواریانس R k است.
لازم است ذکر شود که حالت اولیه و بردار نویزی در هر محله از هم مستقل هستند.
بسیاری از سیستم‌های پویای واقعی از این مدل تبعیت نمی‌کنند. برخی سیستم‌های پویا حتی در زمانی که منبع ورودی ناشناخته‌ای را بررسی می‌کنیم، می‌توانند موجب کاهش تاثیر این فیلتر شوند. زیرا اثر این سیستم‌ها بر سیگنال ورودی تاثیرگذار است و به این ترتیب می‌تواند موجب ناپایداری تخمین فیلتر شود. به علاوه نویزهای سفید مستقل باعث منشعب شدن فیلتر نمی‌شوند. مسئله تفکیک نویز سفید و سیستم‌های پویا در شاخه نظریه کنترل و در چارچوب کنترل مقاوم بررسی می‌شود.
وسط
شرح بیشتر
فیلتر کالمان یک تخمین‌گر بازگشتی است، یعنی تنها تخمین حالت قبل و مشاهده فعلی برای محاسبه تخمین حالت فعلی لازم است. برعکس بسیاری از تخمین‌گرها نیازی به نگهداری اطلاعات تخمین‌ها و مشاهدات تمام حالات قبل نیست. در اینجا بیانگر تخمینی از در زمان n به شرط از مشاهدات پیش از این زمان است.
حالت فعلی فیلتر توسط دو متغیر تشریح می‌شود:
تخمین حالت پسینی در زمان k به شرط مشاهدات پیش از k.
ماتریس کوواریانس خطای پسین.
فیلتر کالمان توسط یک معادله بیان می‌شود اما معمولا آن را به دو بخش پیش‌بینی و آپدیت تفکیک می‌کنند. در گام پیش‌بینی با استفاده از تخمین‌های حالات در بازه‌های زمانی پیشین، تخمینی برای حالت فعلی بدست می‌آید. این تخمین پیش‌بینی شده همان دانش پیشینی است زیرا تنها به تخمین‌های قبلی وابسته است و هیچ مشاهده‌ای در حالت فعلی سیستم را در برنمی‌گیرد. در گام آپدیت تخمین پیشین با مشاهدات فعلی ترکیب می‌شود تا تخمینی از حالت فعلی سیستم ارائه کند.
معمولا این دو گام متناوبا تکرار می‌شوند، به این معنی که پیش‌بینی تا مشاهده بعدی انجام می‌شود و سپس با استفاده از مشاهدات فعلی آپدیت انجام می‌شود. اگر در بازه زمانی مشاهده‌ای انجام نشود، پیش‌بینی‌ها تا مشاهده بعدی انجام می‌شوند و آپدیت بر مبنای چند مرحله پیش‌بینی انجام می‌شود. به‌طور مشابه اگر در بازه زمانی چندین مشاهده مستقل انجام شود، بر مبنای هریک از آن‌ها چند آپدیت با ماتریس‌های H k متفاوت بدست می‌آید.
پیش‌بینی
تخمین حالت پیش‌بینی شده (پیشین)
تخمین کوواریانس پیش‌بینی شده (پیشین)
آپدیت
مشاهده جدید وابسته
\tilde{\mathbf{y_k = \mathbf{z_k - \mathbf{H_k\hat{\mathbf{x_{k\mid k-1
کوواریانس جدید وابسته
نتیجه بهینه کالمان
تخمین حالت آپدیت شده (پسین)
تخمین کوواریانس آپدیت شده (پسین)
فرمول کوواریانس آپدیت شده تنها در حالت بهینه بودن فیلتر کالمان کاربرد دارد و در باقی حالات فرمول‌های پیچیده‌تری موردنیاز است که در بخش مشتقات موجود است.
ثابت‌ها
اگر مدلسازی دقیق باشد و و بیانگر توزیع حالات ابتدایی سیستم باشند، مقادیر ثابت زیر بدست می‌آیند:
به‌طوری‌که امید ریاضی متغیر تصادفی است. در بالا تمامی تخمین‌ها دارای امید ریاضی صفر هستند.
همچنین:
به این ترتیب ماتریس‌های کوواریانس نشان‌دهنده مقادیر تخمینی کوواریانس‌ها هستند.
تخمین کوواریانس‌های نویز Q k و R k
پیاده‌سازی عملی فیلتر کالمان با توجه به سختی بدست آوردن تخمین ماتریس کوواریانس Q k و R k بهینه دشوار است. مطالعات بسیاری جهت بدست آوردن تخمین‌های کوواریانس با توجه به داده‌های موجود انجام شده‌است. یکی از بهترین روش‌ها، تکنیک حداقل مربعات اتوکوواریانس (ALS) است که از اتوکوواریانس داده‌ها با ایجاد تاخیر زمانی برای تخمین استفاده می‌کند. از گنو آکتیو و متلب جهت محاسبه ماتریس‌های کوواریانس نویز با استفاده از تکنیک حداقل مربعات اتوکوواریانس استفاده می‌شود. این کار به صورت آنلاین توسط پروانه عمومی همگانی گنو امکان‌پذیر است.
بهینگی و کارایی
فیلتر کالمان یک فیلتر خطی بهینه است زیرا الف) مدلسازی آن با دقت بالایی بر سیستم اصلی منطبق است. ب) نویز ورودی، نویز سفید ناهمبسته است. ج) مقدار کوواریانس نویز قابل محاسبه است. روش‌های بسیاری از جمله روش حداقل مربعات اتوکوواریانس که در بالا به آن اشاره شد برای تخمین کوواریانس نویز ارائه شده‌اند. پس از تخمین کوواریانس لازم است کارایی سیستم ارتقا یابد. این بدین معنی است که تخمین حالات سیستم دقیق‌تر شوند. اگر فیلتر کالمان بهینه باشد، نویز ورودی نویز سفید است که محاسبه کارایی سیستم را ممکن می‌سازد. روش‌های زیادی جهت محاسبه کارایی موجود است. اگر توزیع نویز گاوسی نباشد، روش‌هایی جهت تخمین کارایی با استفاده از نامساوی‌های احتمالاتی در و ارائه شده‌است.
مثال کاربرد عملی
کامیونی دارای اصطکاک در مسیری مستقیم را در نظر بگیرید. کامیون در مکان صفر ثابت است و سپس در مسیری تحت تاثیر نیروهای تصادفی به حرکت در می‌آید. موقعیت کامیون را در هر t ثانیه اندازه‌گیری می‌کنیم. اما این اندازه‌گیری مبهم است چرا ما تنها مدلی از مکان و سرعت کامیون را در نظر می‌گیریم. در اینجا فیلتر کالمان را برای این مدل بیان می‌کنیم.
چون ثابت هستند، شاخص‌های زمانی آن‌ها حذف می‌شوند.
موقعیت و سرعت کامیون در فضای خطی موقعیت آن توصیف می‌شود:
سرعت، یعنی مشتق مکان نسبت به زمان است.
فرض کنیم در بازه زمانی میان (k − ۱) و k شتاب a k که دارای توزیع طبیعی با میانگین صفر و واریانس a است به آن اعمال شود. طبق قوانین حرکت نیوتن داریم:
نتیجه شتابa k را به سیستم اعمال می‌کند و همچنین داریم
و
به این ترتیب
به‌طوری‌که و
توزیع کاملا پیوسته نیست و بنابراین هیچ تابع توزیع احتمالی ندارد. روش دیگر بیان این توزیع به صورت زیر است:
در هر بازه زمانی، موقعیت کامیون که با نویزی آمیخته‌است در دست است. فرض کنیم این نویز v k دارای توزیع طبیعی با میانگین صفر و واریانس  z باشد،
به‌طوری‌که
و
می‌دانیم موقعیت اولیه کامیون مشخص است و به صورت زیر در نظر گرفته می‌شود
برای اینکه در فیلتر آگاهیمان نسبت به این موضوع را مشخص کنیم، یک ماتریس کوواریانس صفر تعریف می‌کنیم:
اگر حالت ابتدایی و سرعت به درستی و دقت در دست نباشند، ماتریس کوواریانس باید با توجه به واریانس‌های داده شده و به صورت قطری تعریف شود:
به این ترتیب فیلتر قادر به محاسبه اطلاعات مدل بر اساس مقادیر اولیه می‌شود.
مشتقات
مشتق‌گیری از ماتریس تخمینی کوواریانس پسین
با توجه به مقدار ثابت کوواریانس خطا P k | k در بالا
با جایگذاری از روابط اثبات شده خواهیم داشت
حال مقدار را جایگزین می‌کنیم
همچنین را نیز در رابطه جایگذاری می‌کنیم
با توجه به بردار خطا
چون خطای اندازه‌گیری شده v k نسبت به سایر متغیرها ناهمبسته است، می‌توان گفت
با توجه به ویژگی‌های ماتریس کوواریانس
با توجه به ثابت بودن P k | k−1 و تعریف R k نتیجه می‌شود
\mathbf{P_{k\mid k =
(I - \mathbf{K_k \mathbf{H_{k) \mathbf{P_{k\mid k-1 (I - \mathbf{K_k \mathbf{H_{k)^\text{T +
\mathbf{K_k \mathbf{R_k \mathbf{K_k^\text{T
این فرمول برای هر مقدار K k معتبر است. فرمول بالا بیان می‌کند اگر K k نتیجه بهینه کالمان باشد، رابطه به شکل زیر ساده خواهد شد.
مشتق نتیجه کالمان
فیلتر کالمان یک تخمین‌گر کمینه مربع میانگین خطا (MMSE) است. خطا در تخمین حالت پسین برابر است با
هدف ما کمینه کردن میانگین مربع این بردار خطا یعنی است. این معادل کمینه کردن اثر تخمین پسین ماتریس کوواریانس است. با بسط رابطه بالا نتیجه می‌شود:
\begin{align
\mathbf{P_{k\mid k - = \mathbf{P_{k\mid k-1 - \mathbf{K_k \mathbf{H_k \mathbf{P_{k\mid k-1 - \mathbf{P_{k\mid k-1 \mathbf{H_k^\text{T \mathbf{K_k^\text{T + \mathbf{K_k (\mathbf{H_k \mathbf{P_{k\mid k-1 \mathbf{H_k^\text{T + \mathbf{R_k) \mathbf{K_k^\text{T \\6pt
- = \mathbf{P_{k\mid k-1 - \mathbf{K_k \mathbf{H_k \mathbf{P_{k\mid k-1 - \mathbf{P_{k\mid k-1 \mathbf{H_k^\text{T \mathbf{K_k^\text{T + \mathbf{K_k \mathbf{S_k\mathbf{K_k^\text{T
\end{align
اثر ماتریس زمانی کمینه می‌شود که حساب ماتریس صفر شود. با استفاده از خواص ماتریس گرادیان و تقارن ماتریس‌ها داریم:
اگر این معادله را برای K k حل کنیم، نتیجه کالمان بدست می‌آید
این عبارت همان نتیجه بهینه کالمان است.
ساده کردن فرمول کوواریانس خطای پسین
با استفاده از نتیجه بهینه کالمان که در بالا بدست آمد می‌توان فرمول کوواریانس خطای پسین را ساده‌تر کرد. اگر طرفیت رابطه نتیجه بهینه کالمان را در S k K k T ضرب کنیم، داریم:
با استفاده از فرمول بسط داده شده کوواریانس خطای پسین
با ساده‌سازی دو جمله آخر نتیجه می‌شود
این فرمول در محاسبه بسیار راحت‌تر است اما تنها برای نتیجه بهینه کاربرد دارد و زمانی که نتیجه کالمان بهینه نباشد باید از همان فرمول قبلی استفاده کرد.
تحلیل درستی
معادلات فیلتر کردن کالمان تخمینی بازگشتی برای حالت و کوواریانس خطای ارائه می‌کند. دقت تخمین به پارامترهای سیستم و نویز ورودی تخمین‌گر بستگی دارد. در غیاب مقادیر ماتریس‌های کوواریانس و عبارت
مقدار درست کوواریانس خطا را ارائه نمی‌کند. به عبارت دیگر، . در بسیاری از کاربردهای بی‌درنگ، ماتریس‌های کوواریانس مورد استفاده در طراحی فیلتر کالمان با مقادیر واقعی ماتریس‌های کوواریانس تفاوت دارند. این تحلیل بیان می‌دارد که تخمین کوواریانس خطا زمانی که ماتریس‌های ورودی سیستم و باشند، نادرست است.
این بحث به حالتی که عدم قطعیت درمورد خطا داریم محدود می‌شود. حال مقادیر واقعی کوواریانس نویز را و تعریف می‌کنیم به‌طوری‌که مقادیر آن‌ها به ترتیب در روابط جایگزین و شوند. مقدار واقعی کوواریانس خطا را و با فیلتر کالمان محاسبه می‌شوند. اگر و ، خواهد بود. با محاسبه مقدار واقعی کوواریانس خطا و جایگذاری و در نظر داشتن اینکه and معادلات بازگشتی برای بدست می‌آید:
و
محاسبه با فرض و انجام می‌شود. روابط بازگشتی برای و جز زمانی که و را به ترتیب به جای و در نظر بگیریم، یکتا هستند.
ریشه مربع
یکی از مشکلات فیلتر کالمان ثبات عددی است. اگر کوواریانس نویز Q k کوچک باشد، مقدار ویژه آن منفی می‌شود. به این ترتیب ماتریس کوواریانس حالات P نامعین می‌شود در حالیکه باید مثبت معین باشد.
یک ویژگی ماتریس‌های مثبت معین این است که ریشه مربعی ماتریس مثلثی P = S · S T دارند. این ریشه می‌تواند به کمک روش تفکیک چولسکی (Cholesky decomposition) محاسبه شود. اگر کوواریانس به این فرم نوشته شود، هیچ‌گاه قطری یا متقارن نخواهد بود. یک فرم معادل این ماتریس که با استفاده از تفکیک U-D بدست می‌آید، P = U · D · U T
است که U یک ماتریس مثلثی واحد و D یک ماتریس قطری است. در میان این دو فرم، فرم U-D رایج‌تر است و نیاز به محاسبات کمتری دارد.
الگوریتم‌های کارای پیش‌بینی و آپدیت کالمان در فرم ریشه مربعی، توسط بیرمن و تورتون ارائه شدند.
تفکیک L · D · L T ماتریس کوواریانس S k مبنای دیگر فیلترهای عددی و ریشه مربعی است. الگوریتم با تفکیک LU آغاز می‌شود و نتایج آن در ساختار L · D · L T وارد می‌شود تا به روش Golub و Van Loan (الگوریتم ۴٫۱٫۲) در ماتریس قطری غیر واحد انجام شود.
ارتباط با تخمین بازگشتی بیز
فیلتر کالمان یکی از ساده‌ترین شبکه‌های پویای بیزی است. فیلتر کالمان حالات فعلی سیستم را در طول زمان به صورت بازگشتی، با استفاده از اندازه‌گیری‌های ورودی در مدل فرایندی ریاضی تخمین می‌زند. به‌طور مشابه تخمین بازگشتی بیز، توابع توزیع احتمال ناشناخته را به صورت بازگشتی، با استفاده از اندازه‌گیری‌های ورودی در مدل فرایندی ریاضی در طول زمان تخمین می‌زند.
در تخمین بازگشتی بیز، حالت فعلی یک فرایند مارکوف مشاهده نشده در نظر گرفته می‌شود و اندازه‌گیری‌های مشاهده شده مدل پنهان مارکف (HMM) هستند.
پیوند=وسط
با فرض مارکوف، حالت فعلی سیستم مستقل از تمام حالات پیش از حالت قبلی آن است.
به‌طور مشابه اندازه‌گیری در بازه زمانی kام تنها به حالت قبلی وابسته است و مستقل از تمام حالات پیش از حالت قبلی آن است.
با این مفروضات، توزیع احتمال تمام حالات مدل پنهان مارکوف به صورت زیر بیان می‌شود:
هدف فیلتر کالمان تخمین حالت فعلی سیستم است. این تخمین با استفاده از حاشیه‌سازی تابع توزیع مشترک بر اساس حالت قبلی سیستم قابل محاسبه است. کافی است حاشیه‌سازی نسبت به تمام حالات قبل انجام شده و بر احتمال مجموعه اندازه‌گیری‌ها تقسیم شود.
به این ترتیب گام‌های پیش‌بینی و آپدیت فیلتر کالمان به صورت احتمالاتی بدست می‌آیند. توزیع احتمال حالت پیش‌بینی شده حاصل انتگرال حاصلضرب توابع توزیع احتمال انتقال از حالت (k-1)ام به حالت kام است و حالت قبلی روی تمام‌های ممکن است.
اندازه‌گیری‌ها تا بازه زمانی kام عبارتند از:
توزیع احتمال آپدیت از حاصلضرب پیش‌بینی و احتمال بخت (likelihood) بدست می‌آید.
به‌طوری‌که
ضریب نرمال‌سازی است.
توابع توزیع احتمال باقی‌مانده عبارتند از:
توجه کنید که تابع چگالی احتمال حالت قبل، یک تخمین است. فیلتر کالمان فیلتری بهینه است و به این ترتیب توزیع احتمال به شرط اندازه‌گیری یک تخمین بهینه توسط فیلتر کالمان است.
بخت حاشیه‌ای
همانند تخمین بازگشتی بیز که پیش‌تر بیان شد، فیلتر کالمان را می‌توان به عنوان یک مدل مولد دید. یعنی فرآیندی برای تولید دنباله‌ای از مشاهدات تصادفی (… , z = ( z 0 , z 1 , z 2. این فرایند به صورت زیر تعریف می‌شود:
حالت پنهان را از توزیع گاوسی پیشین نمونه‌گیری کنید.
حالت پنهان را از مدل مشاهده شده نمونه‌گیری کنید.
برای
حالت پنهان را از مدل انتقالی محاسبه کنید.
مشاهده را از مدل مشاهده شده محاسبه کنید.
این فرایند ساختاری مشابه مدل پنهان مارکوف دارد که حالات گسسته در آن به متغیرهای تصادفی پیوسته با توزیع گاوسی تبدیل شده‌است.
محاسبه بخت حاشیه‌ای به عنوان نتیجه‌ای از فیلتر کردن بازگشتی بسیار آسان است. به کمک قانون زنجیره‌ای احتمال، بخت از حاصلضرب احتمال هر مشاهده به شرط مشاهدات قبلی بدست می‌آید،
به علاوه چون فیلتر کالمان معرف یک فرایند مارکوف است، تمام دانش بدست آمده از مشاهدات قبلی به تخمین محدود می‌شود. به این ترتیب بخت حاشیه‌ای به صورت زیر محاسبه می‌شود:
\begin{align
p(\mathbf{z) -= \prod_{k=0^T \int p(\mathbf{z_k \mid \mathbf{x_k ) p(\mathbf{x_k \mid \mathbf{z_{k-1, \ldots,\mathbf{z_0 ) d \mathbf{x_k\\
-= \prod_{k=0^T \int \mathcal{N(\mathbf{z_k; \mathbf{H_k\mathbf{x_k, \mathbf{R_k) \mathcal{N(\mathbf{x_k; \hat{\mathbf{x_{k\mid k-1, \mathbf{P_{k\mid k-1) d \mathbf{x_k\\
-= \prod_{k=0^T \mathcal{N(\mathbf{z_k; \mathbf{H_k\hat{\mathbf{x_{k\mid k-1, \mathbf{R_k + \mathbf{H_k \mathbf{P_{k\mid k-1 \mathbf{H_k^T )\\
-= \prod_{k=0^T \mathcal{N(\mathbf{z_k; \mathbf{H_k\hat{\mathbf{x_{k\mid k-1, \mathbf{S_k)
\end{align
رابطه بالا حاصلضرب چند توزیع احتمال گاوسی است که هر یک نمایانگر یک مشاهده z k تحت فیلتر است؛ که از آپدیت‌های بازگشتی محاسبه می‌شود. برای راحتی محاسبه بهتر است ازlog بخت حاشیه‌ای یعنی استفاده شود. با فرض محاسبه به صورت بازگشتی انجام می‌شود.
به‌طوری‌که بعد بردار اندازه‌گیری‌ها می‌باشد.
فیلتر اطلاعاتی
در فیلتر اطلاعاتی یا فیلتر کوواریانس معکوس، تخمین کوواریانس و تخمین حالت به ترتیب با ماتریس اطلاعات و تابع اطلاعات جایگزین می‌شوند.
به طریق مشابه کوواریانس و بردار مشاهدات هم با عبارات هم‌ارز اطلاعاتی جایگزین می‌شوند.
با داشتن ماتریس و بردار مشاهدات که به صورت زیر تعریف شده‌اند
اطلاعات آپدیت شده به صورت زیر نوشته می‌شوند.
مزیت اصلی فیلتر اطلاعاتی این است که N مشاهده می‌توانند در هر بازه زمانی با جمع زدن ماتریس‌ها و بردارهای اطلاعاتی فیلتر شوند.
جهت پیش‌بینی فیلتر اطلاعات ماتریس و بردار اطلاعات به عبارات هم‌ارزشان در فضای حالات سیستم تبدیل می‌شوند. البته پیش‌بینی فضای اطلاعاتی هم قابل انجام است.
\textbf{M_{k =
\textbf{F_{k^{-1^{\text{T \textbf{Y_{k-1\mid k-1 \textbf{F_{k^{-1
\textbf{C_{k =
\textbf{M_{k \textbf{M_{k+\textbf{Q_{k^{-1^{-1
\textbf{L_{k =
I - \textbf{C_{k
\textbf{Y_{k\mid k-1 =
\textbf{L_{k \textbf{M_{k \textbf{L_{k^{\text{T +
\textbf{C_{k \textbf{Q_{k^{-1 \textbf{C_{k^{\text{T
\hat{\textbf{y_{k\mid k-1 =
\textbf{L_{k \textbf{F_{k^{-1^{\text{T\hat{\textbf{y_{k-1\mid k-1
این مقادیر به شرطی قابل محاسبه‌اند کهF و Q در زمان ثابت باشند. همچنینF و Q باید معکوس‌پذیر باشند.
تصفیه‌کننده تاخیر زمانی
تصفیه‌کننده بهینه تخمینی بهینه از برای تاخیر ثابت با استفاده از مشاهدات تا ارائه می‌کند. این تخمین به کمک روابط قبلی و برای یک حالت تکمیل شده به صورت زیر بدست می‌آید:
\begin{bmatrix
\hat{\textbf{x_{t\mid t \\
\hat{\textbf{x_{t-1\mid t \\
\vdots \\
\hat{\textbf{x_{t-N+1\mid t \\
\end{bmatrix
\begin{bmatrix
\textbf{I \\
0 \\
\vdots \\
0 \\
\end{bmatrix
\hat{\textbf{x_{t\mid t-1
\begin{bmatrix
0 - \ldots - 0 \\
\textbf{I - 0 - \vdots \\
\vdots - \ddots - \vdots \\
0 - \ldots - I \\
\end{bmatrix
\begin{bmatrix
\hat{\textbf{x_{t-1\mid t-1 \\
\hat{\textbf{x_{t-2\mid t-1 \\
\vdots \\
\hat{\textbf{x_{t-N+1\mid t-1 \\
\end{bmatrix
\begin{bmatrix
\textbf{K^{(0) \\
\textbf{K^{(1) \\
\vdots \\
\textbf{K^{(N-1) \\
\end{bmatrix
\textbf{y_{t\mid t-1
به‌طوری‌که:
و با یک فیلتر استاندارد کالمان تخمین زده شده‌است.
و متغیرهای جدیدی هستند که در فیلتر کالمان وجود نداشتند.
نتایج کالمان از رابطه زیر بدست می‌آیند:
\textbf{K^{(i) =
\textbf{P^{(i) \textbf{H^{T
\left
\textbf{H \textbf{P \textbf{H^\mathrm{T + \textbf{R
\right^{-1
\textbf{P^{(i) =
\textbf{P
\left
\left
\textbf{F - \textbf{K \textbf{H
\right^{T
\right^{i
به‌طوری‌که و کوواریانس خطاهای پیش‌بینی شده و نتایج فیلتر استاندارد کالمان هستند. ( )
اگر تخمین کوواریانس خطا را به صورت زیر تعریف کنیم:
\textbf{P_{i :=
E
\left
\left(
\textbf{x_{t-i - \hat{\textbf{x_{t-i\mid t
\right)^{*
\left(
\textbf{x_{t-i - \hat{\textbf{x_{t-i\mid t
\right)
\mid
z_{1 \ldots z_{t
\right
تخمین بهتری از از رابطه زیر حاصل می‌شود.
\textbf{P-\textbf{P_{i =
\sum_{j = 0^{i
\left
\textbf{P^{(j) \textbf{H^{T
\left
\textbf{H \textbf{P \textbf{H^\mathrm{T + \textbf{R
\right^{-1
\textbf{H \left( \textbf{P^{(i) \right)^\mathrm{T
\right
تصفیه‌کننده بازه
تصفیه‌کننده بهینه تخمینی بهینه از ( ) با استفاده از مشاهداتی در بازه تا ارائه می‌کند. به این مبحث «تصفیه‌کننده کالمان» هم گفته می‌شود. الگوریتم‌های مختلفی با این منظور موجودند.
Rauch–Tung–Striebel
الگوریتمی دو مرحله‌ای و کارا برای تصفیه کردن بازه است. گام رو به جلو مشابه فیلتر عادی کالمان است. تخمین‌های فیلتر شده پیشین و پسین ، و ، در گام رو به عقب کاربرد دارند.
در گام رو به عقب تخمین تصفیه‌شده و را محاسبه می‌کنیم. بدین طریق که از آخرین بازه زمانی شروع کرده و به صورت عقب‌گرد معادلات بازگشتی زیر را می‌یابیم:
به‌طوری‌که
تخمین حالت پسین زمان و تخمین حالت پیشین زمان است. درمورد کوواریانس نیز همین نوشتار به کار می‌رود.
تصفیه‌کننده Bryson–Frazier
این روش جایگزینی برای الگوریتم RTS است که توسط بیرمن ارائه شده‌است. این روش همچنین در گام رو به عقب داده‌های بدست آمده در گام رو به جلوی فیلتر کالمان استفاده می‌کند. معادلات رو به عقب شامل محاسبات بازگشتی که پس از هر مشاهده جهت تصفیه حالت و کوواریانس به کار برده می‌شود.
معادلات بازگشتی عبارتند از:
به‌طوری‌که کوواریانس باقیمانده‌است و . همچنین حالت و کوواریانس تصفیه‌شده با کمک معادلات زیر قابل محاسبه است.
یا
از مزیت‌های MBF عدم نیاز به یافتن معکوس ماتریس کوواریانس است.
تصفیه‌کننده کمینه واریانس
این روش می‌تواند بهترین خطای ممکن را با استفاده از پارامترها و آماره‌های نویزی شناخته‌شده بدست آورد. این تصفیه‌کننده مدل کلی‌تری از فیلتر غیر علی وینر است. (non-causal Wiener filter)
محاسبات در دو گام انجام می‌شود. محاسبات گام رو به جلو در یک مرحله پیش‌بینی صورت می‌گیرد:
{\alpha_{k = -\textbf{S_k^{-1/2 \textbf{H_{k\hat{\textbf{x_{k\mid k-1 +
\textbf{S_k^{-1/2 \textbf{z_{k
این عبارات معکوس وینر-هوف (Wiener-Hopf) است. نتیجه گام رو به عقب می‌تواند با استفاده بازگشت در زمان و از گام رو به جلو از محاسبه شود. در این حالت خروجی سیستم برابر است با:
با جایگذاری در رابطه بالا
این معادله برا ی فیلتر کالمان کمینه واریانس همواره یکسان است. حل معادلات بالا واریانس تخمین خطای خروجی را کمینه می‌کند. توجه کنید که در روش Rauch–Tung–Striebel فرض می‌شود که همه توزیع‌ها گاوسی هستند اما در اینجا چنین نیست.
نسخه پیوسته در زمان این تصفیه‌کننده در ارائه شده‌اند.
فیلترهای وزن‌دار کالمان
توابع وزن‌دار جهت وزن دادن به میانگین توزیع توان خطا در یک بازه تغییر مشخص استفاده می‌شوند. فرض کنید - یک تخمین خطای خروجی توسط فیلتر کالمان و یک تابع تخصیص وزن علی باشد. روش بهینه‌ای که واریانس ( - ) را کمینه می‌کند استفاده از است.
نحوه طراحی فعلا بی‌پاسخ است. یک راه آن شناسایی سیستمی که تخمین خطا را تولید می‌کند و قرارداد کردن به عنوان معکوس آن سیستم است. این روش می‌تواند جهت محاسبه خطای مربع میانگین استفاده شود تا هزینه فیلتر کاهش یابد. همچنین روش مشابهی جهت یافتن تصفیه‌کننده نیز وجود دارد.
فیلترهای غیرخطی
مبنای فیلتر کالمان، تبدیلات خطی است. اما سیستم‌های پیچیده‌تر می‌توانند غیرخطی باشند. مسئله غیرخطی بودن می‌تواند در مشاهدات، مدلسازی یا هر دو بروز پیدا کند.
فیلتر کالمان بسط‌یافته - EKF
در فیلتر بسط‌یافته کالمان (EKF) انتقال حالات و مشاهدات نیاز به توابع حالت خطی یا غیرخطی دارند. اینها توابعی مشتق‌پذیر هستند.
تابع f می‌تواند جهت محاسبه حالت پیش‌بینی شده از تخمین قبلی به کار رود. همچنین تابع h جهت یافتن مشاهده‌ای از حالت قبلی به کار می‌رود. توابع f و h نمی‌توانند مستقیما به کوواریانس اعمال شوند، بلکه باید ماتریسی از مشتقات جزیی (ماتریس ژاکوبی) آن‌ها محاسبه شود.
در هر بازه زمانی ماتریس ژاکوبی با استفاده از حالات پیش‌بینی شده قبلی محاسبه می‌شود. این ماتریس‌ها در معادلات فیلتر کالمان کاربرد دارد. در واقع این فرایند عمل خطی کردن توابع غیرخطی را حول تخمین فعلی شامل می‌شود.
فیلتر کالمان از نوع UKF - Unscented
وقتی انتقال حالات و مشاهدات، یعنی توابع پیش‌بینی و آپدیت و ، کاملا غیرخطی باشند، فیلتر کالمان بسط‌یافته کارایی پایینی خواهد داشت. به این دلیل که کوواریانس در عمل خطی‌سازی مدل غیرخطی افزایش می‌یابد. فیلتر کالمان Unscented از روش نمونه‌گیری قطعی که به Uncented Transform معروف است، استفاده می‌کند تا مجموعه نمونه مینیمالی از نقاط حول میانگین را جمع‌آوری کند. سپس این نقاط در تابع غیرخطی وارد شده تا میانگین و کوواریانس جدید حاصل شود. نتیجه برای سیستم‌های قطعی با قطعیت بیشتری مقدار میانگین و کوواریانس را ارائه می‌کند. این روش به عنوان روش مونت‌کارلو یا بسط تیلور برای آماره‌های پسین شناخته شده‌است. در واقع این روش ما را از محاسبه مستقیم ماتریس ژاکوبی که برای بعضی توابع بسیار پیچیده‌است، بی‌نیاز می‌کند.
پیش‌بینی
مشابه EKF، در روش UKF فاز پیش‌بینی در مقایسه با یک آپدیت خطی مستقل از آپدیت UKF انجام می‌شود. تخمین حالت و کوواریانس با کمک میانگین و کوواریانس فرایند بدست می‌آیند.
مجموعه‌ای شامل 2L + ۱ به کمک حالت و کوواریانس از حالت بعد L حاصل می‌شود.
به‌طوری‌که
iامین ستون ماتریس مربع ریشه است.
با توجه به تعریف ریشه مربعی در ماتریس بدست می‌آید:
ریشه مربعی باید به صورت عددی و توسط روش‌هایی مانند تفکیک کولسکی محاسبه شود.
نقاط بدست آمده به عنوان ورودی تابع انتقال f داده می‌شوند:
به‌طوری‌که . از نقاط وزن‌دار جهت محاسبه تخمین حالت و کوواریانس استفاده می‌شود
به‌طوری‌که وزن‌های مربوط به حالات و کوواریانس از روابط زیر بدست می‌آیند:
و گستردگی نقاط را کنترل می‌کنند. مربوط به توزیع است.
اگر توزیع گاوسی باشد، مقادیر طبیعی برابر , و هستند. بهینه است.
آپدیت
پیش‌بینی حالت و کوواریانس مطابق بالا حاصل می‌شوند به جز زمانی که میانگین و کوواریانس نویز مشاهده شده در دست باشد.
مطابق قبل مجموعه‌ای شامل 2L + ۱ نقطه درنظر می‌گیریم
\begin{align
\chi_{k\mid k-1^{0 - = \textbf{x_{k\mid k-1^{a \\6pt
\chi_{k\mid k-1^{i - = \textbf{x_{k\mid k-1^{a + \left ( \sqrt{ (L + \lambda) \textbf{P_{k\mid k-1^{a \right )_{i, \qquad i = 1,\dots,L \\6pt
\chi_{k\mid k-1^{i - = \textbf{x_{k\mid k-1^{a - \left ( \sqrt{ (L + \lambda) \textbf{P_{k\mid k-1^{a \right )_{i-L, \qquad i = L+1,\dots,2L
\end{align
اگر پیش‌بینی UKF استفاده شده‌باشد، نقاط به صورت زیر مستقلا قابل محاسبه‌اند.
به‌طوری‌که
نقاط به عنوان ورودی تابع h استفاده می‌شوند
نقاط وزن‌دار جهت محاسبه مشاهده و کوواریانس مشاهدات پیش‌بینی شده استفاده می‌شوند.
کوواریانس ضربدری حالات و مشاهدات به صورت زیر محاسبه می‌شود
که برای محاسبه نتیجه فیلتر کالمان UKF استفاده می‌شود.
همانند فیلتر کالمان، حالت آپدیت شده از جمع حالت پیش‌بینی شده و وزن‌دار کردن نتیجه کالمان محاسبه می‌شود
همچنین کوواریانس آپدیت شده برابر است با تفاضل کوواریانس پیش‌بینی شده و کوواریانس محاسبه پیش‌بینی شده که با نتیجه کالمان وزن‌دار شده‌است.
فیلتر کالمان - بوسی
این فیلتر حالت پیوسته در زمان فیلتر کالمان می‌باشد که نام آن برگرفته از نام ریچارد اسنودن بوسی می‌باشد.
این فیلتر مبتنی بر فضای نمونه حالت مدل شده‌است
به‌طوری‌که و قوت نویزهای سفید و را بیان می‌کند.
فیلتر از دو معادله دیفرانسیلی بدست می‌آید. یکی برای تخمین حالت و دیگری برای کوواریانس.
به‌طوری‌که
کوواریانس نویز مشاهده‌شده معادل کوواریانس خطای پیش‌بینی شده است. این دو کوواریانس تنها در حالت پیوسته زمان برابرند.
تمایز میان حالت پیش‌بینی و آپدیت فیلتر کالمان در اینجا وجود ندارد.
فیلتر کالمان هیبریدی
بسیاری از سیستم‌های فیزیکی به صورت پیوسته در زمان مدل می‌شوند درحالیکه مشاهدات ورودی توسط یک پردازنده دیجیتال و به صورت گسسته در زمان به آن ارائه می‌شوند. به این ترتیب مدل سیستم و مشاهدات به این صورت بیان می‌شود:
\begin{align
\dot{\mathbf{x(t) -= \mathbf{F(t)\mathbf{x(t)+\mathbf{B(t)\mathbf{u(t)+\mathbf{w(t), -\mathbf{w(t) -\sim N\bigl(\mathbf{0,\mathbf{Q(t)\bigr) \\
\mathbf{z_k -= \mathbf{H_k\mathbf{x_k+\mathbf{v_k, -\mathbf{v_k -\sim N(\mathbf{0,\mathbf{R_k)
\end{align
به‌طوری‌که
مقداردهی
\hat{\mathbf{x_{0\mid 0=E\bigl\mathbf{x(t_0)\bigr, \mathbf{P_{0\mid 0=Var\bigl\mathbf{x(t_0)\bigr
پیش‌بینی
\begin{align
-\dot{\hat{\mathbf{x(t) = \mathbf{F(t) \hat{\mathbf{x(t) + \mathbf{B(t) \mathbf{u(t)
\text{, with
\hat{\mathbf{x(t_{k-1) = \hat{\mathbf{x_{k-1\mid k-1 \\
\Rightarrow
-\hat{\mathbf{x_{k\mid k-1 = \hat{\mathbf{x(t_k)\\
-\dot{\mathbf{P(t) = \mathbf{F(t)\mathbf{P(t)+\mathbf{P(t)\mathbf{F(t)^T+\mathbf{Q(t)
\text{, with
\mathbf{P(t_{k-1) = \mathbf{P_{k-1\mid k-1\\
\Rightarrow
-\mathbf{P_{k\mid k-1 = \mathbf{P(t_k)
\end{align
این معادلاتت از حالت پیوسته فیلتر کالمان، بدون آپدیت توسط مشاهدات حاصل می‌شوند به‌طوری‌که . حالت و کوواریانس پیش‌بینی شده با حل مجموعه‌ای از معادلات دیفرانسیلی دارای مقادیر اولیه تخمین حالت قبلی محاسبه می‌شوند.
آپدیت
معادلات آپدیت همان معادلات فیلتر کالمان گسسته هستند.