とする。 $ v(t) $ を確率変数とすれば、このシステムは入力に存在する雑音（システム雑音） $ w(t) $ と出力の観測における雑音（観測雑音） $ v(t) $ の両方が存在するようなシステムである。したがって、内部状態の観測問題は雑音を含む出力からの状態の推定問題になる。ここで入力 $ u(t) $ を考えないのは、上に述べてきたように入力が内部状態および出力におよぼす影響は、確定システムの場合と同じになるからである。ここで $ w(t) $ および $ v(t) $ はその確率構造が

$$ \begin{aligned}&\mathrm{E}\left\{\mathrm{w}(\mathbf{t})\right\}=0\\&\mathrm{E}\left\{\mathrm{w}(\mathbf{t})\mathrm{w}^{\mathrm{T}}(\boldsymbol{\tau}\mathbf{\varepsilon})\right\}=\mathrm{W}(\mathbf{t})\delta\mathbf{\varepsilon}(\mathbf{t}-\boldsymbol{\tau}\mathbf{\varepsilon})\\&\mathrm{E}\left\{\mathrm{v}(\mathbf{t})\right\}=0\\&\mathrm{E}\left\{\mathrm{V}(\mathbf{t})\mathrm{v}^{\mathrm{T}}(\boldsymbol{\tau}\mathbf{\varepsilon})\right\}=\mathrm{V}(\mathbf{t})\delta\mathbf{\varepsilon}(\mathbf{t}-\boldsymbol{\tau}\mathbf{\varepsilon})\end{aligned} $$

で与えられるような白色雑音であり、w(t)とv(t)は独立であると仮定する。また初期値に関しては

$$ \begin{aligned}\mathbf{E}\left\{\mathbf{x}_{0}\right\}=&\mathbf{m}_{0}\\\mathbf{E}\left\{(\mathbf{x}_{0}-\mathbf{m}_{0})(\mathbf{x}_{0}-\mathbf{m}_{0})^{\mathrm{T}}\right\}=&\mathbf{M}_{0}\end{aligned} $$

であり、 $ x_{0} $ と $ w(t) $ および $ v(t) $ とは独立であり既知であるとしておく。

さて、この確率システムに対して状態推定を行うことを考える。このような推定問題においては、推定値が最小分散推定量であることを要請するのが自然であろう。

一方、一般に線形なフィルタの特性は

$$ \mathbf{z}(\mathbf{t})=\int_{\mathrm{t}_{0}}^{\mathrm{t}}\mathbf{H}(\mathbf{t},\boldsymbol{\uptau}\quad)\mathbf{y}(\boldsymbol{\uptau}\quad)\mathbf{d}\boldsymbol{\uptau}\quad+\mathbf{a}(\mathbf{t},\mathbf{t}_{0}) $$

のように表現できる。ここで、 $ H(t,\tau) $ は荷重関数行列（インパルス応答行列）と呼ばれ、線形システムの遷移行列に相当する。そこで、上述のシステムの状態推定に線形なフィルタを用いるとすれば、問題は $ t_{0} \leq \tau < t $ における y （ $ \tau $ ）を用いて

$$ \begin{aligned}&\mathbf{J}=\mathrm{E}\left\{\mid\mathbf{x}(\mathbf{t})-\mathbf{z}(\mathbf{t})\mid^{2}\right\}\\ &\left(\mid\cdot\mid\right. はノルムを表す )\\ \end{aligned} $$

を最小にするような状態変数の推定値 $ z(t) $ を

$$ \begin{aligned}z(t)=&m_{x}(t)+\int_{t_{0}}^{t}H(t,\tau)(y(\tau)-m_{y}(\tau))d\tau\ $ ただし &E\left\{x(t)\right\}=m_{x}(t)、\\&E\left\{y(t)\right\}=m_{y}(t))\end{aligned} $$

という形式で求めることである。

このような $ z(t) $ が最小分散推定値であるための必要十分条件は、フィルタの荷重関数 $ H(t, \tau) $ が

$$ \begin{aligned}&\mathrm{E}\left\{(\mathrm{x}(\mathfrak{t})-\mathrm{m}_{\mathrm{x}}(\mathfrak{t}))(\mathrm{y}(\mathfrak{t})\text{)}\right.-\mathrm{m}_{\mathrm{y}}(\mathfrak{t})\mathrm{)}\mathrm{^\mathrm{T}}\}\\=&\int_{\mathrm{t}_{0}}^{\mathrm{t}}\mathrm{H}(\mathrm{t},\sigma)\mathrm{E}\left\{(\mathrm{y}(\sigma)\text{)}\right.-\mathrm{m}_{\mathrm{y}}(\sigma)\mathrm{)}\left.(\mathrm{y}(\mathfrak{t})\text{)}\right.-\\&\left.\mathrm{m}_{\mathrm{y}}(\mathfrak{t})\mathrm{)}\right]\mathrm{d}\sigma\qquad(\mathrm{t}_{0}\leq\mathfrak{t}\text{)}<\mathfrak{t})\end{aligned} $$

なる積分方程式を満たすことである。この方程式は Wiener-Hopf の積分方程式と呼ばれている。これを実際に解くことは一般に不可能であるとされている。しかし、Kalman と Bucy はこれを微分方程式に変換して、フィルタの構造を決定する手法を与えた。この手法によって構成されるフィルタは Kalman フィルタとよばれている。

結果として得られる Kalman フィルタを、線形システムの状態変数表示によって与えると、次のようになる。

$$ \begin{aligned}&\dot{\mathbf{z}}(\mathbf{t})=\mathbf{A}(\mathbf{t})\mathbf{z}(\mathbf{t})+\mathbf{G}(\mathbf{t})(\mathbf{y}(\mathbf{t})-\mathbf{C}(\mathbf{t})\mathbf{z}(\mathbf{t}))\\&\mathbf{z}(\mathbf{t}_{0})=\mathbf{m}_{0}\\ \end{aligned} $$

ただしフィルタのゲイン G(t)=H(t,t)は

$$ \mathbf{G}(\mathbf{t})=\mathbf{P}(\mathbf{t})\mathbf{C}^{\mathrm{T}}(\mathbf{t})\mathbf{V}^{-1}(\mathbf{t}) $$

で与えられ、$\mathbf{P}(t)$は

$$ \begin{aligned}\dot{\mathbf{P}}(\mathbf{t})=&\mathbf{A}(\mathbf{t})\mathbf{P}(\mathbf{t})+\mathbf{P}(\mathbf{t})\mathbf{A}^{\mathrm{T}}(\mathbf{t})\\&-\mathbf{P}(\mathbf{t})\mathbf{C}^{\mathrm{T}}(\mathbf{t})\mathbf{V}^{-1}(\mathbf{t})\mathbf{C}(\mathbf{t})\mathbf{P}(\mathbf{t})\\&+\mathbf{B}(\mathbf{t})\mathbf{W}(\mathbf{t})\mathbf{B}^{\mathrm{T}}(\mathbf{t})\\\mathbf{P}(\mathbf{t}_{0})=&\mathbf{M}_{0}\end{aligned} $$

なる Riccati 型の微分方程式を解くことによって