逆問題
ここでは、モデルと出力が既知で、入力が未知の問題を扱う。モデルは線形モデルである。N 個の誤差のある観測値(出力) y1, y2, ... {\displaystyle \dotsc } , yN から、M 個のパラメタ(入力) x1, x2, ... {\displaystyle \dotsc } , xM を推定するという問題を扱う。
観測不可能な真の値 xi と、観測値 yμ は、線形の関係がある(線形モデル)と仮定する。
y i = ∑ μ K i μ x μ + n i {\displaystyle y_{i}=\sum _{\mu }K_{i\mu }x_{\mu }+n_{i}}
ここで、Kiμ は分かっているものとする。ノイズ ni は観測不可能だが、その統計的性質として平均 0 と、共分散
S i j = E ( n i n j ) {\displaystyle S_{ij}=\mathrm {E} (n_{i}n_{j})}
は分かっているものとする。ここで、E() は統計平均を取る操作。
もし、観測が全て独立でその数 N が、パラメタの数 M より多ければ、最小自乗法で x の推定値を求めることができる。しかし、観測が独立でなかったりその数がパラメタの数より少ないとき、x を求める問題は劣決定となり、上記適切性のうち解の一意性が満たされない非適切な問題となる。よって、その問題に即した適当な正則化を行って、解を求める必要がある。
劣決定な逆問題では、与えられたデータ y だけでは拘束条件 Kx=y を満たす推定パラメタ x が一意に決まらないため、正則化項 R を第二項に加えた
J = ( K x − y ) ⊺ ( K x − y ) + R {\displaystyle J=({\boldsymbol {K}}{\boldsymbol {x}}-{\boldsymbol {y}})^{\intercal }({\boldsymbol {K}}{\boldsymbol {x}}-{\boldsymbol {y}})+{\boldsymbol {R}}}
を最小にする x を求めた。第二項には第一項に含まれていない情報が付加されている。上記の例では、「推定パラメタはほとんど零である」や「推定パラメタはばらつきが少ない」などである。その情報は、問題が与えられる前にすでに期待されていることだから、先験情報(あるいは事前情報)と呼ばれる。これに対応させて、第一項を事後情報ととらえ、逆問題をベイズ統計学の観点から考えることもできる。
一般に、第一項はデータのノイズに敏感で、推定パラメタに大きな変動や空間スケールの小さな構造をもたらす。一方、第二項は推定パラメタを滑らか・安定にする働きをもつ。問題に応じて、第一項と第二項の比は(ときに主観的に)決められる。
逆問題としては、以下の2つのパターンがある。
既知:モデル(関数)と出力未知:入力
既知:入力と出力未知:モデル(関数)
順問題は、入力とモデル(関数)が既知で、出力が未知である。
逆問題(ぎゃくもんだい、英: inverse problem)とは、数学・物理学の一分野であり、入力(原因)から出力(結果、観測)を求める問題を順問題(じゅんもんだい、英: direct problem)と呼び、その逆に出力から入力を推定する問題や入出力の関係性を推定する問題を逆問題と呼ぶ。