角分解能
撮像装置の解像度は収差や回折により引き起こされる画像のぼやけにより制限される。この2つの原因は起源の異なる関連のないものである。収差は光学によって幾何学的に説明でき、光学系の質を上げることで解決することができる。一方で回折は光の波動性から起こるもので、光学装置が有限の口径を持っていることで必然と起こる。レンズの円形開口は単一スリット実験の2次元に拡張したものと捉えることができる。レンズを通過する光は、その出口での透過光の波面が球状か平面とみなされる場合、自身と干渉しリング状の回折パターン(エアリーディスク)を作り出す。
収差と回折の相互作用は点拡がり関数(PSF)で特徴づけることができる。狭い開口を持つレンズではPSFは回折が支配的となり、この場合光学系の角分解能は開口部の直径と光の波長から、レイリー卿によって定義されたレイリー基準によって推定できる。この式では2つの点は、右の画像で見えるように一方の画像のエアリーディスクの最大となる中心ともう一方のエアリーディスクの最初の最小位置が一致するとき分解できていると見なされる。画像一番下の右側はレイリー限界を示し、一方の点源の中央の最大値がもう一方の最小値部分の外にあるようにも見えるが、定規を使って確かめるとこの2つが交わっていることがわかる。この距離が大きければ2点はよく分離され、小さければ分離できないと見なされる。
レイリー卿はこの基準を同じ強度の光源について適用している。
円形開口の回折を考えるとき、透過光は
θ ≈ 1.22 λ D ( sin  θ ≈ θ ) {\displaystyle \theta \approx 1.22{\frac {\lambda }{D}}\quad (\sin \theta \approx \theta )}
と変換される。 θ {\displaystyle \theta } が角分解能をラジアンで表した量で、 λ {\displaystyle \lambda } が光の波長、 D {\displaystyle D} が開口部の直径である。1.22という値は回折パターンのエアリーディスク中心の最初の暗環の位置から計算され、正確には1.21966989...でありこれは第1種ベッセル関数の最初のゼロ値 J 1 ( x ) {\displaystyle J_{1}(x)} を円周率で割ったものである。
正式なレイリー基準はそれ以前にイギリスの天文学者ウィリアム・ドーズが等光二重星を使い人間の目で経験的に求めていた経験則に近かった。この経験則は θ = 4.56 D {\displaystyle \theta ={\frac {4.