角分解能
顕微鏡の場合、解像度R(望遠鏡とは違い、角度だけではなく距離で測定される)は開口角 α {\displaystyle \alpha } と呼ばれる量に以下のように依存する。
R = 1.22 λ N A condenser + N A objective {\displaystyle R={\frac {1.22\lambda }{\mathrm {NA} _{\text{condenser}}+\mathrm {NA} _{\text{objective}}}}} 、ここで N A = n sin  θ {\displaystyle \mathrm {NA} =n\sin \theta } .
ここでNAは開口数、 θ {\displaystyle \theta } はレンズの直径と焦点距離に依存する量である開光角度(開口角) α {\displaystyle \alpha } の半分に相当する角度、 n {\displaystyle n} はレンズと対象物の間の媒質の屈折率であり、 λ {\displaystyle \lambda } は観察に用いる光の波長、つまり試料に当てて照らす光や試料が発する(蛍光顕微鏡の場合)光の波長である。したがって、最大の分解能を得るには対物レンズとコンデンサーレンズ両方の開口数を高くする必要がある。両方の開口数が同じ場合は上の式は
R = 0.61 λ N A ≈ λ 2 N A {\displaystyle R={\frac {0.61\lambda }{\mathrm {NA} }}\approx {\frac {\lambda }{2\mathrm {NA} }}}
と簡略化できる。
56}{D}}} ( θ {\displaystyle \theta } は秒角、 D {\displaystyle D} はインチ単位)と表され、レイリー基準よりは僅かに小さく求まった。エアリーディスクをPSFとして使った計算では、このドーズ限界(英語版)では2点の最大値の中間点は5%しか暗くならないが、レイリー基準では26.3%の落ち込みがある。PSFの逆畳み込み手法といった現在のデジタル画像処理技術によって、2点間の分離は計算上の角分解能よりも小さく行える。
小角度近似(英語版)を使うことで、物体までの距離にラジアン単位の角分解能を掛けることで、角分解能 θ {\displaystyle \theta } を空間分解能 Δ l {\displaystyle \Delta \ell } に変換できる。顕微鏡ではこの距離は対物レンズの焦点距離に近くなり、レイリー基準は
Δ l ≈ 1.22 f λ D {\displaystyle \Delta \ell \approx 1.22{\frac {f\lambda }{D}}}
と表される。これは画像平面上でコリメートされた光のビームを集束できる最小点の半径に相当し、そのレンズで分解できる最小物体のサイズに相当する。この大きさは波長 λ {\displaystyle \lambda } に比例するため、たとえば青色光は赤色の光よりも小さな点に集束できる。