分解能
より現実的に考えれば、照明状態Kによって変化する定数が必要で、
δ = K λ N A = K λ n sin  θ {\displaystyle \delta =K{\frac {\lambda }{NA}}=K{\frac {\lambda }{n\sin \theta }}}
となる。
可視光に当てはめると、K=0.5 の時
δ = 0.5 × 550 n m ÷ 1.45 ≈ 190 n m ( 0.19 μ m ) {\displaystyle \delta ={\hbox{0.5}}\times 550nm\div {\hbox{1.45}}\approx 190nm({\hbox{0.19}}\mu {\hbox{m}})}
可視光線で油浸の倍率100倍の対物レンズを用いれば0.2μm程度が解像できるとされる。しかし、厳密には照明条件、レンズ性能、試料の影響によって解像の極限値は変化するので、これが限界ではない。レンズの回折限界を分解能と同等の意味で用いられることもあるが、分解能の定義としては正しくない。
分光器では、近接する2本のスペクトル線を分離できる能力を表し、 R = λ / Δ λ {\displaystyle {\mathit {R}}=\lambda /\Delta \lambda } で定義される。 Δ λ {\displaystyle \Delta \lambda } は分解できる2波長の差であり、 λ {\displaystyle \lambda } はその平均波長。
レイリーの定義における2つの点光源の分解能δは、光の波長をλ、対物レンズの開口数をNA、物体と対物レンズの間の媒質の屈折率をn、物体から対物レンズに入射する光線の光軸に対する最大角度をθとしたとき、
δ = 0.61 × λ N A = 0.61 × λ n sin  θ {\displaystyle \delta ={\frac {0.61\times \lambda }{NA}}={\frac {0.61\times \lambda }{n\sin \theta }}}
となる。