分解能
回折格子の分解能 R {\displaystyle {\mathit {R}}} は、回折格子の格子線本数 N {\displaystyle N} と回折次数 m {\displaystyle m} の積に等しい。
走査型プローブ顕微鏡では、定義は定まっていない。
走査型トンネル顕微鏡では良好な測定条件下では単結晶試料の原子の格子間隔に相当する凹凸を得られていることから原子分解能を有するとされる。
ただ原子間力顕微鏡を含む走査型力顕微鏡の複数ある測定法の中にはコントラストメカニズムが判っていない方法もあり、そのような顕微鏡のカタログや論文にある分解能の表現の解釈には注意が必要。超高真空中で行うノンコンタクト原子間力顕微鏡では走査型トンネル顕微鏡に近い解像度が実現されており、絶縁体の原子の格子間隔に相当する凹凸が解像できている。
光学顕微鏡での分解能は、2点分解能をもって定義される。非干渉性で直進並行光の理想光源が照射されている事を前提とした上で、目視の分解能を出すためには550nm(緑色光)で計算しレイリーとアッベの定義に従うとされるが、照明光の開口数によって分解能に違いが出る。