感度
測定値の変動の原因は実験条件のわずかな変動とともに測定機器の雑音がある。連続測定ではラインの変動となって表れる。信号を増幅しても雑音も増幅されるから信号が雑音より十分大きくないとわかりにくくなるので雑音は感度を制約する要因になる。
機器の雑音の定義としては (1) rms noise:平均値からの変動の2乗の和をn-1で割ったものの平方根、(2) peak to peak noise:一定時間内の最大値と最小値との差、または複数の区間の最大値と最小値の差の平均があり、理論的には (1) を用いるが通常は (2) で表示されている。(1) は標準偏差と同じ数式であるが、観測点間の時間が極めて短いrms noiseでは測定値の間に自己相関があるため標準偏差と同じに扱って数学的に厳密な検出限界を与えることはできない。しかし自己相関がなければ (2) は (1) の約5倍といわれるので (2) はほぼ雑音の範囲を示すとみられ、その2~3倍離れていれば有意差ありとして大体誤りはないと考えられる。(「雑音」の項目の「測定機器の雑音」を参照)
測定値が互いに相関がなく正規分布をすることを前提として、ブランクの測定値の標準偏差の3倍(Kaiserの限界)、または3.29倍(Currieの限界)を限界とすることが行われている。