積分非直線性
終点を通る線について、DACのINLは以下の式となる。
I N L = max 0 ≤ c ≤ c max | V o u t [ c ] − V o u t [ 0 ] − c ⋅ m | {\displaystyle \mathrm {INL} =\max _{0\leq c\leq c_{\max }}\left|V_{\mathrm {out} }[c]-V_{\mathrm {out} }[0]-c\cdot m\right|}
ここで
m = V o u t [ c max ] − V o u t [ 0 ] c max {\displaystyle m={\frac {V_{\mathrm {out} }[c_{\max }]-V_{\mathrm {out} }[0]}{c_{\max }}}}
は終点を通る線の傾きであり、
V o u t [ c ] {\displaystyle V_{\mathrm {out} }[c]}
はコードcでの出力電圧である。これは最小コードが0であることを前提としている。このINLはボルトで測定される。これを理想的なLSB電圧で割ることでLSBでの測定結果を得ることができる。