Fastq
クオリティ値Qは確率pを整数に変換したものである(確率pはそのベースコールが誤りである確率)。よく用いられるのはSangerの式によるスコアで、ベースコールの信頼性の指標として利用されており、このスコアはPhredクオリティスコアとも呼ばれる。
Q sanger = − 10 log 10  p {\displaystyle Q_{\text{sanger}}=-10\,\log _{10}p}
Solexaパイプライン(Illumina Genome Analyzerに付属しているソフトウェア)の初期のバージョン(<version 1.3)ではSangerのスコアとは異なり、以下のようなオッズ比がpの代わりに用いられていた。(version1.3でスコアがPhred(Sanger)スコア対応になり、version 1.8以降はスコア、エンコーディングともSangerと同じになった)
Q solexa-prior to v.1.3 = − 10 log 10  p 1 − p {\displaystyle Q_{\text{solexa-prior to v.1.3}}=-10\,\log _{10}{\frac {p}{1-p}}}
クオリティが高いところでは、これらのスコアはほぼ同じとなっているが、低いところでは違いが見られる(約 p>0.05 またはQ<13)。