十六進法
コンピュータでは、データをビットやオクテットを単位として表すことが多い。それぞれ二進表記の1桁、8桁で表現できる。 使える数は、前者は0と1だけが許されるが、後者は0〜255までに広がる。
後者には、十六進表記がよく用いられ、二進表記の4桁が1桁で表現できるので、二進表記より短く表すことができる。1オクテットは、2桁の十六進表記で表現することができる。
十六進表記の1桁はニブルとも呼ばれる。
下記は具体例。左側はメモリアドレス。右側は十六進法(16進数)で表示された機械語やデータなど。この例ではアルファベットは小文字が使われている。ディスプレイに表示する時は、可読性を高めるために2文字や4文字ごとに空白をはさむことが一般的である。
b_{1}b_{2}\cdots b_{n}&=\left(\left(\left(a_{m}\cdot 16+a_{m-1}\right)\cdot 16\right)+\dotsm \right)\cdot 16+a_{0}\\{}&+b_{1}\cdot {\frac {1}{16}}+\left(b_{2}\cdot {\frac {1}{16}}+\left(b_{3}\cdot {\frac {1}{16}}+\left({}\dotsm +\left(b_{n}\cdot {\frac {1}{16}}\right)\cdot {\frac {1}{16}}\right)\dots \right)\cdot {\frac {1}{16}}\right)\cdot {\frac {1}{16}}\,.\end{aligned}}}
ここで {ai} は整数部の位の値を表し、{bi} 小数部の位の値を表す。位の値は 0 から F までの整数である。整数部と小数部の区切りの点は小数点と呼ばれる。あるいはより形式的に、和の記号を用いて次のように表せる:
( ∑ i = 0 m a i ⋅ 16 i ) + ( ∑ j = 1 n b j ⋅ 16 − j ) . {\displaystyle \left(\sum _{i=0}^{m}a_{i}\cdot 16^{i}\right)+\left(\sum _{j=1}^{n}b_{j}\cdot 16^{-j}\right)\,.}
また負の数は、数字列の先頭に負号(−)を付けて表す(例:−9510 = −5F16)。