デジタル
ある数と、(その数の)2の補数との加算を行うと、紙の上の計算では最上位の桁から桁上がりが起きるが、有限の桁しかない加算器では最上位の桁の桁上がりが無視される仕組みになっているので演算結果が0になる、という注目すべき性質がある。デジタルコンピュータのCPUの演算器では、もとの数の2の補数は「0 - もとの数 = - もとの数」を意味することになる。この性質を利用してCPU内の演算では減算 A-Bを 「A+ (-B)」と書き換えることができ、さらに「A+ (Bの2の補数)」と書き換えることができる。つまり負数に2の補数を使うことで、減算という作業を加算と同様に処理できることになり、演算回路を単純なもので済ますことができる。
二進数方式でCPUが動いているデジタルコンピュータは(最初から二進数で入力し、演算し、二進数を出力することもできるが)十進法の数を扱う場合は、一旦、その十進数を二進数へと変換する基数変換を行っている。これらの基数変換は例えば、キーボードから数値を入力する際や、人間のために計算結果を十進で表示する際に行われる。
有限の長さのビット列を扱う場合、算術演算の結果がそのビット列の長さに収まらないことがある(算術オーバーフロー)。
デジタルコンピュータで小数点数(小数点がついているような数)を表現する方法としては、固定小数点表示 / 浮動小数点表示 という2つの方法がある。
固定小数点方式では、数値の整数部と小数部をそれぞれビット列の一部で表す。整数部および小数部のビット列の長さは固定されているため、小数点が固定された数値表現といえる。浮動小数点方式は、数値を仮数部と指数部に分けて表す。浮動小数点方式では、小数点の位置は指数部の値によって変わる。
固定小数点方式は、浮動小数点方式と比較して、大きな数値や小さな数値の表現には向かず算術オーバーフローも生じやすいという欠点がある。その一方で、情報落ちによる誤差は発生しにくい、演算が浮動小数点よりも高速という利点がある。
浮動小数点方式は、固定小数点方式と比較して、大きな数値や小さな数値も表現できる。他方、桁落ちによる誤差が発生する欠点がある。(浮動小数点方式で計算すると20%もの誤差を生じることがあり、深刻な事故の原因にもなることは#特徴の節で説明した。)
なお「デジタルコンピュータなら、いつでも計算が正確」と思うのは幻想でしかない。特に浮動小数点方式で演算する場合は誤差が生じるということには注意を払う必要があり、数値が表現可能な数値範囲を超えてしまう可能性にも十分に用心する必要がある。分かりやすい出来事を紹介すると、たとえば1991年、アメリカ軍のパトリオットミサイルは時間計算の誤差が原因で誤作動して死者が出てしまったし、欧州宇宙機構のアリアン5型ロケットなどは1996年の打ち上げ時にわずか40秒で爆発し、このロケットのために費やした10年の歳月および70億ドルの開発費および搭載した5億ドル相当の装置が失われてしまった。アリアン5型の爆発の直接の原因は、慣性基準装置(IRS)のソフトウェアが水平方向の速度を表現する64ビット浮動小数点数を16ビット整数に変換したため、16ビット整数の最大値である32768を越えてしまい変換に失敗したことであった。
特に浮動小数点方式で非常に近い2つの実数の引き算を行うと、有効桁がひどく損なわれて非常に大きい誤差が発生することがある。たとえば32ビット(単精度)の状態で2つの近い実数の引き算をさせると、数学的に正しい値とは約20%も計算値がズレることがある。
また最小値に近い数値を扱っていないかどうかにも注意を払う必要がある。
デジタル処理では、定義された最大値を超えた場合には桁溢れ(オーバーフロー)となり、以後の演算処理の結果は保証されない。また、最小値に近い数値では量子化誤差が無視できず、S/N比の劣化として現れることがある。

「コンピュータの数値表現#誤差」も参照