端数処理
端数処理（はすうしょり）、与えられた数値を、ある一定の丸め幅の整数倍の数値に置き換えることである。平たく、丸め（まるめ）ともいう。常用的には、十進法で10となる数値の累乗（…100、10、1、0.1、0.01…）が丸め幅とされることが多いが、十進法以外のN進法についても同様である。
丸めは任意の丸め幅に対し可能だが、以下では特にことわらない限り、丸め幅を1とする。任意の丸め幅で丸めるには、丸める前に丸め幅で割り、丸めた後に丸め幅をかける。
主に正数について述べるが、負数についても適宜述べる。
整数部分をそのまま残し、小数点以下を0とする丸めを切り捨てという。それに対し、小数点以下が0でなかった場合整数部分を1増やし、小数点以下を0とする丸めを切り上げという。
負の数を考えると、切り捨て・切り上げに準ずる丸めは、4種類ある。それぞれ「○○への丸め」と呼ばれる。
符号を無視して絶対値を丸める場合、切り捨ては、常に0へ近づく（または変わらない。以下では省略）ので「0への丸め (rounding toward zero; RZ)」、切り上げは、常に数直線上の無限遠点へ近づくので、「無限大への丸め (rounding toward infinity; RI)」と呼ばれる。単に切り捨て・切り上げというと、これらをさす。
逆に、正数の場合と増減を同じ向きにする場合は、切り捨ては、常に減るので「負の無限大への丸め (rounding toward minus infinity; RM)」、切り上げは、常に増えるので「正の無限大への丸め (rounding toward plus infinity; RP)」と呼ばれる。
切り捨て・切り上げは、最も計算が単純な丸めである。その一方で、丸め誤差の上界が1（最大が1近い）と大きい。さらに悪いことに、誤差が常に同じ符号であるというバイアスがあり、丸めた数を多数足し合わせると、個数に比例して丸め誤差が累積する。この欠点のため、限られた目的にしか使われない。
数値が増えては困る／減っては困る場合は、切り捨てや切り上げが使われる。
丸め誤差を小さく抑えるには、常に最も近い整数（2つある場合はそのうちどちらか）に丸めればいい。これを「最近接丸め (round to the nearest)」という。ただし、単に「最近接丸め」というと、後述する「偶数への丸め」を意味することが多いので注意。
最近接丸めでは、丸め誤差は最大で1/2となる小数（以下「半分小数」。十進法の0.5や、十二進法の0.6など）で、切り捨て・切り上げの半分になる。バイアスも、端数がランダム（[0,1)で一様分布）の場合は発生しない。端数がランダムでなく端数が半分小数が有限の割合で発生する場合のみバイアスが発生するが、それでも、切り上げ・切り捨てより格段に少ない（端数が全て小数化すると半数になる、十進法0.5のデータを四捨五入する、十二進法0.6のデータを五捨六入するいったワーストケースでは同じ程度になる）。
端数がちょうど半数だった場合どちらに丸めるかで、いくつかの変種がある。
十進法では、端数が0.5未満なら切り捨て、0.5以上なら切り上げる「半数切り上げ」の丸めを「四捨五入」という。JIS Z 8401で規則Bとして定められている。「四捨五入」という呼び名は、小数第一位が4以下ならば切り捨て、5 以上ならば切り上げることに相当することから来ている。一般にはR丸めとも言う。（「ある程度」というのは、1.0 の半分が 0.5 であるということは記数法に無関係な、量（数量）としての関係だからである。小数点からずれた位置での丸めは記数法の影響が大きいが、小数点のひとつ左にある「ーの位の桁」の重みが1である、ということは記数法の影響を受けない。）
正数に対しては、0.5を足して切り捨てるという、単純なアルゴリズムで得られる。なお、負数に対して正常な結果を得ようとすれば、切り捨ては負の無限大への丸めである必要がある（0への丸めだと、たとえば−2が−1に丸められてしまう）。ただし、0.5を足して負への無限大へ丸めると、端数が0.5の場合に絶対値が減る（たとえば、−1.5は−1へと丸められる）。一方、JIS Z 8401では、負数は絶対値として丸める（−1.5は−2へと丸められる）。実際に、コンピュータで負の数に「0.5を足して切り捨て」た場合どうなるかは、負数と切り捨ての実装による。
端数が0.5のとき常に増える方向に丸められるため、（端数がランダムでない場合は）わずかに正のバイアスが発生しうる。
端数が0.5以下なら切り捨て、0.5超なら切り上げる丸めを「五捨五超入」という。
0.5は常に切り上げられる四捨五入とは逆の特徴を持つ。端数がランダムでない場合は、わずかに負のバイアスが発生しうる。
正の数に対しては、0.5を引いて切り上げることで得られる。
偶数への丸め（round to even）は、端数が0.5より小さいなら切り捨て、端数が0.5より大きいならは切り上げ、端数がちょうど0.5なら切り捨てと切り上げのうち結果が偶数となる方へ丸める。JIS Z 8401で規則Aとして定められていて、規則B（四捨五入）より「望ましい」とされている。
四捨五入ではバイアスが発生する、端数0.5のデータが有限割合で存在する場合でも、バイアスがないのが特徴であり、多数足し合わせても丸め誤差が特定の側に偏って累積することがない（偶数+0.5は現れるが奇数+0.5は現れない、といったような特徴があるデータであれば、やはりバイアスはあらわれる）。
単に「偶数丸め」「最近接丸め」とも呼ばれる。JIS Z 8401で定められていることから「 JISの丸め方」、あるいは同様にISO 31-0で定められていることから「ISO丸め」ともいう。英語では、誤差の累積を嫌い銀行家が好んで使ったため「銀行家の丸め (bankers' rounding)」、「銀行丸め」ともいう。5が切り捨てられたり切り上げられたりするので「五捨五入」と呼ばれたり、端数がちょうど0.5の場合に整数部分が偶数なら「ゼロへの丸め」奇数なら「無限大への丸め」になるので「偶捨奇入」と呼ばれたりもする。
奇数への丸め（round to odd）は、偶数への丸めの対称である。端数が0.5より小さいなら切り捨て、端数が0.5より大きいならは切り上げという点は最近接丸めとして同様だが、端数がちょうど0.5なら切り捨てと切り上げのうち結果が奇数となる方へ丸める、という点が偶数への丸めの逆である。
四捨五入ではバイアスが発生する、端数0.5のデータが有限割合で存在する場合でも、バイアスがないのが特徴であり、多数足し合わせても丸め誤差が特定の側に偏って累積することがない（偶数+0.5は現れるが奇数+0.5は現れない、といったような特徴があるデータであれば、やはりバイアスはあらわれる）。
定義は最近接丸めになっていないが、最近接丸めと等しくなる場合にのみ実用される丸めがいくつかある。
小数第一位が5以下ならば切り捨て、6以上ならば切り上げる丸めを「五捨六入」という。ただし、後述するように五捨六入は十進法と十二進法では異なり、十進法では「半数切り捨て」が五捨六入で、十二進法では「半数切り上げ」が五捨六入である。この節では、十進法で「半数切り捨て」を指す五捨六入について述べる。
0.4を足して切り捨てることで得られる。0.55が0へ丸められることから、五捨六入が最近接丸めではないことがわかる。端数がランダムなデータに対しは、やや強い負のバイアスがあるため、そのようなデータに対し五捨六入が使われることはまずない。
五捨六入が実用的なのは、端数が0.1の整数倍のみを取りうる場合に限られる。この場合の五捨六入は、0.1〜0.5で切り捨て、0.6〜0.9で切り上げ（0.5超0.6未満は発生しない）なので、最近接丸めの一種の五捨五超入と同じ結果となる。
例えば、麻雀のとあるローカルルールでは、最終的な得失点を五捨六入する。この場合の端数は常に0.1の整数倍（100の倍数を、1000の倍数に丸める）なので、丸め結果は五捨五超入である。
コンピュータでは、プロセッサによっては四捨五入と五捨六入を均等に使い分け、バイアスを0にする工夫がなされているものがある。
アルシーアル麻雀の得点計算では、かつて端数処理が行われる前の段階の計算による得点を丸めるときに四捨六入と呼ばれるものが採用されていた。これは丸める桁が必ず偶数になるためであり、実質的には最近接丸めである。また、#偶数への丸めが「四捨六入」と呼ばれる事例もある。
ニュージーランドでは現金での支払いの際、スウェディッシュ・ラウンディングと呼ばれる方法で端数処理が行われている。「スウェディッシュ・ラウンディング」とは、十進法で二捨三入や七捨八入と呼ばれる方法である。
5を単位とした端数が3未満なら切り捨て、3以上なら切り上げとなる。
端数がランダムな場合は、五捨六入と同様に非実用的である。しかし通常は、1刻みのデータに対し5を丸め幅として丸めるので、その結果は最近接値への丸めである。
IEEE 754で丸めモードとして定められている
の4つを「IEEE丸め」と総称する。
[0,1)の一様乱数を発生させ、端数以上なら切り捨て、端数より小さければ切り上げる。
一様乱数を足して切り捨てることで得られる。
丸め誤差は上界が1だが、分布が0近くに集まっているため、ランダムなデータに対する平均二乗誤差は切り捨て・切り上げよりは少ない。
任意の分布の端数に対して、バイアスがないのが特長である。たとえば、0～0.5の間に端数が多かったとすると、偶数への丸めでは負のバイアスが生まれるが、乱数丸めではバイアスがない。
ディザの一種として使われる。
常に奇数側へ丸める。
二進法では、切り捨てた後LSBをセットするという、簡単なアルゴリズムで得られる。
丸め誤差は切り捨て・切り上げと同程度で大きいが、ランダムなデータに対してはバイアスがないという性質は持っている。
単なる量として「何らかの実数値から何らかの整数値への丸め」といったように解釈すれば、本来は丸めは記数法の体系とは無関係である。しかし、多くの場合、任意に精度をいくらでも伸ばせるような計算は不可能であったりするなど、どこかで打ち切らざるをえないわけで、その際に記数法が問題になる。
1/2が割り切れないために不便が多く採用の少ない、三進法などの奇数進法は、丸めにおいて「ちょうど中間」の値を持たないことが特徴である。
また、桁の基数 N が偶数の場合は、Nの 1/2 が奇数か偶数かによって性質が異なる。十進法や二進法などで「ちょうど中間」から偶数への丸めが好まれるのは、そうすると（原則としてやってはいけないことだが、もし）一回丸めた後に最下位の桁で二回目の丸めが起きても、そこでまた「ちょうど中間」になることを避けられるからである。
これは、十進法や二進法は、どちらもNの 1/2 が奇数だからである。十二進法や二十進法といった、Nの 1/2 も偶数（すなわち「複偶数」進法）で 1/4 が奇数になる場合、「ちょうど中間」からは奇数を好むように丸めたほうが、次も「ちょうど中間」になる、ということを避けられる。なお、十二進法では 1/2 が 0.6 なので、半数切り上げが「五捨六入」で、半数切り捨てが「六捨七入」になる。同じく、二十進法では 1/2 が 0.A（十進法で10/20）なので、半数切り上げが「九捨十入」で、半数切り捨てが「十捨十一入」になる。前述のスウェディッシュ・ラウンディング（半数に丸める）も、十二進法では「三捨四入」「八捨九入」で3以下は切り捨て、4から8までは6に丸め、9以上は切り上げとなり；二十進法では「五捨六入」「十四捨十五入」で5以下は切り捨て、6からE（十四）まではAに丸め、F（十五）以上は切り上げとなる。
同じ数値を2回以上丸めてはいけない。偶数への丸めの場合で、切り捨て過ぎてしまう例と、切り上げ過ぎてしまう例を説明する。簡単な原則のように思えるかもしれないが、時に難しい問題を引き起こすことがある。たとえば、計算しているなんらかの値が、「偶数 + だいたい0.5」というような値になった時、それが「0.5ちょうどか、もしかしたら少し小さい」という場合は切り捨てできるが、それと対称的であるにもかかわらず「0.5ちょうどか、もしかしたら少し大きい」という場合は、「もしかしたら」の部分をはっきりさせなければ、正しい丸めができない。「奇数 + だいたい0.5」では逆になる。
以下の数値を上であげたような端数処理により有効数字 2 桁にする場合を考える。
choppingは、あるビット以下を全て0にする。これは最も計算が簡単な丸めで、正の数に対しては切捨てとなる。負数に対する動作は負数の方式によるが、2の補数表現では負の無限大への丸めとなる。
choppingは、下位ビットを明示的に0にするほか、たとえば32ビットレジスタの上位16ビットを16ビットレジスタとして使うなどでも得られる。
choppingのあと、有効桁の中でのLSBをセットすると、フォン・ノイマン丸めとなる。
同様にビット操作で実装されるものであるが、プログラミング言語の関数などで丸めの機能が提供されている。FPUで実装されていることも多い。
通常は、丸め関数の丸め幅は1で、それ以外の丸め幅に対しては、丸め前に丸め幅で割り丸め後に丸め幅を掛ける、というのが一般的なレシピである。これは、割ったり掛けたりするのはプログラマの責任であり、処理系は「小数点以下の丸め」のみに責任を持つ、という明確な責任の分界点のあらわれである。第2引数以降で丸め幅を指定できる環境もある（が、次で述べるように問題がある）。
Ruby（やPHP）など一部の言語のライブラリでは、（十進で）小数点以下何桁目で丸める、ということを引数で指定できるものがあるが、仕様に問題がある。よく知られているように一般的な二進の浮動小数点表現では、例えばきっかり 0.1 という値は表現できない。ということは、たとえば 0.11 を小数点以下1桁に丸めた結果として 0.1 が欲しい、と要求しても、その 0.1 は内部的には「丸めた」結果とは本来は言えないものだからである。そのような計算に関する、いくつかのモデルの立て方は考えられるが、いずれにしろ元々の要求のほうが無理としたほうが妥当である。
丸め関数が返す値は、小数点以下が全てゼロの値、という意味では整数だが、型は引数と同様に浮動小数点型というものも多い。これは理論的な理由よりは実際上の理由で、以前は一般的な整数型であった32ビット固定長整数で表現できる整数の範囲よりも、一般的な浮動小数点型である倍精度浮動小数点型で正確に表現できる整数の範囲のほうが広いためである。
多くの環境では、床関数（負の無限大へ）、天井関数（正の無限大へ）、切り落とし関数（0へ）が実装されている（床関数と天井関数）。それぞれの関数名には、次のようなものが使われる。これらは、4つのIEEE丸めモードのうち3つに対応している。4つ目の偶数への丸めの実装率は、これらより劣る。IEEE丸めに含まれない無限大への丸めが実装されている環境は少ない。
例: ±3.7 を丸め幅1で丸める。
最近接丸めは、多くの環境にroundという関数がある。しかし、どの最近接丸めかを定めている一般的となっている標準（デファクトスタンダード）は存在しないので注意が必要である。たいていは四捨五入か偶数への丸めであるが、明示的に選択できないことも多い。
浮動小数点型から整数型へのキャストなどによる型変換では、処理が単純な切り捨てになるものが多く、負の場合は実装による。
C言語のmodf関数は、実数を整数部と小数部に分割する。整数部は0への丸めである。
（以下（§a.b）のようにして示すセクションは JIS X 3010-1993（C89）のもの）
C言語およびそれと同じ仕様の言語では、キャストなどによる浮動小数点型から整数型への型変換においては、その値は小数部が捨てられる（§6.2.1.3）。よって「0への丸め」が行われる。
C89では、数学ライブラリ（§7.5）に床関数floorと天井関数ceilがあり（§7.5.6）、浮動小数点型において正方向への丸めと負方向への丸めが計算できる。
C99では、四捨五入関数codice_1をはじめとして、codice_2/codice_3（これはmath.hではなくfenv.h）による丸めモードの取得と設定など、大幅な強化が図られている。
なお、浮動小数点演算の性質上、たとえば (int)(0.6/0.2) は 3.0 ではなく 2.0 になる（なってもおかしくない）ので注意が必要である。これは浮動小数点表現では 0.6 や 0.2 を厳密に表現できないため、0.6/0.2 が、厳密には 2.9999999999999996 のような値になるためである。
ウィリアム・カハンは端数処理の（あまり意識されていなかった）難しさを示し、「テーブルメーカーのジレンマ」というフレーズを提案した。これは「#2回以上の丸めの禁止」の節で『「もしかしたら」の部分をはっきりさせなければ、正しい丸めができない』と説明した内容の「はっきりさせる」ために必要なコストについて（実は）「オーダーを見積もる」ことすら不可能だ、という話である。
その一例を示しながらカハン曰く、そこにおいてオーバーフロー・アンダーフローをしないとき正しく丸められたy^wを全ての2つの浮動小数点数の引数に対して計算するのにどれだけのコストがかかるかだれも知らない。一方、reputableな数学ライブラリは初等超越関数を多くの場合わずかに1/2ulpを超えるのに収まりほとんど常に十分1ulpに収まるように計算する。なぜy^wはSQRTのように1/2ulpに収まるよう丸められないのだ? なぜならばどれだけの計算がかかるかだれも知らないからだ...。transcendental表現を計算し既定の桁数に正しく丸めるのにどれだけの余分な数字をcarryしなければならないかを予想する一般的な方法はない。ある有限の桁数が最終的に十分であるという(正しいとしても)事実すらも深い定理かもしれない。
この事実の帰結として、標準規格では以下のようになっている。IEEE754（1985年版）では、四則演算（加減乗除）、Fused Multiply-Add、平方根、剰余（浮動小数点剰余）について、「無限の精度で演算し、それを正しく丸めた結果」を要求し、また標準に沿っていると保証する実装はそれを保証しなければならない。一方で、より複雑な関数（演算）に対しては1985年版の仕様では同様な要求は示されず、それらに対しては典型的には「最終bitの範囲内（いわゆる「1ULP」）」の正しさは無い。2008年版ではいくつかの更新があった。
Gelfond–Schneider理論およびLindemann–Weierstrass理論を用いることにより、standardな初等関数の多くは非ゼロの有理数の引数を与えられた時transcendentalな結果を返すことを証明されている。それゆえそのような関数を正しく丸めることは常に可能である。しかし、どれくらい正確な結果を計算する必要があるかについて　ある与えられた精度に対してリミットを決定すること、正しく丸められた結果が保証される前に、は多くの計算時間を要求するかもしれない。
いくつかのパッケージは正しい丸めを提供する。
他のいくつかのパッケージは倍精度において正しい丸めの初等関数を実装している。
それについて丸められた値がどれだけの桁を計算してもdetarminedになりえないような計算可能な数が存在する。特定のインスタンスは与えられることはないがしかしこれは停止問題のundecidabilityからをfollowする。
例えば、もしゴールドバッハのconjectureが真でかつ証明不可能であれば、次の値を次の整数まで丸めた結果は決定できない。
10^−n ここでnは4より大きい2つの素数の和でないような最初の偶数か、あるいはもしそのような数が無ければ0
結果はもしそのような数が存在すれば1、存在しなければ0である。丸め前の値はしかしconjectureが証明不可能であっても与えられた任意の精度で近似できる。