IEEE 754

IEEE二进位浮点数算术标准（IEEE 754）是20世纪80年代以来最广泛使用的浮点数运算标准，为许多CPU与浮点运算器所采用。这个标准定义了表示浮点数的格式（包括负零-0）与反常值（denormal number），无穷（Inf）与非数值（NaN），以及这些数值的「浮点数运算子」；它也指明了四种数值修约规则和五种例外状况（包括例外发生的时机与处理方式）。
IEEE 754规定了四种表示浮点数值的方式：单精确度（32位元）、双精确度（64位元）、延伸单精确度（43位元以上，很少使用）与延伸双精确度（79位元以上，通常以80位元实做）。只有32位元模式有强制要求，其他都是选择性的。大部分程式语言都提供了IEEE浮点数格式与算术，但有些将其列为非必需的。例如，IEEE 754问世之前就有的C语言，现在包括了IEEE算术，但不算作强制要求（C语言的float通常是指IEEE单精确度，而double是指双精确度）。
该标准的全称为IEEE二进位浮点数算术标准（ANSI/IEEE Std 754-1985），又称IEC 60559:1989，微处理器系统的二进位浮点数算术（本来的编号是IEC 559:1989）。后来还有「与基数无关的浮点数」的「IEEE 854-1987标准」，有规定基数为2跟10的状况。现在最新标准是「ISO/IEC/IEEE FDIS 60559:2020」。
在六、七十年代，各家计算机公司的各个型号的计算机，有着千差万别的浮点数表示，却没有一个业界通用的标准。这给数据交换、计算机协同工作造成了极大不便。IEEE的浮点数专业小组于七十年代末期开始酝酿浮点数的标准。在1980年，英特尔公司就推出了单片的8087浮点数协处理器，其浮点数表示法及定义的运算具有足够的合理性、先进性，被IEEE采用作为浮点数的标准，于1985年发布。而在此前，这一标准的内容已在八十年代初期被各计算机公司广泛采用，成了事实上的业界工业标准。加州大学伯克利分校的数值计算与计算机科学教授威廉·卡韩被誉为“浮点数之父”。
浮点数剖析.
一个浮点数 (Value) 的表示其实可以这样表示：
formula_1 
也就是浮点数的实际值，等于符号位（sign bit）乘以指数偏移值（exponent bias）再乘以分数值（fraction）。
以下内容是IEEE 754对浮点数格式的描述。
本文表示位元的约定.
把W个位元（bit）的数据，从内存地址低端到高端，以0到W−1编码。通常将内存地址低端的位元写在最右边，称作最低有效位（Least Significant Bit, LSB），代表最小的位元，改变时对整体数值影响最小的位元。声明这一点的必要性在于X86体系架构是小端序的数据存储。
对于十进制整数N，必要时表示为N10以与二进制的数的表示N2相区分。
对于一个数，其二进制科学计数法表示下的指数的值，下文称之为指数的实际值；而根据IEEE 754标准对指数部分的编码的值，称之为浮点数表示法指数域的编码值。
整体呈现.
二进位浮点数是以符号数值表示法的格式储存——最高有效位被指定为符号位（sign bit）；「指数部份」，即次高有效的e个位元，存储指数部分；最后剩下的f个低有效位的位元，存储「有效数」（significand）的小数部份（在非规约形式下整数部份默认为0，其他情况下一律默认为1）。
指数偏移值.
指数偏移值（exponent bias），即浮点数表示法中指数域的编码值，等于指数的实际值加上某个固定的值，IEEE 754标准规定该固定值为formula_2，其中的formula_3为存储指数的位元的长度。
以单精度浮点数为例，它的指数域是8个位元，固定偏移值是formula_4。此为有号数的表示方式，单精度浮点数的指数部分实际取值是从-126到127（-127和128被用作特殊值处理，见下方「非规约形式的浮点数」和「特殊值」）。例如指数实际值为formula_5，在单精度浮点数中的指数域编码值为formula_6，即formula_7。
采用指数的实际值加上固定的偏移值的办法表示浮点数的指数，好处是可以用长度为formula_3个位元的无符号整数来表示所有的指数取值，这使得两个浮点数的指数大小的比较更为容易，实际上可以按照字典次序比较两个浮点表示的大小。
这种移码表示的指数部分，中文称作阶码。
规约形式的浮点数.
如果浮点数中指数部分的编码值在formula_9之间，且在科学表示法的表示方式下，分数（fraction）部分最高有效位（即整数位）是formula_10，那么这个浮点数将被称为规约形式的浮点数。“规约”是指用唯一确定的浮点形式去表示一个值。
由于这种表示下的尾数有一位隐含的二进制有效数字，为了与二进制科学计数法的尾数（mantissa）相区别，IEEE754称之为有效数（significant）。
举例来说，双精度 (64-bit) 的规约形式浮点数在指数偏移值的值域为formula_11 (11-bit) 到formula_12，在分数部分则是formula_13到formula_14 (52-bit)
非规约形式的浮点数.
如果浮点数的指数部分的编码值是0，分数部分非零，那么这个浮点数将被称为非规约形式的浮点数。一般是某个数字相当接近零时才会使用非规约型式来表示。
IEEE 754标准规定：非规约形式的浮点数的指数偏移值比规约形式的浮点数的指数偏移值小1。例如，最小的规约形式的单精度浮点数的指数部分编码值为1，指数的实际值为-126；而非规约的单精度浮点数的指数域编码值为0，对应的指数实际值也是-126而不是-127。实际上非规约形式的浮点数仍然是有效可以使用的，只是它们的绝对值已经小于所有的规约浮点数的绝对值；即所有的非规约浮点数比规约浮点数更接近0。规约浮点数的尾数大于等于1且小于2，而非规约浮点数的尾数小于1且大于0。
除了规约浮点数，IEEE754-1985标准采用非规约浮点数，用来解决填补绝对值意义下最小规格数与零的距离。（举例说，正数下，最大的非规格数等于最小的规格数。而一个浮点数编码中，如果exponent=0，且尾数部分不为零，那么就按照非规约浮点数来解析）非规约浮点数源于70年代末IEEE浮点数标准化专业技术委员会酝酿浮点数二进制标准时，Intel公司对渐进式下溢出（gradual underflow）的力荐。当时十分流行的DEC VAX机的浮点数表示采用了突然式下溢出（abrupt underflow）。如果没有渐进式下溢出，那么0与绝对值最小的浮点数之间的距离（gap）将大于相邻的小浮点数之间的距离。例如单精度浮点数的绝对值最小的规约浮点数是formula_15,它与绝对值次小的规约浮点数之间的距离为formula_16。如果不采用渐进式下溢出，那么绝对值最小的规约浮点数与0的距离是相邻的小浮点数之间距离的formula_17倍，可以说是非常突然的下溢出到0。这种情况的一种糟糕后果是：两个不等的小浮点数X与Y相减，结果将是0。训练有素的数值分析人员可能会适应这种限制情况，但对于普通的程序员就很容易陷入错误了。采用了渐进式下溢出后将不会出现这种情况。例如对于单精度浮点数，指数部分实际最小值是（-126），对应的尾数部分从formula_18, formula_19一直到formula_20, formula_21，formula_22相邻两小浮点数之间的距离（gap）都是formula_16；而与0最近的浮点数（即最小的非规约数）也是formula_16。
特殊值.
这里有三个特殊值需要指出：
以上规则，总结如下：
32位单精度.
单精度二进制小数，使用32个位元存储。
S为符号位，Exp为指数位，Fraction为有效数位。
指数部分即使用所谓的偏正值形式表示，偏正值为实际的指数大小与一个固定值（32位的情况是127）的和。采用这种方式表示的目的是简化比较。因为，指数的值可能为正也可能为负，如果采用二补数表示的话，全体符号位S和Exp自身的符号位将导致不能简单的进行大小比较。正因为如此，指数部分通常采用一个无符号的正数值存储。单精度的指数部分是−126～+127加上偏移值127，指数值的大小从1～254（0和255是特殊值）。浮点小数计算时，指数值减去偏正值将是实际的指数大小。
单精度浮点数各种极值情况：
64位双精度.
双精度二进制小数，使用64个位元存储。
S为符号位，Exp为指数位，Fraction为有效数位。指数部分即使用所谓的偏正值形式表示，偏正值为实际的指数大小与一个固定值（64位的情况是1023）的和。采用这种方式表示的目的是简化比较。因为，指数的值可能为正也可能为负，如果采用二补数表示的话，全体符号位S和Exp自身的符号位将导致不能简单的进行大小比较。正因为如此，指数部分通常采用一个无符号的正数值存储。双精度的指数部分是−1022～+1023加上1023，指数值的大小从1～2046（0（2进位全为0）和2047（2进位全为1）是特殊值）。浮点小数计算时，指数值减去偏正值将是实际的指数大小。
浮点数的比较.
浮点数基本上可以按照符号位、指数域、尾数域的顺序作字典比较。显然，所有正数大于负数；正负号相同时，指数的二进制表示法更大的其浮点数值更大。
浮点数的舍入.
任何有效数上的运算结果，通常都存放在较长的暂存器中，当结果被放回浮点格式时，必须将多出来的位元丢弃。
有多种方法可以用来执行舍入作业，实际上IEEE标准列出4种不同的方法：
浮点数的运算与函数.
标准运算.
下述函数必须提供:
精度.
在二进制，第一个有效数字必定是「1」，因此这个「1」并不会储存。
讨论一.
单精和双精浮点数的有效数字分别是有储存的23和52个位，加上最左手边没有储存的第1个位，即是24和53个位。
由以上的计算，单精和双精浮点数可以保证7位和15位十进制有效数字。
讨论二.
C++语言标准定义的浮点数的十进制精度(decimal precision)：十进制数字的位数，可被(浮点数)表示而值不发生变化。C语言标准定义的浮点数的十进制精度为：十进制数字的位数q，使得任何具有q位十进制数字的浮点数可近似表示为b进制的p位数字并且能近似回十进制表示而不改变这q位十进制数字。
但由于相对近似误差不均匀，有的7位十进制浮点数不能保证近似转化为32比特浮点再近似转化回7位十进制浮点后保持值不变：例如8.589973e9将变成8.589974e9。这种近似误差不会超过1比特的表示能力，因此(24-1)*std::log10(2)等于6.92，下取整为6，成为std::numeric_limits<float>::digits10以及FLT_DIG的值。std::numeric_limits<float>::max_digits10的值为9，含义是必须9位十进制数字才能区分float的所有值；也即float的最大表示区分度。
类似的，std::numeric_limits<double>::digits10或DBL_DIG是15， std::numeric_limits<double>::max_digits10是17。
例子.
以下的C++程式，概略地展示了单精和双精浮点数的精度。
<syntaxhighlight lang="cpp">
int main () {