계산기 엡실론

계산기 엡실론()은 부동소수점 연산에서 반올림을 함으로써 발생하는 오차의 상한이다. 이 값은 컴퓨터 과학에서 컴퓨터 연산을 통한 수치 해석을 특징짓는다. 기호는 그리스 문자 엡실론  또는 볼드체 로마자 u를 사용한다.

표준적인 하드웨어 부동소수점 연산의 값 
 IEEE 754 - 2008  통상명  C++ 데이터 타입  밑  정밀도  계산기 엡실론  계산기 엡실론 binary16반정밀도short211 (one bit is implicit)2−11 = 4.88e-042−10 = 9.77e-04binary32단정밀도float224 (one bit is implicit)2−24 = 5.96e-082−23 = 1.19e-07binary64배정밀도double253 (one bit is implicit)2−53 = 1.11e-162−52 = 2.22e-16binary80확장배정밀도_float80Floating Types - Using the GNU Compiler Collection (GCC)2642−64 = 5.42e-202−63 = 1.08e-19binary128사배정밀도_float1282113 (one bit is implicit)2−113 = 9.63e-352−112 = 1.93e-34decimal32십진 단정밀도_Decimal32Decimal Float - Using the GNU Compiler Collection (GCC)1075 × 10−710−6decimal64십진 배정밀도_Decimal6410165 × 10−1610−15decimal128십진 사배정밀도_Decimal12810345 × 10−3410−33

according to Prof. Demmel, LAPACK, Scilab
according to Prof. Higham; ISO C standard; C, C++ and 파이썬 language constants; Mathematica, MATLAB and Octave; various textbooks - see below for the latter definition

 각주 

분류:컴퓨터 산술