開平法
例として、ここでは x = 5630738.132 の正の平方根 √x の小数表示を求める。初期値は、
x6 = 5, x5 = 6, x4 = 3, x3 = 0, x2 = 7, x1 = 3, x0 = 8, x−1 = 1, x−2 = 3, x−3 = 2, xi = 0 (i < −3)
例:√4225 = 65
10 ≤ x < 10 より、n = 3
まずは a3 を求める。
z4 = 0
r4 = 0
p3 = 0 より q3 = 0
z3 = 100(z4 − r4) + 10x7 + x6 = 100 × (0 − 0) + 5 = 5 r3 = (10q3 + a3)a3 = a3 a3 ≤ 5 を満たす最大の a3 は、a3 = 2 である。
次に、a2 を求める。
q2 = (10q3 + a3) + a3 = 2 + 2 = 4
z2 = 100(z3 − r3) + 10x5 + x4 = 100 × (5 − 4) + 63 = 163 r2 = (10q2 + a2)a2 = (40 + a2)a2 (40 + a2)a2 ≤ 163 を満たす最大の a2 は、a2 = 3 である。
a1 を求める。
q1 = (10q2 + a2) + a2 = 43 + 3 = 46
z1 = 100(z2 − r2) + 10x3 + x2 = 100 × (163 − 129) + 7 = 3407 r1 = (10q1 + a1)a1 = (460 + a1)a1 (460 + a1)a1 ≤ 3407 を満たす最大の a1 は、a1 = 7 である。
同様の計算を繰り返すと、各項の値は次の表のようになる。
am の値から
√5630738.132 = 2372.91764...
である。