Por ejemplo para calcular formula_16, tomaban su mejor aproximación entera formula_17, y calculaban formula_18 (una mayor y otra menor) y entonces formula_19 es mejor aproximación, procediendo igual obtenemos formula_20 y formula_21 obteniendo en la tablilla Yale-7289 2=1;24,51,10 (en base decimal 1,414222) como valor de formula_22 partiendo de formula_23 (véase algoritmo babilónico).