Por ejemplo para calcular formula_4, tomaban su mejor aproximación entera formula_5, y calculaban formula_6 (una mayor y otra menor) y entonces formula_7 es mejor aproximación, procediendo igual obtenemos formula_8 y formula_9 obteniendo en la tablilla Yale-7289 2=1;24,51,10 (en base decimal 1,414222) como valor de formula_10 partiendo de formula_11 (véase algoritmo babilónico).