fix setPrecision()