fixed precision erros