Presisjon

Presisjon (eller nøyaktighet) brukes blant annet om tall, og hvor mange gjeldende sifre de inneholder. Hvilken presisjon som trengs, som er tilstrekkelig eller er akseptabel varierer stort, og er avhengig av akkurat hvilken oppgave man står overfor.

Eksempel 

Datamaskiner har høy kapasitet, og regner ofte med langt flere desimaler og gjeldende sifre enn det som vil være en fornuftig besvarelse av en gitt oppgave. Hvis man for eksempel måler et objekt med et målebånd, for eksempel et stykke tau, og får resultatet 10 meter (til nærmeste centimeter), og man bruker en avansert kalkulator eller en datamaskin til å dele dette på 3, får man 3,3333333333333333333333333333333. Men dette er langt flere sifre enn i utgangspunktet. Gitt måleresultatet kan man gå ut fra at tauet egentlig har en lengde mellom 9,995 og 10,005 meter. (Dette er fordi alle tall innenfor dette området gir 10,00 når man runder av til to desimaler.) Delt på 3 gir disse tallene henholdsvis 3,3316666666666666666666666666667 og 3,335. Det vil si at tredelen av tauet er ett eller annet sted mellom disse tallene.

Numerisk analyse
 
Evaluering