Presisjon (aritmetikk)

Fra Wikipedia, den frie encyklopedi

Presisjonen eller nøyaktighet i aritmetikken beskriver hvor mange sifre som brukes til å uttrykke en verdi. I en vitenskapelig forstand vil det svare til det totale antall sifre. Noen ganger kalt (de/t) viktige siffer eller (de/t) signifikante tall, (jf. semiotikken det som teller/det talte). Presisjon kan også defineres som antall desimaltall (sifre etter komma), noe som er nyttig i finansielle og tekniske anvendelser, der antall sifre i brøkdelen har særlig betydning.

Presisjon handler i anvendt matematikk ofteste om regler for avrunding. For eksempel, i flyttallsaritmetikk, hvor et resultat er avrundet til en gitt eller fastsatt presisjon, utgjør den resulterende signifikanten lengden. I finansberegninger er nummeret ofte avrundet til et gitt antall siffer (for eksempel til to sifre etter kommaet for mange av verdens valutaer).