Hva er Presisjon & Scale?

Uttrykket presisjon brukes på mange felter for å beskrive i hvilken grad nøyaktighet, eller nøyaktighet, av en mengde uttrykkes. Men i matematikk og databehandling, refererer presisjon spesielt til antall sifre, eller viktige tall, i et nummer.

Scale

Skalaen viser til antall sifre til høyre for desimaltegnet i et nummer. For å illustrere, antallet, 123,45, har fem sifre, hvorav to er til høyre for desimaltegnet; den har en nøyaktighet på 5 og en skala fra 2.

databaser

Presisjon og skala er viktig for å bestemme nøyaktigheten av numeriske data som er lagret på datamaskinen databaser. Database definisjon språk vanligvis tillate presisjon og skala angis for desimaltall datatyper, opp til en maksimal presisjon på 38.

Aritmetikk

Hvis aritmetikk utføres på tallmateriale, presisjonen og omfanget av resultatet avhenger av at av de opprinnelige dataene. Hvis to uttrykkene har samme datatype, har resultatet presisjonen og skalaen er definert for den datatypen; hvis ikke, blir reglene motstrid brukt til å bestemme den presisjon og omfanget av resultatet.