Heltallsoverflyt

Fra Wikipedia, den frie encyklopedi
Hopp til: navigasjon, søk

En heltallsoverflyt i programmering inntreffer når en aritmetisk operasjon prøver å skape en numerisk verdi som er for stor til å bli representert innenfor det tilgjengelige datalager, Å ta det aritmetiske gjennomsnitt av to tall ved å addere dem og dele på to, noe som gjøres i mange søkealgoritmer, kan forårsake feil hvis summen er for stor til å bli presentert, og derfor skaper overflyt. Det vanligste resultat av en overflyt er at de minst signifikante biter av resultatet blir lagret. På grafikkprosessorer og digitale signalprosessorer blir resultatet mettet; med det samme maksimumsverdien er oppnådd, vil ethvert forsøk på å øke den alltid returnere den maksimale heltallsverdi.

informatikkstubbDenne informatikkrelaterte artikkelen er foreløpig kort eller mangelfull, og du kan hjelpe Wikipedia ved å utvide den.