Heltallsoverflyt

En heltallsoverflyt i programmering inntreffer når en aritmetisk operasjon prøver å skape en numerisk verdi som er for stor til å bli representert innenfor det tilgjengelige datalager, Å ta det aritmetiske gjennomsnitt av to tall ved å addere dem og dele på to, noe som gjøres i mange søkealgoritmer, kan forårsake feil hvis summen er for stor til å bli presentert, og derfor skaper overflyt. Det vanligste resultat av en overflyt er at de minst signifikante biter av resultatet blir lagret. På grafikkprosessorer og digitale signalprosessorer blir resultatet mettet; med det samme maksimumsverdien er oppnådd, vil ethvert forsøk på å øke den alltid returnere den maksimale heltallsverdi.

Kategori:Programmering