15 sifre av presisjon - nyheter

Innholdsfortegnelse

Emner dekket i videoen nedenfor:

  • Grunnleggende tro: Excel lagrer 15 sifre med presisjon.
  • Hvordan RANK returnerer duplikater
  • Hvordan RANK + COUNTIF eliminerer duplikater
  • Mystery der RANK + COUNTIF fortsatt returnerer et duplikat
  • Fire celler inneholder 1,15
  • = A2 = A3 viser at cellene er like
  • Ctrl + `viser at cellene er like
  • Men de fire cellene sorterer ikke riktig. Noe er annerledes.
  • Bytt XLSX til en zip-fil
  • Åpne XML i zip-filen
  • Hva? Excel lagrer 17 sifre!?!
  • Så - er det en god ting? Mer nøyaktig, ikke sant? Kanskje 16-sifrede kredittkortnumre lagret som tall, ikke sant? Hurra?
  • Men … mens noen funksjoner bare bruker 15 sifre (COUNTIF og likhetstester), bruker andre 17 sifre (RANK og sortering). En formel som bruker en blanding av RANK + COUNTIF vil potensielt gi feil svar. Hva skjedde med "Recalc or Die"? Én løsning, pakk verdiene dine til å bli rangert i = RUND (A2,14).

Interessante artikler...