De digitale vraagbaak voor het wiskundeonderwijshome | vandaag | gisteren | bijzonder | gastenboek | wie is wie? | verhalen | contact |
||||||||||||||||||
|
\require{AMSmath}
Grootste getal in SAS met drie bytesIk hoorde dat het grootste cijfer met drie bytes 8192 is. Dat is 213. Ik dacht dat het grootste cijfer met 3 bytes 224 is = 1,4… x 1073 (zonder rekening te houden met de controlebits). AntwoordDit heeft te maken met welke soorten getallen (geen cijfers!!!) je wil weergeven. $2^{24}$ is trouwens 16777216. Als het gaat om integers (gehele getallen) kun je met drie bytes inderdaad getallen van -8 388 608 tot +8 388 607 weergeven.
home | vandaag | bijzonder | gastenboek | statistieken | wie is wie? | verhalen | colofon ©2001-2024 WisFaq - versie 3
|