 |
De digitale vraagbaak voor het wiskundeonderwijshome | vandaag | gisteren | bijzonder | prikbord | gastenboek | wie is wie? | contact |
|||||||||||||||
|
\require{AMSmath}
SoftwareGrootste getal in SAS met drie bytesik hoorde dat het grootste cijfer met drie bytes 8192 is. Dat is 2^13. Ik dacht dat het grootste cijfer met 3 bytes 2^24 is = 1,4… x 10^73 (zonder rekening te houden met de controlebits). Nu vond ik een paper waarin uitgelegd wordt dat je met drie bytes (in SAS) als grootste cijfer 8192 krijgt. Zij gebruiken deze bytes als volgt: SEEEEEEE EEEEMMMM MMMMMMMM (S = sign, E = exponent en M is mantissa). Representatie van 8192 zou als volgt zijn: 01000000 11000000 00000000. Hier laat mijn verstand het afweten. Kan iemand me dat uitleggen? Antwoord
Dit heeft te maken met welke soorten getallen (geen cijfers!!!) je wil weergeven. $2^{24}$ is trouwens 16777216. Als het gaat om integers (gehele getallen) kun je met drie bytes inderdaad getallen van -8 388 608 tot +8 388 607 weergeven.
home | vandaag | bijzonder | twitter | gastenboek | wie is wie? | colofon ©2001-2019 WisFaq - versie IIb
| |||||||||||||||
