上節(jié)課 簡(jiǎn)單介紹了浮點(diǎn)數(shù)。計(jì)算機(jī)程序中的浮點(diǎn)數(shù)分為單精度浮點(diǎn)數(shù)和雙精度浮點(diǎn)數(shù)。
單精度和雙精度精確的范圍不一樣。
計(jì)算機(jī)里的最基本的存儲(chǔ)單位用位(bit)來表示。bit只能用來存儲(chǔ)0或1。
稍大一點(diǎn)的單位是字節(jié)(Byte,簡(jiǎn)寫為B)。
再大一級(jí)的是千字節(jié)(kilo Bytes),用k來表示。
再大一級(jí)的單位是兆字節(jié)(Mega Bytes),用M來表示。一張照片的大小通常為1~3M。
再大一級(jí)的單位為G。一部高清電影的大小通常為1~2G。
再大一級(jí)的單位為T。
換算關(guān)系為:
1B = 8bit
1k = 1024B = 2^10 B
1M = 1024k = 2^20 B
1G = 1024M = 2^30 B
1T = 1024G = 2^40 B
單精度(float)在計(jì)算機(jī)中存儲(chǔ)占用4字節(jié),32位,有效位數(shù)為7位(6位小數(shù)+小數(shù)點(diǎn))。
雙精度(double)在計(jì)算機(jī)中存儲(chǔ)占用8字節(jié),64位,有效位數(shù)為16位(15位小數(shù)+小數(shù)點(diǎn))。
不管是float還是double,在計(jì)算機(jī)中的存儲(chǔ)都遵循IEEE規(guī)范,使用二進(jìn)制科學(xué)計(jì)數(shù)法,都包含三個(gè)部分:符號(hào)位、指數(shù)位和尾數(shù)部分。其中float的符號(hào)位、指數(shù)位(即整數(shù)部分)、尾數(shù)部分分別為1, 8, 23。雙精度則分別為1, 11, 52。
float
double
精度主要取決于尾數(shù)部分的位數(shù),float為23位,最小為2的-23次方,約等于1.19乘以10的-7次方,所以float小數(shù)部分只能精確到后面6位,加上小數(shù)點(diǎn)算做一位,即有效數(shù)字為7位。
類似,double 尾數(shù)部分52位,最小為2的-52次方,約為2.22乘以10的-16次方,所以精確到小數(shù)點(diǎn)后15位,有效位數(shù)為16位。
程序驗(yàn)證:
1
2
3
4
5
6
7
8
9
10
11
12
13
|
#include <stdio.h> int main() { float a = 1.123456789; printf ( "a = %20.9f\n" , a); double b = 2.123456789; printf ( "b = %20.9f\n" , b); return 0; } |
注意:這里%20.9f表示浮點(diǎn)數(shù)總共有20位,其中小數(shù)占9位。不足20位的部分,左側(cè)用空格來填充。
運(yùn)行結(jié)果:
1
2
|
a = 1.123456836 b = 2.123456789 |
從運(yùn)行結(jié)果可以看出,單精度浮點(diǎn)數(shù)小數(shù)部分只有前6位是準(zhǔn)確的,后三位是不準(zhǔn)確的。雙精度小數(shù)部分9位都是準(zhǔn)確的。
原文鏈接:http://www.jianshu.com/p/74f7a0427662