c語言中float精度問題

標籤：

3.1415926(10進位) ==

11.00100100001111110110100110100010010110110000100101(2進位) ==

1.100100100001111110110100110100010010110110000100101 * 2

用gdb調試列印float變數裡的內容為0x40490fda（16進位），即01000000010010010000111111011010（2進位）

0（最高位0，表示正數）10000000（IEEE規定, 此處算出的次方須減去127才是真的指數,，在此處的指數位為1） 10010010000111111011010 （此23位表示小數部分，

因為在電腦中採用了隱藏位技術：最高位的1不寫入記憶體，所以小數部分實際上是1.10010010000111111011010）

1.10010010000111111011010(2進位)==1.5707962512969970703125(10進位)

1.5707962512969970703125 * 2 == 3.141592502593994140625

float f = 3.1415926;

printf("%f\n", f);

printf函數預設精確到小數點6位，最後一位進行四捨五入，所以得到的結果是3.141593

以下為驗證：

printf("%.7f\n", f);結果應該是3.1415925；

printf("%.8f\n", f);結果應該是3.14159250

printf("%.9f\n", f);結果應該是3.141592503

因為float的尾數為為23位，所以小數位保留23位，即

3.1415926(10進位) == 1.1001001000011111101100(2進位)

因為在電腦中採用了隱藏位技術：最高位的1不寫入記憶體，所以1.1001001000011111101100(2進位)應該表示為0.1001001000011111101100

又因為指數可以為負，為了便於計算，所以IEEE規定, 此處算出的次方須減去127才是真的指數,，在此處的指數位為1（即2的1次冪）

c語言中float精度問題