典型的檢查對float精度理解的代碼

標籤：style   blog   http   ar   color   sp   div   art   問題   

  ...
1 vx = 0.0000007f * (rand()%9000-rand()%9000);2 vy = 0.0005f * (rand()%9000);3 vz = 0.0000001f * (rand()%9000);4 pList_particle[i].m_velocity = Vector3(vx,vy,vz);
  ...

1,3行代碼的vx和vz的範圍可以通過數學方法計算,而0.0000007f和0.0000001f在運算時是否存在精度丟失從而影響到運算結果?

分析這種問題只能從float儲存格式入手,先把兩個浮點數化為二進位形式.網上有很多文章,推薦看:http://www.cnblogs.com/yewsky/articles/1864934.html的舉例:0.2356儲存格式

最起碼的也得知道:float是32bit,1bit是float變數的符號位,8bit是float變數的二進位科學計數法的指數位(-127~128),23bit是float變數的二進位科學計數法的尾數位.

 

典型的檢查對float精度理解的代碼