科技改變未來
知識就是讓你禿頭的力量
級別: 家園常客
精華主題: 0
發(fā)帖數(shù)量: 552 個
工控威望: 758 點
下載積分: 10387 分
在線時間: 439(小時)
注冊時間: 2011-04-18
最后登錄: 2024-11-06
查看科技改變未來的 主題 / 回貼
樓主  發(fā)表于: 2022-08-24 10:44
圖片:
圖片:
如圖通過模擬發(fā)現(xiàn) 被除數(shù)小于82時候,算出的結(jié)果是準(zhǔn)的 。被除數(shù)大于83 ,為什么結(jié)果就不準(zhǔn)了呢/有知道原因的小伙伴嗎
niningtt
級別: 工控俠客
精華主題: 0
發(fā)帖數(shù)量: 1230 個
工控威望: 3550 點
下載積分: 858 分
在線時間: 459(小時)
注冊時間: 2010-08-24
最后登錄: 2024-11-16
查看niningtt的 主題 / 回貼
1樓  發(fā)表于: 2022-08-25 11:54
IEEE 754 浮點數(shù)的尾數(shù)部分是23位,也就是23位的二進(jìn)制是真正實現(xiàn)數(shù)值的精度的,指數(shù)可以近似理解為確定小數(shù)點位數(shù)(這么說便于理解)。1/128=0.0078125,也就在這附近了,精度不夠了,所以浮點數(shù)不需要糾結(jié)最后面的小數(shù),只要小數(shù)點前位數(shù)多,小數(shù)點后就會出現(xiàn),甚至太多的話個位、十位、百位都有可能北省去