Ruby中怎么解決Float型十進制小數(shù)運算問題
1 回答
慕的地10843
TA貢獻1785條經(jīng)驗 獲得超8個贊
在計算機幾內(nèi)部，小數(shù)不是按照四舍五入的方法的。因為計算機只有0和1，沒有4和5，所以不能四舍五入的。 不管是float還是double，在處理末位時都是直接丟棄的。比如一個小數(shù)，應該是用33位二進制碼才能完全表示的，但是float只有32位
- 1 回答
- 0 關(guān)注
- 1045 瀏覽
添加回答
舉報
0/150
提交
取消