前言
在公司項目中涉及到一個有大量浮點數價格計算的模塊,從而引發了我一系列的思考:
計算機二進制環境下浮點數的計算精度缺失問題;
為了解決上述問題,使用了toFixed方法卻出現了浮點數小數位以5結尾的四舍五入錯誤問題;
以此為起點,引發了我關于toFixed的一系列探索,終于找到了一些有用的信息,toFixed使用的計算規則是:
銀行家舍入:所謂銀行家舍入法,其實質是一種四舍六入五取偶(又稱四舍六入五留雙)法。
簡單來說就是:四舍六入五考慮,五后非零就進一,五后為零看奇偶,五前為偶應舍去,五前為奇要進一。
正文
下面我們就來證實這個所謂的銀行家舍入法,證實分為三種情況,分別以4、5、6為舍入位對toFixed的證實(以chrome為例):
以4為舍入位:
var num = 0.004; console.log(num.toFixed(2)); 0.00 var num = 0.014; console.log(num.toFixed(2)); 0.01 var num = 0.094; console.log(num.toFixed(2)); 0.09
在4結尾這種情況下toFixed表現的還算不錯,并沒有錯誤的問題。
以6為舍入位:
以6結尾這種情況下toFixed表現的也不錯,并沒有錯誤的問題。
以5為舍入位:
5后非零:
根據規則,五后非零就進一,我們證實并沒有任何的問題。
以5為舍入位:
5后為零: 由于這種情況比較特殊,是toFixed方法出現計算錯誤的情況,所以我進行了大量的證實,且分別在常見的主流瀏覽器下進行了測試:
以如下測試用例為例:
chrome、firefox、safari、opera的結果如下:
0.01
0.01
0.03
0.04
0.04
0.06
0.07
0.07
0.09
0.10
ie11結果如下:
0.01
0.02
0.03
0.04
0.05
0.06
0.07
0.08
0.09
0.10
可以看出Ie11下正常,其余瀏覽器下均出現錯誤。雖然并不完全符合銀行家舍入法的規則,我認為是由于二進制下浮點數的坑導致了不完全符合該規則。
總而言之:不論引入toFixed解決浮點數計算精度缺失的問題也好,它有沒有使用銀行家舍入法也罷,都是為了解決精度的問題,但是又離不開二進制浮點數的環境,但至少他幫助我們找到了問題所在,從而讓我們有解決方法。
解決方法
下面我提供一種通過重寫toFixed的方法:
該方法的大致思路是首先找到舍入位,判斷該位置是否大于等于5,條件成立手動進一位,然后通過參數大小將原浮點數放大10的參數指數倍,然后再將包括舍入位后的位數利用floor全部去掉,根據我們之前的手動進位來確定是否進位。
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。TEL:177 7030 7066 E-MAIL:11247931@qq.com