国产99久久精品_欧美日本韩国一区二区_激情小说综合网_欧美一级二级视频_午夜av电影_日本久久精品视频

最新文章專(zhuān)題視頻專(zhuān)題問(wèn)答1問(wèn)答10問(wèn)答100問(wèn)答1000問(wèn)答2000關(guān)鍵字專(zhuān)題1關(guān)鍵字專(zhuān)題50關(guān)鍵字專(zhuān)題500關(guān)鍵字專(zhuān)題1500TAG最新視頻文章推薦1 推薦3 推薦5 推薦7 推薦9 推薦11 推薦13 推薦15 推薦17 推薦19 推薦21 推薦23 推薦25 推薦27 推薦29 推薦31 推薦33 推薦35 推薦37視頻文章20視頻文章30視頻文章40視頻文章50視頻文章60 視頻文章70視頻文章80視頻文章90視頻文章100視頻文章120視頻文章140 視頻2關(guān)鍵字專(zhuān)題關(guān)鍵字專(zhuān)題tag2tag3文章專(zhuān)題文章專(zhuān)題2文章索引1文章索引2文章索引3文章索引4文章索引5123456789101112131415文章專(zhuān)題3
問(wèn)答文章1 問(wèn)答文章501 問(wèn)答文章1001 問(wèn)答文章1501 問(wèn)答文章2001 問(wèn)答文章2501 問(wèn)答文章3001 問(wèn)答文章3501 問(wèn)答文章4001 問(wèn)答文章4501 問(wèn)答文章5001 問(wèn)答文章5501 問(wèn)答文章6001 問(wèn)答文章6501 問(wèn)答文章7001 問(wèn)答文章7501 問(wèn)答文章8001 問(wèn)答文章8501 問(wèn)答文章9001 問(wèn)答文章9501
當(dāng)前位置: 首頁(yè) - 科技 - 知識(shí)百科 - 正文

Javascript中toFixed計(jì)算錯(cuò)誤(依賴銀行家舍入法的缺陷)解決方法

來(lái)源:懂視網(wǎng) 責(zé)編:小采 時(shí)間:2020-11-27 22:31:59
文檔

Javascript中toFixed計(jì)算錯(cuò)誤(依賴銀行家舍入法的缺陷)解決方法

Javascript中toFixed計(jì)算錯(cuò)誤(依賴銀行家舍入法的缺陷)解決方法:前言 在公司項(xiàng)目中涉及到一個(gè)有大量浮點(diǎn)數(shù)價(jià)格計(jì)算的模塊,從而引發(fā)了我一系列的思考: 計(jì)算機(jī)二進(jìn)制環(huán)境下浮點(diǎn)數(shù)的計(jì)算精度缺失問(wèn)題; console.log(.1+.2); 0.30000000000000004 為了解決上述問(wèn)題,使用了toFixed方法卻出現(xiàn)了浮點(diǎn)數(shù)小數(shù)位以5結(jié)尾的四舍
推薦度:
導(dǎo)讀Javascript中toFixed計(jì)算錯(cuò)誤(依賴銀行家舍入法的缺陷)解決方法:前言 在公司項(xiàng)目中涉及到一個(gè)有大量浮點(diǎn)數(shù)價(jià)格計(jì)算的模塊,從而引發(fā)了我一系列的思考: 計(jì)算機(jī)二進(jìn)制環(huán)境下浮點(diǎn)數(shù)的計(jì)算精度缺失問(wèn)題; console.log(.1+.2); 0.30000000000000004 為了解決上述問(wèn)題,使用了toFixed方法卻出現(xiàn)了浮點(diǎn)數(shù)小數(shù)位以5結(jié)尾的四舍

前言

在公司項(xiàng)目中涉及到一個(gè)有大量浮點(diǎn)數(shù)價(jià)格計(jì)算的模塊,從而引發(fā)了我一系列的思考:

計(jì)算機(jī)二進(jìn)制環(huán)境下浮點(diǎn)數(shù)的計(jì)算精度缺失問(wèn)題;

console.log(.1+.2);
0.30000000000000004

為了解決上述問(wèn)題,使用了toFixed方法卻出現(xiàn)了浮點(diǎn)數(shù)小數(shù)位以5結(jié)尾的四舍五入錯(cuò)誤問(wèn)題;

var num = 0.045;
console.log(num.toFixed(2));
0.04

以此為起點(diǎn),引發(fā)了我關(guān)于toFixed的一系列探索,終于找到了一些有用的信息,toFixed使用的計(jì)算規(guī)則是:

銀行家舍入:所謂銀行家舍入法,其實(shí)質(zhì)是一種四舍六入五取偶(又稱(chēng)四舍六入五留雙)法。

簡(jiǎn)單來(lái)說(shuō)就是:四舍六入五考慮,五后非零就進(jìn)一,五后為零看奇偶,五前為偶應(yīng)舍去,五前為奇要進(jìn)一。

正文

下面我們就來(lái)證實(shí)這個(gè)所謂的銀行家舍入法,證實(shí)分為三種情況,分別以4、5、6為舍入位對(duì)toFixed的證實(shí)(以chrome為例):

以4為舍入位:

var num = 0.004;
console.log(num.toFixed(2));
0.00
var num = 0.014;
console.log(num.toFixed(2));
0.01
var num = 0.094;
console.log(num.toFixed(2));
0.09

在4結(jié)尾這種情況下toFixed表現(xiàn)的還算不錯(cuò),并沒(méi)有錯(cuò)誤的問(wèn)題。

以6為舍入位:

var num = 0.006;
console.log(num.toFixed(2));
0.01
var num = 0.016;
console.log(num.toFixed(2));
0.02
var num = 0.096;
console.log(num.toFixed(2));
0.10

以6結(jié)尾這種情況下toFixed表現(xiàn)的也不錯(cuò),并沒(méi)有錯(cuò)誤的問(wèn)題。

以5為舍入位:

5后非零:

var num = 0.0051;
console.log(num.toFixed(2));
0.01
var num = 0.0052;
console.log(num.toFixed(2));
0.01
var num = 0.0059;
console.log(num.toFixed(2));
0.01

根據(jù)規(guī)則,五后非零就進(jìn)一,我們證實(shí)并沒(méi)有任何的問(wèn)題。

以5為舍入位:

5后為零: 由于這種情況比較特殊,是toFixed方法出現(xiàn)計(jì)算錯(cuò)誤的情況,所以我進(jìn)行了大量的證實(shí),且分別在常見(jiàn)的主流瀏覽器下進(jìn)行了測(cè)試:

以如下測(cè)試用例為例:

var num = 0.005;
console.log(num.toFixed(2));
var num = 0.015;
console.log(num.toFixed(2));
var num = 0.025;
console.log(num.toFixed(2));
var num = 0.035;
console.log(num.toFixed(2));
var num = 0.045;
console.log(num.toFixed(2));
var num = 0.055;
console.log(num.toFixed(2));
var num = 0.065;
console.log(num.toFixed(2));
var num = 0.075;
console.log(num.toFixed(2));
var num = 0.085;
console.log(num.toFixed(2));
var num = 0.095;
console.log(num.toFixed(2));

chrome、firefox、safari、opera的結(jié)果如下:

0.01
0.01
0.03
0.04
0.04
0.06
0.07
0.07
0.09
0.10

ie11結(jié)果如下:

0.01
0.02
0.03
0.04
0.05
0.06
0.07
0.08
0.09
0.10

可以看出Ie11下正常,其余瀏覽器下均出現(xiàn)錯(cuò)誤。雖然并不完全符合銀行家舍入法的規(guī)則,我認(rèn)為是由于二進(jìn)制下浮點(diǎn)數(shù)的坑導(dǎo)致了不完全符合該規(guī)則。

總而言之:不論引入toFixed解決浮點(diǎn)數(shù)計(jì)算精度缺失的問(wèn)題也好,它有沒(méi)有使用銀行家舍入法也罷,都是為了解決精度的問(wèn)題,但是又離不開(kāi)二進(jìn)制浮點(diǎn)數(shù)的環(huán)境,但至少他幫助我們找到了問(wèn)題所在,從而讓我們有解決方法。

解決方法

下面我提供一種通過(guò)重寫(xiě)toFixed的方法:

 Number.prototype.toFixed = function(length)
 {
 var carry = 0; //存放進(jìn)位標(biāo)志
 var num,multiple; //num為原浮點(diǎn)數(shù)放大multiple倍后的數(shù),multiple為10的length次方
 var str = this + ''; //將調(diào)用該方法的數(shù)字轉(zhuǎn)為字符串
 var dot = str.indexOf("."); //找到小數(shù)點(diǎn)的位置
 if(str.substr(dot+length+1,1)>=5) carry=1; //找到要進(jìn)行舍入的數(shù)的位置,手動(dòng)判斷是否大于等于5,滿足條件進(jìn)位標(biāo)志置為1
 multiple = Math.pow(10,length); //設(shè)置浮點(diǎn)數(shù)要擴(kuò)大的倍數(shù)
 num = Math.floor(this * multiple) + carry; //去掉舍入位后的所有數(shù),然后加上我們的手動(dòng)進(jìn)位數(shù)
 var result = num/multiple + ''; //將進(jìn)位后的整數(shù)再縮小為原浮點(diǎn)數(shù)
 /*
 * 處理進(jìn)位后無(wú)小數(shù)
 */
 dot = result.indexOf(".");
 if(dot < 0){
 result += '.';
 dot = result.indexOf(".");
 }
 /*
 * 處理多次進(jìn)位
 */
 var len = result.length - (dot+1);
 if(len < length){
 for(var i = 0; i < length - len; i++){
 result += 0;
 }
 }
 return result;
 }

該方法的大致思路是首先找到舍入位,判斷該位置是否大于等于5,條件成立手動(dòng)進(jìn)一位,然后通過(guò)參數(shù)大小將原浮點(diǎn)數(shù)放大10的參數(shù)指數(shù)倍,然后再將包括舍入位后的位數(shù)利用floor全部去掉,根據(jù)我們之前的手動(dòng)進(jìn)位來(lái)確定是否進(jìn)位。

聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。TEL:177 7030 7066 E-MAIL:11247931@qq.com

文檔

Javascript中toFixed計(jì)算錯(cuò)誤(依賴銀行家舍入法的缺陷)解決方法

Javascript中toFixed計(jì)算錯(cuò)誤(依賴銀行家舍入法的缺陷)解決方法:前言 在公司項(xiàng)目中涉及到一個(gè)有大量浮點(diǎn)數(shù)價(jià)格計(jì)算的模塊,從而引發(fā)了我一系列的思考: 計(jì)算機(jī)二進(jìn)制環(huán)境下浮點(diǎn)數(shù)的計(jì)算精度缺失問(wèn)題; console.log(.1+.2); 0.30000000000000004 為了解決上述問(wèn)題,使用了toFixed方法卻出現(xiàn)了浮點(diǎn)數(shù)小數(shù)位以5結(jié)尾的四舍
推薦度:
  • 熱門(mén)焦點(diǎn)

最新推薦

猜你喜歡

熱門(mén)推薦

專(zhuān)題
Top
主站蜘蛛池模板: 国产区视频在线观看 | 91成人爽a毛片一区二区 | 日本一二三高清 | 亚洲国产精品成人综合久久久 | 婷婷久草 | 欧美曰韩 | 欧美 日韩 国产 在线 | 精品亚洲一区二区三区 | 国产精品高清一区二区 | 91欧美一区二区三区综合在线 | 亚洲久草视频 | 一区在线观看 | 日韩国产欧美在线观看 | 欧美日韩国产在线观看 | 亚洲欧美精选 | 一区二区视频 | 欧美夜夜爽 | 亚洲欧美综合图片 | 国产日韩欧美精品 | 久久91精品国产91久久 | 一97日本道伊人久久综合影院 | 欧美一区精品二区三区 | 久久精品无遮挡一级毛片 | 日韩直播 | 91在线 一区 二区三区 | 国产l精品国产亚洲区在线观看 | 精品国产91久久久久久久 | 欧美日韩国产高清视频 | 亚洲第一页在线播放 | 欧美成人精品在线 | 日韩欧美一区二区三区中文精品 | 欧美在线一区视频 | 在线亚洲激情 | 一区二区三区高清不卡 | 日韩欧美一区在线观看 | 亚洲色图在线播放 | 九九久久久2 | 极品美女国产精品免费一区 | 亚洲视频在线一区 | 日韩综合在线 | 精品国产毛片 |