国产99久久精品_欧美日本韩国一区二区_激情小说综合网_欧美一级二级视频_午夜av电影_日本久久精品视频

最新文章專題視頻專題問答1問答10問答100問答1000問答2000關鍵字專題1關鍵字專題50關鍵字專題500關鍵字專題1500TAG最新視頻文章推薦1 推薦3 推薦5 推薦7 推薦9 推薦11 推薦13 推薦15 推薦17 推薦19 推薦21 推薦23 推薦25 推薦27 推薦29 推薦31 推薦33 推薦35 推薦37視頻文章20視頻文章30視頻文章40視頻文章50視頻文章60 視頻文章70視頻文章80視頻文章90視頻文章100視頻文章120視頻文章140 視頻2關鍵字專題關鍵字專題tag2tag3文章專題文章專題2文章索引1文章索引2文章索引3文章索引4文章索引5123456789101112131415文章專題3
問答文章1 問答文章501 問答文章1001 問答文章1501 問答文章2001 問答文章2501 問答文章3001 問答文章3501 問答文章4001 問答文章4501 問答文章5001 問答文章5501 問答文章6001 問答文章6501 問答文章7001 問答文章7501 問答文章8001 問答文章8501 問答文章9001 問答文章9501
當前位置: 首頁 - 科技 - 知識百科 - 正文

JavaScript解決浮點數計算不準確問題的方法分析

來源:懂視網 責編:小采 時間:2020-11-27 22:11:48
文檔

JavaScript解決浮點數計算不準確問題的方法分析

JavaScript解決浮點數計算不準確問題的方法分析:本文實例講述了JavaScript解決浮點數計算不準確問題的方法。分享給大家供大家參考,具體如下: 最近在學習electron框架,想利用這個框架做一個簡單的計算器demo。當我對小數進行運算時,發現了一個問題。 0.1+0.2=? 輸出結果是:0.300000000
推薦度:
導讀JavaScript解決浮點數計算不準確問題的方法分析:本文實例講述了JavaScript解決浮點數計算不準確問題的方法。分享給大家供大家參考,具體如下: 最近在學習electron框架,想利用這個框架做一個簡單的計算器demo。當我對小數進行運算時,發現了一個問題。 0.1+0.2=? 輸出結果是:0.300000000

本文實例講述了JavaScript解決浮點數計算不準確問題的方法。分享給大家供大家參考,具體如下:

最近在學習electron框架,想利用這個框架做一個簡單的計算器demo。當我對小數進行運算時,發現了一個問題。

0.1+0.2=?

輸出結果是:0.30000000000000004。

為什么會這樣呢?

其實對于浮點數的四則運算,幾乎所有的編程語言都會有類似精度誤差的問題,只不過在 C++/C#/Java 這些語言中已經封裝好了方法來避免精度的問題,而 JavaScript 是一門弱類型的語言,從設計思想上就沒有對浮點數有個嚴格的數據類型,所以精度誤差的問題就顯得格外突出。

首先我們分析一下為什么會出現這個精度誤差?

首先,我們要站在計算機的角度思考 0.1 + 0.2 這個看似小兒科的問題。我們知道,能被計算機讀懂的是二進制,而不是十進制,所以我們先把 0.1 和 0.2 轉換成二進制看看:

0.1 => 0.0001 1001 1001 1001..(無限循環)
0.2 => 0.0011 0011 0011 0011…(無限循環)

上面我們發現0.1和0.2轉化為二進制之后,變成了一個無限循環的數字,這在現實生活中,無限循環我們可以理解,但計算機是不允許無限循環的,對于無限循環的小數,計算機會進行舍入處理。進行雙精度浮點數的小數部分最多支持52位,所以兩者相加之后得到這么一串 0.0100110011001100110011001100110011001100110011001100 因浮點數小數位的限制而截斷的二進制數字,這時候,我們再把它轉換為十進制,就成了 0.30000000000000004。

知道了浮點數產生的原因,那么如何處理這個問題呢?

方法1:通過toFixed(num)方法來保留小數。因為這個方法是根據四舍五入來保留小數的,所以最后的計算結果不精確。

方法2:把要計算的數字升級(乘以10的n次冪)成計算機能夠精確識別的整數,計算完以后再降級,推薦使用這一種方法。具體代碼如下(主要有3個方法):

/*判斷obj是否為一個整數*/
function isInteger(obj){
 return Math.floor(obj) === obj;
}
/**
* 將一個浮點數轉換成整數,返回整數和倍數
* 如 3.14 》》314 倍數是100
*
*/
function toInteger(floatNum){
 var ret = {times:1,num:0};
 //是整數
 if(isInteger(floatNum)){
 ret.num = floatNum;
 return ret;
 }
 var strfi = floatNum + '';
 //查找小數點的下標
 var dotPos = strfi.indexOf('.');
 console.log('dotPos===='+dotPos);
 //獲取小數的位數
 var len = strfi.substr(dotPos+1).length;
 console.log('len===='+len);
 //Math.pow(10,len)指定10的len次冪。
 var time = Math.pow(10,len);
 //將浮點數轉化為整數
 var intNum = parseInt(floatNum*time + 0.5,10);
 console.log('intNum===='+intNum);
 ret.times = time;
 ret.num = intNum;
 return ret;
}
/**
*進行運算
*三個參數分別是要運算的兩個數和運算符
*/
function operation(a,b,op){
 var o1 = toInteger(a);
 var o2 = toInteger(b);
 var n1 = o1.num;
 var n2 = o2.num;
 var t1 = o1.times;
 var t2 = o2.times;
 var max = t1 > t2 ? t1 : t2;
 var result = null;
 switch(op){
 case 'add':
 if(t1 === t2){
 result = n1 + n2;
 }else if(t1 > t2){
 result = n1 + n2 * (t1/t2);
 }else{
 result = n1 * (t2/t1) + n2;
 }
 return result / max;
 break;
 case 'subtract':
 if(t1 === t2){
 result = n1 - n2;
 }else if(t1 > t2){
 result = n1 - n2 * (t1/t2);
 }else{
 result = n1 * (t2/t1) - n2;
 }
 return result / max;
 break;
 case 'multiply':
 result = (n1 * n2)/(t1 * t2);
 return result;
 break;
 case 'divide':
 result = (n1 / n2)/(t2 / t1);
 return result;
 break;
 }
}

更多關于JavaScript相關內容感興趣的讀者可查看本站專題:《JavaScript數學運算用法總結》、《JavaScript數據結構與算法技巧總結》、《JavaScript數組操作技巧總結》、《JavaScript事件相關操作與技巧大全》、《JavaScript操作DOM技巧總結》及《JavaScript字符與字符串操作技巧總結》

希望本文所述對大家JavaScript程序設計有所幫助。

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。TEL:177 7030 7066 E-MAIL:11247931@qq.com

文檔

JavaScript解決浮點數計算不準確問題的方法分析

JavaScript解決浮點數計算不準確問題的方法分析:本文實例講述了JavaScript解決浮點數計算不準確問題的方法。分享給大家供大家參考,具體如下: 最近在學習electron框架,想利用這個框架做一個簡單的計算器demo。當我對小數進行運算時,發現了一個問題。 0.1+0.2=? 輸出結果是:0.300000000
推薦度:
  • 熱門焦點

最新推薦

猜你喜歡

熱門推薦

專題
Top
主站蜘蛛池模板: 91在线一区二区 | 欧美一区二区三区不卡 | 久久福利一区二区 | 亚洲精品国产自在久久出水 | 免费国产va在线观看视频 | 在线国产视频观看 | 国产精品一区二区午夜嘿嘿嘿小说 | 国产成人乱码一区二区三区在线 | 亚洲最新视频在线观看 | 国产精品视频一区二区三区经 | 欧美日韩片 | 久久久久亚洲精品成人网小说 | 国产精品久久二区三区色裕 | 欧美激情一区 | 国产高清在线播放免费观看 | 国产91精品久久久久999 | 一级毛片成人免费看a | 亚洲欧美视屏 | 一级毛片免费毛片毛片 | 亚洲视频在线免费看 | 一级a毛片免费观看久久精品 | 69国产成人综合久久精品91 | 欧美高清视频在线 | 亚洲欧美一区二区三区孕妇 | 国产精品美女一区二区 | 一区一精品| 国产一区精品在线观看 | 精品国产乱码久久久久久浪潮 | 欧美亚洲三级 | 日韩欧美激情 | 国产丰满眼镜女在线观看 | 亚洲一区二区久久 | 亚洲一级毛片 | 日韩视频高清 | 日本高清天码一区在线播放 | 高清一区二区亚洲欧美日韩 | 精品国产3p一区二区三区 | 久久精品免费 | 精品一区二区三区五区六区七区 | 久久精品视频一区二区三区 | 日韩www|