javascript中的float運算精度實例分析_javascript技巧

來源：懂視網責編：小采時間：2020-11-27 20:54:46

javascript中的float運算精度實例分析_javascript技巧

javascript中的float運算精度實例分析_javascript技巧:有人問到一個js問題：代碼如下: var i = 0.07; var r = i*100; alert(r); 結果為什么是7.0000000000000001 查了下資料，其實我們知道JavsScript中，變量在存儲時并不區分number和float類型，而是統一按float存儲。而javascript

推薦度：

點擊下載本文 文檔為doc格式

導讀javascript中的float運算精度實例分析_javascript技巧:有人問到一個js問題：代碼如下: var i = 0.07; var r = i*100; alert(r); 結果為什么是7.0000000000000001 查了下資料，其實我們知道JavsScript中，變量在存儲時并不區分number和float類型，而是統一按float存儲。而javascript

有人問到一個js問題：
代碼如下:
var i = 0.07;
var r = i*100;
alert(r);

結果為什么是7.0000000000000001?
查了下資料，其實我們知道JavsScript中，變量在存儲時并不區分number和float類型，而是統一按float存儲。而javascript使用IEEE 754-2008 標準定義的64bit浮點格式存儲number，按照IEEE 754的定義： http://en.wikipedia.org/wiki/IEEE_754-2008
decimal64對應的整形部分長度為10,小數部分長度為16，所以默認的計算結果為“7.0000000000000001”，如最后一個小數為0，則取1作為有效數字標志。

類似地，我們可以想像，1/3的結果應該是0.3333333333333333。
那么如何校正這個值呢？
可以用以下方法：
一、parseInt

var r4=parseInt(i*100);

二、Math.round

var r2=Math.round((i*100)*1000)/1000;

以上兩種方法都可以得到7
附全部測試代碼：
代碼如下:

測試腳本

聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。TEL:177 7030 7066 E-MAIL:11247931@qq.com