javascript運(yùn)算精度

一個(gè)經(jīng)典的浮點(diǎn)數(shù)運(yùn)算0.1+0.2 ==?0.30000000000000004

js在運(yùn)算的時(shí)候會(huì)把10進(jìn)制轉(zhuǎn)化為2進(jìn)制;

0.1 =?0.0001100110011001...(無(wú)限)

0.2 = 0.0011001100110011...(無(wú)限)

相加后的二進(jìn)制0.0100110011001100110011001100110011001100110011001100 就等于上面的數(shù)了

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • 第2章 基本語(yǔ)法 2.1 概述 基本句法和變量 語(yǔ)句 JavaScript程序的執(zhí)行單位為行(line),也就是一...
    悟名先生閱讀 4,569評(píng)論 0 13
  • 運(yùn)算符是處理數(shù)據(jù)的基本方法,用來(lái)從現(xiàn)有的值得到新的值。JavaScript 提供了多種運(yùn)算符,本章逐一介紹這些運(yùn)算...
    許先生__閱讀 712評(píng)論 0 3
  • 運(yùn)算符是處理數(shù)據(jù)的基本方法,用來(lái)從現(xiàn)有的值得到新的值。JavaScript 提供了多種運(yùn)算符,本章逐一介紹這些運(yùn)算...
    徵羽kid閱讀 779評(píng)論 0 0
  • 網(wǎng)站亂碼問題我們會(huì)經(jīng)常碰到,大多見于非英文的中文字符或其他字符亂碼,而且,這類問題常常是因?yàn)榫幋a方式問題,主要原因...
    波段頂?shù)?/span>閱讀 3,334評(píng)論 1 9
  • 背景 在java中float賦值給double,會(huì)產(chǎn)生精度問題。 輸出為2.0999999046325684。 小...
    我叫小小強(qiáng)閱讀 19,523評(píng)論 2 23

友情鏈接更多精彩內(nèi)容