基礎知識
浮點數(shù)和定點數(shù)都是對于存在小數(shù)部分的數(shù)字一種表示方法
浮點數(shù)和定點數(shù)表示法的區(qū)別?
根據(jù)國際標準IEEE 754,任意一個二進制浮點數(shù)V可以表示成下面的形式:

(1)(-1)^s表示符號位,當s=0,V為正數(shù);當s=1,V為負數(shù)。
?。?)M表示有效數(shù)字,大于等于1,小于2。
?。?)2^E表示指數(shù)位。
定點數(shù)需要事先定下小數(shù)點的位置,固定的小數(shù)點位置決定了固定位數(shù)的整數(shù)部分和小數(shù)部分。定點數(shù)表示法的缺點就來自于固定的小數(shù)點位置決定了固定位數(shù)的整數(shù)部分和小數(shù)部分這個特點,因為不利于同時表達特別大的數(shù)或者特別小的數(shù),只能在某個對稱的范圍里的一部分數(shù)字。比如一個8位定點數(shù),頂多能表示 -28 至 28范圍內的數(shù)字,如果用這個體系就不能表示29這個數(shù)字了。
fixed point arithmetic is much faster than floating point arithmetic
雙精度浮點數(shù)和單精度浮點數(shù)的區(qū)別?
表示范圍不一樣,一個是32位,一個是64位,尾數(shù),有效數(shù)字的規(guī)定都不一樣。
計算機中的計算為什么會存在誤差
http://floating-point-gui.de/basic/
參考文獻
fixed point notation
What Every Computer Scientist Should Know About Floating-Point Arithmetic
Introduction to Fixed Point Number Representation
https://stackoverflow.com/questions/45829846/lack-of-precision-of-the-tofixed-method-in-javascript