浮點數(shù)定點數(shù)

基礎知識

浮點數(shù)和定點數(shù)都是對于存在小數(shù)部分的數(shù)字一種表示方法

浮點數(shù)和定點數(shù)表示法的區(qū)別?
根據(jù)國際標準IEEE 754,任意一個二進制浮點數(shù)V可以表示成下面的形式:

浮點數(shù)表示法

  (1)(-1)^s表示符號位,當s=0,V為正數(shù);當s=1,V為負數(shù)。
 ?。?)M表示有效數(shù)字,大于等于1,小于2。
 ?。?)2^E表示指數(shù)位。

定點數(shù)需要事先定下小數(shù)點的位置,固定的小數(shù)點位置決定了固定位數(shù)的整數(shù)部分和小數(shù)部分。定點數(shù)表示法的缺點就來自于固定的小數(shù)點位置決定了固定位數(shù)的整數(shù)部分和小數(shù)部分這個特點,因為不利于同時表達特別大的數(shù)或者特別小的數(shù),只能在某個對稱的范圍里的一部分數(shù)字。比如一個8位定點數(shù),頂多能表示 -28 至 28范圍內的數(shù)字,如果用這個體系就不能表示29這個數(shù)字了。

fixed point arithmetic is much faster than floating point arithmetic

雙精度浮點數(shù)和單精度浮點數(shù)的區(qū)別?
表示范圍不一樣,一個是32位,一個是64位,尾數(shù),有效數(shù)字的規(guī)定都不一樣。

計算機中的計算為什么會存在誤差

http://floating-point-gui.de/basic/

參考文獻

fixed point notation
What Every Computer Scientist Should Know About Floating-Point Arithmetic
Introduction to Fixed Point Number Representation
https://stackoverflow.com/questions/45829846/lack-of-precision-of-the-tofixed-method-in-javascript

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
【社區(qū)內容提示】社區(qū)部分內容疑似由AI輔助生成,瀏覽時請結合常識與多方信息審慎甄別。
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發(fā)布,文章內容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務。

相關閱讀更多精彩內容

友情鏈接更多精彩內容