鍍金池/ 問答/C  網(wǎng)絡安全/ 浮點數(shù)精度問題

浮點數(shù)精度問題

圖片描述

看到很多地方都說 23 位尾數(shù)決定單精度浮點數(shù)十進制精度為7位,有點疑惑。23位二進制只能說明二進制尾數(shù)位 1.M 的 M 可表示 2^23 個數(shù),怎么能決定十進制的小數(shù)點后可精確 7 位呢?請大神指點一下!

回答
編輯回答
傻丟丟

2^23=8388608 —— 共7位

2017年12月27日 03:53