浮點數精度?
浮點數的精度指的是小數點后的有效數字位數,是由尾數的位數來決定的,對于單精度(float),它的尾數為23位,而2^23=8388608,共7位,也就是說最多能有7位有效數字,但至少能保證6位,因此32位浮點數的小數點后有效位為6~7位。C語言中浮點型一般分為float單精度型、double雙精度型、long double長精度型,單精度浮點型小數點后面有效數字為6~7位和雙精度浮點型小數點后面有效數字為15~16位。單精度為32位,雙精度為64位,8位為一個字節。
浮點數精度?
浮點數的精度指的是小數點后的有效數字位數,是由尾數的位數來決定的,對于單精度(float),它的尾數為23位,而2^23=8388608,共7位,也就是說最多能有7位有效數字,但至少能保證6位,因此32位浮點數的小數點后有效位為6~7位。C語言中浮點型一般分為float單精度型、double雙精度型、long double長精度型,單精度浮點型小數點后面有效數字為6~7位和雙精度浮點型小數點后面有效數字為15~16位。單精度為32位,雙精度為64位,8位為一個字節。