结果994是怎么回事?
printf ("(9.95 * 100) = %d \n", (9.95 * 100));
我的真实意思是想理解为什么是9.95*100的时候结果是994.而9.96,9.97,9.94,9.93均是正常的
结果994是怎么回事?
printf ("(9.95 * 100) = %d \n", (9.95 * 100));
我的真实意思是想理解为什么是9.95*100的时候结果是994.而9.96,9.97,9.94,9.93均是正常的
拿起任何一本技术书籍,看浮点数计算章节。
另外,可以研究一下以下什么差别
printf ("(9.95 * 100) = %s \n", (9.95 * 100));
两层原因,一是(9.95 * 100)的类型是浮点型,将其强制转换为整形将损失精度,即小数部分被舍去;二是这里恰好出现了一个巧合,即(9.95 * 100)实际上的值为994.9999999999999。其实浮点数出现精确度问题的这种情况并不少见,详细信息可以参见这里。
4 回答968 阅读
1 回答1.6k 阅读✓ 已解决
1 回答643 阅读✓ 已解决
2 回答617 阅读
603 阅读
浮点运算有精度损失,
9.95 * 100算出来的结果应该是994.9999999999999,取整是截掉小数部分,就是994了。如果用四舍五入计算,就能得到995