数值转换的想当然 - 只有有耐心圆满完成简单工作的人，才能够轻而易举地完成困难的事。 - C++博客

随笔-51 评论-70 文章-0 trackbacks-0

数值转换的想当然

float fTmp = 0.51
int iTmp = fTmp;

iTmp = ??

答案是0，相当于Floor了。

0.99也是0，但是0.9999999就是1，这是因为二进制表示十进制小数会有精度损失。

Ceil也不对，0.1也会+1。

想要四舍五入取整，选择RoundTo(fTmp, 0)。

posted on 2008-07-30 17:58 创建更好的解决方案阅读(92) 评论(1) 编辑收藏引用所属分类: C++专栏

评论:

# re: 数值转换的想当然 2008-08-18 11:08 | 创建更好的解决方案

文中有误：0.9999999999999996才会强转出1来回复更多评论

刷新评论列表

标题

姓名

主页


验证码	*

内容(提交失败后,可以通过“恢复上次提交”恢复刚刚提交的内容)

Remember Me?

登录使用高级评论新用户注册返回页首恢复上次提交

[使用Ctrl+Enter键可以直接提交]

相关文章:

相关链接:

网站导航:

博客园 BlogJava 博客生活 IT博客网 C++博客 PHP博客博客园社区
管理博客教师博客天文博客汽车博客足球博客股票博客电子博客管理