C++ Space

C++, 3DGame

一个浮点数表示产生的问题

半夜里刚睡着又被电话叫醒,一个项目的现场数据出现了错误。
我们的程序要分析的报告里的某一个字段使用了定点小数的表示方法,即两个字节表示整数部分,再两个字节表示小数部分。刚开始的时候没注意到这里有个问题,那就是这种表示法要求小数部分一定是定长的,否则,就无法解析。例如,0.03和0.30的表示不同在哪里,0.30可不可以表示成0.300。怪我当初考虑欠佳,失败。

posted on 2007-04-03 00:27 Kooyu 阅读(841) 评论(0)  编辑 收藏 引用


只有注册用户登录后才能发表评论。
【推荐】超50万行VC++源码: 大型组态工控、电力仿真CAD与GIS源码库
网站导航: 博客园   IT新闻   BlogJava   知识库   博问   管理