淘宝商城(天猫)高级技术专家.3年研发+3年性能测试调优/系统测试+4年团队管理与测试架构、研发系统实践. 新舞台新气象, 深化测试基础架构及研发架构，希望能在某个技术领域成为真正的技术大牛。欢迎荐才http://bbs.51testing.com/viewthread.php?tid=120496&extra=&page=1 .邮件: jianzhao.liangjz@alibaba-inc.com,MSN:liangjianzhao@163.com.微博:http://t.sina.com.cn/1674816524

浮点数比较问题

上一篇 / 下一篇  2008-02-20 22:38:21 / 个人分类：搜索引擎测试技巧

查看( 646 ) / 评论( 2 ) / 评分( 0 / 0 )

 

float prevValue;

float      currValue;

 

为了判断2个float 类型是否相等。

if  (currValue == prevValue) 这种写法是有缺陷的。

 

 

比较大小可以修改为：(prevValue + currValue - pBestProbs[endIndexT]) < 0.000000001
double存放格式是包括符号位、幂数、系数组成。 


 if(preValue + currValue - pBestProbs[endIndexT] < 0.000000001) { //如果概率大

 


收藏 举报

TAG: float 比较 搜索引擎测试技巧

阿里巴巴一个测试架构师 引用 删除 liangjz   /   2008-02-25 22:41:23
还是 huior 眼睛尖。 pBestProbs[endIndexT] 只是一个变量，取自实际的代码。
不影响我表达的判断2个float数相等 的例子
huior的测试烩 引用 删除 huior   /   2008-02-21 09:57:02
pBestProbs[endIndexT]是什么？和prevValue + currValue有关系吗？
估计只有你能看懂了，呵呵
 

评分：0

我来说两句

Open Toolbar