LabVIEWwilliam hill官网
直播中

曲宁

10年用户 180经验值
擅长:嵌入式技术
私信 关注
[问答]

很奇怪的比较大小问题,请大家帮忙

本帖最后由 xuleon 于 2016-9-28 10:20 编辑

附件里只是个简单的比较大小。但为什么会出错呢。请大家帮忙看看。谢谢我把程序也放在上面了。
  • 1.jpg
  • 2.jpg

    ceshi.rar (2016-9-28 10:20 上传)

    4.03 KB, 下载次数: 53

回帖(3)

曲宁

2016-9-28 10:14:03
两个一样的数,怎么用小于比较后,结果怎么会是真呢?
举报

xujian

2016-9-28 12:58:12
引用: xuleon 发表于 2016-9-28 10:14
两个一样的数,怎么用小于比较后,结果怎么会是真呢?

1,你的比较,数据是双精度的。所以出现很正常
2,你百度下,双精度数值比较大小 就明白了。

所谓的精度,是指有精度的表示。
举报

韩燊

2016-9-30 17:12:45
因为你的精度显示不够,其实这两个数不是一样的,比较的时候最好转化为整数比较!
举报

更多回帖

发帖
×
20
完善资料,
赚取积分