[求助]：一个有意思的问题，那位大侠帮个忙，谢谢了

nothing · 发表于 2004-6-14 09:06:12

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

您需要登录才可以下载或查看，没有账号？立即注册

×

我有一个类的成员函数，其中有一条判断语句：if(var1 < var2){}...，在运行时var1=var2=69.284,当我在for windows应用程序调用它时,得到正确的结果，即var1 < var2 是FALSE，而在for Autocad的ARX调用时却不正确，调试时可以看到var1=var2=69.284，但是var1 < var2 是TRUE，为什么这样呢？那位大侠能给解释一下吗？谢谢了！

小树袋熊 · 发表于 2004-6-14 17:15:54

double数据类型有时是不能作这种比较的。

binbin · 发表于 2004-6-14 21:52:21

应该if(fabs(var1-var2)<0.000001){}
因为var1=var2=1.0时va1有可能=0.9999999999.....,或者=1.000000000......01

nothing · 发表于 2004-6-15 13:44:55

我原来也是按三楼的方法做的，后来发现直接比较也是正确的，可这次在写一个ARX程序时发现有问题

XDSoft · 发表于 2004-6-15 14:30:40

最初由 nothing 发布
[B]我原来也是按三楼的方法做的，后来发现直接比较也是正确的，可这次在写一个ARX程序时发现有问题 [/B]

这次姚遇到的是什么问题呢？

ishou · 发表于 2004-6-15 19:15:34

三楼的方法做的是100%正确的program, 你的方法做的是 <50%正确的 program.
Which do you want?

账号		自动登录	找回密码
密码			立即注册

[求助]：一个有意思的问题，那位大侠帮个忙，谢谢了

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

相关帖子

浏览过的版块