[求助]：fix命令参数有精度要求？

lixiangdfeng · 发表于 2009-8-4 22:07:56

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

您需要登录才可以下载或查看，没有账号？立即注册

×

(fix 2.9999999999999998) 结果为3
(fix 2.9999999999999997) 结果为2
这是为什么？

hhc_1 · 发表于 2009-8-10 09:25:44

我的理解这样：因为计算机是二进制，对于十进制的整数它可以准确表示，而对于小数只能在一定精度范围内准确表示。CAD能精确到小数点后16位，2.9999999999999998这个数在CAD内部与整数3是相等的。测试(= 2.9999999999999998 3)，返回T；而(= 2.9999999999999997 3)，返回nil，所以(fix 2.9999999999999998) 结果为3，(fix 2.9999999999999997) 结果为2。

账号		自动登录	找回密码
密码			立即注册

[求助] [求助]：fix命令参数有精度要求？

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

相关帖子