[求助]：我用FIX函数，为什么返回值有时候是错误的？

newer · 发表于 2002-5-18 15:37:59

您需要登录才可以下载或查看，没有账号？立即注册

×

比如，我要提取一个POLYLINE的顶点的Z座标，我想要得到一个最近的整数，看着是30.0，可是有时后(fix z)的结果是29，怎么也搞不明白，谁知道为什么吗？

ll_j · 发表于 2002-5-18 22:04:09

是内部数据计算精度的问题，在http://china.autodesk.com/上有这样的贴子。简单的说就是：计算时30.0可能是30.0000000000000001，也可能是29.9999999999999999，问题就出来了。

cy956 · 发表于 2002-5-19 01:37:06

用四舍五入取临近整数。

newer · 发表于 2002-5-19 01:47:16

最初由 cy956 发布
[B]用四舍五入取临近整数。 [/B]

要FIX的效果，30.6也要返回30啊

ll_j · 发表于 2002-5-19 02:40:24

加上一个很小的数（如0.00000001），一般可以满足使用要求。

aeo · 发表于 2002-5-19 23:04:57

四舍五入 (FIX (+ n 0.5))

raven · 发表于 2002-5-20 01:06:30

(fix (atof (rtos real 2 0)))

cy956 · 发表于 2002-5-20 03:33:00

(defun sr(#s #sr)
(* (fix (+ (/ (float #s) #sr) 0.5)) #sr)
)

账号		自动登录	找回密码
密码			立即注册

[求助] [求助]：我用FIX函数，为什么返回值有时候是错误的？