[求助]：为什么计算的结果是错误的？

真龙天子 · 发表于 2007-2-2 16:26:18

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

您需要登录才可以下载或查看，没有账号？立即注册

×

函数如下：
(defun c:fjk()
(setq m1 8568736945652574)
(setq m2 98523657)
(setq m3 36582475)
(setq mm (- m1 (* m2 m3)))
(setq mn (rtos mm 2 0))
)
结果为：8568735497096893
正确的结果应为：4964497726541499
为什么相差这么大，如何才能得出正确的结果？

zxq0220 · 发表于 2007-2-2 16:45:35

计算溢出了。

Dallas_whu · 发表于 2007-2-2 16:56:39

将m2或m3改为浮点型即可。

真龙天子 · 发表于 2007-2-2 17:47:19

3楼的，怎么改，是不是用float函数？
现改为如下：
(defun c:fjk()
(setq m1 8568736945652574)
(setq m2 (float 98523657))
(setq m3 (float 36582475))
(setq mm (- m1 (* m2 m3)))
(setq mn (rtos mm 2 0))
(setq mnn (rtos (fix mm) 2 0))
)结果为：4964497726541500
正确的结果应为：4964497726541499
结果还是有误差，如何才能得出正确的结果？

Dallas_whu · 发表于 2007-2-2 18:28:35

在我的机子上运行正常！
(defun c:fjk()
(setq m1 8568736945652574)
(setq m2 98523657.0)
(setq m3 36582475)
(setq mm (- m1 (* m2 m3)))
(setq mn (rtos mm 2 1))
)

账号		自动登录	找回密码
密码			立即注册

[求助] [求助]：为什么计算的结果是错误的？

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

相关帖子