[求助]：控制运算精度的变量？？？

LADESIGNER · 发表于 2006-2-17 17:51:06

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

您需要登录才可以下载或查看，没有账号？立即注册

×

(+ 2 250.222222)
返回 252.222 是什么原因？？？？

雨箭风刀 · 发表于 2006-2-17 18:00:32

显示问题，数据没有问题

LADESIGNER · 发表于 2006-2-17 18:52:19

（rtos (+ 2 250.222222) 2 8)就有问题了

ljpnb · 发表于 2006-2-17 20:29:17

有什么问题

ll_j · 发表于 2006-2-18 08:56:38

最初由 ljpnb 发布
[B]有什么问题 [/B]

你设置系统变量 Dimzin 为0后再试试。

LADESIGNER · 发表于 2006-2-18 18:59:19

试过了，跟DIMZIN无关.

橄榄滋味 · 发表于 2006-2-20 14:51:17

输入 DIMZIN 的新值 <8>: 0

命令: (rtos 17.5 2 2)
"17.50"

命令: (rtos 17.5 2 3)
"17.500"

命令: (rtos 17.5 2 4)
"17.5000"

命令: (rtos 17.5 2 6)
"17.500000"

命令: (rtos 17.5 2 10)
"17.5000000000"

ljpnb · 发表于 2006-2-20 16:12:52

出问题了

LADESIGNER · 发表于 2006-2-22 20:31:28

看来确实是显示的问题，记得有个变量控制命令行显示精度的，忘了。
Command: (+ 25.22222 2)
27.2222

Command: (equal (+ 25.22222 2) 27.22222)
T
Command: (equal (+ 25.22222 2) 27.2222)
nil

账号		自动登录	找回密码
密码			立即注册

[求助] [求助]：控制运算精度的变量？？？

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

相关帖子