找回密码
 立即注册

QQ登录

只需一步,快速开始

扫一扫,访问微社区

查看: 765|回复: 4

[求助] [求助]:有没有一种方法程序返回的点, 不用科学计数法表示

[复制链接]
发表于 2006-8-19 22:15:35 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?立即注册

×
今天调试的时候, 返回的y值大部分是用科学计数法表示的, 误差还比较大, 我不想用科学计数法表示, 使y值勤精度高一些, 不知有没有一种方法使返回的点不用科学计数法表示?
论坛插件加载方法
发帖求助前要善用【论坛搜索】功能,那里可能会有你要找的答案;
如果你在论坛求助问题,并且已经从坛友或者管理的回复中解决了问题,请把帖子标题加上【已解决】;
如何回报帮助你解决问题的坛友,一个好办法就是给对方加【D豆】,加分不会扣除自己的积分,做一个热心并受欢迎的人!
发表于 2006-8-20 23:35:05 | 显示全部楼层
我也遇到同样问题,本来是8926767708467,结果在提示行显示出来的是8.92677e+012,不知怎么解决?
论坛插件加载方法
发帖求助前要善用【论坛搜索】功能,那里可能会有你要找的答案;
如果你在论坛求助问题,并且已经从坛友或者管理的回复中解决了问题,请把帖子标题加上【已解决】;
如何回报帮助你解决问题的坛友,一个好办法就是给对方加【D豆】,加分不会扣除自己的积分,做一个热心并受欢迎的人!
回复 支持 反对

使用道具 举报

发表于 2006-8-21 02:32:07 | 显示全部楼层
只是显示问题,精度没有丢失。倒是实数计算位数的限制搞死人,坐标极大的两个相近点无法判断是否在一个位置。这涉及重合判断,精度归并的程序。

实数是带有小数点的数。在 -1 和 1 之间的实数必须以零开始。实数是以双精度浮点格式保存的,可以提供至少 14 位有效位数的精度,尽管在 AutoCAD 命令行中只能显示 8 位有效数字。实数可以用科学计数法表示,科学计数法的格式中可包括 e 或 E 及指数(例如,0.0000041 与 4.1e-6 相同)。当用户在 AutoLISP 表达式中直接使用实数时,该值被称为常量。数字 3.1、0.23、-56.123 和 21,000,000.0 都是有效的 AutoLISP 实数。
论坛插件加载方法
发帖求助前要善用【论坛搜索】功能,那里可能会有你要找的答案;
如果你在论坛求助问题,并且已经从坛友或者管理的回复中解决了问题,请把帖子标题加上【已解决】;
如何回报帮助你解决问题的坛友,一个好办法就是给对方加【D豆】,加分不会扣除自己的积分,做一个热心并受欢迎的人!
回复 支持 反对

使用道具 举报

发表于 2006-8-21 03:10:21 | 显示全部楼层
21,000,000.0 也认么?会被解析城点位的(仅在命令行中)。应该没有,号吧
论坛插件加载方法
发帖求助前要善用【论坛搜索】功能,那里可能会有你要找的答案;
如果你在论坛求助问题,并且已经从坛友或者管理的回复中解决了问题,请把帖子标题加上【已解决】;
如何回报帮助你解决问题的坛友,一个好办法就是给对方加【D豆】,加分不会扣除自己的积分,做一个热心并受欢迎的人!
回复 支持 反对

使用道具 举报

 楼主| 发表于 2006-8-21 09:17:32 | 显示全部楼层
3楼所说的没错, 两个坐标相近且又都用科学计数法表示的数据,有时程序会判别为一个位置, 有时程序不会判别一个位置, 请问3楼楼主, 你说的重合判断, 精度合并的程序是怎么讲的, 能解决这个问题吗?  能把数据原模原样返回吗?
论坛插件加载方法
发帖求助前要善用【论坛搜索】功能,那里可能会有你要找的答案;
如果你在论坛求助问题,并且已经从坛友或者管理的回复中解决了问题,请把帖子标题加上【已解决】;
如何回报帮助你解决问题的坛友,一个好办法就是给对方加【D豆】,加分不会扣除自己的积分,做一个热心并受欢迎的人!
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|申请友链|Archiver|手机版|小黑屋|辽公网安备|晓东CAD家园 ( 辽ICP备15016793号 )

GMT+8, 2024-12-23 11:13 , Processed in 0.395416 second(s), 39 queries , Gzip On.

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表