获取输入数据的精度有没有专门的函数?

挚友01

我输入的2.50 要返回精数为2,有什么样的函数，是不是要用一个程序解决?

newer

2.50 要精度2 是什么意思？

你说下你数据是通过什么得到的？ 然后你想得到什么？

iLisp

fix     itoa atof  distof 都是转换的

iLisp

fix     itoa atof  distof 都是转换的

挚友01

我的意思，是输入2.55 然后是(rtos 2.55 2 X)  = "2.55"
输入2.555然后是(rtos 2.555 2 X)  = "2.555"
我要用程序判断用户输入数据的精度...也就是这个X的确定...

iLisp

那用 getstring

ll_j

回答问题基本靠猜^_^我猜楼主是说消零的问题，这个问题可以参考一下系统变量dimzin，除标注外，rtos也与这个变量有关。

挚友01

不是消零的问题，说白了就是转换的事，我要接收的数是2.55 转换成字符就是"2.55" 用户输入传递的XXX.XXX（浮点）
就要返回"XXX.XXX" ，前面是数字，后面是字符，但内容要一样，“长度”都要一样

newer

挚友01 发表于 2017-2-17 10:20

你想知道用户输入的实数的小数位数？

要是这样，你用getstring    让用户输入，然后你判断字符串里面小数点后面的字符个数。

挚友01

我应换一个词，是接收的数，而不是用户的输入，不能用getstring

iLisp

没有这样的，getstring 后判断是不是数字，然后再判断 . 后面几位

挚友01

有个随机数(浮点)，要转换成字符串，转换后的字符要保留原随机数的精度和小数点后面的值，这样大家明白了吧，我说话有点笨...

iLisp

挚友01 发表于 2017-2-17 10:51

浮点数 2.0 2.00 2.0000 在计算机内是一样的，无法确定

一、浮点型数据在内存中存储的表示

实数在内存中以规范化的浮点数存放，包括数符、阶码、尾数。数的精度取决于尾数的尾数。比如32位机上float型为23位（因为规范化数的数码最高位恒为1，不必存储，实际精度为24位，下面会有详解），double型为52位。

单精度float型存储在内存中的大小为4个字节，即32位。

xxxxxxxx xxxxxxxx xxxxxxxx xxxxxxxx

浮点表示法类似于科学计数法，任一数均可通过改变指数部分，使小数点位置发生移动，如23.45可以写成：2.345*10^1

浮点表示的一般形式为：R=M*2^e (R:Real M:Mantissa尾数 e:exponent阶码)

把上面float的二进制可分成三部分：

x        xxxxxxxx        xxxxxxxxxxxxxxxxxxxxxxx

数符(1b)   阶码（8b）      尾数（23b）

double型的浮点数分别是：数符（1b）、阶码（8b）、尾数（52b）

数符sign：real的正负号 "+":0 "-":1

阶码e：这里二进制其实是移码E（0~255）的表示，e=E-127（double型中e=E-1023） e为正值说明这个浮点数向左移动了e位，e为负值说明这个浮点数向右移动了e位。127=2^7-1 1023=2^10-1

尾数M：有效数字位，这里是有效数字位的部分二进制码，为什么说部分呢？仔细看通上下文就可以知道了。

例1：

float型浮点数125.5转化成32位二进制浮点数

125.5的二进制码为1111101.1，写成二进制的科学计数为：1.111101*2^6（因为科学计数法“整数”部分大于1，在二进制中，“整数”部分只能恒为1）即向左移6位，则e=6，则E=e+127=133，而E的二进制码为10000101，而1.111101把“整数”部分去除1之后为111101，之后补0，共23b，形成了尾码。

所以125.5的32位二进制浮点数为

0 10000101 11110100000000000000000

例2：

float型浮点数0.5转化成32位二进制浮点数

0.5的二进制码为0.1，写成二进制的科学计数为：1.0*2^(-1)即向右移1位，则e=-1，则E=e+127=126，而E的二进制码为01111110，而1.0把“整数”部分去除1之后为0，之后补0，形成了阶码。

所以0.5的32位二进制浮点数为

0 01111110 00000000000000000000000
double型浮点数类似。
二、  二进制转十字制

例3：

32位二进制浮点数为0 10000010 00010000000000000000000转化成十进制数浮点数

题中已给我们分了三部分，数符部分、阶码部分、尾数部分。

数符部分为0，则代表此数为整数；阶码部分为10000010，则E=130，则e=E-127=3，则说明其向左移了3位，0001加上“整数”部分的1之后，为1.0001。则原二进制数为1000.1=十进制8.5，或R=1.0001*2^3=8.5

其中很多计算类似。可举一反三！

newer

挚友01 发表于 2017-2-17 10:51

你要说明 数 是通过交互输入的，还是程序中间计算的，
1、通过GETSTRING 输入的，你能知道他小数点后面输入了几位， 因为只要是输入的，就一定是固定的位数


2、 如果你数据是程序里面公式计算的，那么浮点数就没固定的位数，你只能求出一定的精度值出来。

所以说，如果是计算得到的，浮点数的最高小数位数受你机器和操作系统的限制，你得不到他有多少位，但你可以得到具体的保留几位后的数。

你看到底想做什么？

rtos不是你想用的？

newer

挚友01 发表于 2017-2-17 10:51

你去试试，PI
浮点数，你想保留多少都行，他没具体的位数

命令: (rtos pi 2 1)
"3.1"

命令: (rtos pi 2 5)
"3.14159"

命令: (rtos pi 2 32)
"3.141592653589793"


可以看到，AUTOCAD浮点数最多给你保留到15位。