为什么这个数字的RTOS结果这样？

Lisphk · 发表于 2016-5-17 09:40:14

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

您需要登录才可以下载或查看，没有账号？立即注册

×

命令: (rtos 4.1235 2 3)
"4.124"
命令: (rtos 5.7835 2 3)
"5.784"

命令: (rtos 8.6375 2 3)
"8.637"

应该返回 8.638的啊，是我机器有问题了？

st788796 · 发表于 2016-5-17 11:36:53

命令: (rtos 8.6375 2 3)
"8.637"
命令: (rtos 8.637499999999999999 2 3)
"8.637"
命令: (rtos 8.63750000001 2 3)
"8.638"

st788796 · 发表于 2016-5-17 12:54:28

本帖最后由 st788796 于 2016-5-17 12:56 编辑

8.6375的二进制
1000.101000110011001100110011001100110011001100110011
重复 0011，但计算机不保存了，会截断后面的 0011

二进制转为十进制
8.637499999999999289457264239899814128875732421875

计算机保存实数的机制原因

newer · 发表于 2016-5-17 17:13:05

确实，这个数字很特殊。

Lisphk · 发表于 2016-5-17 17:57:27

st788796 发表于 2016-5-17 12:54
8.6375的二进制
1000.101000110011001100110011001100110011001100110011
重复 0011，但计算机不保存了， ...

谢谢大师回复，刚试了下

命令: (rtos 7.6375 2 3)
"7.638"

这个怎么就给进位了呢，小数和 8.6375 一样的啊。

st788796 · 发表于 2016-5-17 18:12:38

Lisphk 发表于 2016-5-17 17:57
谢谢大师回复，刚试了下

命令: (rtos 7.6375 2 3)

http://tool.oschina.net/hexconvert

在这个网页上你可以测试下，

7.6375 的二进制是
111.10100011001100110011001100110011001100110011001101

这个二进制的十进制转换后刚好就是 7.6375

wangxf888 · 发表于 2016-5-24 09:58:55

做个标记学习

账号		自动登录	找回密码
密码			立即注册

[求助] 为什么这个数字的RTOS结果这样？

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

点评

浏览过的版块