一个数学问题，关于FIX

lisp_beginner · 发表于 2017-4-29 18:22:48

您需要登录才可以下载或查看，没有账号？立即注册

×

(fix (* (- 1.0 0.05 0.05) 100))

应该等于90

可结果是：
命令: (fix (* (- 1.0 0.05 0.05) 100))
89

什么原因呢？

iLisp · 发表于 2017-4-29 21:28:20

本帖最后由 iLisp 于 2017-4-29 21:29 编辑

浮点运算原因http://cal.m.supfree.net/index.asp
在这里你计算下 1 - 0.05 - 0.05

marting · 发表于 2017-4-29 21:41:51

一般浮点数结果加上1e-14就能消除误差了。

给你写个FIX函数

命令: (xd::math:fix (* (- 1.0 0.05 0.05) 100))
90

sicky111 · 发表于 2017-4-30 00:08:22

误差因素。

qqqincccken · 发表于 2017-4-30 00:42:48

謝謝提出來好好學習了

alliuyx · 发表于 2017-4-30 06:33:58

误差当然要小一些好，

账号		自动登录	找回密码
密码			立即注册

[求助] 一个数学问题，关于FIX