[讨论] 关于DSP双精度浮点数除法出现误差的问题

zhangdong   2015-9-17 09:41 楼主
1.png 2.png
第一张图是代码,第二张图是结果。
哪位大神能帮解释一下啊,感激不尽!

回复评论 (2)

双精度表示只是一种近似表示。误差是必然纯在的。double 8个字节却要表示全体实数,所以必然表示不了那么准。然后实际你在应用中小数点后面那么多位你应该是已经完全用不到了吧。所以错不错也无关大雅了。
点赞  2015-9-17 09:52
有误差很正常
点赞  2015-9-17 10:17
电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 京公网安备 11010802033920号
    写回复