在关系式中使用三角函数后,计算结果精度问题

luckygyy · 发表于 2012-5-4 12:16:28

您需要登录才可以下载或查看，没有帐号？注册

x

本帖最后由 luckygyy 于 2012-5-5 14:50 编辑

在关系式中计算 COS(0.02)的结果的话,显示的是1
如果计算COS(0.02)*100的话显示的是99.999994

这都不是我想要的答案呀...随便找个计算机计算一下都显示的是0.9998
请问这个要怎么设置呀

luckygyy · 发表于 2012-5-4 12:24:46

使用了floor(cos(0.02),4),后能够得到0.9999
但是还是有些不同呀..没有办法得到和计算器里算的结果吗?

ganyiwei · 发表于 2012-5-4 21:33:50

你看我的电脑计算器算的。。。。。

luckygyy · 发表于 2012-5-5 09:30:44

本帖最后由 luckygyy 于 2012-5-5 09:40 编辑

额.没有有发现电脑上的计算器竟然也是这个结果...我用的CASIO fx 570ms计算的结果真的是0.9998
而且书上也是用0.9998这个结果的...
看来是我的计算器的精度有问题了,估计和PI的精度或长度有关吧.

ganyiwei · 发表于 2012-5-5 15:24:58

有电脑还是用电脑上计算器算，精度速度都不是一个数量级的。。

luckygyy · 发表于 2012-5-5 20:57:19

有电脑还是用电脑上计算器算，精度速度都不是一个数量级的。。
& a' N$ w9 u" y7 ~# |ganyiwei 发表于 2012-5-5 15:24 http://www.3dportal.cn/discuz/images/common/back.gif

恩了解了谢谢

jiyongliang · 发表于 2012-5-6 20:10:23

本帖最后由 jiyongliang 于 2012-5-6 20:14 编辑

你看我的电脑, 计算器算的。。。。。
都是正确的，只是使用有问题，0.02度为：0.9999；而0.02弧度则为：0.9998。

luckygyy · 发表于 2012-5-12 18:36:19

7# jiyongliang

哈哈楼上真像帝~

		自动登录	找回密码
密码			注册

通知