|
马上注册,结识高手,享用更多资源,轻松玩转三维网社区。
您需要 登录 才可以下载或查看,没有帐号?注册
x
今天我在使用Excel 2003时发现一个问题,感觉很是奇怪,描述如下:
1 I5 J4 }$ E! d; l1 H使用公式“=if((1-0.001)=(10-9.001),"yes","no")”时显示结果竟然是"no",我迷惑了半天不解。* R3 ?3 @: D6 T \
此公式的意思是,如果1-0.001与10-9.001相等的话,就显示yes,否则显示no;
% R$ p1 ?6 c6 P& h4 y' Y! I当我再用公式显示每组计算结果,并将小数位加为20时,却令我大吃一惊:
5 Z' m. p' R9 H: N. L5 H+ ?8 N公式(1): 1-0.001=0.99900000000000000000;+ `5 V1 U+ S6 U+ F4 |6 S
公式(2): 10-9.001=0.99900000000000100000;
M8 r: i4 x7 n K公式(2)的计算结果在第15位小数位竟然出现了一个1
! h, D- {. s: Z' e
4 [* _9 \9 \4 }7 u" C然后我又试了一下公司内日文版的Excel 2003,也出现了同样的现象。% x3 M- C& O( }/ ^0 M
9 T6 V5 E" q& @* h6 M7 {/ ~4 _如附件,不知道这是什么问题? |
|