[Date Prev][Date Next][Thread Prev][Thread Next][Date Index][Thread Index]

[openoffice:9840] Re: 小数の計算



SHIMIZU wrote:
> それでは、この数式を「=if(4.2-4.1=0.1;"○";"")」に変更すると、どう
> なるでしょうか?

> ちなみに、Excelも1-2-3も同じ結果になります(三四郎だけが期待通りの
> 結果になります)....試す方はそれぞれのソフト用に関数名や区切り記号
> を変えてくださいね。

となると、Calc でも期待通りにしたければ、、、

小数点を含んだ数値同士を比較するときには、二つの値の差の絶対値を取って、
0.00…001 よりも小さくなるっていうことで、OK でしょうか。

OOo 2.0.2 Calc で試しにやってみたら、

  =IF(ABS((4.2-4.1)-0.1)<=0.0000000001;"○";"×")  → ○ になりました。 (期待通り)

  =IF(ABS((4.2-4.1)-0.1)<=1E-016;"○";"×")  → × になりました。 (期待はずれ)

  =IF(ABS((4.2-4.1)-0.1)=0;"○";"×")  → × になりました。 (期待はずれ)

Tora


--[PR]------------------------------------------------------------------
   △△  デスクトップPCや折りたたみ自転車が当たる!  △△
  ▽・・▽  ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ▽^^▽
  △ ー △ ぐるなびトラベル GOGOサマーキャンペーン △ ー △
   ▽▽    ↓   ↓   ↓   ↓   ↓     ▽▽
 http://ad.freeml.com/cgi-bin/ad.cgi?id=erjgX
------------------------------------------------------------------[PR]--
■GMO INTERNET GROUP■ GMO INTERNET www.gmo.jp