[Date Prev][Date Next][Thread Prev][Thread Next][Date Index][Thread Index]

[openoffice:9837] Re: 小数の計算



皆さん こんばんは。清水です。

tabotaboさん Wrote:
> 私の掲示板に面白い投稿があったので・・・
> エクセルで
> =0.1+0.2-0.3 とすると 0
> =0.1+0.2-0.3+0 とすると 5.55112E-17 となるというものです。
> 2進法を使っているための誤差によるものですが
> Calcでは どちらも 0 です(*^_^*)

誤差の話のついでに.....

OOoで、セルに「=if(42-41=1;"○";"")」と入力すると、「○」と表示さ
れます。
それでは、この数式を「=if(4.2-4.1=0.1;"○";"")」に変更すると、どう
なるでしょうか?

「OOoでも小数の誤差には注意だ」という例です。

ちなみに、Excelも1-2-3も同じ結果になります(三四郎だけが期待通りの
結果になります)....試す方はそれぞれのソフト用に関数名や区切り記号
を変えてくださいね。

======================================
清水 哲郎
<tetsus@hi-ho.ne.jp>
※@マークはわざと全角にしてあります。
 ご連絡時には半角の@をお使いください。
======================================

--[PR]------------------------------------------------------------------
╋╋━      無料・匿名でスカウトが受けられる!      ━╋╋
          ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄
   100社以上人材バンクから非公開・マル秘求人情報があなたに届く。
      【人材バンクネット】の匿名スカウトサービス
 http://ad.freeml.com/cgi-bin/ad.cgi?id=erhwn
------------------------------------------------------------------[PR]--
■GMO INTERNET GROUP■ GMO INTERNET www.gmo.jp