[Date Prev][Date Next][Thread Prev][Thread Next][Date Index][Thread Index]

[openoffice:9831] 小数の計算



たぼたぼ@玉井です
私の掲示板に面白い投稿があったので・・・

エクセルで
=0.1+0.2-0.3 とすると 0
=0.1+0.2-0.3+0 とすると 5.55112E-17 となるというものです。
2進法を使っているための誤差によるものですが
Calcでは どちらも 0 です(*^_^*)

-- 
メールアドレス: yhx00662@nifty.com
ホームページ : http://homepage1.nifty.com/tabotabo/
コンテンツ  : ロータス1-2-3、オープンオフィス.オルグほか

--[PR]------------------------------------------------------------------
┃ゴ┃ル┃フ┃三┃昧┃★┃無┃料┃登┃録┃で┃お┃得┃情┃報┃満┃載
┗━┗━┗━┗━┗━┗━┗━┗━┗━┗━┗━┗━┗━┗━┗━┗━┗━
ゴルフ予約の専門サイト「ゴルフ三昧」に登録すると、直前割引のあるゴルフ
場を天気予報付きで検索が可能★エリア最大級の400以上に無料エントリー♪
 http://ad.freeml.com/cgi-bin/ad.cgi?id=erbiK
------------------------------------------------------------------[PR]--
■GMO INTERNET GROUP■ GMO INTERNET www.gmo.jp