2015年5月
          1 2
3 4 5 6 7 8 9
10 11 12 13 14 15 16
17 18 19 20 21 22 23
24 25 26 27 28 29 30
31            

最近のトラックバック

無料ブログはココログ

« コンピュータは消えていく | トップページ | モバイルコンテンツの産業構造実態に関する調査結果 »

2009年7月21日 (火)

まるめ誤差

辰巳先生のブログを読んで、
http://ttmtko.air-nifty.com/a/2009/07/post-bc9e.html
http://ttmtko.air-nifty.com/a/2009/07/post-25d7.html
このブログに残しておきたかったことを思い出した。
それはMicrosoft Office Excel2003で円グラフを書いたときに、
%表示したときまるめ誤差のために、
四捨五入した値と合わなくなることがある。
円グラフの下D商店水色の値に注目してほしい。
右では13.5%が左では13%になってしまっている。
ennexcel
他のVersionでは未確認だが、
Word2003でも同じことが起きる。
ennword
100%にあわせるためにこのようなことが起きるようであるが、
このようなまるめ誤差はたくさん起きうる。

それと、10進数十進法を2進数二進法に変換し、
また2進数二進法から10進数十進法表示に直すので、
循環小数等になってしまうと変換するとき誤差が生じるのは仕方ないが、
それを知った上でMicrosoft Office Excel2003を利用したほうが良い。

円グラフにおいての解決方法は小数点以下を表示することで、
ほぼ回避できそうである。

昨日今年初のセミの抜け殻を見つけた。
200900721semi
近くで泣き声が聞こえないが、どこかでわずかな命だが生きていることだろう。

« コンピュータは消えていく | トップページ | モバイルコンテンツの産業構造実態に関する調査結果 »

パソコン」カテゴリの記事

リテラシー」カテゴリの記事

情報教育」カテゴリの記事

風景」カテゴリの記事

コメント

10進数ではなく、十進法。
2進数ではなく、二進法が正しい表記です。
間違った表記ですが戒めのため残しておきます。

コメントを書く

(ウェブ上には掲載しません)

トラックバック

この記事のトラックバックURL:
http://app.f.cocolog-nifty.com/t/trackback/1150809/30639265

この記事へのトラックバック一覧です: まるめ誤差:

» 「二進数」ではなく「二進法」 [辰己丈夫の研究雑報]
まず、「〜〜数」というときは、それは「数」か「数の集合」か「数の集合を定義づける性質」を表すのであって、「数の表記」を表すものではない。例えば、ネピアの数や、オ [続きを読む]

« コンピュータは消えていく | トップページ | モバイルコンテンツの産業構造実態に関する調査結果 »