まるめ誤差
辰巳先生のブログを読んで、
http://ttmtko.air-nifty.com/a/2009/07/post-bc9e.html
http://ttmtko.air-nifty.com/a/2009/07/post-25d7.html
このブログに残しておきたかったことを思い出した。
それはMicrosoft Office Excel2003で円グラフを書いたときに、
%表示したときまるめ誤差のために、
四捨五入した値と合わなくなることがある。
円グラフの下D商店水色の値に注目してほしい。
右では13.5%が左では13%になってしまっている。
他のVersionでは未確認だが、
Word2003でも同じことが起きる。
100%にあわせるためにこのようなことが起きるようであるが、
このようなまるめ誤差はたくさん起きうる。
それと、10進数十進法を2進数二進法に変換し、
また2進数二進法から10進数十進法表示に直すので、
循環小数等になってしまうと変換するとき誤差が生じるのは仕方ないが、
それを知った上でMicrosoft Office Excel2003を利用したほうが良い。
円グラフにおいての解決方法は小数点以下を表示することで、
ほぼ回避できそうである。
« コンピュータは消えていく | トップページ | モバイルコンテンツの産業構造実態に関する調査結果 »
「風景」カテゴリの記事
- 大学入試に教科「情報」を(2012.04.08)
- 梅満開と電子カルテ(2012.03.29)
- プ会34と大雪(2012.01.24)
「情報教育」カテゴリの記事
- スクイークEtoys第8回(2012.10.27)
- 第5回全国高等学校情報教育研究会(千葉大会)2日目(2012.08.11)
- 第5回全国高等学校情報教育研究会(千葉大会)初日(2012.08.10)
- 30チームでのおもしろ村(2012.08.07)
- ICTE 情報教育セミナー みなとみらい2012(2012.07.25)
「パソコン」カテゴリの記事
- 梅満開と電子カルテ(2012.03.29)
- タブレット(2012.03.17)
- プリンターの設定とPowerPointの資料印刷(2011.09.05)
「リテラシー」カテゴリの記事
- パスワード(2012.04.11)
- ICTE 情報教育セミナー みなとみらい2011(2011.07.30)
- PISA2009 ICTに関する質問結果より その1(2011.07.03)
- デジタル読解力は4位、コンピュータ使用率は最下位(2011.06.28)
コメント
この記事へのコメントは終了しました。
トラックバック
この記事へのトラックバック一覧です: まるめ誤差:
» 「二進数」ではなく「二進法」 [辰己丈夫の研究雑報]
まず、「〜〜数」というときは、それは「数」か「数の集合」か「数の集合を定義づける性質」を表すのであって、「数の表記」を表すものではない。例えば、ネピアの数や、オ [続きを読む]
10進数ではなく、十進法。
2進数ではなく、二進法が正しい表記です。
間違った表記ですが戒めのため残しておきます。
投稿: y.tanikawa | 2009年7月24日 (金) 21時00分