2019年3月27日水曜日

エクセルに計算ミスさせろ

 エクセルで 1/3 を足し続けたらどうなるか?
 手順は、セルA1に「=1/3」を、セルA2に「=A1+1/3」を入力し、セルA2の式を下方向にコピーする。こうすれば、計算上は n 行目のセルAnで n/3 の値を表示することになるはずである。
 1/3は割り切れない(循環小数)が、セルA1では四捨五入して小数第15位までの数が正しく表示されている。前の記事に書いたとおりである。セルA2でも同様に、四捨五入して小数第15位までの数が正しく表示されている。セルA3は「1/3+1/3+1/3」となるが、表示は「1」と正しく表示された。
 さて、さらに下方向にコピーを続けても、正しく計算するだろうか?
 次に、数値を変えてやってみよう。1/3 を 0.1(=1/10)に変えたらどうなるか?また、0.5(=1/2)に変えたらどうなるか?誤差が生じるだろうか、それとも誤差が生じないだろうか?


 上表を見ての通り、1/3 と 0.1 の場合は誤差が生じたが、0.5の場合は誤差が生じなかった。
 ところで、足し続ける数値によって、あるときは誤差が生じ、あるときは誤差が生じないのはなぜなのか? それについては、また あと で。


 →  →  →  →  → 

0 件のコメント:

コメントを投稿