エクセルはとことん２進法で計算する

　前の記事「エクセルには誤差がある」で、エクセルで「0.5を足し続けても誤差を生じないが、1/3 や 0.1 を足し続けると誤差が生じる」ことを示した。さて、その訳は、何なのだろう？
　それは、10進数の 0.5 , 1/3 , 0.1 を２進数で表してみるとわかる。エクセルでは10進数を入力して、計算結果を10進数で表示するが、計算そのものは２進数で実行しているからである。
　まず、0.5 から。10進数の 0.5 を２進数で表すと 0.1 となる「0.5₍₁₀₎＝1/2₍₁₀₎＝1/10₍₂₎＝0.1₍₂₎」。つまり、２進数で表したとき、これは「割り切れる数（有限小数）」だ。
　次に10進数の 1/3 を２進数にしてみよう。そのために、まず分母の3を２進数にしてみると 11 となる。つまり、1/3₍₁₀₎＝1/11₍₂₎ である。そこで、実際に割り算してみよう。もちろん、２進数の割り算をするのだが、10進数の割り算と若干異なるけれども、手順はほとんど同じである。
　同じように、10進数の 0.1 を２進数にしてみよう。0.1₍₁₀₎＝1/10₍₁₀₎ で、分母の 10 は２進数で 1010_(２)だから、２進数の割り算 1÷1010 を実行すればよい。
　その結果は、次の通りである。

　10進数の 1/3 は割り切れない数（循環小数 0.3333…）だが、２進数でも割り切れなかった（循環小数 0.0101…）。10進数の 1/10 は割り切れる数（有限小数 0.1）だが、２進数では 0.000110011… とこれも循環小数になった。だから、コンピュータの中では 1/3 や 0.1 を正確に計算することはできないのである。コンピュータは有限個のものしか扱えないので、無限小数はどこかの位で丸めて処理することになって、だから誤差が発生するのである。
　ちなみに、現行の学習指導要領では、上のような２進数の割り算や循環小数についても高校・数学で扱う。というわけで、この記事は高校・数学科と高校・情報科のコラボ・ネタである。

１　→　２　→　３　→　４　→　５　→　６