コンピュータは突き詰めれば電気のオン・オフ(電気が流れているか、いないか)で制御しています(ただし量子コンピュータについてはその限りでない)。つまり2進法。もちろん、エクセルもです。そして、それゆえの限界もあります。コンピュータの宿命です。
では、ここでエクセルの計算の仕方を確認しながら、その限界に挑んでみましょう。
◇ エクセルはどこまで正確に計算できるか?
◇ エクセルはどこまで大きな数、細かい数を扱えるか?
◇ 浮動小数点形式はエクセルでこそ力を発揮する
◇ エクセルに計算ミスさせろ
◇ エクセルはとことん2進法で計算する
→ 練習問題
私たちはたまたま10進法に慣れ親しんでいますが、コンピュータとうまく付き合うには2進法にも慣れ親しんでおきましょう。その感覚は、論理式 でも 指数・対数 でも役立ちます。
0 件のコメント:
コメントを投稿