2019年4月23日火曜日

☆ エクセルの限界に挑む

 コンピュータは突き詰めれば電気のオン・オフ(電気が流れているか、いないか)で制御しています(ただし量子コンピュータについてはその限りでない)。つまり2進法。もちろん、エクセルもです。そして、それゆえの限界もあります。コンピュータの宿命です。
 では、ここでエクセルの計算の仕方を確認しながら、その限界に挑んでみましょう。

  ◇ エクセルはどこまで正確に計算できるか? 
  ◇ エクセルはどこまで大きな数、細かい数を扱えるか? 
  ◇ 浮動小数点形式はエクセルでこそ力を発揮する 
  ◇ エクセルに計算ミスさせろ 
  ◇ エクセルはとことん2進法で計算する 
  → 練習問題 

 私たちはたまたま10進法に慣れ親しんでいますが、コンピュータとうまく付き合うには2進法にも慣れ親しんでおきましょう。その感覚は、論理式 でも 指数・対数 でも役立ちます。


 →  →  →  →  → 

0 件のコメント:

コメントを投稿