計算時の有効数字について
画像処理などでは微分積分のスキル、物理における波の解釈や様々な科学的公式が必要になってくるけれど、その際に忘れてはならないのが 計算時の有効数字をそろえること である。 その際にa.bcd…というように小数点で端数が続いていく場合、 小数点第何位で四捨五入すべきか 考える必要が出てくる。 ここで上記の aは0以外の数字がくること に気をつけなければならない。 0.1ではなく、1×10-1と表記しなければいけないのだ。 0.123を有効数字2桁で表す場合、小数点第2位の数まで表記に入れて、1.2×10-1となる。 ただし、面積など図の計算における割り算かけ算では例外で考えなくてもよい。 （底辺×高さ÷２の２は有効数字を考えない。縦×横＝3×５＝15の時、15は有効数字1桁にするはずがない）