有効桁数

以前、「有効桁数」という話をしたのでそれにちなんでの話。学術的でつまらない話かもしれない。理系の人にはわかると思うが、計算で数値の桁をどこまで扱うか？決めたものである。例えば、前回の記事では

地球の質量を5.972×10²⁴kg

というように整数部分を一桁とし、それ以下の桁は小数点以下、×10の何乗という表記をする。それに倣うと

地球の半径は6.37518×10⁶m

と表記される。0.637518×10⁷mとも表せるが、整数部分に0は使わない。整数部分から含めての桁数が有効桁数である。小数点第2位まで有効とするなら有効桁数3桁となる。足し算引き算はもちろん位を合わせないといけないが、乗算除算をする場合は、×10は何乗だろうが、有効桁数は桁数の少ない方に合わせる。その桁数までしか精度が保証されないのが理由である。