以前、「有効桁数」という話をしたのでそれにちなんでの話。学術的でつまらない話かもしれない。理系の人にはわかると思うが、計算で数値の桁をどこまで扱うか?決めたものである。例えば、前回の記事では 地球の質量を5.972×1024kg というように整数部分を…
引用をストックしました
引用するにはまずログインしてください
引用をストックできませんでした。再度お試しください
限定公開記事のため引用できません。