§指数表示

 数値の表し方の一つで、次の形をとる。
    M:仮数(実数で、1 ....M < 10)、n:指数(整数)

 有効数字:意味を持った数で、有効数字の桁数が多いほど、精度が高い。
   指数表示では、仮数Mの桁数に相当する。

例)130 cm 3桁、1.3 m 2桁、6.02×1023 3桁

有効数字を用いての計算

@ 加減法

4.853.38.15と形式的に書かれるが、3.3には小数第1位に誤差を持っている。
そうすると、8.15の小数第2位は意味を持たなくなる。
 従って、意味のある答えとしては、つぎのように計算する・

 1)「最後の桁をそろえてから計算する」

即ち、4.853.3  4.93.38.2                  引き算も同じ。

  2)「そのまま計算して、最後に意味のある桁までにそろえる」

   4.853.3 = 8.158.2

   (注)二つの方法で値が異なる場合があるが、構わない。

A 乗除法

 4.85×3.3の計算を考える。4.85となっている値の真の値をa3.3のそれをbとする。
誤差を最大に考えると、
4.84a4.863.2b3.4 従って、積は

   4.84×3.2ab4.86×3.4
     15.488ab16.524 
   
従って、2桁目が確定しないことになる。3桁目以降は計算しても意味がない。
即ち、有効数字は
2桁。4.85×3.316.00516

4.85÷3.3の場合、
     ⇒ となり、これも2桁目に誤差を含む。

4.85÷3.31.468...⇒1.5]


乗除の計算には、

 「精度の最も悪い数の桁数よりも1桁だけ多く使って計算し、増やした桁数の最後の桁を四捨五入して、精度の最も悪い数の桁数にそろえる」

[問題]

1.        10000mkmで表せ。

2.        地球の赤道半径6378136mを有効数字3桁の数で表せ。また、mに接頭語をつけて、1よりも大きい数字となる場合すべてを書け。

3.        地球を(真の)球とし、2で求めた数字を用い、表面積を単位[m2], [km2], [cm2]で求めよ。

4.        10mLは何L? 0.51Lは何mL? 0.510Lは何mL? 0.510Lは何m3

  解答へ