§指数表示
数値の表し方の一つで、次の形をとる。
M:仮数(実数で、1 ....M < 10)、n:指数(整数)
◎ 有効数字:意味を持った数で、有効数字の桁数が多いほど、精度が高い。
指数表示では、仮数Mの桁数に相当する。
例)130 cm ⇒ 3桁、1.3 m ⇒ 2桁、6.02×1023 ⇒ 3桁
有効数字を用いての計算
@ 加減法
4.85+3.3=8.15と形式的に書かれるが、3.3には小数第1位に誤差を持っている。
そうすると、8.15の小数第2位は意味を持たなくなる。
従って、意味のある答えとしては、つぎのように計算する・
1)「最後の桁をそろえてから計算する」
即ち、4.85+3.3 ⇒ 4.9+3.3=8.2 引き算も同じ。
2)「そのまま計算して、最後に意味のある桁までにそろえる」
4.85+3.3 = 8.15=8.2
(注)二つの方法で値が異なる場合があるが、構わない。
A 乗除法
4.85×3.3の計算を考える。4.85となっている値の真の値をa、3.3のそれをbとする。
誤差を最大に考えると、4.84<a<4.86,3.2<b<3.4 従って、積は
4.84×3.2<a・b<4.86×3.4
15.488<a・b<16.524
従って、2桁目が確定しないことになる。3桁目以降は計算しても意味がない。
即ち、有効数字は2桁。[4.85×3.3=16.005 ⇒ 16]
4.85÷3.3の場合、
⇒
となり、これも2桁目に誤差を含む。
[4.85÷3.3=1.468...⇒1.5]
乗除の計算には、
「精度の最も悪い数の桁数よりも1桁だけ多く使って計算し、増やした桁数の最後の桁を四捨五入して、精度の最も悪い数の桁数にそろえる」
[問題]
1. 10000mをkmで表せ。
2. 地球の赤道半径6378136mを有効数字3桁の数で表せ。また、mに接頭語をつけて、1よりも大きい数字となる場合すべてを書け。
3. 地球を(真の)球とし、2で求めた数字を用い、表面積を単位[m2], [km2], [cm2]で求めよ。
4. 10mLは何L? 0.51Lは何mL? 0.510Lは何mL? 0.510Lは何m3?
解答へ