【基礎理論】精度の証!指数表記と「有効桁数」の数え方|情報処理問題1000本ノック
科学計算や情報の基礎理論において、数値のどこまでが「信頼できる測定値」なのかを示すのが有効桁数です。特に指数表記における扱いは、計算誤差を防ぐための必須知識です。
1. 問題:指数表記における有効桁数の判定
【 問題 】 数値 5.40 × 103 を有効桁数を考慮して記述した場合、この数値の有効桁数は何桁でしょうか?
ア、1桁 イ、2桁 ウ、3桁 エ、4桁
2. 正解:数値表現に関する正解
正解: ウ、3桁
3. 解説:仮数部が「精度」を決める
指数表記(a × 10n 形式)において、有効桁数は「仮数部 a」に現れる数字の個数によって決まります。
■ 指数表記の仮数部に注目
・5.40 × 103 の場合、仮数部は 「5.40」 です。
・この 「5」「4」「0」 の3つが、測定によって得られた意味のある数字です。
■ 末尾の「0」の重要性
・単に 5400 と書くと、有効桁数が2桁(54まで)なのか3桁(540まで)なのか判別できません。
・5.40 × 103 と書くことで、「小数第2位の0まで正確に測った」という意思表示になり、有効桁数は3桁となります。
★ 先頭の0は数えない:0.0012 → 1.2 × 10-3(2桁)
★ 途中の0、末尾の0は数える:1.002(4桁)、5.0 × 102(2桁)
★ 指数部は関係ない:10n の部分は小数点の位置を示すだけで、精度には影響しません。
1. 理解のコツ: 指数表記は「誤差の範囲を明確にするためのマナー」です。5.4 × 103 なら 5350 ~ 5450 の範囲、5.40 × 103 なら 5395 ~ 5405 の範囲を指していることになり、後者の方がより「精密」であることを表しています。
2. 試験対策の視点: 「乗算・除算の計算結果は、有効桁数が最も少ないものに合わせる」というルールがよく出題されます。まずは、指数表記から「この数値は何桁の精度があるのか」を正しく見抜くことが第一歩です。
4. まとめ
「指数表記の有効桁数は、仮数部の数字をそのまま数える」。これが有効桁数の鉄則です。末尾の「0」を省略せず書くことで、計算の正確さを相手に正しく伝えることができるようになります。