演算時の誤差

コンピュータのメモリや扱える桁数には限界があるため、計算の過程で必ず「誤差」が発生します。
表現できる最大値を超えてしまう「オーバーフロー」や、逆に小さすぎて表せない「アンダーフロー」のほか、限られた桁数に収めるために端数を削る「丸め誤差」があります。さらに試験で頻出なのが、極端に大きさの違う数値の足し算で小さい方が無視される「情報落ち」や、値がほぼ等しい2つの数値の引き算で有効桁数が激減する「桁落ち」です。これらの発生原因と対策を正しく見極めることが重要です。

• オーバーフロー: 表現できる最大値を超えること。
• アンダーフロー: 表現できる最小値より絶対値が小さすぎる状態。
• 丸め誤差・情報落ち: 桁数の制限や有効桁数の違いにより生じる計算のズレ。