誤差
PC内部では、数値を指定されたビット数で表現しているために計算などの途中で誤差が生じます。
けたあふれ誤差
けたあふれ誤差は、演算結果がPCで指定されたビット数で表現できる範囲を超えることで発生する誤差。
最大値を超えることをオーバーフロー
最小値を超えることをアンダーフロー
丸め誤差
丸め誤差は、演算結果を指定された有効桁数で表すために四捨五入、切捨て、切り上げを行うことで発生する誤差。
丸め誤差は四捨五入、切捨て、切り上げ
けた落ち
けた落ちは、絶対値のほぼ等しい二つの数の差を求めたときに有効桁数が減るために発生する誤差。
桁落ちは有効桁数が減る
情報落ち
情報落ちは、絶対値の大きな数と小さな数の演算を行った際に演算結果が反映されないために発生する誤差。絶対値の差が少ない順に演算を行うことで情報落ちを回避する。
情報落ちは小さな数が演算結果に反映されない
打ち切り誤差
打ち切り誤差は、浮動小数点の計算処理を指定した規則で打ち切ることによって発生する誤差。