PC内部では、数値を指定されたビット数で表現しているために計算などの途中で誤差が生じます。 けたあふれ誤差 けたあふれ誤差は、演算結果がPCで指定されたビット数で表現できる範囲を超えることで発生する誤差。 最大値を超えることをオーバーフロー最小値…

ＰＣにおける数値の表現方法には、先に紹介した固定小数点表示と浮動小数点表示の２種類があります。浮動小数点表示は指数表現によって広い範囲の数を少ないビット数で表現できる。そのため科学計算などで多く用いられている。 表現できる範囲 浮動小数点表…