浮動小数点表示
PCにおける数値の表現方法には、先に紹介した固定小数点表示と浮動小数点表示の2種類があります。浮動小数点表示は指数表現によって広い範囲の数を少ないビット数で表現できる。そのため科学計算などで多く用いられている。
表現できる範囲
浮動小数点表示では表現できる範囲が広いためY=実数、M=仮数、B=基数、E=指数とし、次の計算式当てはめて表現できる範囲を求める。
Y=M×B^E
10進数「123」を例にあげると以下の表のようになり仮数部分の小数点の位置が浮動している。
仮数 | 基数 | 指数 | ||
---|---|---|---|---|
1230 | × | 10 | ^ | -1 |
123 | × | 10 | ^ | 0 |
12.3 | × | 10 | ^ | 1 |
1.23 | × | 10 | ^ | 2 |
0.123 | × | 10 | ^ | 3 |
そのため実数Yの表示は数多くの組み合わせがあるが、仮数と指数の条件を予め一意に決めておくことで1つの組み合わせに絞ることが出来る。これを「正規化」と呼び、正規化することにより数値の精度も保つことが出来る。
10進数「123」において整数でない有効桁数3桁に正規化した実数Yは、「0.123×10^3」となる。
試験での浮動小数点の表現形式
試験では簡略化された図が出題される。