基本情報技術者 試験情報＆徹底解説 -新制度に完全対応-

丸め誤差は、数値を有限桁で表現する際に、有限桁未満の部分の切捨てや切上げを行うことにより生じる誤差です。

コンピュータでは表現できる桁数に限りがあるため、正確な値をそのまま保持できない場合があります。例えば、1／3を小数で表すと0.33333…と無限に続きますが、有効桁数が3桁のコンピュータ上では0.333に丸められます。このように、本来の値と表現された値に差が生じるのが丸め誤差です。

したがって「イ」が適切な説明です。

• オーバーフローの説明です。演算結果がそのコンピュータが扱える最大値を超えた際に発生します。
  例えば、8ビットの符号なし整数型（最大値255）に128＋128の結果である256（2進数で 1 0000 0000）を格納しようとすると、桁あふれを起こした最上位ビットが無視されて結果が0になる計算誤差が生じます。
• 正しい。丸め誤差は、数値を有限の桁数で表す際に、それ以降の桁を切捨て・切上げすることで生じる誤差です。
• 情報落ちの説明です。非常に大きい数と非常に小さい数の計算において、小さい数が無視される現象です。
  例えば、有効桁数が3桁のコンピュータで「1.234＋0.000123」という計算を行うと、結果は1.234となり、小さい値が無視される計算誤差が生じます。
• 桁落ちの説明です。絶対値の差が非常に小さい2つの値の差を求めたときに、仮数部の大半が打ち消しあい、計算結果の有効桁数が少なくなることによって生じる誤差です。
  例えば、有効桁数が8桁同士の「1.2345678－1.2345666」という計算を行うと、結果は1.2×10^-6となり、有効桁数は2桁に減ってしまいます。