基本情報技術者平成18年秋期 午前問6
問6
浮動小数点形式で表現される数値の演算において,有効けた数が大きく減少するものはどれか。
- 絶対値がほぼ等しく,同符号である数値の加算
- 絶対値がほぼ等しく,同符号である数値の減算
- 絶対値の大きな数と絶対値の小さな数の加算
- 絶対値の大きな数と絶対値の小さな数の減算
分類
テクノロジ系 » 基礎理論 » 離散数学
正解
イ
解説
けた落ちは、浮動小数点演算をした結果、有効桁数が減ってしまう現象で「絶対値の非常に近い値同士の減算をした場合」に生じます。
したがって「イ」が正解となります。