HOME»基本情報技術者試験掲示板»平成27年秋期午後問2
投稿する
平成27年秋期午後問2 [3006]
ココアさん(No.1)
設問３のbについて質問です。
解説で、このようにあります。
AとBの加算を行うと次のようになります。
1.1×2の5乗＋(－0.11×2の5乗)
＝(1.1－0.11)×2の5乗
＝0.11×2の5乗
＝1.1×2の4乗
この計算式の
＝(1.1－0.11)×2の5乗
＝0.11×2の5乗
の部分ですが
1.1-0.11は、0.99ではないのでしょうか。なぜ0.11になっているのでしょうか。
算数の質問になってしまいすいません。。。
どなたか教えてください。
解説で、このようにあります。
AとBの加算を行うと次のようになります。
1.1×2の5乗＋(－0.11×2の5乗)
＝(1.1－0.11)×2の5乗
＝0.11×2の5乗
＝1.1×2の4乗
この計算式の
＝(1.1－0.11)×2の5乗
＝0.11×2の5乗
の部分ですが
1.1-0.11は、0.99ではないのでしょうか。なぜ0.11になっているのでしょうか。
算数の質問になってしまいすいません。。。
どなたか教えてください。
2021.03.05 11:34
管理人(No.2)
10進数ではなく2進数の計算だからですよ。
2021.03.05 12:03