質問: X×10÷7=16÷14 について教えてください。 16÷14を電卓で計算した後に、左辺から÷7と×10を移動させました。計算結果は0.799999...となりました。 解答は0.8でした。解説をお願いしたいです。
回答: 電卓は入力された順に計算することしかできないのだから、途中で表示限界以上の小数を出現させたら足りない桁の切り捨てが発生する。 その差分が表れている。 1/3×3を1÷3×3とすると0.9999999になるのと同じ