10進数で計算しようがたとえば 10/3 を有限桁で扱う時点で (有理数とか多項式そのものを持っとくとかでなければ) 誤差は必ず発生するし、バイナリだからとかそうでないからとかの問題ではない。「10/3 を小数点以下2桁で切り捨てます」の「2桁」を10進数で規定するなら10進数の固定小数点数を使うのが楽というだけで、誤差がないという話ではない
Mastodonに参加して、世界で起きていることを見つけよう。
連合内の誰でもフォローして投稿を時系列で見ることができます。アルゴリズム、広告、クリックベイトはありません。