きどたかのブログ

いつか誰かがこのブログからトラブルを解決しますように。

2009-11-10から1日間の記事一覧

浮動小数点やBigDecimalに関して

意見が噛み合わない。 僕はきっと正しいはずだ。 1d/3dが完璧な値を保持してると寝言を言う人に負けるな自分。 小数点演算において、1÷3は無理数である。 無理数を有限数のbitで表現する術はない。 故に1d/3dは丸まっている。 ちなみに、1dは有理数、3dも有…