「 月別アーカイブ:2014年11月 」 一覧
-
-
浮動小数点数(float, double)演算の丸め誤差と対策(Javaの例)
2014/11/29 Java BigDecimal, 丸め誤差, 性能, 浮動小数点数
最近浮動小数点数演算に起因する調査を行う機会があったので、復習しました。 浮動小 …
(情報)工学修士, 元SIer SE, 現Web系 SEの技術blogです。Scala, Java, JS, TS, Python, Ruby, AWS, GCPあたりが好きです。
2014/11/29 Java BigDecimal, 丸め誤差, 性能, 浮動小数点数
最近浮動小数点数演算に起因する調査を行う機会があったので、復習しました。 浮動小 …