2009-06-25から1日間の記事一覧
1-e323。 浮動小数点型に丸め誤差が含まれるのは百も承知だったけど、それなのに、今、これのせいで非常に困っている。1-e323って、意外と大きい。logとったらたったの-743.7469247408213よ?(doubleの精度で。) 面倒だけど、問題を回避できるようにコード…
1-e323。 浮動小数点型に丸め誤差が含まれるのは百も承知だったけど、それなのに、今、これのせいで非常に困っている。1-e323って、意外と大きい。logとったらたったの-743.7469247408213よ?(doubleの精度で。) 面倒だけど、問題を回避できるようにコード…