2010年11月03日 星期三 20:54
之前一直没在意过小数,今天发现数据库里读出的0.8居然是 0.80000000000000004……
我知道有一种办法是使用 a = "%0.2f" % 0.800000000004,但是会被转换成字符串,但是再使用float(a)又被转换回去……
于是又查看了Python相关资料,有说使用 from decimal import Decimal然后再处理,试验过也确实可行,不过总要把数字转换成字符然后再Decima有点麻烦,你们有没更方便的办法?
2010年11月03日 星期三 21:30
你看一下浮点数的内部处理就应该可以明白了。python和C的处理是差不多的。
Zeuux © 2024
京ICP备05028076号