关于Python中浮点数精度处理的技巧总结
前言
最近在使用Python的时候遇到浮点数运算,发现经常会碰到如下情况:
出现上面的情况,主要还是因浮点数在计算机中实际是以二进制保存的,有些数不精确。
比如说: 0.1是十进制,转化为二进制后它是个无限循环的数:
0.00011001100110011001100110011001100110011001100110011001100
而python是以双精度(64)位来保存浮点数,多余的位会被截掉,所以看到的是0.1,但在电脑上实际保存的已不是精确的0.1,参与运算后,也就有可能点误差,特别是金融邻域里面,对精度更是要求更高,如何在Python中获取特定位数精度值?
【方法一】利用round方法:
【方法二】利用decimal模块:
更多关于Python相关内容感兴趣的读者可查看本站专题:《Python数学运算技巧总结》、《Python数据结构与算法教程》、《Python函数使用技巧总结》、《Python字符串操作技巧汇总》、《Python入门与进阶经典教程》及《Python文件与目录操作技巧汇总》
总结
相关推荐
风雨断肠人 2020-10-13
Cwiky 2020-07-18
Greatemperor 2020-07-04
RuoShangM 2020-06-28
paopao00 2020-06-08
长安长夜Saint 2020-06-07
flyingssky 2020-06-04
fanhuasijin 2020-05-30
breakpoints 2020-05-19
cyydjt 2020-05-18
tvk 2020-05-11
eroshn 2020-05-06
qingsongzdq 2020-04-26
ericasadun 2020-04-26
lynjay 2020-04-26
choupiaoyi 2020-04-26
jyj00 2020-04-20
choupiaoyi 2020-04-18
qingsongzdq 2020-04-18