接单日记(一):理解浮点数运算的误差-微速讯
2023-04-26 13:09:55来源:博客园
(资料图片)
- 接单日记(一):理解浮点数运算的误差
- 一、 实验目的
- 二、 实验内容
- 三、 程序及结果
接单日记(一):理解浮点数运算的误差
此为一个实验报告,故遵守实验报告的格式。
一、 实验目的
- 理解python中的浮点数计算存在的一个误差问题
- 理解这种误差对程序带来的危害
- 理解如何解决程序产生的误差
二、 实验内容
用Python程序判断0.3 – 0.2的值是否为0.1,如果不是0.1,那么,如何让这个值是0.1呢?
三、 程序及结果
from decimal import Decimal# 进行误差的判断value = 0.3 - 0.2print(value == 0.1) # 输出:False# 消除误差的方法:使用 Decimal 库进行精确运算value_new = float(Decimal("0.3") - Decimal("0.2"))print(value_new == 0.1) # 输出:True
标签: