flotat浮点数类型的误差问题,float a=0.1; 2-a*a*100,和int(2-a*a*100); float的误差问题,

发布时间 2023-11-22 17:22:38作者: Azzero

来在于洛谷的《深入浅出程序设计竞赛》(基础篇)

#include <stdio.h>

int main(){
	float a=0.1;
	printf("%f %f\n",a,a*a);
	printf("%d\n",int(2-a*a*100));
	printf("%.10f",2-a*a*100);
	return 0; 
}

  执行结果

   原因是这样的,float是浮点数,在执行界面出现的6位小数,是float的有效位,但是float表示的范围不只是6位小数,所以直接输出a的值的时候是四舍五入6位小数没有问题,当进行一个乘法复合运算时,就像int(2-a*a*100),后面的不准确位就可能会影响数据了,造成乘积大于1,使得复合运算的结果是恰好小于1的,所以进行强制类型转换的时候就出现向下取整变成0的问题了。

---

同样的情况还有这个。

 这个原因是两个整型做除法,得到的商也是整型,是先得到一个整型的商,再对商进行强制类型转换,但是0的浮点数还是0.而不是跟设想的一样。