一、问题描述
今天在计算一个值时,int i1 = (int)x*y/360,发现结果i1的值明显不对。
二、测试
代码1:
float x=130;
int y=16777215;
int i1 = (int)x*y/360;//将x转为int型,然后与y相乘,也是int型,所以溢出
int i1_2 = (int)y*x/360;//x仍旧为float,相乘结果为float,所以未溢出
int i2 = (int)(x*y/360);//计算结果才会强制转int,中间仍旧为float,所以未溢出
int i3 = (int)x/360*y;//float除int,结果为int
int i4 = x*y/360;
qDebug()<<i1;
qDebug()<<i1_2;
qDebug()<<i2;
qDebug()<<i3;
qDebug()<<i4;
y=167;
int i5 = (int)x*y/360;
int i6 = (int)(x*y/360);
int i7 = (int)x/360*y;
int i8 = x*y/360;
qDebug()<<i5;
qDebug()<<i6;
qDebug()<<i7;
qDebug()<<i8;
结果1:
-5872025
6058438
6058438
0
6058438
60
60
0
60
代码2:
int x=130;
int y=16777215;
int i1 = (int)x*y/360;
int i1_2 = (int)y*x/360;
int i2 = (int)(x*y/360);
int i3 = (int)x/360*y;
int i4 = x*y/360;
qDebug()<<i1;
qDebug()<<i1_2;
qDebug()<<i2;
qDebug()<<i3;
qDebug()<<i4;
y=167;
int i5 = (int)x*y/360;
int i6 = (int)(x*y/360);
int i7 = (int)x/360*y;
int i8 = x*y/360;
qDebug()<<i5;
qDebug()<<i6;
qDebug()<<i7;
qDebug()<<i8;
结果2:
-5872025
-5872025
-5872025
0
-5872025
60
60
0
60
代码3:
qDebug()<<sizeof(double);
qDebug()<<sizeof(float);
qDebug()<<sizeof(int);
结果3:
8
4
4
代码4:
int x2=130;
float y1=167;
int y2=167;
float i1 = x1/y1;
float i2 = x1/y2;
float i3 = x2/y1;
float i4 = x2/y2;
qDebug()<<i1;
qDebug()<<i2;
qDebug()<<i3;
qDebug()<<i4;
结果4:
0.778443
0.778443
0.778443
0
三、结论
- 强制类型转换的写法,比如(int),对就近的一个变量产生作用,比如(int)x,则会将原本为double的x转换为int型,如果包含(),则会在括号中计算出结果后将结果的数据类型转为指定数据类型。
- 优先级可以判定,括号>数据类型转换>加减乘除。
- 乘法运算中,intint=int,intfloat=float,intdouble=double,doubledouble=double,doublefloat=double,floatfloat=float。
- 除法运算中,只有上下两个数都是整型,结果才为整型。
- int的数据类型能表示的最大值为2147483647,而同为四字节的float的最大值为3.40282e+038。而130*16777215的结果已经大于int能表示的最大值,所以溢出了。