大家好,欢迎来到IT知识分享网。
一,为什么会溢出
每一种数据类型都有数值范围,这个数值范围体现在分配给数组的内存大小,每种数据类型的内存大小都是固定的,如果存放的数值超出了这个范围(小于最小值或大于最大值),需要更多的二进制位存储,就会发生溢出。
溢出的本质是数据二进制的长度超出了对应数据类型的内存大小。
更简单的说,内存装不下数据就会出现溢出。
大于最大值,叫做向上溢出(overflow);小于最小值,叫做向下溢出(underflow)。
二,如何处理溢出
编译器一般不会对溢出报错,会正常执行代码,但是会自作主张的把溢出的二进制位忽略,只保留剩下的位,这样往往会得到意想不到的结果。
就好比你的银行账户有一个亿,但系统把高位的1给抹掉了,余额瞬间变成0。
所以,在涉及数字运算时,一定要考虑溢出的情况。
下面示例中,变量x加1,得到的结果不是256,而是0。
unsigned char x = 255; x = x + 1; printf("%d\n", x); // 0
原因如下图,char类型在内存中只分配8位,最大值255
的二进制是,加1后变成
,变成了9位,高位1是溢出位,会被舍弃。
1,溢出的恶果1:意料之外的数字轮回
再看下面的例子。
unsigned int ui = UINT_MAX; // 4,294,967,295 ui++; printf("ui = %u\n", ui); // 0 ui--; printf("ui = %u\n", ui); // 4,294,967,295
上面示例中,常量UINT_MAX是 unsigned int 类型的最大值。
如果加1,对于该类型就会溢出,从而得到0;而0是该类型的最小值,再减1,又会得到UINT_MAX。
溢出很容易被忽视,编译器又不会报错,所以必须非常小心。
2,溢出的恶果2:死循环
for (unsigned int i = n; i >= 0; --i) // 错误
上面代码表面看似乎没有问题,但是循环变量i的类型是 unsigned int,这个类型的最小值是0,不可能得到小于0的结果。
当i等于0,再减去1的时候,并不会返回-1,而是返回 unsigned int 的类型最大值,这个值总是大于等于0,导致无限循环。
三,如何避免溢出
1,最佳实践:结合极限值预判是否溢出
为了避免溢出,最佳方法就是在计算过程中,与类型的极限值进行比较。
unsigned int ui; unsigned int sum; // 错误 if (sum + ui > UINT_MAX) too_big(); else sum = sum + ui; // 正确 if (ui > UINT_MAX - sum) too_big(); else sum = sum + ui;
上面示例中,变量sum和ui都是 unsigned int 类型,它们相加的和还是 unsigned int 类型,是可能出现溢出的。
为了防止溢出,我们在得出结果之前判断是否会发生溢出,如果发生异常,可以自定义处理方案,确定不会溢出再执行加法运算。
但是切记不能用相加的结果与最大值进行比较,有两个原因:
- 一是因为结果可能已经溢出了
- 二是sum + ui的结果的类型仍然是unsigned int类型,不可能大于UINT_MAX,这个分支判断永远是false
正确的比较方法是,判断UINT_MAX – sum与ui之间的大小关系。
下面是另一种错误的写法。
unsigned int i = 5; unsigned int j = 7; if (i - j < 0) // 错误 printf("negative\n"); else printf("positive\n");
上面示例的运算结果,会输出positive。
原因是变量i和j都是 unsigned int 类型,i – j的结果也是这个类型,最小值为0,不可能得到小于0的结果。正确的写法是写成下面这样。
if (j > i) // ....
总之,不要用算术运算的结果与最大最小值进行比较。
免责声明:本站所有文章内容,图片,视频等均是来源于用户投稿和互联网及文摘转载整编而成,不代表本站观点,不承担相关法律责任。其著作权各归其原作者或其出版社所有。如发现本站有涉嫌抄袭侵权/违法违规的内容,侵犯到您的权益,请在线联系站长,一经查实,本站将立刻删除。 本文来自网络,若有侵权,请联系删除,如若转载,请注明出处:https://haidsoft.com/149807.html