unsigned int 超过范围

teng0210

1. #include <stdio.h>
   
2. 
   
3. int main()
   
4. {
   
5.         double d = 1793489830;
   
6.         d = d * (d * 2 + 1);
   
7.         printf("%f\n", d); /* result:6433211542420347904 */
   
8. 
   
9.         printf("\n");
   
10. 
    
11.         unsigned int b = 1793489830;
    
12.         b = b * (b * 2 + 1);
    
13.         printf("%u\n", b);/* result:786979566  */
    
14. 
    
15.         printf("\n");
    
16. 
    
17.         unsigned int t = 6433211542420347904;
    
18.         printf("%u\n", t);/* result:786979840 */
    
19.         return 0;
    
20. }

复制代码

通过这小段程序, 我想问的是, unsigned int 当超过表示范围会如何处理, 如果是取2^(8*sizeof(unsigned int))的模, 还是其它...
因为后面两个的打印结果不一样.

lenovo

你把它们变成十六进制，就很明显了。
#  unsigned int b = 1793489830;
#         b = b * (b * 2 + 1);
#         printf("%u\n", b);/* result:786979566  */
b                       = 0x6AE67BA6
b * 2 + 1           = 0xD5CCF74D
b * (b * 2 + 1)  = 0x59475BD02EE85AEE
溢出，取低32位，也就是0x2EE85AEE赋值给b，
b = 0x2EE85AEE = 786979566

#         unsigned int t = 6433211542420347904;
#         printf("%u\n", t);/* result:786979840 */
这个就更简单了。
6433211542420347904 = 0x59475BD02EE85C00
取低32位，2EE85C00
0x2EE85C00 = 786979840
总之就是一句话，截取低32位。

teng0210

回复 2# lenovo

莫非是double类型不精确了, 第一个打印的是乘法的结果, 看来是不对的.