其他分享
首页 > 其他分享> > 浮点运算,数据格式的转化与位运算符

浮点运算,数据格式的转化与位运算符

作者:互联网

起因

今天下午继续学深入理解操作系统,刚刚大一立项中期答辩完,结题的时候没有一个demo出来老师可能会恁斯我。

浮点运算的局限

进行浮点运算的时候一定要慎之又慎,浮点运算没有结合性,浮点乘法没有分配性。

数据格式的转化

要理解数据格式转化的问题首先要理解每个数据是怎么储存的,范围是多少,这里就不细说了。

int转float:由于int有31位,float的尾数只有23位,但阶码最大可以到127,所以不会溢出但是会被舍入。

int转double:由于double的尾数有52位,阶码有11位,所以不会溢出也不会被舍入。

float,double转int:可能会溢出。没有溢出会向0舍入,把小数位丢掉。

double转float:可能会溢出,不溢出也可能被舍入。(float的阶码短,精确度小)。

位运算

接下来是做题内容

&   两个为1时才为1。

|    一个为1时就为1。

^   等同与加法。

逻辑非! 虽然不是位运算但是不常用也记一下,当为true的时候变为false,false同理。

 

标签:舍入,浮点运算,double,float,运算符,int,数据格式,溢出
来源: https://www.cnblogs.com/hitsz-yc/p/14801404.html