浮点运算,数据格式的转化与位运算符
作者:互联网
起因
今天下午继续学深入理解操作系统,刚刚大一立项中期答辩完,结题的时候没有一个demo出来老师可能会恁斯我。
浮点运算的局限
进行浮点运算的时候一定要慎之又慎,浮点运算没有结合性,浮点乘法没有分配性。
数据格式的转化
要理解数据格式转化的问题首先要理解每个数据是怎么储存的,范围是多少,这里就不细说了。
int转float:由于int有31位,float的尾数只有23位,但阶码最大可以到127,所以不会溢出但是会被舍入。
int转double:由于double的尾数有52位,阶码有11位,所以不会溢出也不会被舍入。
float,double转int:可能会溢出。没有溢出会向0舍入,把小数位丢掉。
double转float:可能会溢出,不溢出也可能被舍入。(float的阶码短,精确度小)。
位运算
接下来是做题内容
& 两个为1时才为1。
| 一个为1时就为1。
^ 等同与加法。
逻辑非! 虽然不是位运算但是不常用也记一下,当为true的时候变为false,false同理。
标签:舍入,浮点运算,double,float,运算符,int,数据格式,溢出 来源: https://www.cnblogs.com/hitsz-yc/p/14801404.html