其他分享
首页 > 其他分享> > 规格化fp16

规格化fp16

作者:互联网

 

fp16数a,符号位a[15],指数位a[14:10],尾数位a[9:0]

指数位表示的十进制数为e,尾数位表示的十进制数为m

实际的指数为E,实际的尾数为M

对于规格化的fp16,其指数不为0也不为31

E = e - 15,  M = 1 + m/1024(1024为2的10次方)

对于非规格化的fp16,其指数为0

E = 1 - 15, M = m/1024

 

标签:1024,15,规格化,指数,尾数,fp16
来源: https://www.cnblogs.com/yiyedada/p/11758790.html