其他分享
首页 > 其他分享> > np.float32()和np.float64

np.float32()和np.float64

作者:互联网

数位的区别,一个在内存中占分别32和64个bits,也就是4bytes或8bytes。数位越高浮点数的精度越高。

 

float16 半精度浮点数,包括:1 个符号位,5 个指数位,10 个尾数位
float32 单精度浮点数,包括:1 个符号位,8 个指数位,23 个尾数位
float64 双精度浮点数,包括:1 个符号位,11 个指数位,52 个尾数位

标签:float64,尾数,浮点数,float32,np,精度
来源: https://www.cnblogs.com/h694879357/p/15398405.html