数位的区别,一个在内存中占分别32和64个bits,也就是4bytes或8bytes。数位越高浮点数的精度越高。
float16 |
半精度浮点数,包括:1 个符号位,5 个指数位,10 个尾数位 |
float32 |
单精度浮点数,包括:1 个符号位,8 个指数位,23 个尾数位 |
float64 |
双精度浮点数,包括:1 个符号位,11 个指数位,52 个尾数位 |
标签:float64,尾数,浮点数,float32,np,精度
来源: https://www.cnblogs.com/h694879357/p/15398405.html