matlab数据类型转换是遇到的坑,整型转换居然是向无穷大方向取整,而不是丢弃小数部分
作者:互联网
整型:
- int8()有符号,占用1个字节。向无穷大方向取整:正数向正无穷大方向,负数向负无穷大方向取整。
- int16():有符号,占用2个字节。向无穷大方向取整:正数向正无穷大方向,负数向负无穷大方向取整。
- int32():有符号,占用4个字节。向无穷大方向取整:正数向正无穷大方向,负数向负无穷大方向取整。
- int64():有符号,占用8个字节。向无穷大方向取整:正数向正无穷大方向,负数向负无穷大方向取整。
- uint8():无符号,占用1个字节。向0方向取整。
- uint16():无符号,占用2个字节。向0方向取整。
- uint32():无符号,占用4个字节。向0方向取整。
- uint64():无符号,占用8个字节。向0方向取整。
浮点数:
Matlab 取整函数有: fix、 floor、ceil、 round
- fix 朝零方向取整, fix(-1.234)=-1; fix(1.234)=1; 舍弃小数
- floor 朝负无穷方向取整,floor(-1.234)=-2; floor(1.234)=1; 向下取整
- ceil 朝正无穷方向取整, ceil(-1.3)=-1; ceil(1.3)=2; 向上取整
- round 四舍五入到最近的整数, round(-1.234)=-1;round(-1.567)=-2;
标签:类型转换,无穷大,字节,占用,取整,matlab,方向,1.234 来源: https://www.cnblogs.com/2944014083-zhiyu/p/14856068.html