搜索内容
登录
浮点运算
0人关注
浮点运算就是实数运算,因为计算机只能存储整数,所以实数都是约数,这样浮点运算是很慢的而且会有误差。大多数机器都是32位的,也就是说32位都用来表示整数的话,那么对于无符号整数就是0 到 2^32-1,对于有符号的话就是-2^31 到 2^31-1。
...展开
13
文章
0
视频
25
帖子
11169
阅读
关注标签,获取最新内容
全部
技术
资讯
资料
帖子
LM4F定点格式于浮点格式的对比和浮点运算的应用详细中文资料
2018-05-09
1011
11
一种针对浮点运算的分段式异常处理方法
2018-01-19
669
1
定点DSP C55X实现浮点相关运算解析
2017-11-02
1300
2
高效的C编程之:浮点运算
2017-10-17
980
1
tms320系列的浮点算法详解
2016-06-21
792
10
DSP定点与浮点运算的比较
2012-03-31
1133
57
相关推荐
更多 >
区块链
吉利
汽车芯片
VoLTE
On-cell
vivo手机
人工智能芯片
HDD
CAN收发器
接收系统
win8
×
20
完善资料,
赚取积分