单片机/MCUwilliam hill官网
登录
直播中
陈伟
7年用户
1523经验值
私信
关注
[问答]
浮点数在运算的时候是否会损失数据的精度?
开启该帖子的消息推送
浮点数
浮点数在运算的时候是否会损失数据的精度
回帖
(1)
张嘉
2023-10-10 16:59:58
浮点数在运算的时候是会损失一定的精度的,因为对于浮点数运算,最后是用二进制的方式来运算处理,这个过程必然会导致精度的损失
浮点数在运算的时候是会损失一定的精度的,因为对于浮点数运算,最后是用二进制的方式来运算处理,这个过程必然会导致精度的损失
举报
更多回帖
rotate(-90deg);
回复
相关问答
浮点数
对
浮点数
的
运算
怎么转换成整数
运算
?
2023-10-12
278
请问S32K344 FPU
是否
支持双
精度
浮点数
?
2023-03-21
462
扩充
浮点
运算
集
是否
需要自己在FPGA板子上设置一个定
点数
转为
浮点数
的部分?
2023-08-11
270
为什么MCU的
浮点数
运算
比整数
运算
要慢很多?
2023-10-12
388
关于Cortex-A8的AM3359做
浮点数
运算
?
2018-06-21
2119
浮点数
如何存储?
2020-12-30
2233
为什么MCU不建议用
浮点数
运算
?
2023-10-13
476
FPGA verilog
浮点数
运算
2016-12-17
9777
怎么提高单片机的
浮点数
运算
速度?
2023-10-15
485
STM32F4和TMSF2812哪个
浮点数
运算
能力更强?
2023-10-15
332
发帖
登录/注册
20万+
工程师都在用,
免费
PCB检查工具
无需安装、支持浏览器和手机在线查看、实时共享
查看
点击登录
登录更多精彩功能!
英国威廉希尔公司网站
william hill官网 版块
小组
免费开发板试用
ebook
直播
搜索
登录
×
20
完善资料,
赚取积分