单片机/MCUwilliam hill官网
直播中

陈伟

7年用户 1523经验值
私信 关注
[问答]

浮点数在运算的时候是否会损失数据的精度?

浮点数在运算的时候是否会损失数据的精度      

回帖(1)

张嘉

2023-10-10 16:59:58
浮点数在运算的时候是会损失一定的精度的,因为对于浮点数运算,最后是用二进制的方式来运算处理,这个过程必然会导致精度的损失  
举报

更多回帖

发帖
×
20
完善资料,
赚取积分