单片机学习小组
直播中

英雄孤寂

11年用户 1187经验值
私信 关注

MCU是怎样进行双精度与单精度浮点数运算的误差测试的

测试平台MCU: STM32F767,启动硬件双精度浮点运算协处理器IDE: Keil RVMDK V5.21.1.0测试方法浮点数0.1分别以单精度与双精度累加1000000次,打印输出累加结果。测试代码    double dVal = 0;    float fVal = 0;    for(int i = 0; i < 1000000; i++){        d...

更多回帖

发帖
×
20
完善资料,
赚取积分