OpenVINO开发小组
登录
直播中
王岩
7年用户
801经验值
私信
关注
[问答]
请问在新CPU上推断INT8模型的速度是否比旧CPU快?
开启该帖子的消息推送
INT8
与采用旧 CPU 的推理相比,在新 CPU 上推断的 INT8 模型的推理速度更快。
回帖
(1)
王淑华
2023-8-15 10:33:26
旧 CPU 的慢速推理是根据系统配置和硬件规格来期待的。
旧 CPU 的慢速推理是根据系统配置和硬件规格来期待的。
举报
更多回帖
rotate(-90deg);
回复
相关问答
INT8
推断
FP32
模型
格式的
速度
比
CPU
上
的FP16
模型
格式
快
是为什么?
2023-08-15
258
GPU
上
OpenVINO基准测试的
推断
模型
的默认参数与
CPU
上
的参数不同是为什么?
2023-08-15
267
如何将Detectron2和Layout-LM
模型
转换为OpenVINO中间表示(IR)和使用
CPU
插件进行
推断
?
2023-08-15
175
使用Yolov5 - i.MX
8
MP进行NPU错误检测是什么原因?
2023-03-31
338
RK3588 RedeceMax OP
在
CPU
上
运行耗时过大怎么解决
2022-08-24
1544
请问
DSP28335
int8
怎么自己宏定义?
2018-06-13
5520
请问
stm32学习板
上
怎么才能测出
CPU
的
速度
?
2020-07-22
1397
CPU
是否
有影响
2011-03-01
2619
请问
QDMA 与 普通的EDMA3传送传送相同的数据块,QDMA
是否
比
普通的EDMA3
快
?
2018-05-28
2529
运行多个进程时,OpenVINO trade
推断
时间会增加是为什么?如何解决?
2023-08-15
184
发帖
登录/注册
20万+
工程师都在用,
免费
PCB检查工具
无需安装、支持浏览器和手机在线查看、实时共享
查看
点击登录
登录更多精彩功能!
英国威廉希尔公司网站
william hill官网 版块
小组
免费开发板试用
ebook
直播
搜索
登录
×
20
完善资料,
赚取积分