NXP MCU 技术william hill官网
直播中

潘飘稚

7年用户 886经验值
私信 关注
[问答]

tflite + XNNPACK代表对量化网络的推理不起作用是怎么回事?

在 imx8QM MEK 板上运行,使用 Yocto Linux LF5.15.71_2.2.0
按照 I.MX 机器学习用户指南 §3.7 使用 XNNPACK 委托和示例模型 mobilenet_v1_1.0_224_quant.tflite 对 TFLite 进行基准推理,我发现 XNNPACK 委托未用于推理(很可能是因为这是一个量化网络- 因为它适用于 fp32 模型)。
稍微浏览一下网络,听起来 XNNPACK 从 2021 年 9 月开始支持量化网络(参见
是否可能,如果可以,我怎样才能让 XNNPACK 委托与量化网络一起工作?我想我需要在 yocto linux 构建脚本的某处更改一些内容……但是什么地方?

更多回帖

发帖
×
20
完善资料,
赚取积分