rk3399pro的npu是否是支持多线程同时调用呢

像了解一下硬件层面的特性，比如cpu和gpu都是可以支持多线程同时跑模型，并且随着线程的增加，性能是有一定提升的。那么rk3399pro的npu是否也是支持多线程同时调用呢，性能是否也会随着线程的增加而有一定提升呢？

2022-4-15 10:58:58

可以支持多模型一起跑的。
性能上npu是异构运算，npu在执行时候cpu和gpu都是空闲的，可以优化你的代码结构，让cpu、gpu、npu形成固定流水线作业

更多回帖