[经验]

千芯科技推出了针对芯来RISC-V平台的AI部署工具包（tinyAI SDK）

2020-11-21 10:08:17

1881 RISC-V

千芯科技推出了针对芯来RISC-V平台的AI部署工具包（tinyAI SDK），使用户可以基于该先进技术快速部署基于芯来RISC-V内核的AIoT应用。在芯来UX600上，实测的AI应用实现11.01倍（相较原生AI算法）的显著推断性能提升。千芯科技的tinyAI SDK成为首个支持芯来UX600图像AI计算部署与加速的工具包。

千芯科技tinyAI SDK

一直以来，端侧RISC-V以其灵活可裁剪高性价比的优势，不断扩展其在各个领域的应用。随着各类型科技巨头逐渐入局RISC-V应用产品，RISC-V的AIoT应用成为业界关注的重点。以往基于端侧RISC-V开发AI应用，要面对缺少开发包、部署复杂、AI性能不理想等痛点问题。这使得端侧RISC-V在AIoT上的部署一度面临困境。

千芯科技本次推出的tinyAI SDK，基于芯来科技的UX600开发板，成功搭载了基于端侧RISC-V内核进行人脸检测与人脸识别的AI应用，证明了端侧RISC-V芯片在AIoT领域广阔的应用前景。

演示中使用的人脸检测算法基于UX600实现的人脸检测，输入两张包含人脸的图片，检测并输出人脸区域：
tinyAI SDK在芯来UX600上运行人脸检测并输出人脸区域

部署了tinyAI SDK的UX600，能够高效的进行AI计算/人脸识别。在人脸检测后，进行了人脸识别，并输出人脸特征值的相似度。

tinyAI SDK在芯来UX600上运行人脸识别/比对的输出结果如图所示：
tinyAI SDK 在芯来UX600上运行人脸识别/比对的输出结果

相较原生算法，tinyAI使得端侧人脸识别的性能提到11.01倍。

千芯科技的tinyAI SDK将AI模型剪枝、量化等先进技术整合入工具包，并针对RISC-V内核的存储、架构特点进行了针对性的特定优化。千芯科技的tinyAI，不仅方便了AI算法在端侧RISC-V平台的部署，更大大加速了AI算法的性能，使得端侧AI应用实用化。

本次Demo实测使用的硬件平台是芯来科技提供的加载UX600内核的 FPGA 板卡：

芯来UX600平台

千芯科技与芯来科技的本次合作为RISC-V生态的发展注入了新的活力，为端侧RISC-V生态拓展出更加广阔的AI空间。