英特尔® FPGA AI套件搭配OpenVINO™工具包

描述

英特尔开发的 FPGA AI 套件旨在减少使用英特尔 CPU、英特尔 SoC FPGA 和英特尔 FPGA 创建功能强大的异构 AI 深度学习 (DL) 推理系统所需的工作量。

该套件支持 FPGA 设计人员、机器学习工程师和软件开发人员高效创建和优化 AI 推理平台,以达到性能、功耗和成本俱佳的目标。

英特尔 FPGA AI 套件中集成的实用程序加快了基于 FPGA 的 AI 推理引擎的开发速度。数据科学家和工程师可以从任何熟悉的行业框架(如 TensorFlow 和 PyTorch)开始训练和收敛推理模型,然后可以使用英特尔 分发版 OpenVINO 工具包通过简化逻辑和降低内存占用率来优化推理模型的性能和功耗。

请注意,该优化是在 CPU 和 FPGA 的异构组合中执行的。随后,英特尔 FPGA AI 套件会进一步优化最终设计的 FPGA 部分。经优化的设计会使用英特尔 Quartus Prime 软件直接输入到强大且经过验证的 FPGA 开发流程中。

Stryker 公司的研发团队在评估英特尔 FPGA AI 套件后得出以下结论:

●  英特尔 FPGA AI 套件和 OpenVINO 工具包非常易用。借助这些工具, Stryker 能够开发出更为优化的用于深度学习推理的 FPGA IP。该推理 IP 已使用英特尔 Quartus  Prime 软件成功集成到了英特尔 FPGA 中。与套件一起提供的设计示例也使团队能够快速评估不同图像源的不同算法。

●  英特尔 FPGA AI 套件和 OpenVINO 工具包使数据科学家和 FPGA 工程师能够无缝协作,为医疗应用开发更好的深度学习推理模型。

您可以使用英特尔 分发版 OpenVINO 工具包和英特尔 FPGA AI 套件开发推理系统,服务于从 DL 增强型嵌入式系统一直到在多个 FPGA 加速的服务器上运行的高级数据中心应用工作负载。

如果您想开发用于检测、分类、分割或相关任务的 FPGA 加速的 DL 推理模型,可以使用 OpenVINO 工具包和英特尔 FPGA AI 套件来实现;如果您想在使用 FPGA 编码或解码视频或者在处理计算机视觉图像的同时有效传输视频流,也可以使用英特尔 分发版 OpenVINO 工具包和英特尔 FPGA AI 套件。可以说,FPGA 特别适合这种预处理和后处理。

如果您没有自己的推理模型供训练使用,但又迫不及待地想涉足深度学习领域,可以利用英特尔 分发版 OpenVINO 工具包,因为工具包中有面向广泛使用的神经网络的预训练推理模型,您可以先从这些模型入手。

图1 显示的是基于这套工具的推理系统开发流程。

英特尔

图1 英特尔 FPGA AI 套件开发流程

英特尔 FPGA AI 套件目前可支持英特尔 Agilex FPGA、英特尔 Cyclone 10 GX FPGA 和英特尔 Arria 10 FPGA,并提供了未来支持更多英特尔 FPGA 的路线图。当然,这些工具背后还有很多英特尔的在线支持。

审核编辑 :李倩

 

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分