电子发烧友App

硬声App

0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示
创作
电子发烧友网>电子资料下载>电子资料>基于AdderNet的深度学习推理加速器

基于AdderNet的深度学习推理加速器

2022-10-31 | zip | 0.19 MB | 次下载 | 免费

资料介绍

描述

该项目介绍了我们对基于称为 AdderNet 的新型深度学习模型的硬件推理加速器设计和优化的研究。通过用绝对和 (SAD) 内核替换计算密集型卷积 (CONV) 操作,可以通过具有成本效益的加法器/减法器威廉希尔官方网站 消除大量乘法器,这可以提高计算吞吐量,因为硬件限制。我们在 FPGA 设备上展示了基线 ResNet-20 实现 (CNN-ResNet-20) 和两个 AdderNet 设计变体 (ADD-ResNet-20) 之间的比较研究。我们利用自动 HLS(高级综合)和手动转换将 SAD 操作映射到 Xilinx Zynq MPSoC 的 FPGA DSP 块 (DSP48E2)。尤其是,当 DSP48 模块配置为 SIMD(单指令多数据)模式时,我们可以用一个 DSP 模块和最少的 LUT 逻辑资源支持至少两个 SAD 操作。在这个研究阶段,我们选择使用一个 DSP 来支持 2 个 SAD 操作,以增加 10% 的 LUT 和 5% 的推理时间开销为代价,总共可以减少 45.43% 的 DSP 利用率。这些结果鼓励我们探索新的深度学习加速器设计策略,以利用新兴的基于 SAD 内核的 AdderNet 模型以及每个 DSP ≥4 SAD 的积极 SIMD 配置来提高推理吞吐量。我们选择使用 1 个 DSP 支持 2 个 SAD 操作,以增加 10% 的 LUT 和 5% 的推理时间开销为代价,总共可以减少 45.43% 的 DSP 利用率。这些结果鼓励我们探索新的深度学习加速器设计策略,以利用新兴的基于 SAD 内核的 AdderNet 模型以及每个 DSP ≥4 SAD 的积极 SIMD 配置来提高推理吞吐量。我们选择使用 1 个 DSP 支持 2 个 SAD 操作,以增加 10% 的 LUT 和 5% 的推理时间开销为代价,总共可以减少 45.43% 的 DSP 利用率。这些结果鼓励我们探索新的深度学习加速器设计策略,以利用新兴的基于 SAD 内核的 AdderNet 模型以及每个 DSP ≥4 SAD 的积极 SIMD 配置来提高推理吞吐量。

卷积神经网络(CNN)已广泛应用于计算机视觉任务领域。例如工业检测、自主视觉和机器人检测。然而,由于其大量的乘法运算和参数,很难将这些标准神经网络部署到具有效率吞吐量和功耗的嵌入式设备中。作为一种解决方案,AdderNet 在深度神经网络,尤其是卷积神经网络 (CNN) 中使用这些大规模乘法,以获得更便宜的加法以降低计算成本。

 

poYBAGNYkzSAZtZ4AAEWACNpmlk452.png
 

 

Function.1 CNN

pYYBAGNYkzeAYSjPAAA8aQRjnxA683.png
 

Function.2 人工神经网络

 

poYBAGNYkzmAcAdtAAA8nghBA2o263.png
 

 

作为案例研究,我们选择 ResNet-20-CIFAR10 作为基线设计。ResNet-20-CIFAR10的处理引擎如图1所示。据我们所知,CNN 加速器有两种通用方法:单个 PE 和多个 PE。在这项工作中,我们在应用程序中使用了多个 PE 以获得更好的吞吐量。

 

poYBAGNYkzyAZMbKAAD4aK2Y-co167.png
 

自动 HLS 和手动转换

Xilinx Vitis HLS 上的自动综合:

Xilinx Vitis HLS 可以从 C++ 代码自动生成 FPGA 项目。

对于 CNN-ResNet-20,综合报告显示该项目的硬件符合我们的目的。

对于 ADD-ResNet-20,合成报告并没有遵循我们之前的目的,因为 Vitis HLS 中的 C 合成不支持将 DSP48 配置为 SIMD 模式。

我们的解决方案:

将 SAD 操作设计为 C++ 中的独立函数。

替换 Xilinx Vitis HLS 生成的 Verilog 源文件中的 SAD 代码。

在 Xilinx Vivado 中重新综合该项目。

此外,通过编辑 SAD 代码,我们可以为 DSP48E2 配置更多选项。

 

poYBAGNYkz-AZzxVAAECFa4TFRI733.png
 

Batch Normalization 融合可以减少计算量,并为模型量化提供更简洁的结构。

如 Function.3 和 4 所示,将细化权重应用于卷积层作为原始推理。但是考虑左边显示的加法器层的功能,作为卷积添加到函数中的细化权重不能用作卷积层。

由于乘法和加法的开销,这个函数不能提供 AdderNet 的硬件优势。

为了避免这种开销,我们使用额外的 for 循环来处理乘法和加法的开销,这将花费更多的时钟周期和硬件。

 

 

poYBAGNYk0KANUA2AADWnMPxk8U046.png
 

DSP配置方法

在本节中,将介绍两种 DSP48E2 配置方法:

方法 a:利用与 CONV 相同数量的 DSP,但与方法 b 相比,LUT 更少。

方法 b:利用一半的 DSP 作为 CONV,但与方法 a 相比,LUT 更多。

 

pYYBAGNYk0WAX_YnAAB6R53Kge0129.png
 

 

该报告显示,通过比较解决方案 a、解决方案 b 和 ResNet-20 基线的结果,我们的方法可以以增加 10% 的 LUT 和 5% 的推理时间开销为代价,减少大约 45% 的 DSP 利用率。

 

pYYBAGNYk0iAV0oyAABzMg9n7XU261.png
 

 


下载该资料的人也在下载 下载该资料的人还在阅读
更多 >

评论

查看更多

下载排行

本周

  1. 1使用单片机实现七人表决器的程序和仿真资料免费下载
  2. 2.96 MB   |  44次下载  |  免费
  3. 2联想E46L DAOLL6笔记本电脑图纸
  4. 1.10 MB   |  2次下载  |  5 积分
  5. 3MATLAB绘图合集
  6. 27.12 MB   |  2次下载  |  5 积分
  7. 4PR735,使用UCC28060的600W交错式PFC转换器
  8. 540.03KB   |  1次下载  |  免费
  9. 5UCC38C42 30W同步降压转换器参考设计
  10. 428.07KB   |  1次下载  |  免费
  11. 6DV2004S1/ES1/HS1快速充电开发系统
  12. 2.08MB   |  1次下载  |  免费
  13. 7模态分解合集matlab代码
  14. 3.03 MB   |  1次下载  |  2 积分
  15. 8美的电磁炉维修手册大全
  16. 1.56 MB   |  1次下载  |  5 积分

本月

  1. 1使用单片机实现七人表决器的程序和仿真资料免费下载
  2. 2.96 MB   |  44次下载  |  免费
  3. 2UC3842/3/4/5电源管理芯片中文手册
  4. 1.75 MB   |  15次下载  |  免费
  5. 3DMT0660数字万用表产品说明书
  6. 0.70 MB   |  13次下载  |  免费
  7. 4TPS54202H降压转换器评估模块用户指南
  8. 1.02MB   |  8次下载  |  免费
  9. 5STM32F101x8/STM32F101xB手册
  10. 1.69 MB   |  8次下载  |  1 积分
  11. 6HY12P65/HY12P66数字万用表芯片规格书
  12. 0.69 MB   |  6次下载  |  免费
  13. 7华瑞昇CR216芯片数字万用表规格书附原理图及校正流程方法
  14. 0.74 MB   |  6次下载  |  3 积分
  15. 8华瑞昇CR215芯片数字万用表原理图
  16. 0.21 MB   |  5次下载  |  3 积分

总榜

  1. 1matlab软件下载入口
  2. 未知  |  935119次下载  |  10 积分
  3. 2开源硬件-PMP21529.1-4 开关降压/升压双向直流/直流转换器 PCB layout 设计
  4. 1.48MB  |  420061次下载  |  10 积分
  5. 3Altium DXP2002下载入口
  6. 未知  |  233084次下载  |  10 积分
  7. 4威廉希尔官方网站 仿真软件multisim 10.0免费下载
  8. 340992  |  191367次下载  |  10 积分
  9. 5十天学会AVR单片机与C语言视频教程 下载
  10. 158M  |  183335次下载  |  10 积分
  11. 6labview8.5下载
  12. 未知  |  81581次下载  |  10 积分
  13. 7Keil工具MDK-Arm免费下载
  14. 0.02 MB  |  73807次下载  |  10 积分
  15. 8LabVIEW 8.6下载
  16. 未知  |  65987次下载  |  10 积分