UIUC推出最新DNN/FPGA协同方案 助力物联网终端设备AI应用
uiuc、ibm 和 inspirit iot, inc（英睿物联网）的研究人员提出 dnn 和 fpga 加速器的协同设计方案（dnn/fpga co-design），通过首创的「auto-dnn」网络搜索引擎 +「auto-hls」加速器生成技术，自动生成适用于终端设备的 dnn 模型及 fpga 加速器设计。在使用相同的终端设备，由该协同设计自动生成的物体检测方案在检测精度、速度和效能方面均大幅领先现时最优的 dac'18 system design contest 冠军方案。
嵌入式 fpga 助力 ai 应用灵活部署
现时，大量的 ai 应用被部署在物联网设备中以满足实际场景需求。纵使云端服务器能分担大部分 ai 应用的计算压力，部分对实时性要求高的任务受限于网络延时，还是需要在终端设备处理，如自动驾驶车辆、无人机上的物体识别，场景分割任务等。在物联网终端设备中部署 dnn，设计者需要克服 dnn 精度要求高、实时性要求强、能耗要求低、终端设备可用资源少等困难。
通过在终端中使用嵌入式 fpga 作为 dnn 加速器，设计人员可获得更低的延时和能耗（对比 cpu/gpu 解决方案），以及更高的灵活度和更短的产品上市周期（对比 asic 解决方案）。然而，在资源受限的嵌入式 fpga 中部署 dnn 加速器依然困难重重。
高质量 ai 应用需要 dnn/fpga 协同设计
通常，dnn 及 fpga 加速器会被分成两步独立设计。
一方面，dnn 设计会优先满足精度需求，并在部署时寄望硬件加速器能提供足够高的吞吐率和实时性能。但由于 dnn 在设计初期缺乏对目标硬件特性的考量，网络结构会过分复杂并产生冗余，容易超出目标硬件可承受范围。
另一方面，dnn 加速器在架构确定后会通过比例缩放计算和存储单元以适应不同大小的 fpga。在硬件资源极度受限时，过分缩小加速器会大幅减慢 dnn 推理计算效率，最终导致无法满足应用实时性、吞吐率等要求。
上述独立设计方法需要经历多次反复设计 dnn 及加速器，如在 dnn 设计时尝试网络剪枝、稀疏化、参数量化等以减少网络推理计算量，在加速器设计时尝试不同核心计算单元、调试并行参数等以适配硬件可用资源。这类设计需要探索巨大的设计空间，异常繁琐和耗时。
为此，作者认为业界需要一种更高效的自动 dnn/fpga 协同设计方案：在设计 dnn 时充分考虑加速器架构、资源约束等硬件因素；并且，同时生成高度优化的 fpga 加速器以用于物联网终端设备。
自动客制化 dnn/fpga 加速方案
本文提出的协同设计流程（图 1）共包含 4 个主要模块：1）dnn 结构模板 bundle-arch；2）网络搜索引擎 auto-dnn；3）低延时加速器基础架构 tile-arch；4）加速器生成器 auto-hls。其中，前两个模块用于 dnn 结构搜索，而后两模块对应 fpga 加速器设计。
协同设计第一步是搭建 bundle 并对 bundle 建立计算延时和资源消耗模型。对于给定的 ai 任务（分类、物体检测等），系统从硬件 ip 池中选取神经网络组件并组合成多个 bundle（如图 1 左下的 bundle 1 包含了 conv3x3，conv5x5，pooling 和 relu 共 4 个 ip）作为 dnn 基本结构，并通过分析模型获取每一个 bundle 在目标 fpga 上的延时和资源消耗。这确保 dnn 在设计之初就包含了足够的硬件信息。
在第二步，该方案选择前 n 个满足性能和资源要求且精度最高的 bundle 搭建原型网络。在对 bundle 作粗 / 细粒度评估后，每一个 bundle 将被置于「硬件性能 - dnn 精度」空间，并将硬件性能指标相近的 bundle 分为一组。每组精度最高的若干个 bundle（共 n 个）会被选中并交由下一步处理。
最后一步，auto-hls 产生精准硬件性能信息协助 auto-dnn 更新原型网络。基于 bundle 的 dnn 结构（图 2）拥有网络层数多寡、通道数增减等不同配置。auto-dnn 使用随机坐标下降（scd）算法探索 dnn 配置，并借助 auto-hls 产生的硬件性能信息（如运算延时、资源消耗等）为反馈，选择最适合目标硬件且精度最好的设计。
单模光纤应用情况
物联网真的会无所不能吗
微波无线接入,什么是微波无线接入
中国电信与中国联通联合申报的5G项目获奖
sprintf函数原型_sprintf用法
UIUC推出最新DNN/FPGA协同方案 助力物联网终端设备AI应用
什么蓝牙耳机低音比较好？重低音效果好的蓝牙耳机推荐
变压器嗡嗡响怎么解决
利尔达推出搭载HooRiiOS的Matter模组
苏州移动加快5G产业布局，推出智慧工厂整体解决方案
物联网应用已广泛用于社会了，国家应如何制定相关的管理制度？
采用多种软硬件措施来提高可靠性的RS422通信接口
如果这就是锤子T3,你还会去买小米6吗?
用华为云桌面有多爽？问问设计师就知道了！
OpenHarmony硬件资源池化架构介绍 OpenHarmony如何实现多设备协同
2011深圳电子展:友派U8平板电脑
2019年，现代品牌有什么？2019年北京现代要做什么？
oppor11最新消息：红米Pro2配置曝光，让oppor11再次成为高价低配！
智能制造不仅仅只是大企业的专利而应该让它成为中小企业的普惠
想成为AI独角兽？必须以FPGA为技术支点
嵌入式 fpga 助力 ai 应用灵活部署
现时，大量的 ai 应用被部署在物联网设备中以满足实际场景需求。纵使云端服务器能分担大部分 ai 应用的计算压力，部分对实时性要求高的任务受限于网络延时，还是需要在终端设备处理，如自动驾驶车辆、无人机上的物体识别，场景分割任务等。在物联网终端设备中部署 dnn，设计者需要克服 dnn 精度要求高、实时性要求强、能耗要求低、终端设备可用资源少等困难。
通过在终端中使用嵌入式 fpga 作为 dnn 加速器，设计人员可获得更低的延时和能耗（对比 cpu/gpu 解决方案），以及更高的灵活度和更短的产品上市周期（对比 asic 解决方案）。然而，在资源受限的嵌入式 fpga 中部署 dnn 加速器依然困难重重。
高质量 ai 应用需要 dnn/fpga 协同设计
通常，dnn 及 fpga 加速器会被分成两步独立设计。
一方面，dnn 设计会优先满足精度需求，并在部署时寄望硬件加速器能提供足够高的吞吐率和实时性能。但由于 dnn 在设计初期缺乏对目标硬件特性的考量，网络结构会过分复杂并产生冗余，容易超出目标硬件可承受范围。
另一方面，dnn 加速器在架构确定后会通过比例缩放计算和存储单元以适应不同大小的 fpga。在硬件资源极度受限时，过分缩小加速器会大幅减慢 dnn 推理计算效率，最终导致无法满足应用实时性、吞吐率等要求。
上述独立设计方法需要经历多次反复设计 dnn 及加速器，如在 dnn 设计时尝试网络剪枝、稀疏化、参数量化等以减少网络推理计算量，在加速器设计时尝试不同核心计算单元、调试并行参数等以适配硬件可用资源。这类设计需要探索巨大的设计空间，异常繁琐和耗时。
为此，作者认为业界需要一种更高效的自动 dnn/fpga 协同设计方案：在设计 dnn 时充分考虑加速器架构、资源约束等硬件因素；并且，同时生成高度优化的 fpga 加速器以用于物联网终端设备。
自动客制化 dnn/fpga 加速方案
本文提出的协同设计流程（图 1）共包含 4 个主要模块：1）dnn 结构模板 bundle-arch；2）网络搜索引擎 auto-dnn；3）低延时加速器基础架构 tile-arch；4）加速器生成器 auto-hls。其中，前两个模块用于 dnn 结构搜索，而后两模块对应 fpga 加速器设计。
协同设计第一步是搭建 bundle 并对 bundle 建立计算延时和资源消耗模型。对于给定的 ai 任务（分类、物体检测等），系统从硬件 ip 池中选取神经网络组件并组合成多个 bundle（如图 1 左下的 bundle 1 包含了 conv3x3，conv5x5，pooling 和 relu 共 4 个 ip）作为 dnn 基本结构，并通过分析模型获取每一个 bundle 在目标 fpga 上的延时和资源消耗。这确保 dnn 在设计之初就包含了足够的硬件信息。
在第二步，该方案选择前 n 个满足性能和资源要求且精度最高的 bundle 搭建原型网络。在对 bundle 作粗 / 细粒度评估后，每一个 bundle 将被置于「硬件性能 - dnn 精度」空间，并将硬件性能指标相近的 bundle 分为一组。每组精度最高的若干个 bundle（共 n 个）会被选中并交由下一步处理。
最后一步，auto-hls 产生精准硬件性能信息协助 auto-dnn 更新原型网络。基于 bundle 的 dnn 结构（图 2）拥有网络层数多寡、通道数增减等不同配置。auto-dnn 使用随机坐标下降（scd）算法探索 dnn 配置，并借助 auto-hls 产生的硬件性能信息（如运算延时、资源消耗等）为反馈，选择最适合目标硬件且精度最好的设计。
单模光纤应用情况
物联网真的会无所不能吗
微波无线接入,什么是微波无线接入
中国电信与中国联通联合申报的5G项目获奖
sprintf函数原型_sprintf用法
UIUC推出最新DNN/FPGA协同方案 助力物联网终端设备AI应用
什么蓝牙耳机低音比较好？重低音效果好的蓝牙耳机推荐
变压器嗡嗡响怎么解决
利尔达推出搭载HooRiiOS的Matter模组
苏州移动加快5G产业布局，推出智慧工厂整体解决方案
物联网应用已广泛用于社会了，国家应如何制定相关的管理制度？
采用多种软硬件措施来提高可靠性的RS422通信接口
如果这就是锤子T3,你还会去买小米6吗?
用华为云桌面有多爽？问问设计师就知道了！
OpenHarmony硬件资源池化架构介绍 OpenHarmony如何实现多设备协同
2011深圳电子展:友派U8平板电脑
2019年，现代品牌有什么？2019年北京现代要做什么？
oppor11最新消息：红米Pro2配置曝光，让oppor11再次成为高价低配！
智能制造不仅仅只是大企业的专利而应该让它成为中小企业的普惠
想成为AI独角兽？必须以FPGA为技术支点