信息保留的二值神经网络IR-Net，落地性能和实用性俱佳
在cvpr 2020上，商汤研究院链接与编译组和北京航空航天大学刘祥龙老师团队提出了一种旨在优化前后向传播中信息流的实用、高效的网络二值化新算法ir-net。不同于以往二值神经网络大多关注量化误差方面，本文首次从统一信息的角度研究了二值网络的前向和后向传播过程，为网络二值化机制的研究提供了全新视角。同时，该工作首次在arm设备上进行了先进二值化算法效率验证，显示了ir-net部署时的优异性能和极高的实用性，有助于解决工业界关注的神经网络二值化落地的核心问题。
动机 二值神经网络因其存储量小、推理效率高而受到社会的广泛关注 ［1］。然而与全精度的对应方法相比，现有的量化方法的精度仍然存在显著的下降。
对神经网络的研究表明，网络的多样性是模型达到高性能的关键［2］，保持这种多样性的关键是：（1） 网络在前向传播过程中能够携带足够的信息；（2） 反向传播过程中，精确的梯度为网络优化提供了正确的信息。二值神经网络的性能下降主要是由二值化的有限表示能力和离散性造成的，这导致了前向和反向传播的严重信息损失，模型的多样性急剧下降。同时，在二值神经网络的训练过程中，离散二值化往往导致梯度不准确和优化方向错误。如何解决以上问题，得到更高精度的二值神经网络？这一问题被研究者们广泛关注，本文的动机在于：通过信息保留的思路，设计更高性能的二值神经网络。
基于以上动机，本文首次从信息流的角度研究了网络二值化，提出了一种新的信息保持网络（ir-net）：（1）在前向传播中引入了一种称为libra参数二值化（libra-pb）的平衡标准化量化方法，最大化量化参数的信息熵和最小化量化误差；（2） 在反向传播中采用误差衰减估计器（ede）来计算梯度，保证训练开始时的充分更新和训练结束时的精确梯度。
ir-net提供了一个全新的角度来理解二值神经网络是如何运行的，并且具有很好的通用性，可以在标准的网络训练流程中进行优化。作者使用cifar-10和imagenet数据集上的图像分类任务来评估提出的ir-net，同时借助开源二值化推理库dabnn进行了部署效率验证。
方法设计 高精度二值神经网络训练的瓶颈主要在于训练过程中严重的信息损失。前向sign函数和后向梯度逼近所造成的信息损失严重影响了二值神经网络的精度。为了解决以上问题，本文提出了一种新的信息保持网络（ir-net）模型，它保留了训练过程中的信息，实现了二值化模型的高精度。
前向传播中的libra parameter binarization（libra-pb）
在此之前，绝大多数网络二值化方法试图减小二值化操作的量化误差。然而，仅通过最小化量化误差来获得一个良好的二值网络是不够的。因此，libra-pb设计的关键在于：使用信息熵指标，最大化二值网络前向传播过程中的信息流。
根据信息熵的定义，在二值网络中，二值参数qx（x）的熵可以通过以下公式计算：
如果单纯地追求量化误差最小化，在极端情况下，量化参数的信息熵甚至可以接近于零。因此，libra-pb将量化值的量化误差和二值参数的信息熵同时作为优化目标，定义为：
在伯努利分布假设下，当p=0.5时，量化值的信息熵取最大值。
因此，在libra-pb通过标准化和平衡操作获得标准化平衡权重，如图2所示，在bernoulli分布下，由libra-pb量化的参数具有最大的信息熵。有趣的是，对权重的简单变换也可以极大改善前向过程中激活的信息流。因为此时，各层的二值激活值信息熵同样可以最大化，这意味着特征图中信息可以被保留。
在以往的二值化方法中，为了使量化误差减小，几乎所有方法都会引入浮点尺度因子来从数值上逼近原始参数，这无疑将高昂的浮点运算引入其中。在libra-pb中，为了进一步减小量化误差，同时避免以往二值化方法中代价高昂的浮点运算，libra-pb引入了整数移位标量s，扩展了二值权重的表示能力。
因此最终，针对正向传播的libra参数二值化可以表示如下：
ir-net的主要运算操作可以表示为：
反向传播中的error decay estimator（ede）
由于二值化的不连续性，梯度的近似对于反向传播是不可避免的，这种对sign函数的近似带来了两种梯度的信息损失，包括截断范围外参数更新能力下降造成的信息损失，和截断范围内近似误差造成的信息损失。为了更好的保留反向传播中由损失函数导出的信息，平衡各训练阶段对于梯度的要求，ede引入了一种渐进的两阶段近似梯度方法。
第一阶段：保留反向传播算法的更新能力。将梯度估计函数的导数值保持在接近1的水平，然后逐步将截断值从一个大的数字降到1。利用这一规则，近似函数从接近identity函数演化到clip函数，从而保证了训练早期的更新能力。第二阶段：使0附近的参数被更准确地更新。将截断保持为1，并逐渐将导数曲线演变到阶梯函数的形状。利用这一规则，近似函数从clip函数演变到sign函数，从而保证了前向和反向传播的一致性。
各阶段ede的形状变化如图3（c）所示。通过该设计，ede减小了前向二值化函数和后向近似函数之间的差异，同时所有参数都能得到合理的更新。
实验结果
作者使用了两个基准数据集：cifar-10和imagenet（ilsvrc12）进行了实验。在两个数据集上的实验结果表明，ir-net比现有的最先进方法更具竞争力。
deployment efficiency
为了进一步验证ir-net在实际移动设备中的部署效率，作者在1.2ghz 64位四核arm cortex-a53的raspberry pi 3b上进一步实现了ir-net，并在实际应用中测试了其真实速度。表5显示，ir-net的推理速度要快得多，模型尺寸也大大减小，而且ir-net中的位移操作几乎不会带来额外的推理时间和存储消耗。
美高森美发布全新高性能时钟管理芯片时钟解决方案
区块链对于嵌入式系统命令和控制
选择最佳类型的温度传感器
韩国将在未来10年内为人工智能半导体技术研发投资1万亿韩元
如何寻找Python特定领域的库
信息保留的二值神经网络IR-Net，落地性能和实用性俱佳
排除电力系统故障的具体方法
基于51单片机设计的电动车控制器
初学者也能看懂的DPDK解析
工业互联网+5G的运营商端边云协同方案及网络架构
简单且性能好的晶体管稳压电路
浅谈人工智能在健康管理领域的发展
索尼PS4销量破亿 用时五年九个月
爱立信推出全新AI解决方案，传输网络性能再升级
配电箱的接线方法和接线规范要求
瑞萨电子MCU/MPU助力中国新能源创新发展
30W*2高保真功率放大器
苹果第三季度无线耳机市场份额下滑35%
东芝V8CANVIO移动硬盘评测 日常必备TYPE-C接口是趋势
电子连接器老化测试作用
动机 二值神经网络因其存储量小、推理效率高而受到社会的广泛关注 ［1］。然而与全精度的对应方法相比，现有的量化方法的精度仍然存在显著的下降。
对神经网络的研究表明，网络的多样性是模型达到高性能的关键［2］，保持这种多样性的关键是：（1） 网络在前向传播过程中能够携带足够的信息；（2） 反向传播过程中，精确的梯度为网络优化提供了正确的信息。二值神经网络的性能下降主要是由二值化的有限表示能力和离散性造成的，这导致了前向和反向传播的严重信息损失，模型的多样性急剧下降。同时，在二值神经网络的训练过程中，离散二值化往往导致梯度不准确和优化方向错误。如何解决以上问题，得到更高精度的二值神经网络？这一问题被研究者们广泛关注，本文的动机在于：通过信息保留的思路，设计更高性能的二值神经网络。
基于以上动机，本文首次从信息流的角度研究了网络二值化，提出了一种新的信息保持网络（ir-net）：（1）在前向传播中引入了一种称为libra参数二值化（libra-pb）的平衡标准化量化方法，最大化量化参数的信息熵和最小化量化误差；（2） 在反向传播中采用误差衰减估计器（ede）来计算梯度，保证训练开始时的充分更新和训练结束时的精确梯度。
ir-net提供了一个全新的角度来理解二值神经网络是如何运行的，并且具有很好的通用性，可以在标准的网络训练流程中进行优化。作者使用cifar-10和imagenet数据集上的图像分类任务来评估提出的ir-net，同时借助开源二值化推理库dabnn进行了部署效率验证。
方法设计 高精度二值神经网络训练的瓶颈主要在于训练过程中严重的信息损失。前向sign函数和后向梯度逼近所造成的信息损失严重影响了二值神经网络的精度。为了解决以上问题，本文提出了一种新的信息保持网络（ir-net）模型，它保留了训练过程中的信息，实现了二值化模型的高精度。
前向传播中的libra parameter binarization（libra-pb）
在此之前，绝大多数网络二值化方法试图减小二值化操作的量化误差。然而，仅通过最小化量化误差来获得一个良好的二值网络是不够的。因此，libra-pb设计的关键在于：使用信息熵指标，最大化二值网络前向传播过程中的信息流。
根据信息熵的定义，在二值网络中，二值参数qx（x）的熵可以通过以下公式计算：
如果单纯地追求量化误差最小化，在极端情况下，量化参数的信息熵甚至可以接近于零。因此，libra-pb将量化值的量化误差和二值参数的信息熵同时作为优化目标，定义为：
在伯努利分布假设下，当p=0.5时，量化值的信息熵取最大值。
因此，在libra-pb通过标准化和平衡操作获得标准化平衡权重，如图2所示，在bernoulli分布下，由libra-pb量化的参数具有最大的信息熵。有趣的是，对权重的简单变换也可以极大改善前向过程中激活的信息流。因为此时，各层的二值激活值信息熵同样可以最大化，这意味着特征图中信息可以被保留。
在以往的二值化方法中，为了使量化误差减小，几乎所有方法都会引入浮点尺度因子来从数值上逼近原始参数，这无疑将高昂的浮点运算引入其中。在libra-pb中，为了进一步减小量化误差，同时避免以往二值化方法中代价高昂的浮点运算，libra-pb引入了整数移位标量s，扩展了二值权重的表示能力。
因此最终，针对正向传播的libra参数二值化可以表示如下：
ir-net的主要运算操作可以表示为：
反向传播中的error decay estimator（ede）
由于二值化的不连续性，梯度的近似对于反向传播是不可避免的，这种对sign函数的近似带来了两种梯度的信息损失，包括截断范围外参数更新能力下降造成的信息损失，和截断范围内近似误差造成的信息损失。为了更好的保留反向传播中由损失函数导出的信息，平衡各训练阶段对于梯度的要求，ede引入了一种渐进的两阶段近似梯度方法。
第一阶段：保留反向传播算法的更新能力。将梯度估计函数的导数值保持在接近1的水平，然后逐步将截断值从一个大的数字降到1。利用这一规则，近似函数从接近identity函数演化到clip函数，从而保证了训练早期的更新能力。第二阶段：使0附近的参数被更准确地更新。将截断保持为1，并逐渐将导数曲线演变到阶梯函数的形状。利用这一规则，近似函数从clip函数演变到sign函数，从而保证了前向和反向传播的一致性。
各阶段ede的形状变化如图3（c）所示。通过该设计，ede减小了前向二值化函数和后向近似函数之间的差异，同时所有参数都能得到合理的更新。
实验结果
作者使用了两个基准数据集：cifar-10和imagenet（ilsvrc12）进行了实验。在两个数据集上的实验结果表明，ir-net比现有的最先进方法更具竞争力。
deployment efficiency
为了进一步验证ir-net在实际移动设备中的部署效率，作者在1.2ghz 64位四核arm cortex-a53的raspberry pi 3b上进一步实现了ir-net，并在实际应用中测试了其真实速度。表5显示，ir-net的推理速度要快得多，模型尺寸也大大减小，而且ir-net中的位移操作几乎不会带来额外的推理时间和存储消耗。
美高森美发布全新高性能时钟管理芯片时钟解决方案
区块链对于嵌入式系统命令和控制
选择最佳类型的温度传感器
韩国将在未来10年内为人工智能半导体技术研发投资1万亿韩元
如何寻找Python特定领域的库
信息保留的二值神经网络IR-Net，落地性能和实用性俱佳
排除电力系统故障的具体方法
基于51单片机设计的电动车控制器
初学者也能看懂的DPDK解析
工业互联网+5G的运营商端边云协同方案及网络架构
简单且性能好的晶体管稳压电路
浅谈人工智能在健康管理领域的发展
索尼PS4销量破亿 用时五年九个月
爱立信推出全新AI解决方案，传输网络性能再升级
配电箱的接线方法和接线规范要求
瑞萨电子MCU/MPU助力中国新能源创新发展
30W*2高保真功率放大器
苹果第三季度无线耳机市场份额下滑35%
东芝V8CANVIO移动硬盘评测 日常必备TYPE-C接口是趋势
电子连接器老化测试作用