基于ARM在cpu上做神经网络加速
如果对深度学习有所了解的小伙伴们想必都知道，深度学习需要使用强大的服务器、加速嵌入式平台(如nvidia的jetson)来运行深度学习算法，然而这也同样意味着不菲的开支。
那么问题来了，如果你想你想用树莓派来做一个目标跟踪器，为你看家守院，这可以实现吗？换句话说，如果你需要在不带加速器的arm cpu上运行卷积神经网络了怎么办？
如何优化推理时间？
本文将尝试回答一个简单的问题：什么库/工具包/框架可以帮助我们优化训练模型的推理时间？本文只讨论已为arm架构芯片提供c / c ++接口的工具包和库（由于嵌入式设备上使用 ，我们很少lua 或 python），限于文章篇幅，不阐述另外一种加速神经网络推理的方法，即修改网络架构，从sqeezenet架构可看出，修改网络架构是一个可行的方案。基于上述原因，本文涉及的实验只涉及使用caffe，tensorflow和mxnet这3个开源的深度学习框架。
加速神经网络模型在硬件平台计算速度，两个主要有大的策略：
1）修改神经网络的模型；
2）加快框架运行速度。
当然，将这两个策略结合起来使用，也是一种不错的思路。
修改神经网络模型有两种方法，一是通过降低权重精度实现，即降低特征量化的精度，二是通过权重剪枝来实现，权重剪枝的背后的思想是降低系统参数的冗余。降低权重低精度通常采用（用定点数或动态定点数表示浮点数的方法，支持这种做法的原理是：推理过程并不需要高精度，因为在运算过程中，计算的线性性质和非线性的动态范围压缩，使得量化误差仅在子线性地（sub-linearly）范围内传递，从而不会引起数值的剧烈变动。更进一步，我们可以使用低精度乘法来训练神经网络模型。结合 simd 指令集，比如 sse3，可以使特征量化过程可以更为高效，从而加速训练过程。然而，目前我们还很难找到同时使用了这两者的解决方案。比如使用ristretto框架可以执行有限精度的自动量化，但它却并没有降低计算负载。tensorflow 也可以执行量化，但其推理时间实际上却增加了 5 到 20 倍，因为tensorflow还引入了辅助量化/去量化的计算节点。因此在实际操作中，我们只把量化作为压缩网络权重的方法，当存储空间有限时可以这样操作，至少这已经是当前最先进的技术。
从另外一个角度看，我们可采用加快框架的执行时间的方法，这种方法不会影响到模型的参数。这种策略主要上采用优化矩阵之间的乘法（gemm）类的通用计算技巧，从而同时影响卷积层（其计算通常是 im2col+ gemm）和全连接层。除此之外，可以使用神经网络的加速包nnpack，就个人理解，nnpack的核心思路是使用快速傅里叶变换将时间域中的卷积运算转换成了频域中的乘法运算。
加快框架执行速度另一种方法是将网络模型和权重配置转换成针对目标平台代码，并对代码进行优化，而不是让它们直接在某一个框架内运行。这种方法的典型案例是 tensorrt。还有 caffepresso， 可以将 caffe中prototxt类型的文件定制成适用于各种不同硬件平台的低规格版本。然而，tensorrt的运行需要cuda，而且只能在 nvidia的 gpu中才能使用，而 caffepresso 也需要某种硬件加速器（dsp、fpga或noc）上述内容仔细地评估现有的解决办法后，我发现以下几种方法能够加速当前流行的可用模型的推理：
如果你的框架中使用了 openblas（基础线性代数程序集的开源实现），你可以尝试使用其为深度学习进行过优化的分支： https://github.com/xianyi/openblas/tree/optimized_for_deeplearning
nnpack 能和其他一些框架（包括 torch、caffe 和 mxnet）联合使用：http://github.com/maratyszcza/nnpack
将tensorflow编译为在树莓派平台的目标代码时，你可以使用一些编译优化标志，从而充分利用neon 指令集加速目标代码的执行速度：http://github.com/tensorflow/tensorflow/tree/master/tensorflow/contrib/makefile#raspberry-pi
基于以上3种方法，我概括出以下调测配置：
1. 使用以 openblas为后端的caffe 主分支(caffe-openblas)；
2. 使用以 openblas为后端openblas 且为深度学习优化过的caffe分支版本(caffe-openblas-dl)；
3. 编译tensorflow时，使用优化编译标志 optflags=-os (tf-vanilla)
4. 编译tensorflow时，使用优化编译标志 optflags=-os -mfpu=neon-vfpv4 -funsafe-math-optimizations -ftree-vectorize (tf-neon-vfpv4)
5. 使用以openblas实现基础线性代数程序集的vanilla mxnet
6. 使用带有 openblas 、且为深度学习优化过mxnet 分支版本(mxnet-openblas-dl)。
你可能会疑惑：配置中怎么没有 nnpack？这确实有点复杂，由 ajtulloch 创建的 caffe 分支提供了最直接的使用 nnpack方法。然而自从它被集成进去以后，nnpack 的api接口 就已经改变了，并且目前我无法编译它。caffe2 对 nnpack 有原生支持，但我不会考虑 caffe2，因为它处于实验性阶段并且几乎对caffe进行了尚未文档化的重构。另外一个选项就是使用maratyszcza的caffe-nnpack分支，但该分支比较老旧且已经停止维护。
另外一个问题就是出于nnpack本身。它只提供了android/arm平台的交叉编译配置，并不提供在 linux/arm 平台上的交叉编译配置。结合mxnet，我尝试编译目标平台代码，但结果无法在目标平台上正常运行。我只能在台式电脑上运行它，但是我并没有看到比 openblas 会有更好的性能。由于我的目标是评估已经可用的解决方法，所以我只能推迟nnpack 的实验了。
以上所有的这些方法都是在四核 1.3 ghz cpu 和 1 gb ram 的树莓派 3 上执行。操作系统是 32 位的 raspbian，所以检测到的 cpu 不是 armv8 架构，而是 armv7 架构。硬件规格如下：
model name : armv7 processor rev 4 (v7l)
bogomips : 38.40
features : half thumb fastmult vfp edsp neon vfpv3 tls vfpv4 idiva idivt vfpd32 lpae evtstrm crc32
cpu implementer : 0x41
cpu architecture: 7
cpu variant : 0x0
cpu part : 0xd03
cpu revision : 4
为了评估上述每个测试配置的性能，我制定的测试方案如下：使用相同的神经网络。也就是一个有 3 个卷积层和2个全连接层且在顶层带有softmax的小型卷积神经网络：
conv1: 16@7x7
relu1pool1: max pool 2x2conv2: 48@6x6
relu2pool2: max pool 3x3conv3: 96@5x5
relu3fc1: 128 unitsfc2: 848 units
softmax
该卷积神经网络有 1039744 个参数。虽然非常小，但它已经足够强大了，可以用来处理许多计算机视觉算法。该网络使用 caffe 进行训练人脸识别任务，并将其转换为 tensorflow 和 mxnet 格式，从而使用这些框架进行评估。批量执行次数对性能有很大的影响，为了测量前向通过时间（forward pass time），我们将批量执行的次数设置为 1 到 256。在不同次数的批量执行中，我们每次执行 100 次前向通过，并计算了每一张图像的平均处理时间。
评估结果和讨论
在下面的表格中，列出了平均前向通过的时间。其中，a 是 caffe-openblas, b 是 caffe-openblas-dl, c 代表 tf-vanilla, d 是 tf-neon-vfpv4, e 是 mxnet-openblas, f 是 mxnet-openblas-dl。
表1 不同测试配置在不同的批处理次数下的性能表现
图1 线性尺度下不同配置的前向通过时间比较
在对数尺度尺度上我们再来看一下：
图2 对数尺度下不同配置的前向通过时间比较
测试结果让我大吃一惊。首先，我没有预料到在 cpu 上运行 mxnet的性能会这么差。但这看起来已经是一个众所周知的问题。此外，受限于存储空间，它无法运行 256 张图片的批处理。第二个惊奇是优化过的 tensorflow 竟有如此好的性能。它甚至比 caffe 的表现还好（批处理次数超过2时），光从原始框架上看是很难预料这个结果的。需要注意的是，上述测试配置中的优化标志并不是在任意 arm 芯片上都可以使用的。
caffe因速度非常快和思路独到而知名。如果你需要连续地处理图片，可以选择使用优化过的openblas的caffe，可得到最好的处理性能。如果想提升10ms 的性能，你所要做的就只是简单的输入以下指令：
cd openblas
git checkout optimized_for_deeplearning
为了将我的研究转变成正式的东西，我仍需要做大量的工作：评估更多的模型，最终集成 nnpack，以及研究更多结合了blas 后端的框架。
GitHub上给老照片上色的一个项目：DeOldify
机械锻压机操作步骤
光缆的储存方法
电机新时代，深圳复兴伟业让电机控制更加智能、可靠！
GPRS无线指纹身份验证系统的应用研究
基于ARM在cpu上做神经网络加速
嵌套堆叠区域对电气和机械设计性能精确控制
语音识别芯片NRK3301丨在智能茶吧机的应用
微软计划在2020年在企业安全产品中引入Linux
基于OFDM技术的LTE空中接口物理层的研究
华为Q3轻薄笔记本电脑中国市占达24.3% 位居第一
D触发器原理图和真值表以及波形图分析
USB2.0 HUB高速4端口USB HUB集线器
远程监控汇报系统适用于飞行员学员首次单独飞行
气密测试中，常见的单位有哪些？是如何换算的呢？
福特本次声明有三大要点，宣告全球战略的大幅调整
中国电信6月初起逐步关闭3G-EVDO数据业务，加快新型网络的应用发展
PC串口通信的测温系统的单片机实现方案
全面解读DIPIPMTM的基础、功能、应用和失效分析技巧
等保2.0来了 国家网络安全等级保护工作开始步入新时代
那么问题来了，如果你想你想用树莓派来做一个目标跟踪器，为你看家守院，这可以实现吗？换句话说，如果你需要在不带加速器的arm cpu上运行卷积神经网络了怎么办？
如何优化推理时间？
本文将尝试回答一个简单的问题：什么库/工具包/框架可以帮助我们优化训练模型的推理时间？本文只讨论已为arm架构芯片提供c / c ++接口的工具包和库（由于嵌入式设备上使用 ，我们很少lua 或 python），限于文章篇幅，不阐述另外一种加速神经网络推理的方法，即修改网络架构，从sqeezenet架构可看出，修改网络架构是一个可行的方案。基于上述原因，本文涉及的实验只涉及使用caffe，tensorflow和mxnet这3个开源的深度学习框架。
加速神经网络模型在硬件平台计算速度，两个主要有大的策略：
1）修改神经网络的模型；
2）加快框架运行速度。
当然，将这两个策略结合起来使用，也是一种不错的思路。
修改神经网络模型有两种方法，一是通过降低权重精度实现，即降低特征量化的精度，二是通过权重剪枝来实现，权重剪枝的背后的思想是降低系统参数的冗余。降低权重低精度通常采用（用定点数或动态定点数表示浮点数的方法，支持这种做法的原理是：推理过程并不需要高精度，因为在运算过程中，计算的线性性质和非线性的动态范围压缩，使得量化误差仅在子线性地（sub-linearly）范围内传递，从而不会引起数值的剧烈变动。更进一步，我们可以使用低精度乘法来训练神经网络模型。结合 simd 指令集，比如 sse3，可以使特征量化过程可以更为高效，从而加速训练过程。然而，目前我们还很难找到同时使用了这两者的解决方案。比如使用ristretto框架可以执行有限精度的自动量化，但它却并没有降低计算负载。tensorflow 也可以执行量化，但其推理时间实际上却增加了 5 到 20 倍，因为tensorflow还引入了辅助量化/去量化的计算节点。因此在实际操作中，我们只把量化作为压缩网络权重的方法，当存储空间有限时可以这样操作，至少这已经是当前最先进的技术。
从另外一个角度看，我们可采用加快框架的执行时间的方法，这种方法不会影响到模型的参数。这种策略主要上采用优化矩阵之间的乘法（gemm）类的通用计算技巧，从而同时影响卷积层（其计算通常是 im2col+ gemm）和全连接层。除此之外，可以使用神经网络的加速包nnpack，就个人理解，nnpack的核心思路是使用快速傅里叶变换将时间域中的卷积运算转换成了频域中的乘法运算。
加快框架执行速度另一种方法是将网络模型和权重配置转换成针对目标平台代码，并对代码进行优化，而不是让它们直接在某一个框架内运行。这种方法的典型案例是 tensorrt。还有 caffepresso， 可以将 caffe中prototxt类型的文件定制成适用于各种不同硬件平台的低规格版本。然而，tensorrt的运行需要cuda，而且只能在 nvidia的 gpu中才能使用，而 caffepresso 也需要某种硬件加速器（dsp、fpga或noc）上述内容仔细地评估现有的解决办法后，我发现以下几种方法能够加速当前流行的可用模型的推理：
如果你的框架中使用了 openblas（基础线性代数程序集的开源实现），你可以尝试使用其为深度学习进行过优化的分支： https://github.com/xianyi/openblas/tree/optimized_for_deeplearning
nnpack 能和其他一些框架（包括 torch、caffe 和 mxnet）联合使用：http://github.com/maratyszcza/nnpack
将tensorflow编译为在树莓派平台的目标代码时，你可以使用一些编译优化标志，从而充分利用neon 指令集加速目标代码的执行速度：http://github.com/tensorflow/tensorflow/tree/master/tensorflow/contrib/makefile#raspberry-pi
基于以上3种方法，我概括出以下调测配置：
1. 使用以 openblas为后端的caffe 主分支(caffe-openblas)；
2. 使用以 openblas为后端openblas 且为深度学习优化过的caffe分支版本(caffe-openblas-dl)；
3. 编译tensorflow时，使用优化编译标志 optflags=-os (tf-vanilla)
4. 编译tensorflow时，使用优化编译标志 optflags=-os -mfpu=neon-vfpv4 -funsafe-math-optimizations -ftree-vectorize (tf-neon-vfpv4)
5. 使用以openblas实现基础线性代数程序集的vanilla mxnet
6. 使用带有 openblas 、且为深度学习优化过mxnet 分支版本(mxnet-openblas-dl)。
你可能会疑惑：配置中怎么没有 nnpack？这确实有点复杂，由 ajtulloch 创建的 caffe 分支提供了最直接的使用 nnpack方法。然而自从它被集成进去以后，nnpack 的api接口 就已经改变了，并且目前我无法编译它。caffe2 对 nnpack 有原生支持，但我不会考虑 caffe2，因为它处于实验性阶段并且几乎对caffe进行了尚未文档化的重构。另外一个选项就是使用maratyszcza的caffe-nnpack分支，但该分支比较老旧且已经停止维护。
另外一个问题就是出于nnpack本身。它只提供了android/arm平台的交叉编译配置，并不提供在 linux/arm 平台上的交叉编译配置。结合mxnet，我尝试编译目标平台代码，但结果无法在目标平台上正常运行。我只能在台式电脑上运行它，但是我并没有看到比 openblas 会有更好的性能。由于我的目标是评估已经可用的解决方法，所以我只能推迟nnpack 的实验了。
以上所有的这些方法都是在四核 1.3 ghz cpu 和 1 gb ram 的树莓派 3 上执行。操作系统是 32 位的 raspbian，所以检测到的 cpu 不是 armv8 架构，而是 armv7 架构。硬件规格如下：
model name : armv7 processor rev 4 (v7l)
bogomips : 38.40
features : half thumb fastmult vfp edsp neon vfpv3 tls vfpv4 idiva idivt vfpd32 lpae evtstrm crc32
cpu implementer : 0x41
cpu architecture: 7
cpu variant : 0x0
cpu part : 0xd03
cpu revision : 4
为了评估上述每个测试配置的性能，我制定的测试方案如下：使用相同的神经网络。也就是一个有 3 个卷积层和2个全连接层且在顶层带有softmax的小型卷积神经网络：
conv1: 16@7x7
relu1pool1: max pool 2x2conv2: 48@6x6
relu2pool2: max pool 3x3conv3: 96@5x5
relu3fc1: 128 unitsfc2: 848 units
softmax
该卷积神经网络有 1039744 个参数。虽然非常小，但它已经足够强大了，可以用来处理许多计算机视觉算法。该网络使用 caffe 进行训练人脸识别任务，并将其转换为 tensorflow 和 mxnet 格式，从而使用这些框架进行评估。批量执行次数对性能有很大的影响，为了测量前向通过时间（forward pass time），我们将批量执行的次数设置为 1 到 256。在不同次数的批量执行中，我们每次执行 100 次前向通过，并计算了每一张图像的平均处理时间。
评估结果和讨论
在下面的表格中，列出了平均前向通过的时间。其中，a 是 caffe-openblas, b 是 caffe-openblas-dl, c 代表 tf-vanilla, d 是 tf-neon-vfpv4, e 是 mxnet-openblas, f 是 mxnet-openblas-dl。
表1 不同测试配置在不同的批处理次数下的性能表现
图1 线性尺度下不同配置的前向通过时间比较
在对数尺度尺度上我们再来看一下：
图2 对数尺度下不同配置的前向通过时间比较
测试结果让我大吃一惊。首先，我没有预料到在 cpu 上运行 mxnet的性能会这么差。但这看起来已经是一个众所周知的问题。此外，受限于存储空间，它无法运行 256 张图片的批处理。第二个惊奇是优化过的 tensorflow 竟有如此好的性能。它甚至比 caffe 的表现还好（批处理次数超过2时），光从原始框架上看是很难预料这个结果的。需要注意的是，上述测试配置中的优化标志并不是在任意 arm 芯片上都可以使用的。
caffe因速度非常快和思路独到而知名。如果你需要连续地处理图片，可以选择使用优化过的openblas的caffe，可得到最好的处理性能。如果想提升10ms 的性能，你所要做的就只是简单的输入以下指令：
cd openblas
git checkout optimized_for_deeplearning
为了将我的研究转变成正式的东西，我仍需要做大量的工作：评估更多的模型，最终集成 nnpack，以及研究更多结合了blas 后端的框架。
GitHub上给老照片上色的一个项目：DeOldify
机械锻压机操作步骤
光缆的储存方法
电机新时代，深圳复兴伟业让电机控制更加智能、可靠！
GPRS无线指纹身份验证系统的应用研究
基于ARM在cpu上做神经网络加速
嵌套堆叠区域对电气和机械设计性能精确控制
语音识别芯片NRK3301丨在智能茶吧机的应用
微软计划在2020年在企业安全产品中引入Linux
基于OFDM技术的LTE空中接口物理层的研究
华为Q3轻薄笔记本电脑中国市占达24.3% 位居第一
D触发器原理图和真值表以及波形图分析
USB2.0 HUB高速4端口USB HUB集线器
远程监控汇报系统适用于飞行员学员首次单独飞行
气密测试中，常见的单位有哪些？是如何换算的呢？
福特本次声明有三大要点，宣告全球战略的大幅调整
中国电信6月初起逐步关闭3G-EVDO数据业务，加快新型网络的应用发展
PC串口通信的测温系统的单片机实现方案
全面解读DIPIPMTM的基础、功能、应用和失效分析技巧
等保2.0来了 国家网络安全等级保护工作开始步入新时代