CVPR 2019竞赛第一解决方案分享
cvpr 2019细粒度图像分类workshop的挑战赛公布了最终结果：中国团队deepblueai获得冠军。本文带来冠军团队解决方案的技术分享。
近日，在kaggle上举办的cvpr 2019 cassava disease classification挑战赛公布了最终结果，国内团队 deepblueai 获得冠军。
国际计算机视觉与模式识别会议（cvpr）是ieee一年一度的学术性会议，cvpr是世界顶级的计算机视觉会议之一，会议的主要内容是计算机视觉与模式识别技术。cvpr 2019 在洛杉矶长滩举行，fgvc6 workshop也将作为 cvpr 2019 的一部分如期召开。fgvc6 workshop 共有十个挑战赛，每个都代表了细粒度视觉分类在某个细分领域的挑战。
fgvc全称为fine-grained visual categorization，细粒度图像分类，即区分不同的动物和植物、汽车和摩托车模型、建筑风格等，是机器视觉社区刚刚开始解决的最有趣和最有用的开放问题之一。细粒度图像分类在于基本的分类识别（对象识别）和个体识别（人脸识别，生物识别）之间的连续性。相似的类别之间的视觉区别通常非常小，因此很难用当今的通用识别算法来解决。
今年是fgvc举办的第六届比赛，往届比较著名的比赛诸如inaturalist和imaterialist，前者侧重于区分自然界不同的生物，后者则是侧重于区分不同的人造物体。
不同于传统的广义上的分类任务，fgvc的挑战致力于子类别的划分，需要分类的对象之间更加相似，例如区分不同的鸟类、不同的植物、不同的日用品等。
赛题介绍
cassava disease classification挑战赛是一个根据木薯的叶子区分不同种类的木薯疾病的任务。cassava 译为木薯，是非洲第二大碳水化合物供应者，因为其能够承受恶劣的环境。因此木薯是小农种植的一种关键的粮食安全作物，在撒哈拉以南非洲，至少80%的小农家庭种植木薯，而病毒性疾病是低产量的主要来源。
在这次比赛中,主办方引入一个包含5种类别的木薯叶疾病的数据集，该数据集源于在乌干达定期调查中收集到的9436标记图像,主要从农民在自家田地里拍摄的图片,然后由国家作物资源研究所(nacrri)与makarere大学的人工智能实验室共同对图像进行标注。
数据集包括木薯植株的叶子图像，9,436张带注释的图像和12,595张未标记的图像。参与者可以选择使用未标记的图像作为额外的训练数据。目标是学习一个模型，使用训练数据中的图像将给定的图像分类为这4个疾病类别或健康叶子的类别。
团队成绩
题目特点以及常用方法
细粒度图像分类 (fine-grained imagecategorization), 又被称作子类别图像分类 (sub-category recognition)。其目的是对属于同一基础类别的图像进行更加细致的子类划分, 但由于子类别间细微的类间差异以及较大的类内差异, 更传统的图像分类任务相比, 细粒度图像分类难度明显要大很多。从下图中的木薯的叶子可以看出，不同的叶子病变情况长相非常相似，此外同一类别由于姿态，背景以及拍摄角度的不同，存在较大的类内差异。
细粒度图像分类的常用方法可以分为两种，分别是基于强监督信息的方法和仅使用弱监督信息的方法。前者需要使用对象的边界框和局部标注信息，后者仅使用类别标签，cassava disease classification是一种弱监督信息的细粒度识别，一般采用预训练模型finetune，并结合训练技巧对模型精调。
实验模型：senet、resnet、densenet
resnet是cnn历史上一个里程碑事件，模型深度达到了152层，这和之前cnn的层数完全不在一个量级上。resnet中的identity的这条线类似一条电路上的短路（shortcuts，skip connection），使得模型学习更加容易，深层可以直接得到浅层的网络特征。
densenet的原理不同于resnet通过加深网络层数以及inception通过加宽网络宽度来提高模型识别能力，而是利用特征重用和类似resnet的bypass的方式，减少了网络参数和缓解了梯度消失的问题。
senet提出了sequeeze and excitation block，该模块于传统网络的最大区别在于其侧重于构建通道之间的依赖关系，利用global average pooling来sequeeze特征图，并用excitation对前者进行非线性变换，最后再叠加到输入特征上。可以自适应的校准通道的相应特征，并且该模块可以嵌入到现有的网络结构中，实现精度的提升。
模型训练与评测
原图 verticalflip horizontalflip randomrotaterandomcrop
randomerasing
cutout
由于训练集样本过少，对比分析后对输入数据采取 verticalflip,horizontalfilp 、randomrotate和randomcrop的增强操作。此外，还使用了randomerasing和cutout，方法会在原图随机选择一些矩形区域，改变该区域的像素值，通过这些数据增强的方式，训练集的图片会被不同程度的遮挡，这样可以进一步降低过拟合的风险并提高模型的鲁棒性。
同样的，为了增强模型的鲁棒性减少过拟合，本次比赛我们利用5-fold crossvalidation，交叉验证有效利用了有限的数据，并且评估结果能够尽可能接近模型在测试集上的表现。用crossvalidation之后，se_resnext50测试集准确率提升0.01016，resnet34测试集准确率提升0.01142。
这次比赛中，我们还使用了mixup和label smoothing的训练策略。mixup顾名思义就是将两张图片按一定比例融合起来作为输入，计算loss时，针对两张图片的标签分别计算，然后按比例加权求和。mixup是一种抑制过拟合的策略，通过增加了一些数据上的扰动，从而提升了模型的泛化能力。
实验证明，该方式能将top1准确率提高近一个百分点。对于分类问题，常规做法时将类别换成one-hot vector。由于标签是类别的one-hot vector，这样做易导致过拟合使得模型泛化能力下降；同时这种做法会将所属类别和非所属类别之间的差距尽可能大，因此很难调优模型。
为此，可以用label smoothing对标签进行平滑处理，软化one-hot类型标签，使得计算损失函数时能有效抑制过拟合现象。
训练以adam为optimiser，学习率的设置为阶梯状，共四个取值，[3e-4, 1e-4,1e-5, 1e-6]，设置patience为4来衰减学习率，即模型连续4个epoch在验证集上效果没有提升则衰减学习率，训练总的epcoh在20次左右。本实验使用的gpu为4卡2080ti，并行训练一个模型，batchsize通常设为32，较大的模型根据实际情况适当减小。
模型在预测时采用了数据增强的方式test time augmentation(tta)，即将样本图像进行多个不同的变换获得多个不同的预测结果，再将预测结果进行平均，提高精度。本次任务利用3*tta，包括 randomcrop, randomcrop+horizontalflip 和randomcrop+verticalflip 。
模型集成是算法比赛中常用的提高模型精度方法，本次比赛我们训练了大量在imagenet上表现优良的模型，其中表现较好的模型如下表所示、在采取多种融合方式之后，最终发现se_resnext50、se_resnext101、senet154以及densenet201按照归一化后权重的融合效果最好，在测试集上的准确率达到了0.92516。
模型 测试集准确率
se_resnext50 0.92251
se_resnext101 0.92384
senet154 0.92384
densenet201 0.91721
mobilenetv2 0.91601
resnet152 0.91710
se_resnext50+se_resnext101+senet154+densenet201 0.92516
本次比赛主办方提供了12595张未带label的额外数据集，为了充分利用该数据集，利用在测试集表现最好的融合模型给这些数据集贴上伪标签。然后利用训练集和伪标签数据集训练模型，为了防止模型在伪标签上过拟合，我们对伪标签采取了一定的筛选操作。
采取的思路是：用多个不同概率阈值的过滤所得到的伪标签进行线下实验，看哪个阈值下的数据在线下的表现最好，就用通过该阈值筛选过滤出的数据，最终以0.95的阈值筛选出一半的数据作为添加到训练集的伪标签数据。
实验证明这种半监督的学习方法具有更强的泛化能力。
模型 测试集准确率
(public leaderboard) private leaderboard
se_resnext50 0.92251 0.93012
se_resnext50 with pseudo data 0.92195 0.93512
se_resnext101 0.92384 0.93134
se_resnext101 with pseudo data 0.92202 0.93409
senet154 0.92384 0.93054
se_resnext154 with pseudo data 0.92283 0.93428
se_resnext50+se_resnext101+
senet154+densenet201 0.92516 0.93727
se_resnext50+se_resnext101+
senet154+densenet201
with pseudo data 0.92516 0.93860
进一步工作
针对细粒度图像分类，msra有一个结论：分析该问题时图像的形态、轮廓特征原没细节纹理特征重要，而传统的cnn模型都是在构建轮廓特征，因此在构建神经网络时，应该更加精确地找到图像中最有区分度的子区域，然后再对这些区域采用高分辨率、精细化特征的方法，这样可以进一步提高细粒度图像分类的准确率。
另外对数据本身我们可能需要做更多的工作，在任务初期没有做足够的探索性数据分析，例如数据的分布、类型、输入图像的尺寸等都是影响结果的因素，因此数据分析也是后面的一个尝试点。
2招解决Allegro铺铜不能自动更新问题
大疆推出了一款内置屏幕的新型遥控器
感应水龙头如何检测供电及断电情况？
边缘控制器在边缘计算中的作用是什么
HT与OKB的通证销毁在区块链业界中产生了哪些影响
CVPR 2019竞赛第一解决方案分享
大唐电信1.72亿美元收购中芯国际16.6％股权
电镀工艺对人体有害吗
低功耗气压传感器BM1383AGLV
家庭电路的组成及作用
远程医疗最新八款移动创新技术产品
鸿蒙一出谁与争锋 全球手机市场华为份额反超苹果
十四载携手共进 心系天下三星W22 5G再攀高峰
MSN搜索测试版现身 结束与雅虎合作为时不远
三菱PLC和昆仑通态之间无线通信（通信口）
剖析AI芯片市场：为什么要加强深度学习
什么是边缘计算网关，它对工业联网的作用是什么
知用近场探头在辐射干扰源定位测试的应用
基于5G网络的确定化网络实现架构和关键技术分析
如何将220V交流电转化成12V直流电呢？有哪些方法？
近日，在kaggle上举办的cvpr 2019 cassava disease classification挑战赛公布了最终结果，国内团队 deepblueai 获得冠军。
国际计算机视觉与模式识别会议（cvpr）是ieee一年一度的学术性会议，cvpr是世界顶级的计算机视觉会议之一，会议的主要内容是计算机视觉与模式识别技术。cvpr 2019 在洛杉矶长滩举行，fgvc6 workshop也将作为 cvpr 2019 的一部分如期召开。fgvc6 workshop 共有十个挑战赛，每个都代表了细粒度视觉分类在某个细分领域的挑战。
fgvc全称为fine-grained visual categorization，细粒度图像分类，即区分不同的动物和植物、汽车和摩托车模型、建筑风格等，是机器视觉社区刚刚开始解决的最有趣和最有用的开放问题之一。细粒度图像分类在于基本的分类识别（对象识别）和个体识别（人脸识别，生物识别）之间的连续性。相似的类别之间的视觉区别通常非常小，因此很难用当今的通用识别算法来解决。
今年是fgvc举办的第六届比赛，往届比较著名的比赛诸如inaturalist和imaterialist，前者侧重于区分自然界不同的生物，后者则是侧重于区分不同的人造物体。
不同于传统的广义上的分类任务，fgvc的挑战致力于子类别的划分，需要分类的对象之间更加相似，例如区分不同的鸟类、不同的植物、不同的日用品等。
赛题介绍
cassava disease classification挑战赛是一个根据木薯的叶子区分不同种类的木薯疾病的任务。cassava 译为木薯，是非洲第二大碳水化合物供应者，因为其能够承受恶劣的环境。因此木薯是小农种植的一种关键的粮食安全作物，在撒哈拉以南非洲，至少80%的小农家庭种植木薯，而病毒性疾病是低产量的主要来源。
在这次比赛中,主办方引入一个包含5种类别的木薯叶疾病的数据集，该数据集源于在乌干达定期调查中收集到的9436标记图像,主要从农民在自家田地里拍摄的图片,然后由国家作物资源研究所(nacrri)与makarere大学的人工智能实验室共同对图像进行标注。
数据集包括木薯植株的叶子图像，9,436张带注释的图像和12,595张未标记的图像。参与者可以选择使用未标记的图像作为额外的训练数据。目标是学习一个模型，使用训练数据中的图像将给定的图像分类为这4个疾病类别或健康叶子的类别。
团队成绩
题目特点以及常用方法
细粒度图像分类 (fine-grained imagecategorization), 又被称作子类别图像分类 (sub-category recognition)。其目的是对属于同一基础类别的图像进行更加细致的子类划分, 但由于子类别间细微的类间差异以及较大的类内差异, 更传统的图像分类任务相比, 细粒度图像分类难度明显要大很多。从下图中的木薯的叶子可以看出，不同的叶子病变情况长相非常相似，此外同一类别由于姿态，背景以及拍摄角度的不同，存在较大的类内差异。
细粒度图像分类的常用方法可以分为两种，分别是基于强监督信息的方法和仅使用弱监督信息的方法。前者需要使用对象的边界框和局部标注信息，后者仅使用类别标签，cassava disease classification是一种弱监督信息的细粒度识别，一般采用预训练模型finetune，并结合训练技巧对模型精调。
实验模型：senet、resnet、densenet
resnet是cnn历史上一个里程碑事件，模型深度达到了152层，这和之前cnn的层数完全不在一个量级上。resnet中的identity的这条线类似一条电路上的短路（shortcuts，skip connection），使得模型学习更加容易，深层可以直接得到浅层的网络特征。
densenet的原理不同于resnet通过加深网络层数以及inception通过加宽网络宽度来提高模型识别能力，而是利用特征重用和类似resnet的bypass的方式，减少了网络参数和缓解了梯度消失的问题。
senet提出了sequeeze and excitation block，该模块于传统网络的最大区别在于其侧重于构建通道之间的依赖关系，利用global average pooling来sequeeze特征图，并用excitation对前者进行非线性变换，最后再叠加到输入特征上。可以自适应的校准通道的相应特征，并且该模块可以嵌入到现有的网络结构中，实现精度的提升。
模型训练与评测
原图 verticalflip horizontalflip randomrotaterandomcrop
randomerasing
cutout
由于训练集样本过少，对比分析后对输入数据采取 verticalflip,horizontalfilp 、randomrotate和randomcrop的增强操作。此外，还使用了randomerasing和cutout，方法会在原图随机选择一些矩形区域，改变该区域的像素值，通过这些数据增强的方式，训练集的图片会被不同程度的遮挡，这样可以进一步降低过拟合的风险并提高模型的鲁棒性。
同样的，为了增强模型的鲁棒性减少过拟合，本次比赛我们利用5-fold crossvalidation，交叉验证有效利用了有限的数据，并且评估结果能够尽可能接近模型在测试集上的表现。用crossvalidation之后，se_resnext50测试集准确率提升0.01016，resnet34测试集准确率提升0.01142。
这次比赛中，我们还使用了mixup和label smoothing的训练策略。mixup顾名思义就是将两张图片按一定比例融合起来作为输入，计算loss时，针对两张图片的标签分别计算，然后按比例加权求和。mixup是一种抑制过拟合的策略，通过增加了一些数据上的扰动，从而提升了模型的泛化能力。
实验证明，该方式能将top1准确率提高近一个百分点。对于分类问题，常规做法时将类别换成one-hot vector。由于标签是类别的one-hot vector，这样做易导致过拟合使得模型泛化能力下降；同时这种做法会将所属类别和非所属类别之间的差距尽可能大，因此很难调优模型。
为此，可以用label smoothing对标签进行平滑处理，软化one-hot类型标签，使得计算损失函数时能有效抑制过拟合现象。
训练以adam为optimiser，学习率的设置为阶梯状，共四个取值，[3e-4, 1e-4,1e-5, 1e-6]，设置patience为4来衰减学习率，即模型连续4个epoch在验证集上效果没有提升则衰减学习率，训练总的epcoh在20次左右。本实验使用的gpu为4卡2080ti，并行训练一个模型，batchsize通常设为32，较大的模型根据实际情况适当减小。
模型在预测时采用了数据增强的方式test time augmentation(tta)，即将样本图像进行多个不同的变换获得多个不同的预测结果，再将预测结果进行平均，提高精度。本次任务利用3*tta，包括 randomcrop, randomcrop+horizontalflip 和randomcrop+verticalflip 。
模型集成是算法比赛中常用的提高模型精度方法，本次比赛我们训练了大量在imagenet上表现优良的模型，其中表现较好的模型如下表所示、在采取多种融合方式之后，最终发现se_resnext50、se_resnext101、senet154以及densenet201按照归一化后权重的融合效果最好，在测试集上的准确率达到了0.92516。
模型 测试集准确率
se_resnext50 0.92251
se_resnext101 0.92384
senet154 0.92384
densenet201 0.91721
mobilenetv2 0.91601
resnet152 0.91710
se_resnext50+se_resnext101+senet154+densenet201 0.92516
本次比赛主办方提供了12595张未带label的额外数据集，为了充分利用该数据集，利用在测试集表现最好的融合模型给这些数据集贴上伪标签。然后利用训练集和伪标签数据集训练模型，为了防止模型在伪标签上过拟合，我们对伪标签采取了一定的筛选操作。
采取的思路是：用多个不同概率阈值的过滤所得到的伪标签进行线下实验，看哪个阈值下的数据在线下的表现最好，就用通过该阈值筛选过滤出的数据，最终以0.95的阈值筛选出一半的数据作为添加到训练集的伪标签数据。
实验证明这种半监督的学习方法具有更强的泛化能力。
模型 测试集准确率
(public leaderboard) private leaderboard
se_resnext50 0.92251 0.93012
se_resnext50 with pseudo data 0.92195 0.93512
se_resnext101 0.92384 0.93134
se_resnext101 with pseudo data 0.92202 0.93409
senet154 0.92384 0.93054
se_resnext154 with pseudo data 0.92283 0.93428
se_resnext50+se_resnext101+
senet154+densenet201 0.92516 0.93727
se_resnext50+se_resnext101+
senet154+densenet201
with pseudo data 0.92516 0.93860
进一步工作
针对细粒度图像分类，msra有一个结论：分析该问题时图像的形态、轮廓特征原没细节纹理特征重要，而传统的cnn模型都是在构建轮廓特征，因此在构建神经网络时，应该更加精确地找到图像中最有区分度的子区域，然后再对这些区域采用高分辨率、精细化特征的方法，这样可以进一步提高细粒度图像分类的准确率。
另外对数据本身我们可能需要做更多的工作，在任务初期没有做足够的探索性数据分析，例如数据的分布、类型、输入图像的尺寸等都是影响结果的因素，因此数据分析也是后面的一个尝试点。
2招解决Allegro铺铜不能自动更新问题
大疆推出了一款内置屏幕的新型遥控器
感应水龙头如何检测供电及断电情况？
边缘控制器在边缘计算中的作用是什么
HT与OKB的通证销毁在区块链业界中产生了哪些影响
CVPR 2019竞赛第一解决方案分享
大唐电信1.72亿美元收购中芯国际16.6％股权
电镀工艺对人体有害吗
低功耗气压传感器BM1383AGLV
家庭电路的组成及作用
远程医疗最新八款移动创新技术产品
鸿蒙一出谁与争锋 全球手机市场华为份额反超苹果
十四载携手共进 心系天下三星W22 5G再攀高峰
MSN搜索测试版现身 结束与雅虎合作为时不远
三菱PLC和昆仑通态之间无线通信（通信口）
剖析AI芯片市场：为什么要加强深度学习
什么是边缘计算网关，它对工业联网的作用是什么
知用近场探头在辐射干扰源定位测试的应用
基于5G网络的确定化网络实现架构和关键技术分析
如何将220V交流电转化成12V直流电呢？有哪些方法？