基于GAN的零缺陷样本产品表面缺陷检测
导读
缺陷检测是工业生产过程中的关键环节，其检测结果的好坏直接影响着产品的质量。而在现实场景中，但产品瑕疵率非常低，甚至是没有，缺陷样本的不充足使得需要深度学习缺陷检测模型准确率不高。如何在缺陷样本少的情况下实现高精度的检测呢？目前有两种方法，一种是小样本学习，另一种是用gan。本文将介绍一种gan用于无缺陷样本产品表面缺陷检测。
深度学习在计算机视觉主流领域已经应用的很成熟，但是在工业领域，比如产品表面缺陷检测，总感觉没有发挥深度学习的强大能力，近几年表面缺陷的 相关研究主要是集中在各种借鉴主流神经网络框架，从cnn到yolo，ssd，甚至到语义分割的fcn相关论文，通过一些技术，对框架进行轻量化，对缺陷进行分类或检测。不过，逃不出一个问题：一定要有缺陷样本可供训练，而且数量不能太少！当然，也有一些课题组使用稀疏编码、字典学习、稀疏自编码等对表面缺陷进行检测，这类方法很有局限性，主要针对那些有周期性背景纹理的图像，比如丝织品，印刷品等。国内外很多课题组、工业软件公司都想开发出一些切合实际应用的算法软件，在缺陷检测领域，比较好的公司有：vidi、halcon等，听说海康威视也在搞工业产品方便的算法研究。
作者提出只依据已有的正常表面图像样本，通过一定的技术手段对缺陷样本进行检测，很好的将最近研究火热的gan应用于框架中，这一年，课题组的老师也一直讨论这种方法的可行性，缺陷的检测要不要有缺陷样本，从稀疏自编码，小样本学习再到计算机视觉研究热点之一的零样本学习，得出结论：大多数工业产品表面缺陷检测是需要缺陷样本或者人为制作的缺陷样本，论文虽然是没有直接使用生产线上的缺陷样本，但是通过算法人为的产生了缺陷样本，并很好的融合和gan在图像修复领域的强大能力，整个框架的设计很巧妙。
文章思路： 论文的整体思路就是gan在图像修复和重建方便具有很强大的能力，通过人为的去在正常样本上“随意”添加一些缺陷，训练阶段让gan去学习一个可以修复这些缺陷区域的网络，检测阶段时，输入一个真实缺陷样本，训练好的gan会对其进行修复，再基于lbp可完成缺陷检测。整个算法框架不需要真实的缺陷样本和手工标签，但是在框架中，人为的去产生(比如ps)一些缺陷区域。
通俗说：
作者利用gan在图像修复（重建）上的能力，在工业现场收集一些正常（无缺陷）样本，人工ps一些缺陷，比如线条、斑点等。
训练时，将ps的人工制作的缺陷图像和原图像做输入样本训练gan，得到一个具有图像修复重建能力的网络。
测试时，直接使用训练好的gan对采集到的图像进行重建修复，如果样本中中有缺陷区域，缺陷区域按照网络设计，肯定需要修复，将修复后的图像和原缺陷图像使用lbp找出显著差异区域即为缺陷区域。
01主要内容
论文的主体框架思想是基于gan网络的结构。gan 主要包括了两个部分，即生成器 g与判别器 d。生成器主要用来学习真实图像分布从而让自身生成的图像更加真实，以“骗过”判别器。判别器则需要对接收的图片进行真假判别。在整个过程中，生成器努力地让生成的图像更加真实，而判别器则努力地去识别出图像的真假，这个过程相当于一个博弈过程，随着时间的推移，生成器和判别器在不断地进行对抗，最终两个网络达到了一个动态均衡：生成器生成的图像接近于真实图像分布，而判别器识别不出真假图像，对于给定图像的预测为真的概率基本接近 0.5（这段话从李宏毅老师那引用的，致敬李老师）。
训练阶段
在训练阶段，模型采用一些图像处理技术，人为的在正常样本图像上产生一些缺陷（示意图中的红色框模块），使用由自编码器构成的g模块进行缺陷修复学习，学习的目标是与正常样本之间的l1范数最小，通过一定数量的样本训练可以获得有缺陷修复能力的g模块。gan用于图像修复的一些资料可以参考[3][4]，当然也可以参考论文里的参考文献。
训练阶段
测试阶段
在测试阶段，将上步骤训练好的g模块作为测试阶段的图片修复模块，对于输出的图像样本，假如存在缺陷区域，通过修复模块g将得到修复后的图像，与原缺陷样本图像一起作为lbp算法的输入，通过lbp算法对其缺陷区域进行精确定位。
测试阶段
02其他细节
2.1缺陷生成
在实际训练中，论文作者手工生成一些缺陷样本，如图3所示，训练网络自动修复缺陷。另外作者也通过一些技术进行了样本的扩充，比如加入高斯噪声、随机resize大小等。
缺陷生成
3.2缺陷图像重建
缺陷图像重建部分主要的作用是：缺陷图像重建后尽量和正常样本一样，作者在这部分在文献[5][6]基础上进行框架修改的，比如使用l1 distance作为衡量重建差异的目标函数。
然后实验中作者又发现只使用l1不行，图像边缘等细节可能会衡量不准确，又加入gan loss来提升网络的重建效果。
最后，得到了下面目标函数。
2.3缺陷检测
因为使用gan修复后的图片和原始缺陷样本图片之间在像素级的细节上有一些差异，作者使用了前几年在人脸领域应用比较好的lbp算法进行缺陷区域的检测，这里不介绍算法的细节，示意图如下。
03实验
文章对dagm 2007数据集和织物密集图像进行了验证实验。实验表明，提出的gan+lbp算法和有足够训练样本的监督训练算法具有较高的检测准确率。实验使用两种类型的数据集，4.1是印花纹表面，4.2是织物表面。
4.1texture surface
测试样本
结果
a.原始图像，b.修复图像，c.论文方法，d. fcn方法，e.真实标签
3.2 fabric picture
实验中缺陷样本的类型有五种。实验样本按背景分有三类，每类包含5个缺陷样本，25个正常样本。
测试样本
结果
a.原始图像，b.修复图像，c.论文方法，d. fcn方法，e.真实标签
电池修复-手把手教你测量控制器
根系分析仪的应用可为农业生产而提供数据支持
连拓精密科技仪案例展示：手机壳ip67防水测试难点攻破
美高森美携手Emcraft Systems提供嵌入式应用系统模组
正弦波振荡器,正弦波振荡器是什么意思
基于GAN的零缺陷样本产品表面缺陷检测
软件启动和范围定义
技巧分享：开关电源PCB板设计的七大招
国产伺服电机减速机存在哪些难题
思尔芯首款支持PCIe Gen5原型验证EDA工具上市，高性能加速AI设计
城市治理数字转型迈向现代化的必由之路：智能安防
MM32无法进行烧写的原因都有哪些
美国阿贡国家实验室研发出PEDOT涂层技术,可确保锂电池的安全性
理想型电源适配器方案：宽输入电压范围、多种保护功能
iOS10越狱最新消息：iOS10.2、iOS10.3验证通道关闭无法进行iOS10.2越狱、iOS10.3.1越狱？SHSH2备份免烦恼
Insolar正在构建一个开源区块链平台
诺基亚联合电信引入国内首款wp手机
什么是LoRa MESH？LoRa MESH技术通讯方式
无线交换机和无线路由器有什么区别
视听技术小辞典(四)
缺陷检测是工业生产过程中的关键环节，其检测结果的好坏直接影响着产品的质量。而在现实场景中，但产品瑕疵率非常低，甚至是没有，缺陷样本的不充足使得需要深度学习缺陷检测模型准确率不高。如何在缺陷样本少的情况下实现高精度的检测呢？目前有两种方法，一种是小样本学习，另一种是用gan。本文将介绍一种gan用于无缺陷样本产品表面缺陷检测。
深度学习在计算机视觉主流领域已经应用的很成熟，但是在工业领域，比如产品表面缺陷检测，总感觉没有发挥深度学习的强大能力，近几年表面缺陷的 相关研究主要是集中在各种借鉴主流神经网络框架，从cnn到yolo，ssd，甚至到语义分割的fcn相关论文，通过一些技术，对框架进行轻量化，对缺陷进行分类或检测。不过，逃不出一个问题：一定要有缺陷样本可供训练，而且数量不能太少！当然，也有一些课题组使用稀疏编码、字典学习、稀疏自编码等对表面缺陷进行检测，这类方法很有局限性，主要针对那些有周期性背景纹理的图像，比如丝织品，印刷品等。国内外很多课题组、工业软件公司都想开发出一些切合实际应用的算法软件，在缺陷检测领域，比较好的公司有：vidi、halcon等，听说海康威视也在搞工业产品方便的算法研究。
作者提出只依据已有的正常表面图像样本，通过一定的技术手段对缺陷样本进行检测，很好的将最近研究火热的gan应用于框架中，这一年，课题组的老师也一直讨论这种方法的可行性，缺陷的检测要不要有缺陷样本，从稀疏自编码，小样本学习再到计算机视觉研究热点之一的零样本学习，得出结论：大多数工业产品表面缺陷检测是需要缺陷样本或者人为制作的缺陷样本，论文虽然是没有直接使用生产线上的缺陷样本，但是通过算法人为的产生了缺陷样本，并很好的融合和gan在图像修复领域的强大能力，整个框架的设计很巧妙。
文章思路： 论文的整体思路就是gan在图像修复和重建方便具有很强大的能力，通过人为的去在正常样本上“随意”添加一些缺陷，训练阶段让gan去学习一个可以修复这些缺陷区域的网络，检测阶段时，输入一个真实缺陷样本，训练好的gan会对其进行修复，再基于lbp可完成缺陷检测。整个算法框架不需要真实的缺陷样本和手工标签，但是在框架中，人为的去产生(比如ps)一些缺陷区域。
通俗说：
作者利用gan在图像修复（重建）上的能力，在工业现场收集一些正常（无缺陷）样本，人工ps一些缺陷，比如线条、斑点等。
训练时，将ps的人工制作的缺陷图像和原图像做输入样本训练gan，得到一个具有图像修复重建能力的网络。
测试时，直接使用训练好的gan对采集到的图像进行重建修复，如果样本中中有缺陷区域，缺陷区域按照网络设计，肯定需要修复，将修复后的图像和原缺陷图像使用lbp找出显著差异区域即为缺陷区域。
01主要内容
论文的主体框架思想是基于gan网络的结构。gan 主要包括了两个部分，即生成器 g与判别器 d。生成器主要用来学习真实图像分布从而让自身生成的图像更加真实，以“骗过”判别器。判别器则需要对接收的图片进行真假判别。在整个过程中，生成器努力地让生成的图像更加真实，而判别器则努力地去识别出图像的真假，这个过程相当于一个博弈过程，随着时间的推移，生成器和判别器在不断地进行对抗，最终两个网络达到了一个动态均衡：生成器生成的图像接近于真实图像分布，而判别器识别不出真假图像，对于给定图像的预测为真的概率基本接近 0.5（这段话从李宏毅老师那引用的，致敬李老师）。
训练阶段
在训练阶段，模型采用一些图像处理技术，人为的在正常样本图像上产生一些缺陷（示意图中的红色框模块），使用由自编码器构成的g模块进行缺陷修复学习，学习的目标是与正常样本之间的l1范数最小，通过一定数量的样本训练可以获得有缺陷修复能力的g模块。gan用于图像修复的一些资料可以参考[3][4]，当然也可以参考论文里的参考文献。
训练阶段
测试阶段
在测试阶段，将上步骤训练好的g模块作为测试阶段的图片修复模块，对于输出的图像样本，假如存在缺陷区域，通过修复模块g将得到修复后的图像，与原缺陷样本图像一起作为lbp算法的输入，通过lbp算法对其缺陷区域进行精确定位。
测试阶段
02其他细节
2.1缺陷生成
在实际训练中，论文作者手工生成一些缺陷样本，如图3所示，训练网络自动修复缺陷。另外作者也通过一些技术进行了样本的扩充，比如加入高斯噪声、随机resize大小等。
缺陷生成
3.2缺陷图像重建
缺陷图像重建部分主要的作用是：缺陷图像重建后尽量和正常样本一样，作者在这部分在文献[5][6]基础上进行框架修改的，比如使用l1 distance作为衡量重建差异的目标函数。
然后实验中作者又发现只使用l1不行，图像边缘等细节可能会衡量不准确，又加入gan loss来提升网络的重建效果。
最后，得到了下面目标函数。
2.3缺陷检测
因为使用gan修复后的图片和原始缺陷样本图片之间在像素级的细节上有一些差异，作者使用了前几年在人脸领域应用比较好的lbp算法进行缺陷区域的检测，这里不介绍算法的细节，示意图如下。
03实验
文章对dagm 2007数据集和织物密集图像进行了验证实验。实验表明，提出的gan+lbp算法和有足够训练样本的监督训练算法具有较高的检测准确率。实验使用两种类型的数据集，4.1是印花纹表面，4.2是织物表面。
4.1texture surface
测试样本
结果
a.原始图像，b.修复图像，c.论文方法，d. fcn方法，e.真实标签
3.2 fabric picture
实验中缺陷样本的类型有五种。实验样本按背景分有三类，每类包含5个缺陷样本，25个正常样本。
测试样本
结果
a.原始图像，b.修复图像，c.论文方法，d. fcn方法，e.真实标签
电池修复-手把手教你测量控制器
根系分析仪的应用可为农业生产而提供数据支持
连拓精密科技仪案例展示：手机壳ip67防水测试难点攻破
美高森美携手Emcraft Systems提供嵌入式应用系统模组
正弦波振荡器,正弦波振荡器是什么意思
基于GAN的零缺陷样本产品表面缺陷检测
软件启动和范围定义
技巧分享：开关电源PCB板设计的七大招
国产伺服电机减速机存在哪些难题
思尔芯首款支持PCIe Gen5原型验证EDA工具上市，高性能加速AI设计
城市治理数字转型迈向现代化的必由之路：智能安防
MM32无法进行烧写的原因都有哪些
美国阿贡国家实验室研发出PEDOT涂层技术,可确保锂电池的安全性
理想型电源适配器方案：宽输入电压范围、多种保护功能
iOS10越狱最新消息：iOS10.2、iOS10.3验证通道关闭无法进行iOS10.2越狱、iOS10.3.1越狱？SHSH2备份免烦恼
Insolar正在构建一个开源区块链平台
诺基亚联合电信引入国内首款wp手机
什么是LoRa MESH？LoRa MESH技术通讯方式
无线交换机和无线路由器有什么区别
视听技术小辞典(四)