基于FPGA的实时视频图像采集处理系统

随着社会的不断发展,视频图像采集处理技术在许多行业领域中扮演着非常重要的角色,如军事、安全监控、工业视觉等领域,而各行各业对于视频图像采集和处理技术的要求也越来越高。高速、实时性是主要发展趋势之一。目前,视频图像采集与处理技术的发展主要分为两类:一是基于pc在相关特定的pcie采集板卡的基础上,通过软件对视频图像进行处理;二是利用相关的集成硬件如dsp、mcu、fpga等对视频图像进行采集处理[1]。相对来讲后者的处理效果不如前者,但实时性好、体积小、方便使用,更适合于工业的需求。
fpga现场可编程逻辑门列,采用并行运算模式,且工作频率较高,可对大量数据进行实时操作与处理,在通信领域、图像处理等方面上优势明显[2]。因此,本设计选用fpga作为系统的控制和数据处理中心。
1 系统总体概述
基于fpga的视频采集处理系统可分为:视频采集模块、图像存储模块、数据处理模块和图像显示模块。工作过程为:首先,fpga通过iic总线协议对摄像头进行初始化配置,摄像头对焦工作拍摄采集图像,然后,采集的视频数据通过fifo缓存器不断写入到ddr2 sdram中存储,再经过fifo缓存器读出视频数据,接着,选择性对读出的视频图像数据进行处理,最后在vga上显示视频图像。系统的总体框图如图1所示。
2 中央控制单元
2.1 fpga
从fpga硬件开发的角度考虑,利用eda开发软件和硬件描述语言verilog编程,对fpga芯片进行开发,得到其工程要求的硬件功能。对比传统的硬件设计开发,减少了器件的浪费和多次焊接的工作量,设计过程也更加灵活、方便、高效。
另外,fpga要实现对每个模块的控制和处理,除并行数据处理优点外,自身必须拥有较多i/o口,丰富的逻辑单元等。鉴于此,选用了alter公司研发的cyclone iv系列的ep4ce617c8。此款fpga拥有179个i/o接口,62 792个逻辑单元,392个乘法器,且功耗低。
2.2 视频图像采集模块
cmos ov7670图像传感器,其体积小,工作电压小,640×380像素,可选用自带的降噪、数模转换、分频等功能,是较好的视频图像采集选择。fpga通过iic总线协议与cmos摄像头进行初始化配置。iic总线写入前,cmos摄像头的sclk和sdat引脚必须带上拉电阻。iic总线写入时,首先写入设备地址,cmos的初始地址为0x42,其次写入寄存器地址,最后写入数据。其iic总线数据写入流程如图2所示。
iic总线与cmos的数据通信后,配置cmos摄像头控制寄存器。时钟配置使用外部时钟即fpga的工作时钟频率,目的是更好地控制cmos摄像头。pll寄存器配置零分频、使能内部线性稳压器ldo,内部电压工作稳定。配置的verilog部分代码分别依次为:
set_ov7670+19 : lut_data=16'h1180;
set_ov7670:5 : lut_data=16'h6b00;
其他相关控制寄存器中,配置了水平镜像、关闭彩条、视频格式rgb565等功能。保证其能在系统高速运行下采集到可靠度大、信息性强的视频图像数据。
2.3 系统存储模块
2.3.1 ddr2 sdram
ddr2 sdram作为系统存储器,选用采用1 gb内存的ddr2 800系列 sdram作为存储器。ddr2工作时钟频率为200 mhz[2],具有读写速度快、集成度高、存储容量大以及成本低等特点。其操作速率是普通sdram的4倍,能够较好地达到系统实时性的要求。
ddr2不仅能在系统时钟控制下工作,也可以独立的进行操作,如自刷新、自预充电净化等,其控制复杂[3]。因此,利用quartus ii自带的ip核构建ddr2 sdram控制器。同时也生成了altera数字phy。phy是连接ddr2 内核控制器和外部ddr2器件的桥梁。phy拥有四层接口,分别为带local_*类的用户逻辑接口、带mem_*类的外部ddr2芯片接口、带ctl_*和ctl_mem_*的phy与ip控制器相互连接的接口。其功能框图如图3所示。
ip内核控制器的使用将ddr2复杂的控制操作转变成用户简单的读写时序操作,因此,ddr2存储模块可设计分为时钟、复位、初始化、控制、数据通道和仲裁等子模块。其中数据通道子模块建立了ddr2连接fifo缓存器的通道。
2.3.2 fifo
fifo是一种先入先出的存储器,没有地址定义,使用简单。fifo只能顺序读写数据,确保了数据的安全性。由此,在多数情况下作为系统数据缓冲器使用[5]。
在quartus ii的内核中,建立异步fifo的控制器。异步fifo,即读写操作时钟信号不一致,有利于图像数据的缓冲。wrusedw信号控制着数据的读写请求。当wrusedwd等于fifo深度值4时(为方便说明,仿真的fifo深度为4),表示fifo已空,write_req信号有效,只能写入数据。wrusedw为0,表示fifo已满,read_req信号有效,只能读出数据。wrusedwd为其余值,则读、写数据请求都可执行。如图4所示。
3 视频图像处理模块
本文通过sobel边缘检测对图像数据进行处理。边缘检测意义在于能够获取目标物体的边缘信息,有利于目标识别和追踪[6]。sobel边缘检测算法具有计算量小、检测精度高等优点,也是最常用的图像边缘处理方法之一。
sobel边缘检测算法过程:首先,确立sobel算子模板,它包含了横纵向两组3×3运算算子矩阵模板。如下式:
其次,利用水平和垂直方向的矩阵算子与原始图像像素点进行平面卷积分运算,算出x、y两个方向上的一阶导数梯度值[7],如下式:
然后,把计算出的x、y方向梯度值做平方求和后再开方,得到中心点的梯度值。如下式:
最后,中心点梯度值与设定的阈值互相比较,大于阈值的为边缘点,输出为黑色,小于阈值的为普通点,输出为白色[8-9]。
sobel边缘检测的实现包括缓冲模块、计算卷积模块和门级处理模块。其中,缓冲模块使用基于ram的移位寄存器altshift_taps,卷积计算模块使用6个可编程乘加器aitmult_add和2个并行加法器parallel_add计算出水平和垂直的梯度值,再通过浮点平方根altfr_sqrt得到中心点值。门级处理模块即阈值的比较[10]。原理过程如图5所示。
4 实验
完成系统硬件设计后,保存工程文件。并绘制电路原理图和pcb图。最后,制作电路板。完成所有工作后,建立系统,进行实验。
实验一:实时视频图像采集显示实验。首先,fpga控制cmos 7670采集图像;然后,fpga对采集图像数据传输和存储;最后,通过vga显示图像。其画面清晰、流畅。实验结果如图6所示。
实验二:sobel边缘检测算法处理视频图像显示实验。在实验一的基础上,增加了对图像数据的sobel边缘检测处理,再通过vga进行显示。图像中物体轮廓提取明显,且实时性较好。实验结果如图7所示。
5 结论
实时视频图像采集与处理技术广泛用于监控、工业视觉等领域。本系统以fpga核心,充分利用其高速、大数据处理能力和硬件编程设计等特点,结合相关器件,实现了对视频图像的采集、处理和显示。实验结果画面清晰、流畅,效果好。同时在此基础上,增加了对物体的边缘检测,在物体追踪和识别方面也具有一定的实用意义。

热点 | 专注单细胞测序临床应用,新格元获近亿人民币Pre-A轮融资
一种界面捕获效应打印策略
如何使用框架训练网络加速深度学习推理
PI-MAX4 ICCD:钙钛矿薄膜中载流子扩散的瞬态荧光成像
2021年款Moto G Stylus现身亚马逊
基于FPGA的实时视频图像采集处理系统
ADI技术文章:负电压线性稳压器
继电器触点保护和触点的事项
SKYLAB支持无线协议802.11a/b/g/n/ac的WiFi模块有哪些?
麦格纳:推出雷达ICON RADAR,实现可靠的全自动驾驶
电信iPhone4S今日预约登记
苹果iPhone12出现开机Logo闪现问题?
ROHM开发出充电控制IC“BD71631QWZ”,支持新型二次电池等低电压充电
破局与进阶,科大讯飞的新武器“讯飞阅读”
电脑防盗系统的组成、功能及应用方案
真空断路器的安装规定_真空断路器安装后的验收检查要求
苏宁全渠道加持引领彩电高端市场消费者品质升级
在深圳选购一台家用储能电源大概多少钱?需要考虑那几个方面?
为调制解调器 交换机等小设备制作不间断电源
曝华为Mate40系列将首发搭载麒麟1020处理器 相较于麒麟990性能有望提升50%