1 引言
avs是具有自主知识产权的数字音视频编解码技术标准,其包括系统、视频、音频、数字版权管理等四个主要技术标准和一致性测试等支撑标准。其中,移动视频标准avs-m (avs第七部分)适用范围包括视频会议、可视电话、移动多媒体等领域。
tms320dm642是ti公司开发研制的一款专门面向多媒体应用的专用数字信号处理芯片,使用此dsp芯片并利用avs-m算法来进行视频压缩,可大幅提高视频压缩率,减少传输流量,即使在低带宽情况下也可以有效保证实时性和监控需求。
我们开发的imlab6421视频服务器,是基于internet 的视/音频监控设备。核心dsp芯片采用dm642芯片。而应用软件、视频压缩算法是根据avs-m标准进行设计、优化的。下面针对这款视频服务器的系统结构、视频优化的软件设计等进行详细的介绍。音频压缩的优化本文不做介绍。
2 硬件设计
视频服务器imlab6421原理框图如图1所示,系统采用tms320dm642 用于音视频压缩。dm642芯片包含一个64位的外部存储器接口,可驱动4个片选地址空间(ce0,ce1,ce2,ce3), 它支持8,16,32,64位宽度的同步和异步访问。我们在 dm642的片外扩展了16m bytes的sdram,位于emif的ce0地址空间,用于存放程序和数据。sdram工作时钟为100mhz,是由dm642芯片的cpu工作时钟6分频产生的。数据更新由dm642自动完成。还在dm642板上设计有512k bytes的flash存储器,位于dm642的ce1地址空间,宽度为8 bits。另外能实现与internet连接的以太网处理器采用的是crystal公司的cs8900a,它高度集成设计使其不再需要其它以太网控制器所必需的昂贵外部器件。
视频编码工作原理大致为:输入的模拟视频信号经tvp5150(支持pal和ntsc两种制式)被数字化为yuv4:2:2的数字视频格式,经由i2c总线被送至输入缓冲区(采用三缓冲机制), dm642的cpu把捕捉到的视频数据从一个输入缓冲区中取出待编码图像数据进行压缩编码处理,形成的压缩码流放到输出缓冲区,然后打包通过网口直接传输到internet。
图1 imlab6421硬件原理框图
3 软件设计
dsp嵌入式程序受硬件资源的限制,对程序流程和数据组织需要从硬件资源和代码运行效率上做仔细的考虑。通过分析avs-m编码器的程序流程,借助实验中积累的经验,本文给出了avs-m编码器的优化方案,主要介绍cache性能优化、存储空间的分配以及cpu与dma的并行性设计等。
3.1 存储结构及cache性能优化
(1)存储结构:dm642的存储器系统由片内内存l1、 l2和片外外存两部分组成,l1, l2和片外sdram构成了整个存储器系统的三级层次结构,如图2所示。其中,片内内存采用两级缓存结构,第一级由l1p和l1d组成,l1距离dsp核最近,数据访问速度最快,只需一个时钟周期,只能作为不能寻址的cache使用。第二级l2是一个统一的程序/数据空间,可以整体作为sram映射到存储空间,也可以整体作为第二级cache,或是二者按比例进行组合。第三级是片外外存,一般由sdram构成。l1p cache大小为16kb,直接映射,每行大小32 字节;l1d cache大小16kb, 2路映射,每行大小64 字节。l2是l1和外存储器的中间层,容量较大有256kb,访问速度较慢,根据 l2 配置为cache 或sram 的不同选择,访问速度需8个或6个时钟周期。片外存储器容量很大但访问速度很慢,一般都会远远大于 8 个时钟周期。
图2 三级存储系统
(2)cache性能优化:要优化cache的使用性能需了解cache的具体结构,如cache容量、行大小、组相联数等。下面总结了一些优化cache性能的方法:合理配置l2;合理布置程序代码段和数据段的内存布局,为防止有效代码、数据在缓冲存储器中相互排挤,应尽量把顺序执行的代码、同时使用的数据放在相互邻接的物理空间当中;若函数模块和数据包含在一个循环中,循环体的大小应和cache的容量相吻合,以便能把整个循环体全部放入cache中。为了提高cache中数据的重复利用率,把数据操作构成一条数据处理链,链中的下一级操作就能直接使用上一级操作留在cache中的数据。此外还可以根据cache行数据宽度信息调节数据在物理内存中的存放位置,从而利用数据预取增加cache的命中率;挖掘l1d的不命中流水处理能力,加速待使用数据的读入速度;通过合理的数据填充策略,避免同一时钟周期对相同存储体的读写操作将造成存储器的存取冲突。
3.2 存储空间的分配
在dsp上由于内存空间有限,需要合理分配内存空间,这对于程序的运行效率十分重要。使用的一个原则是:应尽量把数据和代码放入片内存储器。因为外存比cpu工作的速度要慢很多,如果用cpu来处理访问外部存储器的工作,大量时间将浪费在存取等待上。
dm642的l2片内存储器可以配置为sram或cache。由于编码器的数据流程是有规律的,因此我们考虑用程序控制dma控制器来进行内存和外存之间的数据交换,这样比硬件自动地来处理效率要高。
由于片内存储器容量的限制,不可能将编码器的所有数据都放入片内存储器。原始图像和重构图像是无法完全放到片内存储器中的。事实上,没有必要将这些数据放在片内,因为编码器的处理过程是以宏块为单位的,我们只需要在片内维护一个宏块的数据结构,cpu访问这些数据进行计算。每编码一个宏块的时候把该宏块需要的数据从外存调入内存,填到相应的这些数据结构中。利用dm642提供的qdma机制,cpu发出qdma请求后就可以继续对其它数据进行计算,由dma负责将数据从外存调到内部存储器。因此如何设计使cpu与dma之间协调工作很重要,本文2.3部分将详细讨论这个问题。
需要注意的问题是当前宏块编码过程中需要用到前面编码已经获得的一些信息。参考代码中是保留所有宏块的编码信息,这样的做法是不适合dsp实现的,需要的存储空间太大,片内存储器无法容纳。实际上编码当前宏块只需要参考它上面和左面的宏块。因此设计编码器中各模块的局部数据结构如图3所示。该数据结构保留上面一行的值和左边宏块的值,每编码完一个宏块,确定当前宏块的信息后更新这些缓冲区,这些数据可以放在l2中,不用访问外存。而且实验证明用来维护这样的数据结构所需要的计算时间很小。
经过优化的程序和常用的数据结构的大小可以放在l2中。所以按照上面的分析将l2配置为256kb sram,将程序代码段(.text)、变量初值表(.cint)、常量字符串(.const)、全局变量静态变量(.bss/.far)、堆栈段(.stack)等放入l2 sram当中,全局堆(.sysmem用于动态存储器分配)置于外部存储器。表1总结了编码器所要用到的存储空间分配情况。
图3模块的局部数据结构
表1 编码器存储空间的分配
其中整像素运动估计参考缓冲区包括亮度和色度。因为参考帧有两个,整像素运动估计参考缓冲区也有两个。分像素运动估计参考缓冲区也是两个:一个用来调入skip编码模式的预测值,一个用来做分像素运动估计。
3.3 cpu与dma并行性设计
i帧编码可以说是p帧编码的特例,如果p帧中不用运动估计的话,则与i帧编码流程相同。因此下面对于cpu与dma的并行性的讨论只针对p帧。
我们要解决的问题是cpu什么时候发qdma请求,命令dma控制器将需要的数据调入内存中。而且这种调度方式要保证cpu发命令之后可以进行其它的计算,等cpu需要这些数据的时候,dma已经将其调入内存中了。
为了解决这个问题需要了解编码器各个模块的运行时间,以及dma调度数据到内存所需要的时间。通过在dm642上运行优化过的程序,一个参考帧情况下测得各部分占程序运行时间的比例大致如表2所示:
表2 程序各部分运行时间所占比例
图4中由cpu指向dma的箭头表示启动qdma传输。每个dma传输所用的时间相对于程序运行的时间比例是:传输原始像素占1%,传输skip和分像素运动估计参考区各占3%,传输整像素亮度和色度参考区共15%,传输环路滤波结果5%。整个dma传输的时间大概占cpu计算时间的30%。通过这些数据可以看出,按照图4进行安排可以达到上面所述目标。
图4 cpu与dma并行工作
只依靠上面这些方法进行优化,视频压缩还不能达到实时要求,还需要进行算法级优化,以及对编码器中各个模块进行程序代码级的优化。常通过采用内联函数、软件流水、线性汇编优化等方法,以及合理使用针对视频处理而设计的特殊指令集,充分利用dm642内部的并行计算单元,提高了程序的运行速度。由于篇幅有限,对这些优化方法本文不再重点论述。
4. 结论
结合avs-m视频压缩处理流程的特点,本文完成了一个基于dm642平台的编码器的设计与实现。通过对编码流程的合理安排使得cpu能与dma控制器并行工作,cpu不用等待数据,需要的数据已经被dma调到内存中。实验表明通过系统级优化、程序级优化、汇编级优化、算法级优化等优化之后,基于这款视频服务器(实物图见图5),能达到2路cif352x288格式实时视频压缩,以及音频实时编码、解码处理,且图像主观效果及音频效果良好。
本文创新点是:把具有自主知识产权的数字音视频编解码技术标准第七部分(avs-m)应用于视频服务器的视频压缩,目前市场上还没有采用此压缩标准的产品,此产品具有极高得性价比,采用此压缩标准还可以避免产品产业化之后知识产权之争,具有很好的应用前景。
图5 imlab6421视频服务器实物图
体验全新的MCU软件方法
VR app Supernatural推出了新的目标和连续记录功能
自动驾驶已不仅仅是BAT三大互联网巨头全力投入
智能型静电消除器的特点和功能
智能档案管理机器人|海默机器人档案管理实现无人化管理
基于TMS320DM642 DSP芯片实现IMlab6421视频服务器的设计
抛丸机老是无规律停机,或直接PLC报警怎么办?
5g网络或明年正式推出
电子商务将成为运用AR技术的第一大领域
你可能遇到假宽带了,公布的网速数据为何差别如此之大
泄露电缆的安装要求_泄露电缆安装注意事项
工业加固三防平板适用于哪些环境
MLCC缺货,能用钽电容替代吗?最靠谱儿的回答在这里~
怎样将120VAC电源整流和调节到稳定的9VDC
直线电机技术及其发展的深度解析
纺织定型机监控运维物联网解决方案
滤波器的设计仿真实例
英特尔今年底就将开始导入 7 纳米晶圆制程
固态继电器工作原理详细介绍
当机器人有温度后,识别物体的能力将加强