基于GPU服务器的应用方案,如何选择合适的产品

高性能计算、人工智能计算,通常指使用很多的处理器进行并行运算,可为企业创造非凡的价值。cpu、gpu、fpga或者asic,均可实现计算功能,并通过高性能网络互连,实现集群运算。从性能角度分析,cpu《gpu《fpga《asic,从编程的灵活度分析 ,cpu》gpu》fpga》asic。所以,综合了性能和编程可实现性,我们会选择gpu来实现高性能计算。
选择gpu服务器的基本原则
gpu服务器按照总线接口类型,可以分为传统pci-e和nv-link两种接口。nv-link相对于pci-e接口,有更高的带宽和更低的延时优势,但是nv-link成本和复杂度更高,基于nv-link的gpu服务器相对较少,成本也较高。
gpu服务器也需要考虑业务的需求,选择合适的gpu型号。高性能计算需要双精度运算,可以选高性能的gpu(例如v100);人工智能领域,模型的训练需要采用高性能的gpu(例如v100),训练结束后需要进行推理,就可以选择低成本的gpu(例如t4)。
gpu服务器也需要考虑应用场景,比如在边缘的通讯基站可以考虑配置t4的服务器,而在数据中心机房可以考虑配置v100的服务器。
中兴通讯提供了两款gpu服务器供客户选择,分别是r5360g4和r5560g4。r5360g4在2u的高度支持4个标准全宽全长的gpu卡,r5560g4在4u的高度支持8个标准全宽全长的gpu卡。
r5360g4的产品规格和特点
zxcloud r5360g4是一款面向高性能计算领域应用的计算密集型机架式服务器,支持最新的英特尔®至强®可扩展处理器,支持4个全系列gpu加速卡。
支持2颗英特尔®至强®可扩展处理器,最高150w 处理器;支持16个ddr4内存插槽,内存速率最高可达2666mt/s;提供最大8+3个非热插拔功能的pci‐e 3.0插槽,最大支持4个gpu加速卡;在2u高度支持高性能12gb/s 8块2.5”或3.5”sas/sata热插拔硬盘;提供标准pcie raid卡,支持raid 0/1/10/5/6/50/60功能;集成2个千兆以太网接口(rj45);电源输出功率1600w,ac 100-240v/50~60hz输入,240v高压直流,支持1+1热插拔冗余电源。
r5560g4的产品规格和特点
zxcloud r5360g4是一款面向高性能计算领域应用的计算密集型机架式服务器,支持最新的英特尔®至强®可扩展处理器,支持8个全系列gpu加速卡。
支持2颗英特尔®至强®可扩展处理器,最高205w 处理器;支持24个ddr4内存插槽,内存速率最高可达2933mt/s;提供最大8+3个非热插拔功能的pci‐e 3.0插槽,最大支持8个gpu加速卡;在4u高度支持高性能12gb/s 8块2.5寸sas/sata热插拔硬盘;提供标准pcie raid卡,支持raid 0/1/10/5/6/50/60功能;集成2个千兆以太网接口(rj45);电源输出功率1600w或2200w,ac 100-240v/50~60hz输入,240v高压直流,支持2+1热插拔冗余电源。
基于gpu服务器的应用方案
(1)sbc硬件加速方案
典型的sbc网元集成了信令处理、媒体处理和tc转码三种实体单元,具体地说,它包括了用户接入、呼叫处理、esrvcc切换、紧急呼叫、网间互通和webrtc等十多种媒体处理和相应的信令控制功能。在这些功能中,tc转码是最主要的资源消耗”大户“,大约会占用一半以上的系统资源,因此硬件加速技术必不可少。
但是面对种类如此繁多的需求,仅仅依靠cpu是难以满足的,必须通过cpu和gpu的联动才有可能较好地支持。一般来说,虚拟化网络的cpu是珍贵资源,因此将tc等计算逻辑较复杂、算法变更频繁的业务分配给gpu/fpga等加速硬件是最佳选择。而对于转发等低功耗、高转发、低时延、计算逻辑简单、算法变更较小的业务,目前暂不需要采用硬件加速。
基于r5360g4的sbc硬件加速方案,实现tc转码的加速,大大减少了cpu的资源占用了,提升了产品的整体性能。
(2)视频监控硬件加速方案
视频监控是安全防范系统的重要组成部分,包含了前端摄像头、传输线缆和视频监控平台。其中,视频监控平台需要完成视频的编解码、转码、加密、播放等功能,复杂度高,处理的数据量大,需要通过gpu的硬件加速,提升业务性能降低cpu的占用。另外,它对业务数据的分析,可以实现人像识别、无人值守等附加业务功能。
基于r5360g4 服务器配合t4 gpu卡实现视频采集、结构化分析和人工智能处理等功能。它可以将r5360g4部署在internet或者远端数据中心的传统视频业务前移到用户网络边缘,从而实现视频业务的本地化处理,具有低延时和高qoe的特点。r5360g4可以支持最多4个全高全长的pcie插卡,支持4个t4。它可以完成视频的拉流、编码、解码、转码、resize等功能,大大减少主处理器的负载和实现难度,在性能功耗比上得到极大的优化。
中兴通讯服务器产品拥有多项自主知识产权及专利,产品涵盖了机架服务器、刀片服务器、gpu服务器、边缘计算服务器,满足互联网、高性能计算、数据中心等多种场景的需求,并配合中兴通讯的其他产品形成丰富的产品组合,满足客户的各种业务需求。


绝对值编码器安装
磐石测控:深圳平行挤压测试仪PS-7600S有什么参数?
华为终端谋变 欲变身“类小米”
GRAPH编程语言
数据中心使用锂电池有什么优势,未来将会面临什么挑战
基于GPU服务器的应用方案,如何选择合适的产品
华人科学家发明出3D打印干细胞心脏补丁
业内估值千亿美元 小米为何这么值钱
5G模拟芯片将是未来时代变革和进步的核心动力
紧急求助对讲终端IP对讲分机
HTC U11 Life评测 主攻中端市场
自动驾驶多传感器数据融合方法
鹰眼大数据智能营销怎么样,主要是干什么的
使用RTOS时问题如何检测和纠正
CoolerMaster的新RaspberryPi外壳承诺被动冷却超频
自由空间和周期排布空间的电子两者之间的区别
云存储时代阿里云存储将率先提速
如何判断电池能否修复,如何回收旧电池备用?
第六代柔性AMOLED生产线项目落户合肥
全球智能手机的总出货量为3.536亿部,同比下降1.3%