DPU技术发展及落地实战
1.传统基础网卡(nic)。负责数据报文的收发，具有较少的硬件卸载能力。硬件上以asic硬件逻辑实现网络物理链路层，以及mac层的报文处理，后期nic标卡也支持了，诸如crc校验的功能。不具有编程能力。
2.智能网卡(smartnic)。具备一定的数据平面硬件卸载能力，例如ovs/vrouter硬件卸载。硬件结构上以fpga或者是带有fpga和处理器内核的集成处理器(这里处理器功能较弱)来实现数据面硬件卸载。
3.fpga+cpu的dpu网卡(fpga-based dpu)。兼具智能网卡功能的同时，可以支持数据面和控制面的卸载以及一定的控制平面与数据平面的可编程能力。硬件结构的发展上，基于fpga增加了通用cpu处理器，例如inte1 cpu。
4.dpu soc网卡(single-chip dpu)。单芯片的通用可编程dpu芯片，具备丰富的硬件卸载加速和可编程能力，支持不同云计算场景和资源统一管理特性。硬件上，采用单芯片的soc形态，兼顾性能和功耗。fpga-based dpu在硬件设计上的挑战主要来自芯片面积和功耗。面积上，pcie接口的结构尺寸限定了板上的芯片面积；功耗上，板卡的散热设计与芯片和整板的功耗密切相关。这两个因素制约着fpga方案的持续发展。dpu soc方案吸取了从nic到fpga-based dpu的发展过程的软硬件经验和成果，是目前以dpu为中心的数据中心架构的重要演进路径。
dpu作为软件定义芯片的典型代表，基于“软件定义、硬件加速”的理念，是集数据处理为核心功能于芯片的通用处理器。dpu通用处理单元用来处理控制平面业务，专用处理单元保证了数据平面的处理性能，从而达到了性能与通用性的平衡。dpu专用处理单元用来解决通用基础设施虚拟化的性能瓶颈，通用处理单元则保证dpu的通用性，使得dpu能够广泛适用于云基础设施的各种场景中，实现虚拟化软件框架向dpu的平滑迁移。
nic的发展和应用
传统基础网卡nic,又称网络适配器，是构成计算机网络系统中最基本和最重要的连接设备，其主要工作是将需要传输的数据转换为网络设备能够识别的格式在网络技术发展的带动下，传统基础网卡的功能也更加丰富，已经初步具备了一些简单的硬件卸载能力(如crc校验、tso/uf0、lso/lr0、vlan等),支持sr-iov和流量管理qos,传统基础网卡的网络接口带宽也由原来的百兆、千兆发展到10g、25g乃至100g。
在云计算虚拟化网络中，传统基础网卡向虚拟机提供网络接入的方式主要分为以下3种。
(1)网卡接收流量经操作系统内核协议栈转发至虚拟机。
(2)由dpdk用户态驱动接管网卡，让数据包绕过操作系统内核协议栈直接拷贝到虚拟机内存。
(3)使用sr-iov技术，将物理网卡pf虚拟化成多个具有网卡功能的虚拟vf,再将vf直通到虚拟机中。
随着vxlan等隧道协议以及openflow、0vs等虚拟交换技术的应用，网络处理的复杂度在逐渐增大，需要消耗更多的cpu资源，因此智能网卡smartnic诞生了。
2.smartnic的发展和应用
智能网卡smartnic除了具备传统基础网卡的网络传输功能外，还提供丰富的硬件卸载加速能力，能够提升云计算网络的转发速率，释放主机cpu计算资源。
智能网卡smartnic上没有通用处理器cpu,需要主机cpu进行控制面管理。智能网卡smartnic主要卸载加速对象是数据平面，如虚拟交换机0vs/vrouter等数据面fastpath卸载、rdma网络卸载、nvme-of存储卸载以及ipsec/tls数据面安全卸载等。
但是随着云计算应用中网络速率的不断提高，主机仍会消耗大量宝贵的cpu资源对流量进行分类、跟踪和控制，如何实现主机cpu的“零消耗”成了云厂商下一步的研究方向。
3.fpga-based dpu网卡的发展和应用
相比智能网卡smartnic，fpga-based dpu网卡在硬件架构上增加了通用cpu处理单元，组合成fpga+cpu的架构形态，从而便于实现对网络、存储、安全和管控等通用基础设施的加速和卸载。
在这个阶段中，dpu的产品形态主要以fpga+cpu为主。基于fpga+cpu硬件架构的dpu具有良好的软硬件可编程性，在dpu发展初期大部分dpu厂商都选择了这个方案。该方案开发时间相对较短且迭代快速，能够迅速完成定制化功能开发，便于dpu厂商快速推出产品，抢占市场。但是随着网络带宽从25g向100g的迁移，基于fpga+cpu硬件架构的dpu受到芯片制程和fpga结构的限制，导致在追求更高吞吐能力时，难以做到对芯片面积和功耗的很好控制，从而制约了这种dpu架构的持续发展。
4.dpu soc网卡的发展和应用
dpu soc是基于asic的硬件架构，结合了asic和cpu的优势，兼顾了专用加速器的优异性能和通用处理器的可编程灵活性的单芯片dpu技术方案，是驱动云计算技术发展的重要因素。
如前一段所述，虽然dpu在云计算扮演着重要的作用，但传统的dpu方案多以fpga-based方案呈现，随着服务器从25g向下一代100g服务器迁移，其成本、功耗、功能等诸多方面受到了严重的挑战。单芯片的dpu soc不仅在成本、功耗方面有着巨大优势，同时也兼具高吞吐和高灵活编程能力，不仅支持虚拟机、容器的应用管理部署，也支持裸金属应用。
随着dpu技术的不断发展，通用可编程的dpu soc正在成为云厂商在数据中心建设中的关键部件。dpu soc可以实现对数据中心中的计算资源和网络资源的经济高效管理，具备丰富功能和可编程能力的dpusoc可以支持不同云计算场景和资源统一管理，优化数据中心计算资源利用率。
在dpu的设计、开发和使用中，国内外芯片巨头和头部云服务商都投入了大量的研发资源，经过不断探索和实践，取得了很好的成本收益。
1.dpu在aws(亚马逊云)中的应用
aws是全球领先的云计算服务和解决方案提供商，aws nitrodpu系统已经成为aws云服务的技术基石。aws借助nitro dpu系统把网络、存储、安全和监控等功能分解并转移到专用的硬件和软件上，将服务器上几乎所有资源都提供给服务实例，极大地降低了成本。nitro dpu在亚马逊云中的应用可以使一台服务器每年可以多获得几千美元的收益。nitro dpu系统主要分为以下几个部分。
(1)nitro卡。一系列用于网络、存储和管控的专用硬件，以提高整体系统性能。
(2)nitro安全芯片。将虚拟化和安全功能转移到专用的硬件和软件上，减少攻击面，实现安全的云平台。
(3)nitro控制卡。一种轻量型hypervisor管理程序，可以管理内存和cpu的分配，并提供与裸机无异的性能。
nitro dpu系统提供了密钥、网络、安全、服务器和监控等功能支持，释放了底层服务资源供客户的虚拟机使用，并且nitrodpu使aws可以提供更多的裸金属实例类型，甚至将特定实例的网络性能提升到100gbps。
2.nvidia dpu的应用
nvidia是一家以设计和销售图形处理器gpu为主的半导体公司，gpu产品在ai和高性能计算hpc领域被广泛应用。2020年4月，nvidia以69亿美元的价格收购了网络芯片和设备公司mellanox,随后陆续推出bluefield系列dpu。
nvidia bluefield-3dpu(如图7所示)延续了bluefield-2dpu的先进特性，是首款为ai和加速计算而设计的dpu。bluefield-3 dpu提供了最高400gbps网络连接，可以卸载、加速和隔离，支持软件定义网络、存储、安全和管控功能。
3.intel ipu的应用
intel ipu是一种具有硬化加速器和以太网连接的高级网络设备，可使用紧密耦合的专用可编程内核来加速和管理基础设施功能。ipu提供完整的基础设施卸载，并充当运行基础设施应用的主机控制点，以提供额外的安全层。使用intel ipu,可以将全部基础设施业务从服务器卸载到ipu上，释放服务器cpu资源，也为云服务提供商提供了一个独立且安全的控制点。
2021年，intel在intel architecture day上发布了oaksprings canyon和mount evans ipu产品。其中，oak springs canyon是基于fpga的ipu产品，mount evansipu是基于asic的ipu产品。
intel oak springs canyon ipu配备了intel agilex fpga和xeon-d cpu。intel mount evans ipu是intel与google共同设计的soc(system-on-a-chip)，mount evans主要分为i0子系统和计算子系统两个部分。网络部分用asic进行数据包处理，性能相比fpga高很多，且功耗更低。计算子系统使用了16个arm neoverse n1核心，拥有极强的计算能力。
4.dpu在阿里云中的应用
阿里云也在dpu的技术上不断进行着探索。2022年阿里云峰会上，阿里云正式发布了云基础设施处理器cipu，cipu的前身是基于神龙架构的moc卡(micro server on a card),从功能和定位符合dpu的定义。moc卡拥有独立的i0、存储和处理单元，承担了网络、存储和设备虚拟化的工作。第一代和第二代moc卡解决了狭义上的计算虚拟化零开销问题，网络和存储部分的虚拟化仍由软件实现。第三代moc卡实现了部分网络转发功能硬化，网络性能大幅提升。第四代moc卡实现了网络、存储全硬件卸载，还支持了rdma能力。
阿里云cipu作为一颗为飞天系统设计的数据中心处理器系统，对于阿里云构建新一代完整的软硬件云计算架构体系有着重大意义。
5.dpu在火山引擎中的应用
火山引擎同样在不断探索自研dpu的道路，其自研dpu采用软硬一体虚拟化技术，旨在为用户提供可弹性伸缩的高性能计算服务。在火山引擎弹性计算产品中，第二代弹性裸金属服务器和第三代云服务器都搭载了自研dpu,在产品能力和应用场景上进行了广泛验证。2022年正式对外商用的火山引擎第二代ebm实例首次搭载火山自研dpu，在整体性能上既保留了传统物理机的稳定性和安全性优势，能够实现安全物理隔离，又兼具虚拟机的弹性和灵活性优势，是新一代多优势兼具的高性能云服务器。2023年上半年发布的火山引擎第三代ecs实例同样结合了火山引擎自研最新dpu的架构和自研虚拟交换机、虚拟化技术，网络及存储io性能均实现了大幅提升。
性能强悍、体验出色，2k机皇iQOO Neo3价格公布，仅需2698
中国药科大学在教室试点安装人脸识别系统
MicroVac卡盘提高薄型高功率RF器件的良率和测试精度
最新2018光伏系统非典型性问题汇总
节省基站功耗的低压差(0V)稳压器
DPU技术发展及落地实战
【涨姿势】了解ESD标准在汽车电子设计中的重要性
图解路由器处理报文过程
共射极放大电路设计步骤
MAX+PLUSⅡ符号库特殊图元如何使用
抢占新兴市场大蛋糕,PCB概念股迎来风口
NodeMCU板上的基本MQTT协议用法
人工智能将成为城市治理的核心和大脑
e络盟扩大库存,可提供8万余种连接器及电缆产品
英特尔无线蓝牙设备无法启动代码10
AT89C52单片机的调频台控制设计
移动5G毫米波在哪个频段
Google Ads为外贸企业打造高效推广方式，助力跨境电商品牌出海
32位MCU专业的解决方案有哪些-新唐MCU想你所需！
数据中心可视化合集，解锁机房运维新境界
2.智能网卡(smartnic)。具备一定的数据平面硬件卸载能力，例如ovs/vrouter硬件卸载。硬件结构上以fpga或者是带有fpga和处理器内核的集成处理器(这里处理器功能较弱)来实现数据面硬件卸载。
3.fpga+cpu的dpu网卡(fpga-based dpu)。兼具智能网卡功能的同时，可以支持数据面和控制面的卸载以及一定的控制平面与数据平面的可编程能力。硬件结构的发展上，基于fpga增加了通用cpu处理器，例如inte1 cpu。
4.dpu soc网卡(single-chip dpu)。单芯片的通用可编程dpu芯片，具备丰富的硬件卸载加速和可编程能力，支持不同云计算场景和资源统一管理特性。硬件上，采用单芯片的soc形态，兼顾性能和功耗。fpga-based dpu在硬件设计上的挑战主要来自芯片面积和功耗。面积上，pcie接口的结构尺寸限定了板上的芯片面积；功耗上，板卡的散热设计与芯片和整板的功耗密切相关。这两个因素制约着fpga方案的持续发展。dpu soc方案吸取了从nic到fpga-based dpu的发展过程的软硬件经验和成果，是目前以dpu为中心的数据中心架构的重要演进路径。
dpu作为软件定义芯片的典型代表，基于“软件定义、硬件加速”的理念，是集数据处理为核心功能于芯片的通用处理器。dpu通用处理单元用来处理控制平面业务，专用处理单元保证了数据平面的处理性能，从而达到了性能与通用性的平衡。dpu专用处理单元用来解决通用基础设施虚拟化的性能瓶颈，通用处理单元则保证dpu的通用性，使得dpu能够广泛适用于云基础设施的各种场景中，实现虚拟化软件框架向dpu的平滑迁移。
nic的发展和应用
传统基础网卡nic,又称网络适配器，是构成计算机网络系统中最基本和最重要的连接设备，其主要工作是将需要传输的数据转换为网络设备能够识别的格式在网络技术发展的带动下，传统基础网卡的功能也更加丰富，已经初步具备了一些简单的硬件卸载能力(如crc校验、tso/uf0、lso/lr0、vlan等),支持sr-iov和流量管理qos,传统基础网卡的网络接口带宽也由原来的百兆、千兆发展到10g、25g乃至100g。
在云计算虚拟化网络中，传统基础网卡向虚拟机提供网络接入的方式主要分为以下3种。
(1)网卡接收流量经操作系统内核协议栈转发至虚拟机。
(2)由dpdk用户态驱动接管网卡，让数据包绕过操作系统内核协议栈直接拷贝到虚拟机内存。
(3)使用sr-iov技术，将物理网卡pf虚拟化成多个具有网卡功能的虚拟vf,再将vf直通到虚拟机中。
随着vxlan等隧道协议以及openflow、0vs等虚拟交换技术的应用，网络处理的复杂度在逐渐增大，需要消耗更多的cpu资源，因此智能网卡smartnic诞生了。
2.smartnic的发展和应用
智能网卡smartnic除了具备传统基础网卡的网络传输功能外，还提供丰富的硬件卸载加速能力，能够提升云计算网络的转发速率，释放主机cpu计算资源。
智能网卡smartnic上没有通用处理器cpu,需要主机cpu进行控制面管理。智能网卡smartnic主要卸载加速对象是数据平面，如虚拟交换机0vs/vrouter等数据面fastpath卸载、rdma网络卸载、nvme-of存储卸载以及ipsec/tls数据面安全卸载等。
但是随着云计算应用中网络速率的不断提高，主机仍会消耗大量宝贵的cpu资源对流量进行分类、跟踪和控制，如何实现主机cpu的“零消耗”成了云厂商下一步的研究方向。
3.fpga-based dpu网卡的发展和应用
相比智能网卡smartnic，fpga-based dpu网卡在硬件架构上增加了通用cpu处理单元，组合成fpga+cpu的架构形态，从而便于实现对网络、存储、安全和管控等通用基础设施的加速和卸载。
在这个阶段中，dpu的产品形态主要以fpga+cpu为主。基于fpga+cpu硬件架构的dpu具有良好的软硬件可编程性，在dpu发展初期大部分dpu厂商都选择了这个方案。该方案开发时间相对较短且迭代快速，能够迅速完成定制化功能开发，便于dpu厂商快速推出产品，抢占市场。但是随着网络带宽从25g向100g的迁移，基于fpga+cpu硬件架构的dpu受到芯片制程和fpga结构的限制，导致在追求更高吞吐能力时，难以做到对芯片面积和功耗的很好控制，从而制约了这种dpu架构的持续发展。
4.dpu soc网卡的发展和应用
dpu soc是基于asic的硬件架构，结合了asic和cpu的优势，兼顾了专用加速器的优异性能和通用处理器的可编程灵活性的单芯片dpu技术方案，是驱动云计算技术发展的重要因素。
如前一段所述，虽然dpu在云计算扮演着重要的作用，但传统的dpu方案多以fpga-based方案呈现，随着服务器从25g向下一代100g服务器迁移，其成本、功耗、功能等诸多方面受到了严重的挑战。单芯片的dpu soc不仅在成本、功耗方面有着巨大优势，同时也兼具高吞吐和高灵活编程能力，不仅支持虚拟机、容器的应用管理部署，也支持裸金属应用。
随着dpu技术的不断发展，通用可编程的dpu soc正在成为云厂商在数据中心建设中的关键部件。dpu soc可以实现对数据中心中的计算资源和网络资源的经济高效管理，具备丰富功能和可编程能力的dpusoc可以支持不同云计算场景和资源统一管理，优化数据中心计算资源利用率。
在dpu的设计、开发和使用中，国内外芯片巨头和头部云服务商都投入了大量的研发资源，经过不断探索和实践，取得了很好的成本收益。
1.dpu在aws(亚马逊云)中的应用
aws是全球领先的云计算服务和解决方案提供商，aws nitrodpu系统已经成为aws云服务的技术基石。aws借助nitro dpu系统把网络、存储、安全和监控等功能分解并转移到专用的硬件和软件上，将服务器上几乎所有资源都提供给服务实例，极大地降低了成本。nitro dpu在亚马逊云中的应用可以使一台服务器每年可以多获得几千美元的收益。nitro dpu系统主要分为以下几个部分。
(1)nitro卡。一系列用于网络、存储和管控的专用硬件，以提高整体系统性能。
(2)nitro安全芯片。将虚拟化和安全功能转移到专用的硬件和软件上，减少攻击面，实现安全的云平台。
(3)nitro控制卡。一种轻量型hypervisor管理程序，可以管理内存和cpu的分配，并提供与裸机无异的性能。
nitro dpu系统提供了密钥、网络、安全、服务器和监控等功能支持，释放了底层服务资源供客户的虚拟机使用，并且nitrodpu使aws可以提供更多的裸金属实例类型，甚至将特定实例的网络性能提升到100gbps。
2.nvidia dpu的应用
nvidia是一家以设计和销售图形处理器gpu为主的半导体公司，gpu产品在ai和高性能计算hpc领域被广泛应用。2020年4月，nvidia以69亿美元的价格收购了网络芯片和设备公司mellanox,随后陆续推出bluefield系列dpu。
nvidia bluefield-3dpu(如图7所示)延续了bluefield-2dpu的先进特性，是首款为ai和加速计算而设计的dpu。bluefield-3 dpu提供了最高400gbps网络连接，可以卸载、加速和隔离，支持软件定义网络、存储、安全和管控功能。
3.intel ipu的应用
intel ipu是一种具有硬化加速器和以太网连接的高级网络设备，可使用紧密耦合的专用可编程内核来加速和管理基础设施功能。ipu提供完整的基础设施卸载，并充当运行基础设施应用的主机控制点，以提供额外的安全层。使用intel ipu,可以将全部基础设施业务从服务器卸载到ipu上，释放服务器cpu资源，也为云服务提供商提供了一个独立且安全的控制点。
2021年，intel在intel architecture day上发布了oaksprings canyon和mount evans ipu产品。其中，oak springs canyon是基于fpga的ipu产品，mount evansipu是基于asic的ipu产品。
intel oak springs canyon ipu配备了intel agilex fpga和xeon-d cpu。intel mount evans ipu是intel与google共同设计的soc(system-on-a-chip)，mount evans主要分为i0子系统和计算子系统两个部分。网络部分用asic进行数据包处理，性能相比fpga高很多，且功耗更低。计算子系统使用了16个arm neoverse n1核心，拥有极强的计算能力。
4.dpu在阿里云中的应用
阿里云也在dpu的技术上不断进行着探索。2022年阿里云峰会上，阿里云正式发布了云基础设施处理器cipu，cipu的前身是基于神龙架构的moc卡(micro server on a card),从功能和定位符合dpu的定义。moc卡拥有独立的i0、存储和处理单元，承担了网络、存储和设备虚拟化的工作。第一代和第二代moc卡解决了狭义上的计算虚拟化零开销问题，网络和存储部分的虚拟化仍由软件实现。第三代moc卡实现了部分网络转发功能硬化，网络性能大幅提升。第四代moc卡实现了网络、存储全硬件卸载，还支持了rdma能力。
阿里云cipu作为一颗为飞天系统设计的数据中心处理器系统，对于阿里云构建新一代完整的软硬件云计算架构体系有着重大意义。
5.dpu在火山引擎中的应用
火山引擎同样在不断探索自研dpu的道路，其自研dpu采用软硬一体虚拟化技术，旨在为用户提供可弹性伸缩的高性能计算服务。在火山引擎弹性计算产品中，第二代弹性裸金属服务器和第三代云服务器都搭载了自研dpu,在产品能力和应用场景上进行了广泛验证。2022年正式对外商用的火山引擎第二代ebm实例首次搭载火山自研dpu，在整体性能上既保留了传统物理机的稳定性和安全性优势，能够实现安全物理隔离，又兼具虚拟机的弹性和灵活性优势，是新一代多优势兼具的高性能云服务器。2023年上半年发布的火山引擎第三代ecs实例同样结合了火山引擎自研最新dpu的架构和自研虚拟交换机、虚拟化技术，网络及存储io性能均实现了大幅提升。
性能强悍、体验出色，2k机皇iQOO Neo3价格公布，仅需2698
中国药科大学在教室试点安装人脸识别系统
MicroVac卡盘提高薄型高功率RF器件的良率和测试精度
最新2018光伏系统非典型性问题汇总
节省基站功耗的低压差(0V)稳压器
DPU技术发展及落地实战
【涨姿势】了解ESD标准在汽车电子设计中的重要性
图解路由器处理报文过程
共射极放大电路设计步骤
MAX+PLUSⅡ符号库特殊图元如何使用
抢占新兴市场大蛋糕,PCB概念股迎来风口
NodeMCU板上的基本MQTT协议用法
人工智能将成为城市治理的核心和大脑
e络盟扩大库存,可提供8万余种连接器及电缆产品
英特尔无线蓝牙设备无法启动代码10
AT89C52单片机的调频台控制设计
移动5G毫米波在哪个频段
Google Ads为外贸企业打造高效推广方式，助力跨境电商品牌出海
32位MCU专业的解决方案有哪些-新唐MCU想你所需！
数据中心可视化合集，解锁机房运维新境界