ChatGPT爆火带动云基建,以太网芯片/光模块闷声发大财?

近日,裕太微董秘和投资者在投资者关系平台上的对话引起了关注。其中,有投资者在提出问题:“chatgpt对算力需求几何式增长,博通预计以太网今年需求有多倍增长,公司如何看待?”对于这个问题,裕太微董秘并没有正面回答,不过以太网芯片在ai新阶段的重要作用还是得到了大家的认可。
博通ceo陈福阳此前表示:“用于人工智能应用的以太网设备销售额可能从去年的2亿美元上升到今年的超过8亿美元,因为大型云计算公司在日益采用chatgpt等文本生成工具的情况下需要这些设备。”并且,他在该公司业绩说明会上还指出,已经遇到云计算客户急于向该公司购买产品的情况。
在大家都关注算力芯片的情况下,作为ai模型架构中的重要一环,以以太网交换芯片为代表的网络传输芯片在闷声发大财。
ai大模型带来巨大的网络需求
当前,在讨论chatgpt等大模型时,更多是谈论算力芯片,当然基本就是英伟达的通用算力gpu。不过,大模型真的要落地到应用端,那么就需要把训练完的模型部署到数据中心里面或者算力中心里面,并连接至网络给用户使用。当然,并不是说ai大模型训练不需要网络设施,实际上其也需要网络基座,用以连接各个gpu算力集群。
根据此前的报道,面向ai大模型训练需求,腾讯推出了业界领先的超算网络架构——星脉。这是一种追求极致网络性能的网络架构,构建了1.6t eth rdma网络,实现了ai大模型通信性能的10倍提升,gpu利用率40%提升,通信时延降低40%,单集群规模达到2k(最大规模32k),基于全自研网络硬件平台网络建设成本降低30%,模型训练成本节省30%~60%。
中金公司在相关研报中指出,ai大模型训练采用的分布式算力是以“多机多卡”形式部署的,多gpu并行计算使得服务器节点增加,涉及到海量数据在gpu之间、gpu与cpu等单元间的传输,因此带来了巨大的网络通信挑战。
根据superpod的公开信息,一个标准的superpod由140台dgx a100 gpu服务器、hdr infiniband 200g网卡和170台nvidia quantum qm8790交换机构建而成,其中交换机速率为200g,每个端口数为40个。
因此,ai大模型无论是训练还是部署也会带来巨大的光模块需求,在superpod中,服务器和光模块的用量比大概会是1:11.4。并且,从superpod的部署也能够看出,后续大算力中心和顶级数据中心的网络规格会是100g以上的端口速率,当前200g是主流方案。从2023年开始预计400g将逐渐成为主流,800g交换机可能会陆续得到商用机会。
在市场规模上,mrfr(market research future)报告指出,到2030年全球以太网交换机市场将达到68亿美元,2022年-2030年期间的年复合增长率为6.30%。从器件角度来看,两种器件的重要性显著提升,一个是更大吞吐量的网络芯片,一个是更高速率的光模块。
首先看以太网交换芯片——指在以太网交换机中用于交换处理大量数据及报文转发的专用芯片,相当于交换机处理网络传输的asic。由于ai大模型在训练和部署时对交换机需求提升,因此交换芯片的用量也将增加,这也是博通预计业绩倍增的原因所在。
然后看光模块——被认为是ai算力设施中核心的网络设备。目前,以太网交换机主要采用带光模块的光纤连接网络,其中每根光纤会用到两个光模块,而一台交换机上会有数十个网络接口,因此需求量是非常惊人的。
国产厂商的竞争力
借助chatgpt带动的ai大模型爆发,博通在以太网交换芯片方面的营收将翻倍,这主要归功于该公司在这一领域持续的投入和技术积累,该公司一直以来都在关注数据中心和算力中心的网络传输。当然,大家肯定也清楚,网络通信芯片是博通的强势项目。
在chatgpt爆发之前,博通就在meta的数据中心提供了极具竞争力的以太网交换芯片——tomahawk4,产品阵营包括tomahawk4-50g、tomahawk4-100g 和 tomahawk4-12.8t,能够帮助交换机适配200g、400g和800g光纤。
根据共研产业咨询的研报,在中国商用以太网交换市场,博通的市占比高达61.7%,排名市场首位;美满电子和瑞昱则分别以20%和16.1%排名二三位;其他厂商的合计份额不足3%。因此,在以太网交换芯片方面,目前国产厂商的市占比还较低。
在国产以太网交换芯片方面,华为和中兴等企业走自研的路线。在商用市场,盛科和裕太微电子是为数不多的可选项,其中盛科在国内的市占比大概在1.6%。
盛科于2019年推出以太网交换芯片tsingma系列,具备440gbps 交换容量,可支持100g网络端口;2021 年又推出了以太网交换芯片tsingma.mx 系列,达到2.4tbps 交换容量,可支持400g网络端口。
裕太微目前产品包括以太网车载芯片、以太网交换芯片、以太网网卡芯片等,不过该公司距离入局核心市场还有一段距离。根据该公司此前在投资者平台透露的信息,目前10g速率尚处于技术预研阶段。
和以太网交换芯片不同,国产厂商在光模块方面具有很强的竞争力。其中,中际旭创是全球光模块的龙头企业,2021年市占比为全球第二,份额为10%,该公司在400g和200g产品份额领先,在800g方面有很强的技术优势。meta、谷歌和亚马逊等公司都是中际旭创的客户。
此外,在光模块方面,国产厂商还有天孚通信、新易盛、源杰科技、华工科技、联特科技、光迅科技、兆龙互连、仕佳光子等公司。目前,国产光模块公司合计市占比接近30%,有很强的竞争力。
后记
对于ai大模型而言,算力的重要性肯定是第一位的。不过,在算力背后并非只是计算芯片在做贡献,网络传输也非常重要。随着超算中心gpu集群规模逐渐扩大,高效传输的重要性也会逐渐提升,在以太网交换芯片和光模块等方面带来巨大的需求。目前,以太网交换芯片还是***的短板,和博通存在明显的技术代差。不过,从产业应用来看,并不构成卡脖子,但在800g上我们需要尽快突破。

无人驾驶汽车的代价,消费者将完全丧失隐私
科隆新能源注重研发投入,紧抓行业发展机遇
Linux是什么以及它来自何处
电子细分市场的电源适配器有望实现标准化
索尼新机亮相,4K带鱼屏+双6400万+联发科天玑1000
ChatGPT爆火带动云基建,以太网芯片/光模块闷声发大财?
如何推动行业从“AI 产品训练”到“AI 产品落地”?
常用的电气仪表动态原理图合集免费下载
10×10便携式蓝牙音箱的制作教程
工程师开发出新技术,为计算机芯片的集成添动力
浅谈计算机主频对无线电监测系统的影响
福特计划从2023年开始让新车搭载安卓操作系统
一种智能锂电池监测系统设计
安超云荣获可信云2022-2023年度技术最佳实践奖!
入门级全画幅相机选什么好?三款入门级全画幅相机推荐
新手做跨境电商独立站?轻量云服务器让你不迷茫
一加8系列或定档2020年第二季度 后置三摄回归竖形排列
关于NB-IOT无线技术的介绍
Maxim MAXQ3183电能测量前端方案
一文看懂RFID RC522和PN532的区别