异构+Chiplet—通往数据中心的能效之路
随着以大模型为代表的aigc迅速崛起，数据到算力需求的持续暴涨，为数据中心带来了巨大的考验。为填补算力鸿沟，下一代数据中心必须要具备更高的算力密度、更大的网络规模，并能够灵活地部署和更新海量新应用。
在这一轮新的技术方向中，异构计算架构和chiplet技术因能有效提升复杂场景计算效率，算力密度和网络规模，被普遍视为通往数据中心未来的能效之路。
aigc或将撕开数据中心算力缺口
在ai大模型飞速发展之下，单个大语言训练驱动ai训练服务器需求约2亿美元，ai推理服务器方面，如chatgpt在初期便可带动推理服务器需求约45亿美元。
据中国信通院，2021年国内idc市场规模1500.2亿元，同比增长28.5%。据信通院预计，随着我国各地区、各行业数字化转型深入推进、ai训练需求持续增长、智能终端实时计算需求增长，2022年国内市场规模将达1900.7亿元，同增26.7%。
算力作为大模型的核心引擎，计算方式简单粗暴，即实际拥有多少的gpu芯片，将直接决定其算力的大小。以chatgpt为例，其模型计算主要基于微软的azure云服务进行，本质上是借助微软自有的idc资源，在云端完成计算过程后，再将结果返回给openai。
aigc所需的算力不是固定的，而是逐次递增的。数据中心是承接ai计算需求的直接形式，其算力需求为aigc的能力所驱动，也就是aigc越聪明，其背后所需要的算力就越多，而供需双方存在的现实差距，则让数据中心的算力缺口变得愈加严重。
互联网厂商布局chatgpt同类产品，或将加大核心城市idc算力供给缺口。艾瑞咨询数据显示，2021年国内idc行业下游客户占比中，互联网厂商居首位，占比为60%，国内核心城市idc算力供给缺口或将加大。
aigc时代，智能算力崛起
随着人工智能进入新的发展周期，以及大模型的兴起，传统的芯片需求结构发生了变化。尽管总体算力仍在增长，但通用计算力由cpu主导的比例正在下降，而智能计算力由gpu主导的比例逐渐增加。
目前，gpu在ai芯片市场的占比约为90%。根据vmr的数据，2021年全球gpu行业市场规模为334.7亿美元，随着大型模型训练的成熟，预计到2030年将达到4773.7亿美元，年均增长率为34.35%。
新华三集团副总裁、计算存储产品线总裁徐润安在接受媒体采访时表示，智能算力占比变大原因在于，x86架构cpu单核性能强、通用性好。但ai场景需要多核、高并发、高带宽芯片。综合考虑成本、效率，gpu、dpu、npu通常表现更好。cpu部分职能被其他专用芯片分担。在他看来，大模型会带来巨大的智能算力消耗。
chiplet：破局数据中心未来
近20年中，单一的制程微缩已被证明无法赶上对性能需求的步伐。尤其是在数据中心，情况远比客户端产品更为复杂，一个非常典型的情况是多个客户端在同一产品上运行工作负载，如多核cpu或gpu。于是，人们开始将未来依托在将计算单元、内存等和其他模块成在同一封装上的chiplet异构集成路线之上。
chiplet架构对于服务器处理器而言意义非凡，大大降低了处理器的开发门槛和成本，起到了巨大的推动作用。正如amd开创性的chiplet产品所证明的那样，转向chiplet技术可以显著改善数据中心的计算成本，并提高互连效率。迄今，全球主流服务器芯片厂商都开始将chiplet纳入自身产品的主要路径之一。
就此，英特尔 io 技术解决方案团队战略家kurt lender 总结了 chiplet 技术的影响“有合理的预期，未来 10 年的 hpc 采购将利用 chiplet 技术更好地支持他们的科学工作负载。” amd 的 ceo lisa su也表现出了同样的期待，当被问及她是否认为未来 10 年的 hpc 采购指定定制chiplet设计的计算芯片而不是现成的商品时，她回答“是”。
kurt lender 表示，创建基于 ucie 的chiplet 设计在成本方面具有显著的优势，“有各种纵向扩展和横向扩展的成本优势，包括由于与单片硅设计相比占地面积更小而导致chiplet的高良率而节省的成本，以及能够指定可以利用 hpc 冷却功能的高密度、高功率封装。在其最完整的表达中，基于chiplet 的架构使设计人员能够将来自多个供应商的 ip 和不同职称工艺技术的芯粒快速集成到一个封装中。”
关于随着以大模型为代表的人工智能大规模计算的迅速崛起，数据中心的算力难题不断加剧。而异构和chiplet会将数据中心的未来引向何处，还让我们拭目以待。
DMM7510触摸屏万用表的功能特点及应用范围
杭州已成浙江首批取消长达60年计划停电的行政区，
鼎阳科技盛装亮相慕尼黑电子展 中国制造走向世界
十年漫漫长路,二手奢侈品电商还是难成气候
MiniLED概念爆发，什么是MiniLED技术
异构+Chiplet—通往数据中心的能效之路
高功率驱动IC助LED系统照明跃上新台阶
电阻器在电源设计中的其它用途
NB-IOT在各行业的应用
精彩回顾 意瑞亮相2022慕尼黑华南电子展
Microchip新推出一系列SiC功率器件 具有良好耐用性以及宽带隙技术优势
智能手机企业迎战缺“芯”涨价潮
i9-9900T与i7-9750H性能相当？
柔性直流输电技术可应用范围
基于交流市电输入的LED街灯解决方案
拓维信息赋能云考试
Oculus Quest版《SUPERHOT VR》首日销售额较Rift版增加300%
Adafruit Feather 32u4的基本原型
华为出资7亿元入股山东天岳先进材料科技有限公司 持股比例达10%
运营商携号转网工作错综复杂实施携号转网并非易事
在这一轮新的技术方向中，异构计算架构和chiplet技术因能有效提升复杂场景计算效率，算力密度和网络规模，被普遍视为通往数据中心未来的能效之路。
aigc或将撕开数据中心算力缺口
在ai大模型飞速发展之下，单个大语言训练驱动ai训练服务器需求约2亿美元，ai推理服务器方面，如chatgpt在初期便可带动推理服务器需求约45亿美元。
据中国信通院，2021年国内idc市场规模1500.2亿元，同比增长28.5%。据信通院预计，随着我国各地区、各行业数字化转型深入推进、ai训练需求持续增长、智能终端实时计算需求增长，2022年国内市场规模将达1900.7亿元，同增26.7%。
算力作为大模型的核心引擎，计算方式简单粗暴，即实际拥有多少的gpu芯片，将直接决定其算力的大小。以chatgpt为例，其模型计算主要基于微软的azure云服务进行，本质上是借助微软自有的idc资源，在云端完成计算过程后，再将结果返回给openai。
aigc所需的算力不是固定的，而是逐次递增的。数据中心是承接ai计算需求的直接形式，其算力需求为aigc的能力所驱动，也就是aigc越聪明，其背后所需要的算力就越多，而供需双方存在的现实差距，则让数据中心的算力缺口变得愈加严重。
互联网厂商布局chatgpt同类产品，或将加大核心城市idc算力供给缺口。艾瑞咨询数据显示，2021年国内idc行业下游客户占比中，互联网厂商居首位，占比为60%，国内核心城市idc算力供给缺口或将加大。
aigc时代，智能算力崛起
随着人工智能进入新的发展周期，以及大模型的兴起，传统的芯片需求结构发生了变化。尽管总体算力仍在增长，但通用计算力由cpu主导的比例正在下降，而智能计算力由gpu主导的比例逐渐增加。
目前，gpu在ai芯片市场的占比约为90%。根据vmr的数据，2021年全球gpu行业市场规模为334.7亿美元，随着大型模型训练的成熟，预计到2030年将达到4773.7亿美元，年均增长率为34.35%。
新华三集团副总裁、计算存储产品线总裁徐润安在接受媒体采访时表示，智能算力占比变大原因在于，x86架构cpu单核性能强、通用性好。但ai场景需要多核、高并发、高带宽芯片。综合考虑成本、效率，gpu、dpu、npu通常表现更好。cpu部分职能被其他专用芯片分担。在他看来，大模型会带来巨大的智能算力消耗。
chiplet：破局数据中心未来
近20年中，单一的制程微缩已被证明无法赶上对性能需求的步伐。尤其是在数据中心，情况远比客户端产品更为复杂，一个非常典型的情况是多个客户端在同一产品上运行工作负载，如多核cpu或gpu。于是，人们开始将未来依托在将计算单元、内存等和其他模块成在同一封装上的chiplet异构集成路线之上。
chiplet架构对于服务器处理器而言意义非凡，大大降低了处理器的开发门槛和成本，起到了巨大的推动作用。正如amd开创性的chiplet产品所证明的那样，转向chiplet技术可以显著改善数据中心的计算成本，并提高互连效率。迄今，全球主流服务器芯片厂商都开始将chiplet纳入自身产品的主要路径之一。
就此，英特尔 io 技术解决方案团队战略家kurt lender 总结了 chiplet 技术的影响“有合理的预期，未来 10 年的 hpc 采购将利用 chiplet 技术更好地支持他们的科学工作负载。” amd 的 ceo lisa su也表现出了同样的期待，当被问及她是否认为未来 10 年的 hpc 采购指定定制chiplet设计的计算芯片而不是现成的商品时，她回答“是”。
kurt lender 表示，创建基于 ucie 的chiplet 设计在成本方面具有显著的优势，“有各种纵向扩展和横向扩展的成本优势，包括由于与单片硅设计相比占地面积更小而导致chiplet的高良率而节省的成本，以及能够指定可以利用 hpc 冷却功能的高密度、高功率封装。在其最完整的表达中，基于chiplet 的架构使设计人员能够将来自多个供应商的 ip 和不同职称工艺技术的芯粒快速集成到一个封装中。”
关于随着以大模型为代表的人工智能大规模计算的迅速崛起，数据中心的算力难题不断加剧。而异构和chiplet会将数据中心的未来引向何处，还让我们拭目以待。
DMM7510触摸屏万用表的功能特点及应用范围
杭州已成浙江首批取消长达60年计划停电的行政区，
鼎阳科技盛装亮相慕尼黑电子展 中国制造走向世界
十年漫漫长路,二手奢侈品电商还是难成气候
MiniLED概念爆发，什么是MiniLED技术
异构+Chiplet—通往数据中心的能效之路
高功率驱动IC助LED系统照明跃上新台阶
电阻器在电源设计中的其它用途
NB-IOT在各行业的应用
精彩回顾 意瑞亮相2022慕尼黑华南电子展
Microchip新推出一系列SiC功率器件 具有良好耐用性以及宽带隙技术优势
智能手机企业迎战缺“芯”涨价潮
i9-9900T与i7-9750H性能相当？
柔性直流输电技术可应用范围
基于交流市电输入的LED街灯解决方案
拓维信息赋能云考试
Oculus Quest版《SUPERHOT VR》首日销售额较Rift版增加300%
Adafruit Feather 32u4的基本原型
华为出资7亿元入股山东天岳先进材料科技有限公司 持股比例达10%
运营商携号转网工作错综复杂实施携号转网并非易事