大模型AI算力剧增，谁来扛国产GPU大旗？
在ai算力、算法和数据人工智能行业三要素中，ai算力更是重中之重，业界厂商通过对各类ai硬件不断迭代为算力狂飙的需求提供强有力保障。自chatgptai、gpt-4模型发布火爆出圈后，在引发了普罗大众对ai大模型热情的同时，也引燃了ai算力的战火。全球科技巨头纷纷发布ai大模型、ai训练卡产品都是入场者争夺ai制高点的战争缩影。
1、ai异构计算三分天下，gpu表现异常亮眼
众所周知，人工智能（尤其是大模型新兴应用领域）对ai算力需求超过了通用cpu的摩尔定律的发展速度，而异构计算的性能增长恰恰能够满足这些新兴领域的算力需求发展方向和趋势。异构计算领域，目前呈现出gpu、fpga、asic芯片三分天下的局面，gpu、fpga、asic芯片都会有自己独特的技术特长和应用领域，有自己独特的客户群体。
asic芯片可以获得最优性能，即面积利用率高、速度快、功耗低；但aisc开发风险极大，算法是固定，而且从研发到市场的时间周期很长，不适合例如深度学习快速迭代的领域。大多是具备ai算法又擅长芯片研发的巨头参与，如 google 的tpu。 fpga称为现场可编程门阵列，用户可以根据自身的需求进行重复编程，相比之下，具有可硬件编程的特点，灵活性好；但基本单元的计算能力有限，速度和功耗存在不足。fpga 在工业互联网领域、工业机器人设备领域应用前景十分巨大。 gpu具备高效的并行性、高密集的运算、超长流水线，以及成熟生态，最先被引入深度学习；gpu针对不同应用领域的需求，增加了专用向量、张量、矩阵运算指令，提升浮点运算精度和性能，以满足天气预报、工业设计、基因工程、药物发现、金融工程、自动驾驶等不同计算场景的需求。 综合考虑性能、能效比和编程灵活性等因素，gpu明显优于asic、fpga等芯片，并成为目前ai加速服务器的最主流选择。 目前，英伟达和amd是目前全球gpu的领军企业，两家合计获取了全球gpu绝大部分市场份额。国内海光信息、寒武纪等公司的gpu产品已经实现规模化销售。 全球来看，英伟达的h100及a100、amd的mi100及mi200等均为主流的gpgpu产品型号。据idc数据显示，2021年gpu服务器份额占国内ai加速服务器市场的88.4%，2021-2025年间年复合增速为19.1%。据jon peddie research数据显示2022q1英伟达占据79%市场份额，amd占据21%。英伟达在独立gpu领域一枝独秀。
在中国市场上，根据idc数据，2021年英伟达占国内ai加速卡80%以上市场份额，2015-2021年间年复合增速高达77.4%，处于市场领先地位。
2、英伟达中国版gpu限制及可供应性风险
无论在hpc高性能计算，科学研发领域，还是人工智能大模型场景，尤其是对算力要求的比较高training（训练）环节，amd的mi 100、mi 200以及nvidia的a100，h100都是gpu领域的超强算力芯片，极其普遍的应用在ai服务器中实现加速计算，提供计算精度，减少训练周期。 nvidia a100、h100等加速计算卡的需求过于火爆，即便在台积电增加了大量的订单，紧急提升产能，依然无法满足。但在中国市场上，由于美国的禁令，nvidia基于中市场策略定制了特供版a800、h800。那么，中国特供版a800和h800与a100和h100的具体差距？ 主要差距是互联后整体集群带宽的下降。a800的互联带宽从a100的600gb/s下降到400gb/s，h800的互联带宽从h100的900gb/s下降到450gb/s。本身单卡的算力不变，但是集群卡间互联的带宽限制整个集群的算力规模，从而限制了集群性能，相当于限制了ai模型训练精度以及中国ai技术发展。
即便如此，nvidia特供版a800、h800发布也是异常抢手，在国内大型互联网企业在采购潮的推动下，涨价幅度已经超过40％。在如此大模型高算力市场需求下，依靠国外gpu技术发展ai技术本身就是伪命题，如同沙滩筑高楼；同时，在可供应性和技术演进上成了极大风险。
3、国内gpu厂商概述及国产化应对策略
美国对中国gpu等芯片的“卡脖子”制裁也给国内产品替代英伟达带来非常大的机会。国产ai芯片厂商持续发力，对标行业龙头已缩小差距。在ai加速和高性能计算领域，国内主要有gpgpu和npu两条技术路径；gpgpu技术沉淀深、生态兼容广，npu发展迅速，但算力供给单一性和生态壁垒比较难打破，两条路径都得到相应厂商的支持和发展，在特定领域性能都达到业界一流水平。
相较而言，gpgpu路线更加符合ai算力发展需求，更具潜力。gpgpu也叫做通用gpu，优势在于具备大规模并行计算的能力，可快速开发高能效的应用程序，在产品性能、通用性、易用性等方面优势明显，全球9成以上商用ai系统的选择gpgpu架构芯片，在训练负载方面更是如此。而且，当前ai应用基本全都建立在gpgpu架构的软件开发平台上，生态体系更加完善，好用，易用。ai技术发展日新月异，ai软件开发者通过在gpgpu平台开发，能够更好的提高生产力。
asic架构，优势在于根据产品的需求，进行特定设计和制造的集成电路，因此计算速度快，能耗更低。它的出现存在一个理论前提，即算法发展相对成熟，已发现最优算法，通过将软件固化到硬件执行，以实现最优效率。由于当前ai算法、模型快速迭代发展，asic架构需要投入大量的资金，以及经历较长的研发和工程周期，容易出现量产即落后的局面。另外，国际上还有基于fpga架构开发ai芯片，虽然可根据自身需求进行重复编程，但缺点在于频率较低，单元计算能力有限，价格昂贵。而且，基于fpga的ai应用开发，需要软件工程师同时具备软件、硬件能力，开发难度较大；并且目前fpga被国外巨头垄断，因此很少有fpga架构的国产ai芯片。
相对于asic与fpga而言，国内对gpgpu芯片其实需求更为迫切。大模型预训练面临着计算资源需求、数据集规模、训练时间和效率、参数调优和模型调整、以及泛化能力和适应性等多个难题。应对这些难题需要综合考虑硬件资源、数据管理、算法设计等多方面因素。因此，算力领先、软件完善的 gpgpu成为先进大模型的首选算力来源。而且，随着ai应用向多模态进一步发展，通用性更优的gpgpu可以更好的支持这类应用发展
另外，国内对gpgpu芯片的需求不止于芯片可提供多少算力，是否能满足应用场景所需的计算精度也同样重要。原因在于，ai应用视场景不同，需要算力精度不同。例如aicg领域对图像和语音的处理，用32位、16位计算精度即可；而部分科学计算，则需要用到fp64双精度浮点运算，才可保证模型训练和预测结果的准确性。总而言之，ai算力的全面发展，需要全精度、通用性强的gpgpu芯片支撑。
当前，国内ai芯片厂商数量约在6000+家，其中主流厂商数量约60余家，主要分为三个梯队，第一梯队包括海光、华为、寒武纪等。划分原因在于，第一梯队厂商有成熟产品，且已有商业化量产规模的应用。
海光：dcu产品深算系列，兼容通用的“类 cuda”环境以及国际主流商业计算软件和人工智能软件，对标主流 nvidia a100 产品，海光 dcu 单芯片产品基本能达到与其相近的性能水平。并且，海光dcu深算一号，国内唯一能支持全部算力精度，可以满足需要更高精度的数学计算的需要。gpgpu架构，让其通用性更强，海光dcu产品在ai计算、大数据处理、商业计算等领域发挥着重要作用。
华为昇腾：产品包括昇腾310、910，自研达芬奇架构实现较低功耗和较好散热，可在华为庞大的ai软件工程师支持下，通过运行华为的全栈软硬件平台，并且深度适配、迁移和优化，可以应用于云边端全场景覆盖，目前已形成较为完善的生态。
寒武纪：产品主要由云端芯片与边缘芯片等组成，产品体系丰富，适配ai应用及各类算法,产品的能效较好，并掌握了智能芯片架构、编译器、工具链等核心技术。但因为aisc架构芯片的天然劣势，使得寒武纪产品在实际应用中需要大量资金、人才投入，落地部署困难重重，实际应用限制多多。
第二梯队包括，燧原、昆仑芯、天数、壁仞、沐曦等近几年成立的初创企业。这几家厂商虽然发布了产品，但由于ai芯片产品化、复杂度等原因，在实际应用中进展有限，或开始在某些领域局部试水，或者还在努力建设软件生态，集群部署方案等。
第三梯队包括龙芯、景嘉微等，这两家厂商有意向进军ai计算领域，但尚无ai芯片量产。龙芯作为国产cpu领域的主流厂商，5月份宣布集成龙芯自研gpgpu的第一款ai计算芯片，预计将于 2024 年一季度流片。而景嘉微作为国内最早投入gpu研发的厂商之一，近期也宣布募资42亿元投入高性能gpgpu芯片研发及产业化项目。这两家厂商作为国内计算芯片代表厂商，如今在布局ai计算芯片研发，终于迈出了第一步。
4、总结
ai大模型催生gpu市场需求剧增，在严峻的国际形势下，gpu的国产替代进程刻不容缓，海光信息深算一号已基本具备英伟达高端 gpu的技术能力，在紧张的局势背景下，未来有望推动高端gpu国产替代进程。
在特定ai应用领域（尤其是gpu图形计算和ai推理领域），国内gpu厂商从技术到生态都具备一定积累，随着产品不断迭代更新，以及在ai训练领域持续发力，未来在争夺ai制高点的战争中发光发热，从而缓解“卡脖子”问题和供应风险。
告别传统,4G家用路由器重塑家庭网络新格局！
敏捷验证推动芯片的全流程敏捷开发真正实现
瑞萨推出功率半导体器件——RJK0222DNS和RJK022
如何使用Arduino制作FM接收器
魅族Pro7、魅族MX7最新消息汇总：魅族Pro7令人失望，魅族MX7全面屏来救场
大模型AI算力剧增，谁来扛国产GPU大旗？
世强总裁肖庆先生受邀亮相 “非凡雇主”巡演
腾讯车联携手广汽新能源推出广汽传祺GE3 530，促进行业发展
总投资11.5亿元，锐杰微SiP芯片研制及高端封测生产基地落成
一加6手机最新消息:曲面屏+骁龙845 四枚摄像头
Acrel-2000E/B配电室综合监控系统在经开某街道南一所中的应用
优秀Android软件工程师的定义
艾拉比总裁芮亚楠：在5G时代 ，OTA一定是物联网和车联网的标配
惠普、亚马逊涉案 美国ITC正式对电子设备启动337调查
台积电只要再涨5元，总市值便能超越英特尔
人工智能风险不得不去思考一下
模数转换器ADS7844的结构、工作原理及应用分析
基于Fusion系列FPGA器件实现水温测控系统的设计
互联网已经耳熟能详，那么物联网到底是啥呢
PFM控制升压DC-DC变换器XT1864概述、用途及特点
1、ai异构计算三分天下，gpu表现异常亮眼
众所周知，人工智能（尤其是大模型新兴应用领域）对ai算力需求超过了通用cpu的摩尔定律的发展速度，而异构计算的性能增长恰恰能够满足这些新兴领域的算力需求发展方向和趋势。异构计算领域，目前呈现出gpu、fpga、asic芯片三分天下的局面，gpu、fpga、asic芯片都会有自己独特的技术特长和应用领域，有自己独特的客户群体。
asic芯片可以获得最优性能，即面积利用率高、速度快、功耗低；但aisc开发风险极大，算法是固定，而且从研发到市场的时间周期很长，不适合例如深度学习快速迭代的领域。大多是具备ai算法又擅长芯片研发的巨头参与，如 google 的tpu。 fpga称为现场可编程门阵列，用户可以根据自身的需求进行重复编程，相比之下，具有可硬件编程的特点，灵活性好；但基本单元的计算能力有限，速度和功耗存在不足。fpga 在工业互联网领域、工业机器人设备领域应用前景十分巨大。 gpu具备高效的并行性、高密集的运算、超长流水线，以及成熟生态，最先被引入深度学习；gpu针对不同应用领域的需求，增加了专用向量、张量、矩阵运算指令，提升浮点运算精度和性能，以满足天气预报、工业设计、基因工程、药物发现、金融工程、自动驾驶等不同计算场景的需求。 综合考虑性能、能效比和编程灵活性等因素，gpu明显优于asic、fpga等芯片，并成为目前ai加速服务器的最主流选择。 目前，英伟达和amd是目前全球gpu的领军企业，两家合计获取了全球gpu绝大部分市场份额。国内海光信息、寒武纪等公司的gpu产品已经实现规模化销售。 全球来看，英伟达的h100及a100、amd的mi100及mi200等均为主流的gpgpu产品型号。据idc数据显示，2021年gpu服务器份额占国内ai加速服务器市场的88.4%，2021-2025年间年复合增速为19.1%。据jon peddie research数据显示2022q1英伟达占据79%市场份额，amd占据21%。英伟达在独立gpu领域一枝独秀。
在中国市场上，根据idc数据，2021年英伟达占国内ai加速卡80%以上市场份额，2015-2021年间年复合增速高达77.4%，处于市场领先地位。
2、英伟达中国版gpu限制及可供应性风险
无论在hpc高性能计算，科学研发领域，还是人工智能大模型场景，尤其是对算力要求的比较高training（训练）环节，amd的mi 100、mi 200以及nvidia的a100，h100都是gpu领域的超强算力芯片，极其普遍的应用在ai服务器中实现加速计算，提供计算精度，减少训练周期。 nvidia a100、h100等加速计算卡的需求过于火爆，即便在台积电增加了大量的订单，紧急提升产能，依然无法满足。但在中国市场上，由于美国的禁令，nvidia基于中市场策略定制了特供版a800、h800。那么，中国特供版a800和h800与a100和h100的具体差距？ 主要差距是互联后整体集群带宽的下降。a800的互联带宽从a100的600gb/s下降到400gb/s，h800的互联带宽从h100的900gb/s下降到450gb/s。本身单卡的算力不变，但是集群卡间互联的带宽限制整个集群的算力规模，从而限制了集群性能，相当于限制了ai模型训练精度以及中国ai技术发展。
即便如此，nvidia特供版a800、h800发布也是异常抢手，在国内大型互联网企业在采购潮的推动下，涨价幅度已经超过40％。在如此大模型高算力市场需求下，依靠国外gpu技术发展ai技术本身就是伪命题，如同沙滩筑高楼；同时，在可供应性和技术演进上成了极大风险。
3、国内gpu厂商概述及国产化应对策略
美国对中国gpu等芯片的“卡脖子”制裁也给国内产品替代英伟达带来非常大的机会。国产ai芯片厂商持续发力，对标行业龙头已缩小差距。在ai加速和高性能计算领域，国内主要有gpgpu和npu两条技术路径；gpgpu技术沉淀深、生态兼容广，npu发展迅速，但算力供给单一性和生态壁垒比较难打破，两条路径都得到相应厂商的支持和发展，在特定领域性能都达到业界一流水平。
相较而言，gpgpu路线更加符合ai算力发展需求，更具潜力。gpgpu也叫做通用gpu，优势在于具备大规模并行计算的能力，可快速开发高能效的应用程序，在产品性能、通用性、易用性等方面优势明显，全球9成以上商用ai系统的选择gpgpu架构芯片，在训练负载方面更是如此。而且，当前ai应用基本全都建立在gpgpu架构的软件开发平台上，生态体系更加完善，好用，易用。ai技术发展日新月异，ai软件开发者通过在gpgpu平台开发，能够更好的提高生产力。
asic架构，优势在于根据产品的需求，进行特定设计和制造的集成电路，因此计算速度快，能耗更低。它的出现存在一个理论前提，即算法发展相对成熟，已发现最优算法，通过将软件固化到硬件执行，以实现最优效率。由于当前ai算法、模型快速迭代发展，asic架构需要投入大量的资金，以及经历较长的研发和工程周期，容易出现量产即落后的局面。另外，国际上还有基于fpga架构开发ai芯片，虽然可根据自身需求进行重复编程，但缺点在于频率较低，单元计算能力有限，价格昂贵。而且，基于fpga的ai应用开发，需要软件工程师同时具备软件、硬件能力，开发难度较大；并且目前fpga被国外巨头垄断，因此很少有fpga架构的国产ai芯片。
相对于asic与fpga而言，国内对gpgpu芯片其实需求更为迫切。大模型预训练面临着计算资源需求、数据集规模、训练时间和效率、参数调优和模型调整、以及泛化能力和适应性等多个难题。应对这些难题需要综合考虑硬件资源、数据管理、算法设计等多方面因素。因此，算力领先、软件完善的 gpgpu成为先进大模型的首选算力来源。而且，随着ai应用向多模态进一步发展，通用性更优的gpgpu可以更好的支持这类应用发展
另外，国内对gpgpu芯片的需求不止于芯片可提供多少算力，是否能满足应用场景所需的计算精度也同样重要。原因在于，ai应用视场景不同，需要算力精度不同。例如aicg领域对图像和语音的处理，用32位、16位计算精度即可；而部分科学计算，则需要用到fp64双精度浮点运算，才可保证模型训练和预测结果的准确性。总而言之，ai算力的全面发展，需要全精度、通用性强的gpgpu芯片支撑。
当前，国内ai芯片厂商数量约在6000+家，其中主流厂商数量约60余家，主要分为三个梯队，第一梯队包括海光、华为、寒武纪等。划分原因在于，第一梯队厂商有成熟产品，且已有商业化量产规模的应用。
海光：dcu产品深算系列，兼容通用的“类 cuda”环境以及国际主流商业计算软件和人工智能软件，对标主流 nvidia a100 产品，海光 dcu 单芯片产品基本能达到与其相近的性能水平。并且，海光dcu深算一号，国内唯一能支持全部算力精度，可以满足需要更高精度的数学计算的需要。gpgpu架构，让其通用性更强，海光dcu产品在ai计算、大数据处理、商业计算等领域发挥着重要作用。
华为昇腾：产品包括昇腾310、910，自研达芬奇架构实现较低功耗和较好散热，可在华为庞大的ai软件工程师支持下，通过运行华为的全栈软硬件平台，并且深度适配、迁移和优化，可以应用于云边端全场景覆盖，目前已形成较为完善的生态。
寒武纪：产品主要由云端芯片与边缘芯片等组成，产品体系丰富，适配ai应用及各类算法,产品的能效较好，并掌握了智能芯片架构、编译器、工具链等核心技术。但因为aisc架构芯片的天然劣势，使得寒武纪产品在实际应用中需要大量资金、人才投入，落地部署困难重重，实际应用限制多多。
第二梯队包括，燧原、昆仑芯、天数、壁仞、沐曦等近几年成立的初创企业。这几家厂商虽然发布了产品，但由于ai芯片产品化、复杂度等原因，在实际应用中进展有限，或开始在某些领域局部试水，或者还在努力建设软件生态，集群部署方案等。
第三梯队包括龙芯、景嘉微等，这两家厂商有意向进军ai计算领域，但尚无ai芯片量产。龙芯作为国产cpu领域的主流厂商，5月份宣布集成龙芯自研gpgpu的第一款ai计算芯片，预计将于 2024 年一季度流片。而景嘉微作为国内最早投入gpu研发的厂商之一，近期也宣布募资42亿元投入高性能gpgpu芯片研发及产业化项目。这两家厂商作为国内计算芯片代表厂商，如今在布局ai计算芯片研发，终于迈出了第一步。
4、总结
ai大模型催生gpu市场需求剧增，在严峻的国际形势下，gpu的国产替代进程刻不容缓，海光信息深算一号已基本具备英伟达高端 gpu的技术能力，在紧张的局势背景下，未来有望推动高端gpu国产替代进程。
在特定ai应用领域（尤其是gpu图形计算和ai推理领域），国内gpu厂商从技术到生态都具备一定积累，随着产品不断迭代更新，以及在ai训练领域持续发力，未来在争夺ai制高点的战争中发光发热，从而缓解“卡脖子”问题和供应风险。
告别传统,4G家用路由器重塑家庭网络新格局！
敏捷验证推动芯片的全流程敏捷开发真正实现
瑞萨推出功率半导体器件——RJK0222DNS和RJK022
如何使用Arduino制作FM接收器
魅族Pro7、魅族MX7最新消息汇总：魅族Pro7令人失望，魅族MX7全面屏来救场
大模型AI算力剧增，谁来扛国产GPU大旗？
世强总裁肖庆先生受邀亮相 “非凡雇主”巡演
腾讯车联携手广汽新能源推出广汽传祺GE3 530，促进行业发展
总投资11.5亿元，锐杰微SiP芯片研制及高端封测生产基地落成
一加6手机最新消息:曲面屏+骁龙845 四枚摄像头
Acrel-2000E/B配电室综合监控系统在经开某街道南一所中的应用
优秀Android软件工程师的定义
艾拉比总裁芮亚楠：在5G时代 ，OTA一定是物联网和车联网的标配
惠普、亚马逊涉案 美国ITC正式对电子设备启动337调查
台积电只要再涨5元，总市值便能超越英特尔
人工智能风险不得不去思考一下
模数转换器ADS7844的结构、工作原理及应用分析
基于Fusion系列FPGA器件实现水温测控系统的设计
互联网已经耳熟能详，那么物联网到底是啥呢
PFM控制升压DC-DC变换器XT1864概述、用途及特点