GPU如何突破算力供需瓶颈

近日,2023中国算力大会在宁夏银川举行,沐曦集成电路(上海)有限公司(下称“沐曦”)联合创始人、cto兼首席硬件架构师彭莉受邀出席由中国信息通信研究院、中国互联网协会联合举办的智能计算论坛,并担任演讲嘉宾,探讨后gpt时代算力需求激增带来的挑战以及gpu如何突破算力供需瓶颈、推动人工智能产业普惠化发展。
沐曦联合创始人、cto兼首席硬件架构师彭莉
发表主题演讲
在题为“后gpt时代的算力需求”的演讲中,彭莉预测大模型商业模式将分为通用计算市场和专用定制化市场两大类:在通用计算市场,大语言模型将终结多数nlp任务,nlp技术水平被强行拉平,通用大模型或被大厂“垄断”;而在专用定制化市场,开源大模型将呈现百花齐放的发展态势,可针对私有数据、敏感数据进行快速定制和领域对齐,大模型开发和部署能力将趋于普及化。
彭莉指出,区别于传统ai,生成式ai技术可以借助接入类chatgpt应用发挥显著的技术优势,为大语言模型的开发降本增效,同时也对算力提出更高和更迫切的要求。由于大模型训练的一次性成本被大规模推理摊薄,大模型盈利的一大难点是降低推理成本。沐曦致力于打造高效通用的gpu芯片及软硬件一体的生态解决方案,通过gpu软件生态优势、硬件架构优势、先进封装等方面全面提升gpu算力,降低大模型训练和推理的算力成本,在产品路线和生态战略上均可满足大模型对算力基础设施的大规模需求,为推进智能产业可持续发展打造坚实的算力底座。


实例分析,动力系统图的识读方法
rk3588参数详解 rk3588芯片参数
美国联邦航空局的工作小组建议,所有无人机250克登记了
85-015G-FC压力传感器在水力发电的应用
USB 3.0时代如何为接口提速?
GPU如何突破算力供需瓶颈
AcrelCloud-3500油烟监测系统云平台的详细说明
携手高通优化影像处理器,oppor11拍照如虎添翼
光伏电池的技术路线之争 中国光伏电池行业市场份额情况
美国国土安全部:没有理由怀疑苹果、亚马逊等公司的陈述
联发科MT8766核心板详细参数
利用Xposed去hook住Android系统框架层函数去脱壳
无线音响怎么连接手机
E4447A维修安捷伦频谱分析仪屏幕黑屏最新案例
波峰焊过程中,锡渣过多的原因有哪些?
厦门通富微电子一期项目有望年底完成试生产计划
使用NVIDIA NeMo进行文本规范化和反向文本规范化
当年的硬件与今天的U盘
24针电源针脚定义 24针电源接口定义
触摸式汽车干扰模拟器在电气系统中的作用