沐曦与未来速度完成兼容性测试

近日,沐曦集成电路(上海)有限公司(下称“沐曦”)曦云c500千亿参数ai大模型训练及通用计算gpu与未来速度旗下大模型推理及数据分析产品完成适配。
沐曦旗舰产品曦云c500基于自主研发的高性能gpu ip,特别适合千亿参数ai大模型的训练和推理;基于全自研 gpu 指令集打造的mxmaca软件栈,全面兼容主流gpu生态,实现用户零成本迁移;通过自主知识产权的metaxlink实现单机8卡gpu全互联,提供构建高密度算力和云计算部署的优秀国产gpu解决方案;可广泛应用于千亿参数ai大模型训练与推理、aigc内容生成、推荐系统、自动语音识别、语音合成、图像分割检测,以及科学计算、数据库加速等多种场景。
本次在较短时间内双方完成多个模型框架的适配工作,充分证明了曦云c500千亿参数ai大模型训练及通用计算gpu的高通用性和灵活性,双方的合作降低了大模型推理和大规模数据处理的门槛。
大模型推理框架适配结果
依托曦云c500软件栈mxmaca的完美兼容性,分布式推理框架xorbits inference成功运行了70b的llama2模型,成为首个在单张国产gpu上完成 70b大模型推理任务的案例。该模型能够流畅地在本地环境中部署,让用户轻松一键部署个性化模型或前沿的开源模型。
数据分析框架适配结果
通过不到一天时间完成兼容对接,xorbits依托曦云c500不仅能够高效地处理tpc-h基准测试中的22个复杂查询场景,还提供了简洁、可读性强的代码,这使得xorbits的解决方案易于理解、维护和扩展,为用户带来了极大的便利和灵活性。
关于沐曦
沐曦致力于为异构计算提供安全可靠的gpu芯片及解决方案,打造全栈gpu芯片产品,推出曦思n系列gpu用于ai推理,曦云c系列gpu用于千亿参数ai大模型训练及通用计算,以及曦彩g系列gpu用于图形渲染,满足数据中心对“高能效”及“高通用性”的算力需求。沐曦产品均采用完全自主研发的gpu ip,拥有完全自主的指令集和架构,配以兼容主流gpu生态的完整软件栈(mxmaca),具备高能效和高通用性的天然优势,能够为客户构建软硬件一体的全面生态解决方案,是“双碳”背景下推动数据中心建设和产业数字化、智能化转型升级的算力基石。

Oculus将带来不一样的Quest VR系统体验
以领先的电表参考设计方案推进电网智能化发展
北京现共享男友!共享男友明码标价!网友热评:平时免费都没人要,现在还想收费?
CNC 加速实现步进电机技术
基于MEMS的固定腔法布里-珀罗(F-P)干涉仪实现长波红外光谱传感
沐曦与未来速度完成兼容性测试
OpenHarmony打造了一款新的音视频引擎——HiStreamer
2020年将会有哪些新的数据中心诞生
我国海上风电嵌岩单桩最大直径纪录刷新 又迎来一里程碑式进展
Daqri为专业船舶配AR智能眼镜,现已开始出货
利用ChatGPT通过Shell脚本来实现日志分析
太阳能电池板自动对光控制集成电路的关键技术研究
数码相机电池如何省电?
沃尔沃XC60改怡然吸风式座椅通风功能
NVIDIA旗舰级显卡RTX3090将配12针转用电源接口,成最强电表
驱动容性负载时,为什么输出端增加串联电阻,可以提升稳定性?
双头应急灯个工作原理和电路图详解
看完这六条 让你买华为P10 P10plus不后悔
期货合约存在哪一些风险
解密数字化制造:离散与流程制造MES/MOM业务与功能需求分析