通用Tensilica软件堆栈提供最佳边缘AI性能

开发敏捷的软件堆栈对 ai 在边缘侧的成功部署非常重要。基于多种 ai 框架创建的新机器学习模型已经不再罕见,这些框架采用了最新的算子和最先进的机器学习模型拓扑。就像寒武纪生命大爆发一样,其快速发展源于富有创造性的开源社区对 ai 技术的广泛采纳,并在边缘侧不断推动机器学习模型的应用。
这些模型由学术界和工业界共同创建,使用了最尖端工具和概念;因此,在高性能、最新的 ai 软件堆栈上高效运行这些模型对任何组织而言都很复杂。
得益于多年的专业领域积累,cadence 拥有业界领先的基础设计 ip,为全球的计算平台提供支持。cadence 在 ip 市场的领先地位推动了现有客户和合作伙伴对人工智能计算需求的不断增长。过去二十年来,tensilica 成功提供了可扩展、可配置的处理器 ip,被大量客户用于边缘侧的 soc 设计。tensilica ip 被广泛应用于音频、视觉、雷达、汽车和基于微控制器的子系统。
考虑到 cadence 处理器 ip 被广泛使用,以及 ai 推理在各个细分市场的应用,我们致力于推出通用的“一站式”解决方案,为客户提供统一的、可扩展、可配置的 ml 软件堆栈。一站式工具理念是我们整体 ai 软件产品的核心。
一款通用的软件接口和工具将大幅缩短客户产品的上市时间,助其更好地为不断发展的 ai 市场做好准备。
从超低功耗、永远在线的使用场景到 adas 和自动驾驶等高端车载应用,在边缘侧可以看到各类用例。这些用例对 ai 的计算需求从每秒几千兆次运算(gops)到每秒数万亿次运算(tops)不等。
图1:适用于所有垂直市场的通用 ai 软件工具
我们的目标是在高性能机器学习编译器堆栈的各个方面改进我们的产品,包括统一的前端设计、通用的中间表示法、对混合精度量化格式的支持、无损压缩技术、图和张量优化等。
这些技术将在各类 ai 部署的场景中帮助客户,例如使用基于委派模式的框架进行提前编译、即时编译和/或运行时解释器框架。
图2:ai 软件堆栈支柱
客户可以在流片前进行 ml 工作负载的软件仿真并提取关键 kpi。在软硬件协同设计阶段,拥有这些准确的指标是非常有价值的。迭代各类 ml 模型,微调可配置参数以从硬件 ip 中获得最大性能是每个 soc 架构师的基本目标。
图3:实现软硬件协同设计
利用开源工具实现 cadence ai 软件堆栈的同时,我们也积极参与开放论坛,为开源社区做出贡献。作为嵌入式 ip 领域的市场领先者,cadence 与全球各地的合作伙伴协作,致力于为细分市场提供领先的 ai 解决方案。


云存储服务器
Here We Go!泰克即将亮相2023慕尼黑电子展,提前预约有惊喜!
慧灵用机械臂为中医发展插上“智慧翅膀”
基于蜂窝移动通信网络的物联网技术和应用
多项技术促进智能自动化与机器人技术相结合
通用Tensilica软件堆栈提供最佳边缘AI性能
三星和SK Hynix将于9月中止与华为的业务
东芝模拟IC业务发展战略:大力推进车载、通信等产品
TMS320VC5410的BOOT设计与实现?
德标汽车电线结构及性能介绍
专访17173总经理赵佳:游戏TOC媒体的两条生路和三个机会
博泽集团电子控制单元的概念车门,助于车厂降低研发成本和节省空间
黑莓不玩手机之后的卷土重来:无人驾驶领域
在Rust中实现Iterator和IntoIterator特征
湖南建设一批智能制造示范项目,打造闻名全国的智能制造“湖南特色”
无阻值电阻在电路中扮演什么角色?巨磁电阻的构成和一般电阻有什么不同吗?
工业机器人应用的十大误区(二)
【分享】什么是Z-Wave?为何它没有ZigBee普及?
工业机器人发展要双管齐下
电动单座调节阀的特点_电动单座调节阀的优点