kinara公司发布首款ara-2边缘ai处理器,该产品可为边缘服务器及个人电脑提供性能优越、性价比高且节能的推理支持,适用范围广泛,如视频分析、大规模语言模型(llm)和其他各类ai模型。
针对ai模型发展趋势所适用的transformer架构模型,ara-2同样表现出色。配备有多种新颖特性,性能稳定且高达初代ara-1处理器的5至8倍以上,兼具高速应答和高吞吐量特质。其独特的片上存储器设计以及极高的片外带宽可大大降低性能延迟。
虽然生成式ai应用日趋盛行,但大部分应用仍依赖gpu在数据中心运行,存在着延迟高、成本大、隐私泄漏等诸多风险。为了解决此类问题,ara-2处理器支持生成式ai模型所需要的大量参数,有效减少了向边缘迁移的难度。同时,ara-2的计算引擎和相应的软件开发包(sdk)特别设计支持高精度量化、可动态调整的主机运行时以及对fp32的直接支持,不仅可无缝指导用户从昂贵的gpu转移到各种ai模型,也保证了计算效能的最大化利用。
“随着ara-2处理器的推出,我们能够更为全面地满足不同用户对性能与成本的需求。之前,适用于智能相机或拥有2至8路视频流的边缘ai设备的ara-1就已深受好评;如今,升级版的ara-2则更适应于处理承担16至32路甚至更多视频流输入的边缘服务器或是笔记本电脑,同样对于高端相机也能轻松应对。”kinara首席执行官ravi annavajjhala表示。他进一步补充,“凭借其卓越的计算引擎,ara-2能够快速处理高分辨率图像,准确度大幅提升,进而实现更理想的对象检测、识别和跟踪效果。此外,以场景式ai为例,ara-2在运行stable diffusion时仅需10秒即可生产一幅图像,而在处理llama-7b模型时,其速度最快可达每秒生产数十个token。”
今年10月份,ampere宣布接纳kinara加入其人工智能平台联盟。此举旨在降低系统复杂程度,推动人工智能领域的协同合作与创新,以提供总体性能超越gpu、具有更高功耗和成本效益的全新范式。ampere的首席布道师sean varley对此表示赞赏,认为“kinara的ara-2性能强大,功能丰富,这无疑是朝着实现比现阶段基于gpu的ai解决方案更为优秀的道路上迈进了坚实的一步。”
除此之外,ara-2边缘ai处理器还兼容安全启动、加密内存访问和安全主机接口等多项安全技术,为企业ai部署提供最强防护措施。kinara还提供全方位的sdk支持,包括模型编译工具、计算单元调度程序、灵活的量化选项以及对pytorch和tflite预量化模型的可靠支持、可进行多芯片负载均衡的系统以及动态调整的主机。
目前,ara-2已可采取多种形态呈现,包括独立设备、usb模块、m.2模块以及具有多颗ara-2处理器的pcie卡等。据了解,kinara将在即将到来的ces展会上为大家呈献ara-2的精彩现场演示。
GPS不惧中国汽车信息娱乐市场放缓-预计今年产品营业收入增长
如何通过手机APP远程控制PLC
AMD最强芯片 全村的希望!
如何制作一个Arduino门锁
浅谈光纤压力传感器FOP-M在矿井测量气压中的应用
Kinara推出Ara-2边缘AI处理器,为边缘服务器和笔记本电脑提供高性
欧普照明和佛山照明2018年三季度业绩报告
什么是数字告示
Manz亚智科技与中国本土具有重要影响力的华润微电子 共同拓展先进封装新领域FOPLP湿制程解决方案
人工智能产业如何实现转型
如何选择智能制造系统?
电源设计之缓冲正向转换器
TMS320C6678存储器访问性能 (下)
浅谈MCU下载程序电路原理
爆华为将发布5nm麒麟处理器!10月将搭配Mate 40系列首发
IKEA 推出的 iOS App IKEA Place,运用苹果的 ARkit 技术
288芯光缆交接箱用途_288芯光缆交接箱安装方法
如何正确区分和安装CPU
日本研发进入房间就直接开始无线充电的技术
比特与瓦特2|超充“一秒一公里”背后的秘密