如今,由于物联网的兴起造成了数据冲击,对重要物联网传感器数据的处理越来越接近数据最初所在的位置,便有了对基于边缘计算的机器学习技术的需求。这两年,人工智能发展的主题已经非常明确,就是落地应用。在众多的ai技术当中,无论是上层的算法应用,还是产品,最终都依赖于底层算力的保障,也就是ai芯片。
边缘ai市场落地风向
从去年起,边缘ai市场已经进入爆发期,aiot终端数量已经超越智能手机。从ai落地的场景来看,ai芯片的两大工作负载主要是数据训练和推理计算。其中,推理计算市场份额的增速正在赶超数据训练市场。
现在一个算法模型能做到仅仅2kb,性能表现却超过4mb的神经网络算法。深度学习算法的微型化改变表明以gpt-3为代表的超大型模型并不适用于企业级市场。
在新的物联网框架中,数据在设备本地就可以得到处理。这需要在底层芯片设计上就考虑好算法模型在不同场景中有限的部署条件,包括算力、功耗和硅片面积的分配。从单位算力的成本效用上看,推理计算更能代表企业级市场所需要的落地方向。
边缘ai芯片落地挑战
首先就是边缘ai的场景呈多元化,不同场景对芯片的功耗和性能要求都有差异。而另一方面,碎片化场景的市场容量具有不确定性,需要在芯片研发的工程成本和收益之间取得平衡,这是所有芯片厂商都需要面对的考验。
高质量数据的获取同样是一大难点,即如何从大数据中筛选可靠的数据。大数据不意味着高质量的数据,在ai芯片上执行深度学习任务需要硬件传感器的持续优化。
另外对于传统客户而言,除了智能产品的采购成本外,还有使用成本。芯片的功耗,产品是否易于部署,都影响着ai的落地和推广。芯片厂商如何根据不同的场景定制不同算力的芯片也是落地环节上的痛点。
目前边缘ai芯片缺乏高可用的开发平台,软件编译工具设计复杂,用户的开发和使用门槛偏高,但这些可预见都会在落地过程中不断完善和迭代。
商用边缘ai芯片
旭日系列
面向aiot,地平线推出了旭日系列边缘ai芯片。通过ic设计和软件的共同努力,实现了性能、功耗、灵活性和成本之间的平衡。旭日2边缘ai芯片采用bpu伯努利1.0 架构,可提供 4tops等效算力,对多类目标进行实时检测和精准识别。旭日2集成了dual-cortex a53,能高效支持多种主流ai任务。同时还支持emcc、spi flash。
旭日3则是地平线推出的,主打低功耗和高性能的全新一代aiot边缘ai芯片。其集成了地平线最先进的伯努利2.0架构ai引擎( bpu),可提供5tops的等效算力。
新的bpu架构极大提升了对先进cnn网络架构的支持效果,以及极大降低了ai运算对ddr带宽的占用率。辅以地平线天工开物ai开发平台,极大简化算法开发与部署过程,降低ai产品的落地成本。
伯努利2.0 bpu结构下,ddr utilization 呈5倍提升。先进的isp处理算法,使得在宽动态、低照度场景下,也能得到1200 w pixel高质量的图像。旭日3可同时处理不同分辨率4 ~ 8个camera sensor的输入,并支持多种图像后处理,同时支持 h.264 / h.265 编解码,性能达到4k@60fps 。
(旭日3)
勘智k210 /k510
第一代芯片勘智k210专门针对机器视觉任务设计,浮点计算能力可以达到1.28tflops,可以媲美嵌入式领域主流的开发选择。同时,它的功耗只有0.3w,典型工作场景的功耗小于1w,单位算力功耗低,是一款非常经济的选择。第二代勘智k510根据实际的落地情况和客户反馈进行升级。这款ip内核重新进行架构设计,实现神经网络中不同层级对计算资源、存储和带宽的需求,并且提升数据的复用率,降低芯片功耗。
其次,针对数据获取的速度和质量,勘智k510配置了全新的视觉模组。与第一代芯片相比,k510在帧率和外设方面都有大幅优化。每t算力帧率达到业内领先水平。此外,k510还支持浮点 bf16 计算,在不适合进行模型量化的场景相比同类产品更具优势。
(video subsystem示意图)
小结
从长远来看,边缘ai芯片将把企业的物联网应用提升到一个全新的水平。由ai芯片推动的智能设备将有助于扩展现有市场,同时改变制造、建筑、物流、农业和能源等各行业的价值分配方式。
PCB电源设计的五个最重要的考虑因素
Quectel推出六款全新的4G和5G天线,扩大物联网天线产品组
芯片是什么?它又应用在哪个行业?
ESA公布火星快车号捕获的火星表面照片
Industry's Smallest Overvo
国产边缘AI芯片落地人工智能领域风向
中国移动3大产品形态创新发布,打造智慧家庭安全新生态
继电器是什么,继电器的组成以及分类说明
大手牵小手 中国芯我们一起走!
马化腾研究微信上车方案,腾讯在汽车领域积极布局
东芝2840XP型彩电I2C总线电压异常造成的软故障
台积电打遍天下无敌手的真正秘诀
革新设计,漫途大坝MCU智能采集终端小巧强大,水库保卫无忧!
深度解析广汽本田凌派底盘
一个在线阅读OpenHarmony全量代码的网站
为什么氮气气体报警器有时候会出现误差
5G时代下 自动驾驶普及还有很长一段路要走
国产OLED屏幕发展要解决哪些困境
监控主机的功能要求_监控主机的软硬件要求
基于ARM9的915 MHz RFID手持式交通违章处罚终端系统设计