边缘AI“金矿”:PC的智能和感知,Lattice sensAI有了新方案

abi研究数据表明,预计到2024年设备端的ai推理功能将覆盖近60%的设备。要实现边缘ai推理,fpga具有自身的优势。为此,莱迪思lattice已经发布了系列面向边缘计算的fpga硬件和设计软件解决方案,针对边缘智能的莱迪思sensai也更新到了4.1版本。最近,莱迪思半导体亚太区资深市场开拓经理林国松,就莱迪思最新的ai创新路线以及针对最新一代lattice sensai解决方案集合,包括如何轻松部署ai/ml应用及性能增强和新增的应用场景等进行了详细分享。
lattice不断强化fpga用于边缘ai的优势  
由于网络边缘端对功耗的敏感度,以及对尺寸大小的严格要求,小封装和低功耗的fpga是非常合适的选择,这也给了以低功耗著称的莱迪思以拓展边缘ai应用的巨大市场机会。据介绍,过去四年,莱迪思的总出货量达到10亿片以上,以出货量来看位列全球第一。
林国松表示,lattice的网络边缘ai可以实现从一毫瓦到低于一瓦的低功耗范围,同时,我们有灵活的计算资源,fpga可以做预处理、后处理、图像处理、滤波以及性能拓展等等。
此外,lattice fpga内嵌的安全功能区域,可以实现更安全的使用场景。
fpga的硬件可编程最大的特点还是实现加速和机器算法。由于ai的算法灵活多变、推陈出新,专用芯片的成本、功耗是不太可承受的,因此fpga相对来说更适合来实现ai的计算。fpga可以配合ai技术随时为用户提供最佳体验。
从2012到2021年,ai分类模型创新的数量逐年递增。此次lattice新推出的sensai 4.1将增加支持cetuspro-nx器件。该器件具有更高的容量,计算能力和功效也得到提高。lattice推出了相应的开发板,即声音和视觉机器学习板,提供支持这颗芯片的cnn plus加速器,以及相应的sensai studio。
在此基础上,还提供三个参考设计,即人员侦测、注意力追踪和目标分类。同时,在智能家居、智慧城市、工厂、智能汽车等方面也可提供相对应的设计服务。
林国松解析,lattice的一个训练设计方法是,通过标准的caffe、tensorflow、tensorflowlite、keras等常用训练网络训练完之后,再通过lattice提供的神经网络编译器,编译成相对应的可执行指令,这些指令最终会由lattice的芯片所调取使用。
在硬件优化的设计方案中,可以看到,将ai的设计方案通过lattice radiant和diamond结合之后,产生fpga比特流,然后再把训练后的模型录进来,这样产生一个类似于中央处理器的功能,而这里产生的量化的权重和指令更多指向于执行的代码,这两个结合之后,可以产生一个ai的体验项目。
在软件优化的设计方案中,lattice专门提供了一个propel软件,便于大家对于整个内部结果的控制,能够进行类似于c代码的控制,而不是使用比较难以上手的fpga的开发代码,这样的代码便于初学者调用基本的指令进行控制。
最新推出的lattice sensai studio,是为了解决训练环境的应用场景应用软件更新快,软件和软件之间的兼容性难题。lattice提供的软件预安装到container里,然后客户只需要把这个container直接移植到他们的电脑上,就可以在这个container上执行相对应的训练,这样就帮客户省去很多的精力和时间来配置电脑。
lattice sensai迎接下一代智能pc  
pc是日间工作的最主要工具,下一代pc将聚焦在智能和感知,强大的协作能力和轻薄外形等方面。
lattice sensai的智能和感知ai解决方案提供了用户检测、注意力追踪、旁观者检测及面部取景功能。通过注意力追踪可以延长电池寿命;旁观者检测可以模糊屏幕、保护用户隐私数据,而面部取景也是很多协作式会议所需的场景。
与使用cpu来驱动ai应用的设备相比,采用sensai开发,并在莱迪思fpga上运行的ai计算设备的电池使用时间延长了28%。sensai还支持现场软件更新,从而保持ai算法的演进,还能让oem厂商灵活选择不同的传感器和soc技术来适配他们的设备。
与asic相比,crosslink-nx在性能和效率上都更加强劲。
值得一提的是,lattice sensai符合道德和合理的ai设计考量。使用lattice sensai可以不把图像传给电脑,直接在硬件上处理。在常规的方式下,人脸信息置于后台应用,用户图像信息有被侵害风险。而通过lattice sensai只会传出一个结果,而不会传输图像,因此能够防止用户的肖像权受到侵害。
此外,lattice sensai设计使用多个公共数据集验证模型,在系统用户体验验证,覆盖典型的使用场景。同时lattice sensai专注于用户体验,针对不同的复杂场景进行压力测试,包括灯光、场景及用户面部和头部穿戴的变化等,从而达到更佳的体验。
将lattice的智能和感知解决方案应用于新一代的pc,需要oem、芯片厂商、操作系统、软件厂商等生态合作伙伴的通力合作,lattice也在大力推动这一进程。
小结:
lattice的超低功耗ice器件、ecp5器件、certus和crosslink-nx器件,包括cetuspro-nx器件,这四类fpga器件都可以部署sensai和提供sensai所需的cnn引擎ip。据了解,除了pc这个典型场景外,lattice也在积极构建全新的面向ai场景的汽车解决方案。

如何通过软件优化可编程无线测试?
远距医疗工具协助偏远医院降低成本
为何普通连接器不招摄影灯爱?BD系列工业级连接器4点理由解惑
技术干货-了解Matter设备的认证途径
虹科分享|反射物镜:无色差成像聚焦利器
边缘AI“金矿”:PC的智能和感知,Lattice sensAI有了新方案
乐视网跌停:各方提示买入风险 平仓或下周见分晓
多功能车队数据采集平台解决方案
西安光机所在表面功能化光纤传感器的研究
贝克微电子赴港IPO!模拟IC图案晶圆国内第一,上半年收入2.04亿
毫米波传感器减少错误检测
85-005G-8R压力传感器故障进行诊断的18个要点
TL431电池充电器,Lead-acid battery charger
安森美半导体推出具先进功能集和更高能效的C PD 3.0控制器
IHS:2012年全球芯片市场恐陷衰退
关于DCS系统的几种常见故障分析
解读单电源与双电源应用电路设计方案
STM32总线架构讲解
同茂线性马达谈进博会上的特斯拉“super 工厂”
运算放大器、比较器的电路结构