基于In-suite processing的概念在存储控制上集成了计算加速的单元

在创业公司ngd的keynote中,我们看到了他们和微软研究院完成的原型概念验证。基于in-suite processing的概念在存储控制上集成了计算加速的单元。这个概念和大部分在存储上做加速的方案类似,利用与数据存储比较靠近的优势来实现计算的offlaoding,从而降低延时。
ngd加速的应用是目前比较热门的cnn,类似image的分类,人脸识别,以及车辆牌照识别之类的edge端的应用。和以云端数据中心的形式存在的google的tpu pod不同,在edge端的应用对于实时性要求更加严格,在5g出现之前,从端设备发送原始数据到云端处理的路径还是过长,因此edge 计算和所谓的雾计算还是有很强大的生命了。使用edge端的处理能力的好处主要是:1. 延时端,2. 减少了数据的传输量,不需要原始数据,特征数据就够了。
在fms 2018上,类似的方案还有marvell,marvell宣布了一个概念芯片,他们把ssd的控制器和nvidia的nvdla结合在一起,推了了一个在端设备可以做深度学习推理的设备。
nvdla的信息都在这个http://nvdla.org/primer.html,在2017年发布的时候,大家都惊呼可能要终结很多ai的创业公司的asic计划,因为nvdla利用nvidia在深度学习上的技术优势,开源这样一个deep learning accelerator的设计,nvidia的之前的大部分投入都在训练市场,对于推理来讲,需要通过新的硬件和架构来适配。从占领市场的角度,开源这个加速器的设计,对于增加话语权有着重要的意义。
在marvell的展台上貌似没有看到这个概念芯片的具体信息。只是 在fms2018的新闻稿来看到了一些信息。目前这种ai ssd关注的领域是数据分析市场,在具体的云端或者edge端大数据分析以及数据标注的应用上,可以使用ai ssd的加速功能。从nvdla的内部框图上可以看出,nvdla主要只是针对cnn的图像应用。
并不是marvell这个一家公司这样,很多企业级控制器的厂家都在考虑这个方向;来自pmc加拿大班底的netint.ca在fms也展示了他们pcie4.0 的ssd 控制器。
在ssd控制中集成了video的处理单元。对于高清的h.265的处理,以为目前主流的方案还是cpu为主,因此单个intel的x86的服务器级别的方案都在4-6路之间,而使用硬件加速可以在性能和功耗比上完胜。
之前在武汉存储半导体峰会上,a股上市公司国科微也提出了near data计算的概念,如何在ssd的设计中体现对ai workload的优化。目前在我天朝,ai发展最热的,也是各级领导最重视的就是安防了,人脸识别,行为判断,数人头,等等是安定团结的技术手段。其中的技术挑战也很多。
作为存储大数据分析加速,不能不谈一下bluedbm,这个项目的韩国人从mit毕业了,到了uic irvien,还是在谈大数据分析加速,在原有的框架上增加了很多的内容。
已经在做图计算以及vertex的计算了,下一步是啥,参加过机器学习入门的人应该不陌生了。建议大家技术关注这个明星项目。之前在mit的时候有广达的中研院支持,现在不知道会不有samsung的支持了。
和之前之四讲的计算加速类似,我们可以看到一个明显的趋势就是在ssd控制器中增加对near data计算的支持,把一些相对成熟的方案集成进去,这可能是企业级ssd控制器的新方向。最后,用一个韩国公司的ssd 控制器作为fms 2018的结束了。他们是目前第一家使用risc-v做ssd控制器,而且他们的性能和架构上和传统的控制器有很大的区别,值得学习。

人脸识别进出管理作用是什么
医疗设备中的直线导轨使用哪种润滑脂?
NVIDIARTX2060高清拆解图赏
英特尔将在2014年推出14纳米处理器芯片
生活中20种常见传感器
基于In-suite processing的概念在存储控制上集成了计算加速的单元
CAN FD嵌入式控制器开发硬件设计
现代工程设备管理和实务点检的八大要素
WCDMA与GSM系统共站址时的主要干扰类型分析
更实惠、更实用、更省心,华为云618营销季强势来袭
PWM态存在开关管的ZCS导通现象如何解决?
反激开关电源的电压原边反馈与副边反馈
Linux中fork同时创建多个子进程的方法
关于物联网创新让冷链运输可监管的分析和应用
谷歌和亚马逊怎么让AI自己学习
2018慕尼黑上海电子展ROHM锁定汽车电子及工业设备市场
机器视觉对扫描相机成像的影响
中国智造 行稳致远
日月光营收下滑 电子代工服务业绩可望增近
11月1日起,购买Vive不再附赠Tilt Brush