两大硬件虚拟化，GPU虚拟化和FPGA虚拟化方法
（文章来源：砍柴网）
gpu是计算机的一个重要组成部分，但gpu这类重要资源虚拟化的性能、扩展性和可用性相对于cpu等处于滞后的阶段。例如，英特尔的gpu虚拟化解决方案gvirt中，单个物理gpu仅支持7个虚拟gpu（vgpu），而xen支持512个虚拟cpu。2013年，亚马逊首次推出了商业化的gpu实例。2017年2月，来自于英特尔第一个gpu全虚拟化方案kvmgt才正式加入linux内核4.10。
传统gpu虚拟化通过api转发的方式，将gpu操作由虚拟机发送到虚拟机监控器代理执行，该方法被大量主流虚拟化产品采用并支持图形处理，但并非真正意义上的完整硬件虚拟化技术，其性能和可扩展性均无法满足通用gpu（gpgpu）计算等应用（如机器学习和高性能计算）的需要。
gpu虚拟化的软件模拟方法直接将设备分配给指定的虚拟机，采用类似于cpu虚拟化中的二进制转换方法进行模拟。但相对于cpu，gpu的特性复杂，不同的设备提供商之间的gpu规格区别很大，gpu的资源很难被拆分，模拟的效率低。因此，典型的qemu软件仅模拟了视频图形阵列（vga）设备的基本功能，它通过一个半虚拟化的图像缓冲区来加速特定的2d图像访问，不符合高效、共享的虚拟化要求。
gpu虚拟化的设备直通方法将物理gpu指定给虚拟机独占访问。与api转发提供了良好的gpu共享能力相比，设备直通方法通过独占使用，提供了优异的性能。例如，基于英特尔的vt-d/gvt-d技术，通过翻译dma访问的内存地址的方法，让gpu分配给一个虚拟机使用，能够达到与原生物理gpu相近的性能，但牺牲了共享特性。英伟达（nvidia）的tesla gpu也提供了类似的虚拟化方案grid，虚拟机可以通过直通的方式直接访问物理gpu。
gpu虚拟化的直通共享方法允许虚拟机直接访问对性能敏感的资源（如gpu访问显存），可基本解决直通和共享的矛盾，采用类似于sr-iov的硬件辅助虚拟化技术，通过影子页表隔离每个虚拟gpu的访问空间，使得大多数的命令执行不受虚拟机监控器的干预，因此虚拟gpu就可以获得接近非虚拟化的性能。
由于gpu结构复杂，技术限制多，直到2014年才提出了两种针对主流gpu平台做硬件辅助的全虚拟化方案，即基于英伟达gpu的gpuvm和基于英特尔gpu的gvirt。gpuvm支持全虚拟化，也支持半虚拟化。在全虚拟化模式下运行开销比较高。在优化过的半虚拟化模式下，性能比原生系统要慢2~3倍。gvirt是第一个针对英特尔平台的gpu全虚拟化开源方案，为每个虚拟机都提供了一个虚拟的gpu，并且不需要更改虚拟机的原生驱动。
fpga作为一种可重新配置的计算资源，与现有的虚拟化框架并不兼容。与gpu和cpu不同，fpga的使用情景趋向于独占。一方面，不同租户可能使用不同的访问接口，难以使用统一的指令集；另一方面，即使使用统一的接口规范，在租户切换时都需要进行耗时的重新烧写和复杂的状态保存，导致了系统大量的时间和空间开销。目前fpga器件与各自的开发生态（工具链、库等）具有紧密的耦合关系，特定器件型号的fpga需要特定的软件支持才能生成可供烧写的二进制文件，还没有统一的二进制接口规范。
为了将fpga集成到云平台中，从2014年起，陆续展开了fpga虚拟化的研究。多伦多大学的斯图尔特·拜玛（stuart byma）等通过openstack在多个fpga之间提供了部分可重构区域作为云计算资源，允许用户像启动虚拟机一样启动用户设计的或者预先定义的通过网络连接的硬件加速器。ibm中国研究院的陈非（fei chen，音译）等提出了将fpga集成到数据中心的一般性框架的，并基于openstack、linuxkvm、xilinxfpga完成了原型系统，实现了多虚拟机（vm）中多进程的隔离、精确量化的加速器资源分配和基于优先级的任务调度。
2015 APEC 会议标志：电源管理总线 (PMBus)时代终于要来了！
蓝牙Mesh组网的原理、优势与应用场景
选择DCS控制系统遇还是PLC控制系统
中兴通讯被美国商务部下达出口禁止令 中美半导体产业差距在哪？
欧洲边缘计算产业联盟建立,从此找到组织了!
两大硬件虚拟化，GPU虚拟化和FPGA虚拟化方法
土壤测试仪产品简介
MSP430Ware驱动程序库的应用介绍
2018年DRAM销售额创历史记录新高 同比增长39％
2019年国内安卓手机的性能跑分排行榜公布小米9实力居首榜第一
工控机在日常生活中的一些应用
以太网时间敏感网络（TSN）：汽车音视频桥接（AVB）应用的福音
很快火星就将迎来第一架无人机了
小米6与努比亚Z17,谁家摄影强还真不用争论
变压器降压制作大功率LED节能灯电路
荣耀9和努比亚Z17、荣耀V9对比评测：华为荣耀9和努比亚Z17、荣耀V9怎么样，谁更值得入手？
情感语音识别技术的挑战与未来发展
【世说芯品】1块开发板，24小时，完成伺服电机控制？
浴霸电源线怎么接
喀麦隆高度重视与华为公司在ICT领域的战略合作
gpu是计算机的一个重要组成部分，但gpu这类重要资源虚拟化的性能、扩展性和可用性相对于cpu等处于滞后的阶段。例如，英特尔的gpu虚拟化解决方案gvirt中，单个物理gpu仅支持7个虚拟gpu（vgpu），而xen支持512个虚拟cpu。2013年，亚马逊首次推出了商业化的gpu实例。2017年2月，来自于英特尔第一个gpu全虚拟化方案kvmgt才正式加入linux内核4.10。
传统gpu虚拟化通过api转发的方式，将gpu操作由虚拟机发送到虚拟机监控器代理执行，该方法被大量主流虚拟化产品采用并支持图形处理，但并非真正意义上的完整硬件虚拟化技术，其性能和可扩展性均无法满足通用gpu（gpgpu）计算等应用（如机器学习和高性能计算）的需要。
gpu虚拟化的软件模拟方法直接将设备分配给指定的虚拟机，采用类似于cpu虚拟化中的二进制转换方法进行模拟。但相对于cpu，gpu的特性复杂，不同的设备提供商之间的gpu规格区别很大，gpu的资源很难被拆分，模拟的效率低。因此，典型的qemu软件仅模拟了视频图形阵列（vga）设备的基本功能，它通过一个半虚拟化的图像缓冲区来加速特定的2d图像访问，不符合高效、共享的虚拟化要求。
gpu虚拟化的设备直通方法将物理gpu指定给虚拟机独占访问。与api转发提供了良好的gpu共享能力相比，设备直通方法通过独占使用，提供了优异的性能。例如，基于英特尔的vt-d/gvt-d技术，通过翻译dma访问的内存地址的方法，让gpu分配给一个虚拟机使用，能够达到与原生物理gpu相近的性能，但牺牲了共享特性。英伟达（nvidia）的tesla gpu也提供了类似的虚拟化方案grid，虚拟机可以通过直通的方式直接访问物理gpu。
gpu虚拟化的直通共享方法允许虚拟机直接访问对性能敏感的资源（如gpu访问显存），可基本解决直通和共享的矛盾，采用类似于sr-iov的硬件辅助虚拟化技术，通过影子页表隔离每个虚拟gpu的访问空间，使得大多数的命令执行不受虚拟机监控器的干预，因此虚拟gpu就可以获得接近非虚拟化的性能。
由于gpu结构复杂，技术限制多，直到2014年才提出了两种针对主流gpu平台做硬件辅助的全虚拟化方案，即基于英伟达gpu的gpuvm和基于英特尔gpu的gvirt。gpuvm支持全虚拟化，也支持半虚拟化。在全虚拟化模式下运行开销比较高。在优化过的半虚拟化模式下，性能比原生系统要慢2~3倍。gvirt是第一个针对英特尔平台的gpu全虚拟化开源方案，为每个虚拟机都提供了一个虚拟的gpu，并且不需要更改虚拟机的原生驱动。
fpga作为一种可重新配置的计算资源，与现有的虚拟化框架并不兼容。与gpu和cpu不同，fpga的使用情景趋向于独占。一方面，不同租户可能使用不同的访问接口，难以使用统一的指令集；另一方面，即使使用统一的接口规范，在租户切换时都需要进行耗时的重新烧写和复杂的状态保存，导致了系统大量的时间和空间开销。目前fpga器件与各自的开发生态（工具链、库等）具有紧密的耦合关系，特定器件型号的fpga需要特定的软件支持才能生成可供烧写的二进制文件，还没有统一的二进制接口规范。
为了将fpga集成到云平台中，从2014年起，陆续展开了fpga虚拟化的研究。多伦多大学的斯图尔特·拜玛（stuart byma）等通过openstack在多个fpga之间提供了部分可重构区域作为云计算资源，允许用户像启动虚拟机一样启动用户设计的或者预先定义的通过网络连接的硬件加速器。ibm中国研究院的陈非（fei chen，音译）等提出了将fpga集成到数据中心的一般性框架的，并基于openstack、linuxkvm、xilinxfpga完成了原型系统，实现了多虚拟机（vm）中多进程的隔离、精确量化的加速器资源分配和基于优先级的任务调度。
2015 APEC 会议标志：电源管理总线 (PMBus)时代终于要来了！
蓝牙Mesh组网的原理、优势与应用场景
选择DCS控制系统遇还是PLC控制系统
中兴通讯被美国商务部下达出口禁止令 中美半导体产业差距在哪？
欧洲边缘计算产业联盟建立,从此找到组织了!
两大硬件虚拟化，GPU虚拟化和FPGA虚拟化方法
土壤测试仪产品简介
MSP430Ware驱动程序库的应用介绍
2018年DRAM销售额创历史记录新高 同比增长39％
2019年国内安卓手机的性能跑分排行榜公布小米9实力居首榜第一
工控机在日常生活中的一些应用
以太网时间敏感网络（TSN）：汽车音视频桥接（AVB）应用的福音
很快火星就将迎来第一架无人机了
小米6与努比亚Z17,谁家摄影强还真不用争论
变压器降压制作大功率LED节能灯电路
荣耀9和努比亚Z17、荣耀V9对比评测：华为荣耀9和努比亚Z17、荣耀V9怎么样，谁更值得入手？
情感语音识别技术的挑战与未来发展
【世说芯品】1块开发板，24小时，完成伺服电机控制？
浴霸电源线怎么接
喀麦隆高度重视与华为公司在ICT领域的战略合作