AI框架的演进趋势以及MindSpore的构想
转载自：知乎
作者：金雪锋 mindspore在3月底开源后，一直忙于功能完善和内外部的应用推广，现在终于有点时间可以停下来结合mindspore的实践和团队一起总结对ai框架的一些思考，希望对大家有所帮助，也有助于大家去了解mindspore，更加欢迎大家一起探讨。
计划开一个专栏，有一系列的文章，初步主题规划包括：
ai框架的演进趋势和mindspore的构想 ai框架的图层ir的分析 动静态图统一的思考 端边云的框架如何统一 图算融合的设计思考 自动算子生成可行吗？ 如果自研一个ai编程语言，应该长什么样？ 如何成为分布式并行原生的ai框架？ ai与科学计算怎么结合？ ai框架怎么使能ai责任？ …….等等
内容比较多，全部写完要很长时间，希望自己有足够的耐心坚持下去。
本篇是一个总体的介绍，主要是分析ai框架的发展趋势，介绍一下mindspore的构想
1、未来ai框架的发展趋势是什么 ai框架的发展个人认为可以大致分为3个阶段：
第一阶段的代表是torch、theano以及caffe，奠定了基于python、自动微分、计算图等基本设计思路。
第二阶段的代表是tensorflow、pytorch，一个通过分布式训练、多样的部署能力在工业界广泛使用，另外一个是提供动态图能力，在灵活性上吸引了大量的研究者和算法工程师。
第三阶段的方向是什么？目前看还没有定型，我们看到google也有多条技术路径在探索，包括tf2.0，jax、mlir、swift for tf等；有些在做动态图和静态图的统一，有些在构建统一的ir基础设施，还有些在探索新的表达方式等，总之还是百花齐放的状态。
不管ai框架未来的发展方向是什么，ai框架的驱动力还是相对清晰，我们认为ai框架的驱动力主要是5个-“abcde”：
application+bigdata：ai框架的application就是ai的模型和算法，bigdata就是ai模型需要的数据 chip：ai的芯片，代表ai的算法发展 developer：ai的算法研究者和算法工程师 enterprise：ai部署和ai责任 下面，我们想通过对ai框架的驱动因素的分析来讨论一下ai框架的发展方向。
从应用和数据角度看ai框架的挑战 模型和数据的规模和复杂度持续提升
今年5月，openai发布gpt-3模型，千亿参数量，数据集（处理前）45t，训练一次的成本号称接近500万美金，超大模型不仅仅是算法和算力成本的挑战，同时对ai框架的挑战也是巨大，主要体现在三点，性能墙（内存、通信、计算利用率）、效率墙以及精度墙：
性能墙：大模型下，gpu和npu的单卡(内存一般只有32g)肯定装不下整个模型，传统的数据并行是不够的，未来内存复用、混合并行（数据并行/模型并行/pipeline并行）等技术的使用将会是常态，同时，混合并行的切分策略寻优是很困难的，不同的切分产生的通信量差异巨大，计算利用率也很不一样，比如pipeline并行往往在计算利用率存在较大的挑战，算子切分的并行在通信量的挑战会很大，这些都需要ai框架来支持；最后在大规模并行训练系统中，当性能要求越来越高时，数据预处理也会成为一个瓶颈，比如我们在resnet50性能调优时发现，当单step跑到17~18ms的时候，host数据处理的时间就跟不上了。 效率墙：混合并行策略如果让算法工程师来手工确定的，这个门槛就会很高，既要懂算法，又要懂系统，怎么做到自动并行是关键。 精度墙：大规模模型训练天生就是一个大batchsize的训练，怎么更好的收敛，达到精度要求，都是一个大的挑战。 除了上面讲的三点外，超大规模的训练还面临其他的挑战，比如大规模集群的可用性、尾部时延、动态调度等等。
框架的负载从单一的深度学习模型向通用的张量可微计算演进 目前主要看到三个方向：
1)dnn与传统机器学习结合，比如深度概率学习、图神经网络等，这一块基本上业界的ai框架都已经支持。
2)ai与科学计算结合，看到业界在探索三个方向，一是ai建模替代传统的计算模型，这个方向刚刚起步，进展还不是很多；二是ai求解，模型还是传统的科学计算模型，但是使用神经网络的方法来求解，这个方向已经有一定的进展，目前看到不少基础的科学计算方程已经有对应的ai求解方法，比如pinns、pinn-net等，当然现在挑战还很大，特别是在精度收敛方面，如果要在ai框架上ai求解科学计算模型，最大的挑战主要在前端表达和高性能的高阶微分；三是使用框架来加速方程的求解，就是科学计算的模型和方法都不变，但是与深度学习使用同一个框架来求解，其实就是把框架看成面向张量计算的分布式框架。
3)计算图形相关的，类似taichi这样的语言和框架，提供可微物理引擎、可微渲染引擎等
从ai的芯片发展趋势看ai框架的挑战 ai芯片主要是两种形态，一种是基于simt的gpu，另外一种是类simd的npu，随着nvidia a100的发布，我们看到两种芯片架构在相互借鉴，相互融合：
大算力还是要靠simd(simt的灵活性虽然强，但是芯片的面积/功耗挑战太大)，tensor core的规模越来越大； 片内片间高速互联； 多硅片，大内存封装，x倍体积（特别是推理芯片）。 ai芯片的持续演进对ai框架也提出了许多关键的挑战：
优化与硬件耦合度提升，图算编译一体化：图层融合优化已经趋于收敛，需要和算子层联动优化，子图级和算子级的界限打破，基于graph tuning的整体优化是目前的热点； 多样的执行方式：图下沉模式和单算子调用模式混合，不同的情况下，可能采用不同的方式； 可编程性挑战变大：由于有了大量的simd加速指令，不在是单纯的simt编程模型，异构编程的挑战变大 从算法工程师和开发者的角度看ai框架的趋势 新的ai编程语言尝试突破python的限制 目前看到有代表性主要是julia和swift for tensorflow
julia的历史较早，目前在科学计算领域已经有不错的应用基础，当前结合这些领域的积累，逐步进入ai和深度学习领域，宣称的特点是动态语言的特征，静态语言的性能，和python比，比较有特色的地方包括：
类matlab的张量原生表达 多态的能力+动态类型推导/特化
3. ir的反射机制
所谓的ir反射机制是指，julia的ir可以让开发者做二次加工，以julia的机器学习库flux+zygote为例：
flux是一个julia上的扩展库，定义基本的算子，如conv，pooling，bn等等，方便开发者基于flux去定义机器学习模型；
zygote基于julia提供的ir反射机制实现了源到源的自动微分，在这个过程中，是不要改变julia本身的。
与julia相比，swift for tensorflow则完全是另外一套思路，他试图从工业级开发的角度来找到差异化，包括静态类型、高性能、与端侧结合的易部署等。
从目前看尽管julia和swift都有些特色，但是短期内还很难撼动python在ai领域的地位。
ai编译器成为框架的竞争焦点 ai编译器目前看到有三个方向在发力，第一类是致力于动静态图统一的ai jit能力，比如torchscript、jax等；第二类是偏向于面向芯片的优化，如xla、tvm；第三类是想做ai编译器的基础设施，mlir希望是提供metair，成为构建ai编译器的基础，relay/tvm则是想把编译器接口开放出去支撑第三方框架。不过我们看到这三个方向都还存在比较大的挑战。
ai jit：python的灵活性和动态性太强，动态shape好搞定，但是动态type就难了，更不用说python里面有大量非常灵活的数据结构的用法，一个动态图想无缝的转到静态图的确不是一件很容易的事情。
编译加速：目前主要还是基于pattern的算子融合和基于模板的算子生成技术，这里的瓶颈在于算子生成技术，因为算子融合的组合条件太多，基于模板无法做到完全枚举，要提升整个编译加速的泛化能力，下一个需要攻克的技术就是不需要模板的自动算子生成技术。
ai编译器的基础设施：mlir在设计理念上确实是先进和宏大的，mlir目标通过dialect的扩展来支持各种领域编译器，包括ai编译器（图层和算子层）。从进展看，mlir在tf lite的应用最快，主要是用作模型转换工具。我们需要思考的是，mlir带来的好处究竟是什么？我想mlir本身并不会打来框架性能和易用性的提升，主要还是重用和归一，如llvm的基础结构cfg+bb、大量的优化等，问题是这些重用是否有利于ai图层和算子层的编译，个人的观点，对于算子层来说mlir+llvm肯定是适用的，对于图层就未必，llvm虽然统一了许多编程语言的编译器，但是优势领域还是集中在静态编译领域，在jit和vm领域，llvm的优势并不明显，cfg+bb这样的基础架构未必适合需要自动微分/jit这样的ai图层编译器。
从ai的部署看ai框架的挑战 从ai部署看，我们看到三个趋势：
大模型在端侧的部署，特别是语言型的模型 端云协同的场景逐步开始应用，这里主要有两类，一类是云侧训练，端侧做在线finetuning的增量学习，第二类是联邦学习。 ai无处不在，在iot那些资源受限的设备上进行ai模型的部署。 目前看ai框架主要是两个挑战：
ai框架在云侧和端侧能否做到架构上的统一，这里的统一主要是指ir格式，只有这样才能做到云侧训练出来的模型，在端侧可以平滑的进行增量学习，并方便地进行联邦学习。 ai框架能否做到可大可小，比如小到k级的底噪，能够内置到iot的设备里。 从ai的责任看ai框架的挑战 ai的责任涉及的范围非常广，包括安全、隐私、公平、透明、可解释。
作为ai业务的承载，ai框架需要具备使能ai责任的能力，目前ai框架需要解决的几个挑战：
1、对于ai责任的各个方面，缺乏通用的分析方法和度量体系，缺乏场景感知的自动化度量方法。
2、ai模型鲁棒性、隐私保护技术、密态ai在实际场景下对模型性能影响较大。
3、ai的可解释性还缺乏理论和算法支撑，难以给出人类友好的推理结果解释。
2、mindspore的构想 mindspore作为一个新兴的框架，大家经常问的一个问题是他的差异化在哪里？
结合前面分析的ai框架的驱动力和挑战，我们希望mindspore在5个方向上引领ai框架的演进：
beyond ai：从深度学习框架演进到通用张量可微计算框架 mindspore会提供一个更通用的ai编译器，为支持更多的应用类型提供可能性。
分布式并行原生（scale out）：从手工并行演进到自动并行 mindspore在支持大规模训练方面除了性能和扩展性好外，更重要的是想降低这一块的门槛，让分布式训练变得更加简单。
图算深度融合（scale up）：从图算分离优化演进到图算联合优化 mindspore提供图算联合优化、自动算子生成、深度图优化等关键技术，充分发挥ai芯片的算力。
全场景ai：从端云分离架构演进到端云统一架构 mindspore的云侧框架和端侧框架做到统一架构，方便云端训练/端侧finetuing或者端云协同的联邦学习
企业级可信能力：从消费级ai演进到企业级ai mindspore会内置对抗性训练、差分隐私、密态ai、联邦学习以及可解释ai等能力。
当然，软件架构都是持续演进的，很少有技术能够做到独门绝技，mindspore也希望和业界其他框架在正确的方向上一起进步。
同时，mindspore社区也对外发布了10大课题，邀请开发者一起参与创新。具体参见链接：https://github.com/mindspore-ai/community/tree/master/working-groups/research
最后，简单介绍一下mindspore的高层设计
mindspore主要分为四层：
mindspore extend：这个是mindspore的扩展包，现在的数量还比较少，希望未来有更多的开发者来一起贡献和构建 mindspore的表达层：mindexpress是基于python的前端表达，未来我们也计划陆续提供c/c++、java等不同的前端；mindspore也在考虑自研编程语言前端-仓颉，目前还处于预研阶段；同时，我们内部也在做与julia这些第三方前端的对接工作，引入更多的第三方生态。 mindspore的编译优化层：mindcompiler是我们图层的核心编译器，主要基于端云统一的mindir实现三大功能，包括硬件无关的优化（类型推导/自动微分/表达式化简等）、硬件相关优化（自动并行、内存优化、图算融合、流水线执行等）、部署推理相关的优化（量化/剪枝等）；mindakg是mindspore的自动算子生成编译器，目前还在持续完善中。 mindspore全场景运行时：这里含云侧、端侧以及更小的iot。 同时mindspore也提供了面向ai责任的mindarmour，以及面向数据处理/可视化/可解释的minddata。
mindspore是一个新生的开源项目，今年3月底刚开源，本文介绍的构想更偏向mindspore的规划，其中有不少功能还没有完善，许多功能还不好用，甚至还有些功能处于前期研究阶段，希望开发者们能一起参与mindspore社区，多提问题和意见，共建mindspore社区。
mindspore官网：https://www.mindspore.cn/
mindspore论坛：https://bbs.huaweicloud.com/forum/forum-1076-1.html
代码仓地址：
gitee-https://gitee.com/mindspore/mindspore
github-https://github.com/mindspore-ai/mindspore
官方qq群: 871543426
推荐专栏文章
ocr中文项目综合实践（ctpn+crnn+ctc loss原理讲解） 【项目实践】多人姿态估计实践（代码+权重=一键运行） 【项目实践】从零开始学习ssd目标检测算法训练自己的数据集（附注释项目代码）
更多嵌入式ai算法部署等请关注极术嵌入式ai专栏。
埃派克森成为第二间获得三届GSA年度奖项的亚太公司
华为nova 2s四镜头？功能的升级可能比你想象的要多
报告：无人机市场规模2025年将达843.1亿美元
京仪装备自主研发出了高速集成电路制造晶圆倒片机
知情人士透露梁孟松短期内应不会去中芯国际
AI框架的演进趋势以及MindSpore的构想
意大利运营商Tre节省大量成本，套餐比竞争对手TIM便宜超过75％
OPPO宣布发布自己的5G手机
PIC单片机之通信协议
7nm处理器存在哪一些优缺点
白光干涉仪的应用场景
苹果购并Anobit SSD控制晶片公司
小屏党福音：索尼计划重启Xperia Compact智能手机系列
行业 | 丰田雷凌及凯美瑞PHEV推动力电池终身质保
Redis的分页+多条件模糊查询组合实现方案
小米发布智能摄像机AI探索版
土耳其新经济路线图第十一个发展计划谈及创建央行数字货币
存储器供需结构已反转，1月份存储器价格进入上升循环
虚拟数字人技术优势明显，市场规模增长强劲
PCB设计 PCB设计用什么软件
作者：金雪锋 mindspore在3月底开源后，一直忙于功能完善和内外部的应用推广，现在终于有点时间可以停下来结合mindspore的实践和团队一起总结对ai框架的一些思考，希望对大家有所帮助，也有助于大家去了解mindspore，更加欢迎大家一起探讨。
计划开一个专栏，有一系列的文章，初步主题规划包括：
ai框架的演进趋势和mindspore的构想 ai框架的图层ir的分析 动静态图统一的思考 端边云的框架如何统一 图算融合的设计思考 自动算子生成可行吗？ 如果自研一个ai编程语言，应该长什么样？ 如何成为分布式并行原生的ai框架？ ai与科学计算怎么结合？ ai框架怎么使能ai责任？ …….等等
内容比较多，全部写完要很长时间，希望自己有足够的耐心坚持下去。
本篇是一个总体的介绍，主要是分析ai框架的发展趋势，介绍一下mindspore的构想
1、未来ai框架的发展趋势是什么 ai框架的发展个人认为可以大致分为3个阶段：
第一阶段的代表是torch、theano以及caffe，奠定了基于python、自动微分、计算图等基本设计思路。
第二阶段的代表是tensorflow、pytorch，一个通过分布式训练、多样的部署能力在工业界广泛使用，另外一个是提供动态图能力，在灵活性上吸引了大量的研究者和算法工程师。
第三阶段的方向是什么？目前看还没有定型，我们看到google也有多条技术路径在探索，包括tf2.0，jax、mlir、swift for tf等；有些在做动态图和静态图的统一，有些在构建统一的ir基础设施，还有些在探索新的表达方式等，总之还是百花齐放的状态。
不管ai框架未来的发展方向是什么，ai框架的驱动力还是相对清晰，我们认为ai框架的驱动力主要是5个-“abcde”：
application+bigdata：ai框架的application就是ai的模型和算法，bigdata就是ai模型需要的数据 chip：ai的芯片，代表ai的算法发展 developer：ai的算法研究者和算法工程师 enterprise：ai部署和ai责任 下面，我们想通过对ai框架的驱动因素的分析来讨论一下ai框架的发展方向。
从应用和数据角度看ai框架的挑战 模型和数据的规模和复杂度持续提升
今年5月，openai发布gpt-3模型，千亿参数量，数据集（处理前）45t，训练一次的成本号称接近500万美金，超大模型不仅仅是算法和算力成本的挑战，同时对ai框架的挑战也是巨大，主要体现在三点，性能墙（内存、通信、计算利用率）、效率墙以及精度墙：
性能墙：大模型下，gpu和npu的单卡(内存一般只有32g)肯定装不下整个模型，传统的数据并行是不够的，未来内存复用、混合并行（数据并行/模型并行/pipeline并行）等技术的使用将会是常态，同时，混合并行的切分策略寻优是很困难的，不同的切分产生的通信量差异巨大，计算利用率也很不一样，比如pipeline并行往往在计算利用率存在较大的挑战，算子切分的并行在通信量的挑战会很大，这些都需要ai框架来支持；最后在大规模并行训练系统中，当性能要求越来越高时，数据预处理也会成为一个瓶颈，比如我们在resnet50性能调优时发现，当单step跑到17~18ms的时候，host数据处理的时间就跟不上了。 效率墙：混合并行策略如果让算法工程师来手工确定的，这个门槛就会很高，既要懂算法，又要懂系统，怎么做到自动并行是关键。 精度墙：大规模模型训练天生就是一个大batchsize的训练，怎么更好的收敛，达到精度要求，都是一个大的挑战。 除了上面讲的三点外，超大规模的训练还面临其他的挑战，比如大规模集群的可用性、尾部时延、动态调度等等。
框架的负载从单一的深度学习模型向通用的张量可微计算演进 目前主要看到三个方向：
1)dnn与传统机器学习结合，比如深度概率学习、图神经网络等，这一块基本上业界的ai框架都已经支持。
2)ai与科学计算结合，看到业界在探索三个方向，一是ai建模替代传统的计算模型，这个方向刚刚起步，进展还不是很多；二是ai求解，模型还是传统的科学计算模型，但是使用神经网络的方法来求解，这个方向已经有一定的进展，目前看到不少基础的科学计算方程已经有对应的ai求解方法，比如pinns、pinn-net等，当然现在挑战还很大，特别是在精度收敛方面，如果要在ai框架上ai求解科学计算模型，最大的挑战主要在前端表达和高性能的高阶微分；三是使用框架来加速方程的求解，就是科学计算的模型和方法都不变，但是与深度学习使用同一个框架来求解，其实就是把框架看成面向张量计算的分布式框架。
3)计算图形相关的，类似taichi这样的语言和框架，提供可微物理引擎、可微渲染引擎等
从ai的芯片发展趋势看ai框架的挑战 ai芯片主要是两种形态，一种是基于simt的gpu，另外一种是类simd的npu，随着nvidia a100的发布，我们看到两种芯片架构在相互借鉴，相互融合：
大算力还是要靠simd(simt的灵活性虽然强，但是芯片的面积/功耗挑战太大)，tensor core的规模越来越大； 片内片间高速互联； 多硅片，大内存封装，x倍体积（特别是推理芯片）。 ai芯片的持续演进对ai框架也提出了许多关键的挑战：
优化与硬件耦合度提升，图算编译一体化：图层融合优化已经趋于收敛，需要和算子层联动优化，子图级和算子级的界限打破，基于graph tuning的整体优化是目前的热点； 多样的执行方式：图下沉模式和单算子调用模式混合，不同的情况下，可能采用不同的方式； 可编程性挑战变大：由于有了大量的simd加速指令，不在是单纯的simt编程模型，异构编程的挑战变大 从算法工程师和开发者的角度看ai框架的趋势 新的ai编程语言尝试突破python的限制 目前看到有代表性主要是julia和swift for tensorflow
julia的历史较早，目前在科学计算领域已经有不错的应用基础，当前结合这些领域的积累，逐步进入ai和深度学习领域，宣称的特点是动态语言的特征，静态语言的性能，和python比，比较有特色的地方包括：
类matlab的张量原生表达 多态的能力+动态类型推导/特化
3. ir的反射机制
所谓的ir反射机制是指，julia的ir可以让开发者做二次加工，以julia的机器学习库flux+zygote为例：
flux是一个julia上的扩展库，定义基本的算子，如conv，pooling，bn等等，方便开发者基于flux去定义机器学习模型；
zygote基于julia提供的ir反射机制实现了源到源的自动微分，在这个过程中，是不要改变julia本身的。
与julia相比，swift for tensorflow则完全是另外一套思路，他试图从工业级开发的角度来找到差异化，包括静态类型、高性能、与端侧结合的易部署等。
从目前看尽管julia和swift都有些特色，但是短期内还很难撼动python在ai领域的地位。
ai编译器成为框架的竞争焦点 ai编译器目前看到有三个方向在发力，第一类是致力于动静态图统一的ai jit能力，比如torchscript、jax等；第二类是偏向于面向芯片的优化，如xla、tvm；第三类是想做ai编译器的基础设施，mlir希望是提供metair，成为构建ai编译器的基础，relay/tvm则是想把编译器接口开放出去支撑第三方框架。不过我们看到这三个方向都还存在比较大的挑战。
ai jit：python的灵活性和动态性太强，动态shape好搞定，但是动态type就难了，更不用说python里面有大量非常灵活的数据结构的用法，一个动态图想无缝的转到静态图的确不是一件很容易的事情。
编译加速：目前主要还是基于pattern的算子融合和基于模板的算子生成技术，这里的瓶颈在于算子生成技术，因为算子融合的组合条件太多，基于模板无法做到完全枚举，要提升整个编译加速的泛化能力，下一个需要攻克的技术就是不需要模板的自动算子生成技术。
ai编译器的基础设施：mlir在设计理念上确实是先进和宏大的，mlir目标通过dialect的扩展来支持各种领域编译器，包括ai编译器（图层和算子层）。从进展看，mlir在tf lite的应用最快，主要是用作模型转换工具。我们需要思考的是，mlir带来的好处究竟是什么？我想mlir本身并不会打来框架性能和易用性的提升，主要还是重用和归一，如llvm的基础结构cfg+bb、大量的优化等，问题是这些重用是否有利于ai图层和算子层的编译，个人的观点，对于算子层来说mlir+llvm肯定是适用的，对于图层就未必，llvm虽然统一了许多编程语言的编译器，但是优势领域还是集中在静态编译领域，在jit和vm领域，llvm的优势并不明显，cfg+bb这样的基础架构未必适合需要自动微分/jit这样的ai图层编译器。
从ai的部署看ai框架的挑战 从ai部署看，我们看到三个趋势：
大模型在端侧的部署，特别是语言型的模型 端云协同的场景逐步开始应用，这里主要有两类，一类是云侧训练，端侧做在线finetuning的增量学习，第二类是联邦学习。 ai无处不在，在iot那些资源受限的设备上进行ai模型的部署。 目前看ai框架主要是两个挑战：
ai框架在云侧和端侧能否做到架构上的统一，这里的统一主要是指ir格式，只有这样才能做到云侧训练出来的模型，在端侧可以平滑的进行增量学习，并方便地进行联邦学习。 ai框架能否做到可大可小，比如小到k级的底噪，能够内置到iot的设备里。 从ai的责任看ai框架的挑战 ai的责任涉及的范围非常广，包括安全、隐私、公平、透明、可解释。
作为ai业务的承载，ai框架需要具备使能ai责任的能力，目前ai框架需要解决的几个挑战：
1、对于ai责任的各个方面，缺乏通用的分析方法和度量体系，缺乏场景感知的自动化度量方法。
2、ai模型鲁棒性、隐私保护技术、密态ai在实际场景下对模型性能影响较大。
3、ai的可解释性还缺乏理论和算法支撑，难以给出人类友好的推理结果解释。
2、mindspore的构想 mindspore作为一个新兴的框架，大家经常问的一个问题是他的差异化在哪里？
结合前面分析的ai框架的驱动力和挑战，我们希望mindspore在5个方向上引领ai框架的演进：
beyond ai：从深度学习框架演进到通用张量可微计算框架 mindspore会提供一个更通用的ai编译器，为支持更多的应用类型提供可能性。
分布式并行原生（scale out）：从手工并行演进到自动并行 mindspore在支持大规模训练方面除了性能和扩展性好外，更重要的是想降低这一块的门槛，让分布式训练变得更加简单。
图算深度融合（scale up）：从图算分离优化演进到图算联合优化 mindspore提供图算联合优化、自动算子生成、深度图优化等关键技术，充分发挥ai芯片的算力。
全场景ai：从端云分离架构演进到端云统一架构 mindspore的云侧框架和端侧框架做到统一架构，方便云端训练/端侧finetuing或者端云协同的联邦学习
企业级可信能力：从消费级ai演进到企业级ai mindspore会内置对抗性训练、差分隐私、密态ai、联邦学习以及可解释ai等能力。
当然，软件架构都是持续演进的，很少有技术能够做到独门绝技，mindspore也希望和业界其他框架在正确的方向上一起进步。
同时，mindspore社区也对外发布了10大课题，邀请开发者一起参与创新。具体参见链接：https://github.com/mindspore-ai/community/tree/master/working-groups/research
最后，简单介绍一下mindspore的高层设计
mindspore主要分为四层：
mindspore extend：这个是mindspore的扩展包，现在的数量还比较少，希望未来有更多的开发者来一起贡献和构建 mindspore的表达层：mindexpress是基于python的前端表达，未来我们也计划陆续提供c/c++、java等不同的前端；mindspore也在考虑自研编程语言前端-仓颉，目前还处于预研阶段；同时，我们内部也在做与julia这些第三方前端的对接工作，引入更多的第三方生态。 mindspore的编译优化层：mindcompiler是我们图层的核心编译器，主要基于端云统一的mindir实现三大功能，包括硬件无关的优化（类型推导/自动微分/表达式化简等）、硬件相关优化（自动并行、内存优化、图算融合、流水线执行等）、部署推理相关的优化（量化/剪枝等）；mindakg是mindspore的自动算子生成编译器，目前还在持续完善中。 mindspore全场景运行时：这里含云侧、端侧以及更小的iot。 同时mindspore也提供了面向ai责任的mindarmour，以及面向数据处理/可视化/可解释的minddata。
mindspore是一个新生的开源项目，今年3月底刚开源，本文介绍的构想更偏向mindspore的规划，其中有不少功能还没有完善，许多功能还不好用，甚至还有些功能处于前期研究阶段，希望开发者们能一起参与mindspore社区，多提问题和意见，共建mindspore社区。
mindspore官网：https://www.mindspore.cn/
mindspore论坛：https://bbs.huaweicloud.com/forum/forum-1076-1.html
代码仓地址：
gitee-https://gitee.com/mindspore/mindspore
github-https://github.com/mindspore-ai/mindspore
官方qq群: 871543426
推荐专栏文章
ocr中文项目综合实践（ctpn+crnn+ctc loss原理讲解） 【项目实践】多人姿态估计实践（代码+权重=一键运行） 【项目实践】从零开始学习ssd目标检测算法训练自己的数据集（附注释项目代码）
更多嵌入式ai算法部署等请关注极术嵌入式ai专栏。
埃派克森成为第二间获得三届GSA年度奖项的亚太公司
华为nova 2s四镜头？功能的升级可能比你想象的要多
报告：无人机市场规模2025年将达843.1亿美元
京仪装备自主研发出了高速集成电路制造晶圆倒片机
知情人士透露梁孟松短期内应不会去中芯国际
AI框架的演进趋势以及MindSpore的构想
意大利运营商Tre节省大量成本，套餐比竞争对手TIM便宜超过75％
OPPO宣布发布自己的5G手机
PIC单片机之通信协议
7nm处理器存在哪一些优缺点
白光干涉仪的应用场景
苹果购并Anobit SSD控制晶片公司
小屏党福音：索尼计划重启Xperia Compact智能手机系列
行业 | 丰田雷凌及凯美瑞PHEV推动力电池终身质保
Redis的分页+多条件模糊查询组合实现方案
小米发布智能摄像机AI探索版
土耳其新经济路线图第十一个发展计划谈及创建央行数字货币
存储器供需结构已反转，1月份存储器价格进入上升循环
虚拟数字人技术优势明显，市场规模增长强劲
PCB设计 PCB设计用什么软件