机器学习需要掌握的九种工具盘点
学术界在推进技术方面发挥了巨大作用，但学术界和工业界往往存在一种分割状态。我们经常会看到这种现象：无数很棒的辅助工具在学术界被忽视，但在工业界很受欢迎。对于很多研究者来说，学习一种新工具可能存在困难，不愿意花费过多的时间去尝试，在当前自己掌握的工具足以应对各种问题时尤其如此。
其实，有些工具一时未见到效果，在后期可能会有十倍的回报。
来自剑桥大学的计算机科学博士生 aliaksei mikhailiuk 为我们整理了机器学习博士在获得学位之前需要掌握的九种工具。他在剑桥大学获得物理学硕士学位，在布里斯托大学获得工程学士学位。他对研究、开发、部署感兴趣，还能熟练掌握计算机视觉算法、聚合和自然语言处理等技术。现任职华为（英国）高级人工智能工程师。
mikhailiuk 将这些工具按用途分为四类：可隔离环境、实验跟踪、相互协作以及可视化
一、可隔离环境工具
机器学习是一个快速发展的领域，常用的包更新非常频繁。尽管开发人员做出了努力，但较新的版本通常与旧版本不兼容，这样给研究者带来很多麻烦。幸运的是，有工具可以解决这个问题！在这一方面，mikhailiuk 推荐了两个工具：docker 和 conda。
1. docker
mikhailiuk 攻读博士学位期间，他有一台由大学管理的机器，学校会定期进行更新。通常情况下是一夜之间更新，没有任何通知。你可以想象，当更新后的第二天早上发现自己大部分工作与最新的驱动程序不兼容，是多么令人崩溃。mikhailiuk 发现 docker 可以很好地解决。
docker 允许将软件包装在称为容器的包中。容器是具有自己的软件、库和配置文件的独立单元。在一个简化的视图中，容器是一个独立的虚拟操作系统，它具有与外部世界通信的手段。docker 是一个开源的应用容器引擎，让开发者可以打包他们的应用以及依赖包到一个可移植的容器中，然后发布到任何流行的 linux 或 windows 操作系统的机器上，也可以实现虚拟化，容器是完全使用沙箱机制，相互之间不会有任何接口。
一个完整的 docker 由以下几个部分组成：
dockerclient 客户端
docker daemon 守护进程
docker image 镜像
dockercontainer 容器
2. conda
现在，复用别人的代码成为了一种新的规范。github 作为一个代码托管云服务网站，帮助开发者存储和管理其项目源代码，且能够追踪、记录并控制用户对其代码的修改。研究者可以克隆上面的代码，安装并提出自己的解决方案，而不需要自己写任何东西。
但是 github 也有不方便的情况，当多个项目一起使用时，你会遇到包管理问题，因为不同的项目需要不同版本的包。
conda 可以解决这个问题 。conda 是一个开源跨平台语言无关的包管理与环境管理系统，它允许创建多个环境并快速安装、运行和更新包及其依赖项，用户可以在隔离的环境之间快速切换。
二、运行、跟踪和记录实验工具
在应用领域想要获得博士学位，严谨性和一致性是两个基本支柱。假如你是研究机器学习模型的，或多或少都能遇到这种情况——你创建了许多不同的模型来试验不同的参数甚至整个架构。你还想尝试优化器的选择、学习率、时期数等。因此，实际上，你将进行许多不同的实验，并且将越来越难以整理结果。在这一方面，aliaksei mikhailiuk 向我们展示了如何正确方便地管理和记录自己的 ml 和 dl 实验工具，主要推荐了 weights & biases，mlflow，screen 工具。
3. weights & biases
▲wandb panel 一组简单指标 snapshot——训练损失、学习率和平均验证损失。请注意，你还可以跟踪系统参数。
w&b（weights & biases） 是一个平台，可以帮助数据科学家跟踪他们的模型、数据集、系统信息等。只需几行代码，用户就可以开始跟踪有关这些功能的所有内容。它免费供个人使用，团队使用通常需要付费，但用于学术目的的团队是免费的。你可以将 w&b 与自己喜欢的框架一起使用，例如 tensorflow、keras、pytorch、sklearn、fastai 等。
w&b 提供了以下 4 个有用的工具：
dashboard：实验跟踪；
artifacts：数据集版本控制、模型版本控制；
sweeps：超参数优化；
reports 保存和共享可重现的结果。
4. mlflow
mlflow 是一个能够覆盖机器学习全流程（从数据准备到模型训练到最终部署）的新平台，它是一款管理机器学习工作流程的工具，主要有三个功能模块：tracking 跟踪和记录、project 项目管理和 models 模型管理。mlflow 支持 java、python、r 和 rest api 等。
mlflow 具有以下主要组件：
跟踪：用于跟踪试验，以记录和比较参数与结果；
模型：用于通过各种 ml 库管理模型，并将其部署到各种模型服务和推理平台；
项目：用于将 ml 代码打包成可重用、可再现的格式，以便与其他数据科学家共享或转移到生产环境；
模型注册表：使你可以将模型存储集中化，以便使用版本控制和批注功能来管理模型的完整生命周期阶段转换；
模型服务：可用于将 mlflow 模型以 rest 终结点的形式托管。
5. screen
对于每个研究者来说，让实验通宵运行而且机器不会进入休眠状态再好不过了。当进行远程工作时，很多人都会担心 ssh 会话中断——代码运行几个小时就停止了。
screen 命令允许用户在一个窗口内使用多个终端会话，可以断开连接，也可以重新连接已断开连接的会话。每个会话都可以恢复连接，这样就算会话断开了，用户也不必担心数据丢失。
四、协作工具
学术界缺乏有效的团队管理机制，在某种程度上这是由于学术界会严格划分个人贡献造成的。然而，机器学习的发展速度需要大家共同努力。mikhailiuk 推荐了两个非常基本的工具：github 以及 lucidchart，它们对于有效的沟通非常方便，尤其是在远程工作上。
6. github
github 是通过 git 进行版本控制的软件源代码托管服务平台，同时提供付费账户和免费账户，这两种账户都可以创建公开或私有的代码仓库，但付费用户支持更多功能。除了允许个人和组织创建和访问保管中的代码以外，它也提供了一些方便社会化共同软件开发的功能，包括允许用户追踪其他用户、组织、软件库的动态，对软件代码的改动和 bug 提出评论等。github 也提供图表功能，用于概观显示开发者们怎样在代码库上工作以及软件的开发活跃程度。
就在近日，github 正式发布了2021 年度报告。过去一年里，有 1600 万开发者加入了 github，目前平台的开发者数量已经达到了 7300 万；过去一年里，他们在 github 上创建了 6100 万个存储库。世界财富 100 强企业中的 84% 都在使用 github。
7. lucidchart
lucidchart 是一款免费的可以支持离线操作的谷歌浏览器图表插件，可以帮助用户绘制包括流程图、实体模型、uml、思维导图等多种图表的绘制工作。它提供了很多免费绘图模板，大大地加快了用户的绘图速度。该应用的一大优势是，它基于 html5，因此用户不需要下载本地应用程序，就可以在电脑、ipad 等设备上使用该应用。它的另一主要优势是共享的协作空间和在图表旁边做笔记的能力。
五、可视化工具
提交论文时，研究人员经常会遇到拒稿的情况，这让 mikhailiuk 意识到可视化功能和结果一样重要。扩展阅读：机器学习可视化技术概览(python)
如果审稿人没有太多时间，或者对论文涉及的领域不熟悉，通常来说论文会被拒掉，其中一部分原因可能是论文中的视图给人印象不深刻。因此，mikhailiuk 推荐了 inkscape 和 streamlit 这两个工具。
8. inkscape
inkscape 是一个开源的矢量图编辑工具，使用可伸缩向量图形 (svg)，以及基于 w3c 标准的 open xml 格式作为其默认文件格式。设计过程可能从一张涂鸦、一幅素描或者软件中模型设计开始，这些可能不足以完成一整个项目。inkscape 可以帮助你将以上不成熟的素材转变为专业的设计，用于广告发布、模型制作等用途。inkscape 还能提供 textext 扩展，使用此软件包，你可以将 latex 公式无缝集成到图像中。
9. streamlit
streamlit 和常规 web 框架不同之处在于，它不需要你去编写任何客户端代码（html/css/js），只需要编写普通的 python 模块，就可以在很短的时间内创建美观并具备高度交互性的界面，从而快速生成数据分析或者机器学习的结果；另一方面，和那些只能通过拖拽生成的工具也不同的是，你仍然具有对代码的完整控制权。
以上就是 mikhailiuk 在获得机器学习博士学位之前需要掌握的九个工具，你不妨也学习一下，相信这些工具在你之后的学习、工作中，会起到事半功倍的效果。
派更半导体公司将对高管团队进行重大调整
新冠疫情促进额温枪技术与品质升级
苹果Vision Pro头显遭遇电池难题
采用电流型控制芯片UC3846实现电源交错并联时的同步运行设计
PCB设计：蛇形线背后隐藏的陷阱
机器学习需要掌握的九种工具盘点
Sub-6GHz和毫米波的区别_Sub-6GHz和毫米波应用现状
百度公司宣布全面开放ApolloRobotaxi自动驾驶出租车服务
模块电源灌封简介
iPhone7热点：整机275美元 爆炸惊动苹果介入调查
采用STK3048和STK6153的实用电路
三星2017年可能会发布可摺叠手机 因为OLED 技术技术已成熟
自动驾驶也要在赛车围场里开始厮杀了
发电机保护装置有哪些,其功能是什么
设计开关模式电源关键参数的五大简单步骤
AI推动从云到边缘的全面创新
三种恒流源电路原理分析
傅里叶变换和拉普拉斯变换的物理解释及区别
水位监测站的原理、特点及功能
沃尔沃汽车升级部署Microchip MOST150器件
其实，有些工具一时未见到效果，在后期可能会有十倍的回报。
来自剑桥大学的计算机科学博士生 aliaksei mikhailiuk 为我们整理了机器学习博士在获得学位之前需要掌握的九种工具。他在剑桥大学获得物理学硕士学位，在布里斯托大学获得工程学士学位。他对研究、开发、部署感兴趣，还能熟练掌握计算机视觉算法、聚合和自然语言处理等技术。现任职华为（英国）高级人工智能工程师。
mikhailiuk 将这些工具按用途分为四类：可隔离环境、实验跟踪、相互协作以及可视化
一、可隔离环境工具
机器学习是一个快速发展的领域，常用的包更新非常频繁。尽管开发人员做出了努力，但较新的版本通常与旧版本不兼容，这样给研究者带来很多麻烦。幸运的是，有工具可以解决这个问题！在这一方面，mikhailiuk 推荐了两个工具：docker 和 conda。
1. docker
mikhailiuk 攻读博士学位期间，他有一台由大学管理的机器，学校会定期进行更新。通常情况下是一夜之间更新，没有任何通知。你可以想象，当更新后的第二天早上发现自己大部分工作与最新的驱动程序不兼容，是多么令人崩溃。mikhailiuk 发现 docker 可以很好地解决。
docker 允许将软件包装在称为容器的包中。容器是具有自己的软件、库和配置文件的独立单元。在一个简化的视图中，容器是一个独立的虚拟操作系统，它具有与外部世界通信的手段。docker 是一个开源的应用容器引擎，让开发者可以打包他们的应用以及依赖包到一个可移植的容器中，然后发布到任何流行的 linux 或 windows 操作系统的机器上，也可以实现虚拟化，容器是完全使用沙箱机制，相互之间不会有任何接口。
一个完整的 docker 由以下几个部分组成：
dockerclient 客户端
docker daemon 守护进程
docker image 镜像
dockercontainer 容器
2. conda
现在，复用别人的代码成为了一种新的规范。github 作为一个代码托管云服务网站，帮助开发者存储和管理其项目源代码，且能够追踪、记录并控制用户对其代码的修改。研究者可以克隆上面的代码，安装并提出自己的解决方案，而不需要自己写任何东西。
但是 github 也有不方便的情况，当多个项目一起使用时，你会遇到包管理问题，因为不同的项目需要不同版本的包。
conda 可以解决这个问题 。conda 是一个开源跨平台语言无关的包管理与环境管理系统，它允许创建多个环境并快速安装、运行和更新包及其依赖项，用户可以在隔离的环境之间快速切换。
二、运行、跟踪和记录实验工具
在应用领域想要获得博士学位，严谨性和一致性是两个基本支柱。假如你是研究机器学习模型的，或多或少都能遇到这种情况——你创建了许多不同的模型来试验不同的参数甚至整个架构。你还想尝试优化器的选择、学习率、时期数等。因此，实际上，你将进行许多不同的实验，并且将越来越难以整理结果。在这一方面，aliaksei mikhailiuk 向我们展示了如何正确方便地管理和记录自己的 ml 和 dl 实验工具，主要推荐了 weights & biases，mlflow，screen 工具。
3. weights & biases
▲wandb panel 一组简单指标 snapshot——训练损失、学习率和平均验证损失。请注意，你还可以跟踪系统参数。
w&b（weights & biases） 是一个平台，可以帮助数据科学家跟踪他们的模型、数据集、系统信息等。只需几行代码，用户就可以开始跟踪有关这些功能的所有内容。它免费供个人使用，团队使用通常需要付费，但用于学术目的的团队是免费的。你可以将 w&b 与自己喜欢的框架一起使用，例如 tensorflow、keras、pytorch、sklearn、fastai 等。
w&b 提供了以下 4 个有用的工具：
dashboard：实验跟踪；
artifacts：数据集版本控制、模型版本控制；
sweeps：超参数优化；
reports 保存和共享可重现的结果。
4. mlflow
mlflow 是一个能够覆盖机器学习全流程（从数据准备到模型训练到最终部署）的新平台，它是一款管理机器学习工作流程的工具，主要有三个功能模块：tracking 跟踪和记录、project 项目管理和 models 模型管理。mlflow 支持 java、python、r 和 rest api 等。
mlflow 具有以下主要组件：
跟踪：用于跟踪试验，以记录和比较参数与结果；
模型：用于通过各种 ml 库管理模型，并将其部署到各种模型服务和推理平台；
项目：用于将 ml 代码打包成可重用、可再现的格式，以便与其他数据科学家共享或转移到生产环境；
模型注册表：使你可以将模型存储集中化，以便使用版本控制和批注功能来管理模型的完整生命周期阶段转换；
模型服务：可用于将 mlflow 模型以 rest 终结点的形式托管。
5. screen
对于每个研究者来说，让实验通宵运行而且机器不会进入休眠状态再好不过了。当进行远程工作时，很多人都会担心 ssh 会话中断——代码运行几个小时就停止了。
screen 命令允许用户在一个窗口内使用多个终端会话，可以断开连接，也可以重新连接已断开连接的会话。每个会话都可以恢复连接，这样就算会话断开了，用户也不必担心数据丢失。
四、协作工具
学术界缺乏有效的团队管理机制，在某种程度上这是由于学术界会严格划分个人贡献造成的。然而，机器学习的发展速度需要大家共同努力。mikhailiuk 推荐了两个非常基本的工具：github 以及 lucidchart，它们对于有效的沟通非常方便，尤其是在远程工作上。
6. github
github 是通过 git 进行版本控制的软件源代码托管服务平台，同时提供付费账户和免费账户，这两种账户都可以创建公开或私有的代码仓库，但付费用户支持更多功能。除了允许个人和组织创建和访问保管中的代码以外，它也提供了一些方便社会化共同软件开发的功能，包括允许用户追踪其他用户、组织、软件库的动态，对软件代码的改动和 bug 提出评论等。github 也提供图表功能，用于概观显示开发者们怎样在代码库上工作以及软件的开发活跃程度。
就在近日，github 正式发布了2021 年度报告。过去一年里，有 1600 万开发者加入了 github，目前平台的开发者数量已经达到了 7300 万；过去一年里，他们在 github 上创建了 6100 万个存储库。世界财富 100 强企业中的 84% 都在使用 github。
7. lucidchart
lucidchart 是一款免费的可以支持离线操作的谷歌浏览器图表插件，可以帮助用户绘制包括流程图、实体模型、uml、思维导图等多种图表的绘制工作。它提供了很多免费绘图模板，大大地加快了用户的绘图速度。该应用的一大优势是，它基于 html5，因此用户不需要下载本地应用程序，就可以在电脑、ipad 等设备上使用该应用。它的另一主要优势是共享的协作空间和在图表旁边做笔记的能力。
五、可视化工具
提交论文时，研究人员经常会遇到拒稿的情况，这让 mikhailiuk 意识到可视化功能和结果一样重要。扩展阅读：机器学习可视化技术概览(python)
如果审稿人没有太多时间，或者对论文涉及的领域不熟悉，通常来说论文会被拒掉，其中一部分原因可能是论文中的视图给人印象不深刻。因此，mikhailiuk 推荐了 inkscape 和 streamlit 这两个工具。
8. inkscape
inkscape 是一个开源的矢量图编辑工具，使用可伸缩向量图形 (svg)，以及基于 w3c 标准的 open xml 格式作为其默认文件格式。设计过程可能从一张涂鸦、一幅素描或者软件中模型设计开始，这些可能不足以完成一整个项目。inkscape 可以帮助你将以上不成熟的素材转变为专业的设计，用于广告发布、模型制作等用途。inkscape 还能提供 textext 扩展，使用此软件包，你可以将 latex 公式无缝集成到图像中。
9. streamlit
streamlit 和常规 web 框架不同之处在于，它不需要你去编写任何客户端代码（html/css/js），只需要编写普通的 python 模块，就可以在很短的时间内创建美观并具备高度交互性的界面，从而快速生成数据分析或者机器学习的结果；另一方面，和那些只能通过拖拽生成的工具也不同的是，你仍然具有对代码的完整控制权。
以上就是 mikhailiuk 在获得机器学习博士学位之前需要掌握的九个工具，你不妨也学习一下，相信这些工具在你之后的学习、工作中，会起到事半功倍的效果。
派更半导体公司将对高管团队进行重大调整
新冠疫情促进额温枪技术与品质升级
苹果Vision Pro头显遭遇电池难题
采用电流型控制芯片UC3846实现电源交错并联时的同步运行设计
PCB设计：蛇形线背后隐藏的陷阱
机器学习需要掌握的九种工具盘点
Sub-6GHz和毫米波的区别_Sub-6GHz和毫米波应用现状
百度公司宣布全面开放ApolloRobotaxi自动驾驶出租车服务
模块电源灌封简介
iPhone7热点：整机275美元 爆炸惊动苹果介入调查
采用STK3048和STK6153的实用电路
三星2017年可能会发布可摺叠手机 因为OLED 技术技术已成熟
自动驾驶也要在赛车围场里开始厮杀了
发电机保护装置有哪些,其功能是什么
设计开关模式电源关键参数的五大简单步骤
AI推动从云到边缘的全面创新
三种恒流源电路原理分析
傅里叶变换和拉普拉斯变换的物理解释及区别
水位监测站的原理、特点及功能
沃尔沃汽车升级部署Microchip MOST150器件