多元线性回归的特点是什么
何为多元线性回归？对比于前一天学习的线性回归，多元线性回归的特点是什么？
多元线性回归与简单线性回归一样，都是尝试通过使用一个方程式来适配数据，得出相应结果。不同的是，多元线性回归方程，适配的是两个及以上的特征（即x1、x2、...），而简单线性回归一般只有一个特征（x）。
另外，与简单线性回归相比，多元线性回归有一个显著的特点，即能拿到每个特征的权重，这样你能知道哪些因素对结果的影响最大。
请注意多元线性回归的以下4个前提：
1.线性：自变量和因变量的关系应该大致呈线性的。
2.呈现多元正态分布。
3.保持误差项的方差齐性（误差项方差必须等同）。
4.缺少多重共线性。
第一、二点比较好理解，第三、四点需要详细地讲一下：
第三点，保持误差项的方差齐性的意义 : 首先，明确什么叫误差项？误差项也可以叫随机误差项，一般包括：
1)模型中省略的对被解释变量（y）不重要的影响因素 (解释变量（x）)；
2)解释变量（x）和被解释变量（y）的观测误差；
3)经济系统中无法控制、不易度量的随机因素。
再确定什么叫 方差齐性 ：顾名思义，方差相等。与什么东西的方差呢？这里需要引入残差的概念：残差，即预测值和真实值之间的差值。而方差齐性，指的就是满足随机分布的残差，如下图所示：
如何判断数据是否满足方差齐性呢？精确的判断是很难做到的，我们可以通过上图绘制x值与残差的关系来大致估计，也可以用一个巧妙的方法： 对残差做简单线性回归，如果得到的直线大致平行于x轴，则说明满足方差齐性 。
这种观察自变量与残差之间是否存在线性关系（bp法）或非线性关系（white检验）是较为常用的两种方差齐性检验的方法。
第四点，缺少多重共线性的意义 ：根据回归分析的结果，一般而言我们能发现自变量x1、x2、... 等因素对y的影响。但是存在一种情况：如果各个自变量x之间有很强的线性关系，就无法固定其他变量，也就找不到x和y之间真实的关系了，这就叫做多重共线性。
有多种方法可以检测多重共线性，较常使用的是回归分析中的vif值（方差膨胀因子），vif值越大，多重共线性越严重。vif怎么计算？ vif=1/(1-r^2) , 其中r^2是样本可决系数。样本可决系数怎么计算？答案是通过残差，这里有详细的计算方法：
一般认为vif大于10时（严格是5），代表模型存在严重的共线性问题。
讲了这么多理论知识，大家可能觉得比较枯燥，但是实际上本文最难的也就是这些理论知识，希望大家能好好消化。下面正式开始实操部分。
1.准****备
开始之前，你要确保python和pip已经成功安装在电脑上，如果没有，请访问这篇文章：超详细python安装指南 进行安装。
如果你用python的目的是数据分析，可以直接安装anaconda：python数据分析与挖掘好帮手—anaconda，它内置了python和pip.
此外，推荐大家用vscode编辑器，因为它有许多许多的优点：python 编程的最好搭档—vscode 详细指南。
准备输入命令安装依赖，如果你没有vscode编辑器，windows环境下打开 cmd (开始-运行-cmd)，苹果系统环境下请打开 terminal (command+空格输入terminal)，如果你用的是vscode编辑器或pycharm，可以直接在下方的terminal中输入命令：
pip install pandaspip install numpypip install matplotlibpip install scikit-learn本篇文章使用的50_startups.csv文件，由研发开销、管理开销、市场开销、州和利润五列数据组成。本文源代码和数据文件，可以关注python实用宝典公众号，后台回复：**机器学习3 **下载。
2.数据预处理
导入库
import pandas as pdimport numpy as np导入数据集
最后一列利润为y值，其他均为x值。
dataset = pd.read_csv('50_startups.csv')x = dataset.iloc[:, :-1].valuesy = dataset.iloc[:, 4].values将类别数据数字化
将“州”这一列数字化。
from sklearn.preprocessing import labelencoder, onehotencoderlabelencoder = labelencoder()x[:, 3] = labelencoder.fit_transform(x[:, 3])# 一共有3个州onehotencoder = onehotencoder(categorical_features=[3])x = onehotencoder.fit_transform(x).toarray()躲避虚拟变量陷阱
原始数据如下：
在我们对“州”这列变量进行数字化后，会在前面出现三列one_hot变量，每一列代表一个州。
这就出现虚拟变量陷阱了，比如第一列我们能通过另外两列的值得到：如果2、3列为0，第1列肯定为1，如果2、3列存在不为0的值，则第1列肯定为1。
因此，这里第一列没有使用的必要。
x = x[: , 1:]拆分数据集为训练集和测试集
from sklearn.model_selection import train_test_splitx_train, x_test, y_train, y_test = train_test_split(x, y, test_size = 0.2, random_state = 0)3. 训练模型
与简单线性回归一样，使用linearregression即可实现多元线性回归（sklearn已经帮你处理好多元的情况）。
from sklearn.linear_model import linearregressionregressor = linearregression()regressor.fit(x_train, y_train)4. 预测结果
一行搞定：
y_pred = regressor.predict(x_test)print(real:, y_test)print(predict:, y_pred)看看效果：
画个图看看对比效果：
map_index = list(range(len(y_test)))plt.scatter(map_index, y_test, color='red')plt.plot(map_index, y_pred, color='blue')plt.show()
蓝色的线是预测值，红色的点是真实的值，可以看到预测效果还是不错的。
CES2012:华硕发布性能最强的显卡
小程序点燃线下流量 想象中的风口和现实中的机会
smt加工专用的三防漆治具
达实智能助力轨道交通智能空调系统实现高效节能
基于MC9S12xS128单片机和传感器技术实现智能车系统的设计
多元线性回归的特点是什么
丰田汽车:从织布机起家到汽车行业冠军与世界制造业的标杆
高性能大带宽 AMD EPYC 助力圣母大学环境科学研究
龙尚科技联手海高思通信科技推出新一代POC机，搭载龙尚M5700模组
基于ARM9和Linux的FPGA驱动设计
单片机控制的红外线防盗报警器
“互联网+服务业”的巨大潜力为服务业的数字化发展提供了助力
云端对象存储和块存储你都了解吗
KVM延长器在监控系统中远程多点控制应用方案
日本开发了用于对话系统的新方法 该系统可以在对话中获取关于单词的知识
NVIDIA因冠状病毒风险退出世界移动大会
根服务器有何作用,切断根服务器有何影响
基于LabVIEW的闭环步进电机运动系统设计及精度分析
PCB电路板可以有多小
ST5541泄漏电流测试仪的特点及应用
多元线性回归与简单线性回归一样，都是尝试通过使用一个方程式来适配数据，得出相应结果。不同的是，多元线性回归方程，适配的是两个及以上的特征（即x1、x2、...），而简单线性回归一般只有一个特征（x）。
另外，与简单线性回归相比，多元线性回归有一个显著的特点，即能拿到每个特征的权重，这样你能知道哪些因素对结果的影响最大。
请注意多元线性回归的以下4个前提：
1.线性：自变量和因变量的关系应该大致呈线性的。
2.呈现多元正态分布。
3.保持误差项的方差齐性（误差项方差必须等同）。
4.缺少多重共线性。
第一、二点比较好理解，第三、四点需要详细地讲一下：
第三点，保持误差项的方差齐性的意义 : 首先，明确什么叫误差项？误差项也可以叫随机误差项，一般包括：
1)模型中省略的对被解释变量（y）不重要的影响因素 (解释变量（x）)；
2)解释变量（x）和被解释变量（y）的观测误差；
3)经济系统中无法控制、不易度量的随机因素。
再确定什么叫 方差齐性 ：顾名思义，方差相等。与什么东西的方差呢？这里需要引入残差的概念：残差，即预测值和真实值之间的差值。而方差齐性，指的就是满足随机分布的残差，如下图所示：
如何判断数据是否满足方差齐性呢？精确的判断是很难做到的，我们可以通过上图绘制x值与残差的关系来大致估计，也可以用一个巧妙的方法： 对残差做简单线性回归，如果得到的直线大致平行于x轴，则说明满足方差齐性 。
这种观察自变量与残差之间是否存在线性关系（bp法）或非线性关系（white检验）是较为常用的两种方差齐性检验的方法。
第四点，缺少多重共线性的意义 ：根据回归分析的结果，一般而言我们能发现自变量x1、x2、... 等因素对y的影响。但是存在一种情况：如果各个自变量x之间有很强的线性关系，就无法固定其他变量，也就找不到x和y之间真实的关系了，这就叫做多重共线性。
有多种方法可以检测多重共线性，较常使用的是回归分析中的vif值（方差膨胀因子），vif值越大，多重共线性越严重。vif怎么计算？ vif=1/(1-r^2) , 其中r^2是样本可决系数。样本可决系数怎么计算？答案是通过残差，这里有详细的计算方法：
一般认为vif大于10时（严格是5），代表模型存在严重的共线性问题。
讲了这么多理论知识，大家可能觉得比较枯燥，但是实际上本文最难的也就是这些理论知识，希望大家能好好消化。下面正式开始实操部分。
1.准****备
开始之前，你要确保python和pip已经成功安装在电脑上，如果没有，请访问这篇文章：超详细python安装指南 进行安装。
如果你用python的目的是数据分析，可以直接安装anaconda：python数据分析与挖掘好帮手—anaconda，它内置了python和pip.
此外，推荐大家用vscode编辑器，因为它有许多许多的优点：python 编程的最好搭档—vscode 详细指南。
准备输入命令安装依赖，如果你没有vscode编辑器，windows环境下打开 cmd (开始-运行-cmd)，苹果系统环境下请打开 terminal (command+空格输入terminal)，如果你用的是vscode编辑器或pycharm，可以直接在下方的terminal中输入命令：
pip install pandaspip install numpypip install matplotlibpip install scikit-learn本篇文章使用的50_startups.csv文件，由研发开销、管理开销、市场开销、州和利润五列数据组成。本文源代码和数据文件，可以关注python实用宝典公众号，后台回复：**机器学习3 **下载。
2.数据预处理
导入库
import pandas as pdimport numpy as np导入数据集
最后一列利润为y值，其他均为x值。
dataset = pd.read_csv('50_startups.csv')x = dataset.iloc[:, :-1].valuesy = dataset.iloc[:, 4].values将类别数据数字化
将“州”这一列数字化。
from sklearn.preprocessing import labelencoder, onehotencoderlabelencoder = labelencoder()x[:, 3] = labelencoder.fit_transform(x[:, 3])# 一共有3个州onehotencoder = onehotencoder(categorical_features=[3])x = onehotencoder.fit_transform(x).toarray()躲避虚拟变量陷阱
原始数据如下：
在我们对“州”这列变量进行数字化后，会在前面出现三列one_hot变量，每一列代表一个州。
这就出现虚拟变量陷阱了，比如第一列我们能通过另外两列的值得到：如果2、3列为0，第1列肯定为1，如果2、3列存在不为0的值，则第1列肯定为1。
因此，这里第一列没有使用的必要。
x = x[: , 1:]拆分数据集为训练集和测试集
from sklearn.model_selection import train_test_splitx_train, x_test, y_train, y_test = train_test_split(x, y, test_size = 0.2, random_state = 0)3. 训练模型
与简单线性回归一样，使用linearregression即可实现多元线性回归（sklearn已经帮你处理好多元的情况）。
from sklearn.linear_model import linearregressionregressor = linearregression()regressor.fit(x_train, y_train)4. 预测结果
一行搞定：
y_pred = regressor.predict(x_test)print(real:, y_test)print(predict:, y_pred)看看效果：
画个图看看对比效果：
map_index = list(range(len(y_test)))plt.scatter(map_index, y_test, color='red')plt.plot(map_index, y_pred, color='blue')plt.show()
蓝色的线是预测值，红色的点是真实的值，可以看到预测效果还是不错的。
CES2012:华硕发布性能最强的显卡
小程序点燃线下流量 想象中的风口和现实中的机会
smt加工专用的三防漆治具
达实智能助力轨道交通智能空调系统实现高效节能
基于MC9S12xS128单片机和传感器技术实现智能车系统的设计
多元线性回归的特点是什么
丰田汽车:从织布机起家到汽车行业冠军与世界制造业的标杆
高性能大带宽 AMD EPYC 助力圣母大学环境科学研究
龙尚科技联手海高思通信科技推出新一代POC机，搭载龙尚M5700模组
基于ARM9和Linux的FPGA驱动设计
单片机控制的红外线防盗报警器
“互联网+服务业”的巨大潜力为服务业的数字化发展提供了助力
云端对象存储和块存储你都了解吗
KVM延长器在监控系统中远程多点控制应用方案
日本开发了用于对话系统的新方法 该系统可以在对话中获取关于单词的知识
NVIDIA因冠状病毒风险退出世界移动大会
根服务器有何作用,切断根服务器有何影响
基于LabVIEW的闭环步进电机运动系统设计及精度分析
PCB电路板可以有多小
ST5541泄漏电流测试仪的特点及应用