1.回归分析
（1）回归的定义：
指研究一组随机变量(Y1，Y2，…，Yi)和另一组(X1，X2，…，Xk)变量之间关系的统计分析方法，又称多重回归分析。通常Y1，Y2，…，Yi是因变量，X1、X2，…，Xk是自变量。回归分析是一种数学模型。
（2）回归分析的步骤：
①确定变量：从一组数据出发，根据预测目标，确定自变量和因变量。
②确定类型：绘制散点图，确定回归模型类型。
③建立模型：估计模型参数，建立回归模型。估计参数的常用方法是最小二乘法。
④模型检验：对关系式的可信程度进行检验。在许多自变量共同影响着一个因变量的关系中，判断哪个（或哪些）自变量的影响是显著的，哪些自变量的影响是不显著的，将影响显著的自变量选入模型中，而剔除影响不显著的变量，通常用逐步回归、向前回归和向后回归等方法。
⑤模型预测：调用模型的predict方法，利用所求的关系式对某一生产过程进行预测或控制。
（3）相关分析与回归分析的关系：
①相关分析研究的是现象之间是否相关、相关的方向和密切程度，一般不区别自变量或因变量。
②而回归分析则要分析现象之间相关的具体形式，确定其因果关系，并用数学模型来表现其具体关系。
比如说，从相关分析中我们可以得知“质量”和“用户满意度”变量密切相关，但是这两个变量之间到底是哪个变量受哪个变量的影响，影响程度如何，则需要通过回归分析方法来确定。
（4）回归分析场景实例：
机场客流量分布预测；音乐流行趋势预测；需求预测与仓储规划方案；新浪微博互动量预测；货币基金资金流入流出预测；电影票房预测；农产品价格预测分析；基于多源数据的青藏高原湖泊面积预测；微博传播规模和传播深度预测；鲍鱼年龄预测；学生成绩排名预测；网约车出行流量预测；红酒品质评分；搜索引擎的搜索量和股价波动；中国人口增长分析；农村居民收入增长预测；房地产销售影响因素分析；股价走势预测；全国综合运输总量预测；地震预报。（详细解释请参考博文https://blog.csdn.net/liulingyuan6/article/details/53637764）
2.回归算法
（1）线性回归：对于一个给定的训练集，根据这个训练集学习出一个线性函数，然后测试这个函数是否足够拟合训练集数据，然后挑选出最好的线性函数。
①一元线性回归
总结：线性回归方程为y=k*x+b=1.978*x+1.113.
②多元线性回归
使用sklearn库中的LinearRegression()方法：
总结：线性回归方程为y=1.63*X1+3.03.
【注】
LinearRegression(copy_X=True, fit_intercept=True, n_jobs=None, normalize=False)
①copy_X:默认为True，当为True时，X会被copied,否则X将会被覆写;
②fit_intercept:是否对训练数据进行中心化，即是否需要b值，若果为False，则不需要。表示直线过原点。
③n_jobs:计算时设置的任务个数(number of jobs)，默认值为1。
④normalize:是否将数据归一化。
（2）Logistic回归：线性回归能对连续值结果进行预测，而现实生活中常见的另一类问题是分类问题。最简单的情况是：是与否的二分类问题。处理二元分类问题，使用线性判别式函数对实例进行分类。对自变量与因变量进行逻辑拟合，并对指定的自变量进行预测，确定因变量的值。
【注】因数据误差较大，图像结果不是很准确。Logistic回归模型的图像基本呈"S"形。
