大师兄的数据分析学习笔记(二十二）：逻辑回归（Logistic Regression）
大师兄的数据分析学习笔记(二十四）：回归树与提升树

一、 关于分类和回归

• 分类和回归的界限并不大：

• 分类可以看做是有限状态的回归。
• 回归可以看做是无限定序数据的分类。

• 很多模型都是可以在分类和回归中互相借鉴使用，只是在细节处理上需要特殊对待，比如人工神经网络。
• 在监督学习中，所谓分类和回归的目的，可以理解成以下过程：

• 给定一些特征和特征的标注，整理他们的特征、标注和连续值。
• 当一个未知数据进入时，让新数据的特征，和整理好的被给定的数据特征中最相似的数据特征保持一致的分类，或保持相近的连续值。
• 也就是说让测试集和验证集的数据，尽可能的找到训练集中与他们相近的标注，作为他们的标注。
• 如何近似的标注不止一个，可以用投票或者取平均值的方式决定最终的值，这就是分类和回归

• 分类和回归中最简单的模型是线性模型，只是分类是线性模型的特殊情况（回归的值只有0和1），且分类效果容易受到离群值和异常值的影响。
  
• 而逻辑回归模型解决了线性模型的问题，更有一个分类器的样子。
  

二、感知器

• 如果从结构化的思维理解模型，线性回归表达式如下：
  

• 其中最左侧是数据的特征。
• 实线表示系数。
• 特征与值相乘的和SUM为最终值，用来判断类别。

• 图的左侧为线性判别器。

• 如果最终值SUM不用来直接比较，而是通过一个逻辑函数：

  
  

• 如果函数f是逻辑函数sigmoid，则模型变为逻辑回归：。

• 由于这个结构像是一个感知的单元，通过对特征的感知来做出判断，所以这样的组件被叫做感知器。
• 通过公式可以看出，如果是单调的，则感知器必然是以线性模型为基础的单调模型。
• 如果g是非单调的，则感知器会过于复杂，对之后的模块有过大的耦合和不确定性。
• 为了解决上面的问题，可以将感知器进行并联，如果多个感知器的输出可以被当做特征进入下一级神经元，通过多级的线性变换嵌套，可以实现高阶变换，也就是非线性变换。
  
• 如果感知器拥有了非线性映射的能力，对复杂数据的分类就会变得简单。
  

三、人工神经网络

• 如果纳入更多的感知器，一级一级的连起来，就构成了人工神经网络。
  

• 图中的线代表的都是参数，且这些参数都是相互独立的。
• 每个节点都是将参数与属性相乘的和进行转换的过程，也就是感知器。

• 人工神经网络通常是按照层级结构进行排序的，分为输入层、隐含层和输出层：
  

• 输入层要求对全部的特征进行归一化。
• 输出层要求为one-hot形式。
• 隐含层输入与输出进行非线性变换的重要一层，其中对收敛影响较大的是节点中的转换函数f，被称为激活函数，比如逻辑回归中的sigmoid。
  

• 神经网络中所有参数都要被求出来，可以通过梯度下降法求解。
• 但神经网络为了保证非线性，规模会非常大，参数也会非常多，所以通常会通过反向传播算法和随机梯度下降法求解。
• 反向传播算法的思路分为四步：

1. 前向计算：当参数被确定后，都会被附上随机值，然后先把特征都输入，然后进行计算。
2. 计算误差：计算结果和拟合值得误差。
3. 反向单层调整：根据误差，用梯度下降法调整输出层和隐含层之间一层的系数。
4. 传播：调整隐含层和输入层之间的误差。
   之后不断迭代上面的过程，不断地输入数据，直到模型的误差达到一定范围以内/迭代或一定次数后，则被认为收敛。

• 随机梯度下降法就是在每次调整权值时，只选取部分样本进行梯度下降。

• 优点：收敛更快，计算开销少。
• 缺点：容易陷入局部最优解。

• 人工神经网络的优点：

• 非线性拟合能力特别强，只要宽度足够大，深度足够深，可以拟合任何非线性数据。

• 人工神经网络的问题：

1. 易受离群点影响，易过拟合(可通过正则化和dropout解决)
2. 属性与结果要在0-1之间。
3. 输出结果要进行Softmax转化。

四、深度神经网络

• 深度神经网络就是把人工神经网络的深度加深。
• 深度神经网络拟合非线性数据的能力会更强，通常用来做图像识别、语音识别和自然语言处理等，是深度学习的基础。
• 但 深度神经网络耗费的时间资源和空间资源也要大很多。

四、代码实现

>>>import os
>>>import pandas as pd
>>>import tensorflow as tf
>>>from sklearn.model_selection import train_test_split
>>>from sklearn.metrics import  accuracy_score,recall_score,f1_score
>>>from keras.models import Sequential
>>>from keras.layers.core import Dense,Activation

>>>df = pd.read_csv(os.path.join(".", "data", "WA_Fn-UseC_-HR-Employee-Attrition.csv"))

>>>X_tt,X_validation,Y_tt,Y_validation = train_test_split(df.JobLevel,df.JobSatisfaction,test_size=0.2)
>>>X_train,X_test,Y_train,Y_test = train_test_split(X_tt,Y_tt,test_size=0.25)

>>>mdl = Sequential()
>>>mdl.add(Dense(50))
>>>mdl.add(Activation("sigmoid"))
>>>mdl.add(Dense(2))
>>>mdl.add(Activation("softmax"))
>>>mdl.compile(loss="mean_squared_error",optimizer=tf.keras.optimizers.SGD(lr=0.05))
>>>mdl.fit(X_train,Y_train,epochs=50,batch_size=800)

>>>xy_lst = [(X_train,Y_train),(X_validation,Y_validation),(X_test,Y_test)]
>>>for i in range(len(xy_lst)):
>>>    X_part = xy_lst[i][0]
>>>    Y_part = xy_lst[i][1]
>>>    Y_pred = mdl.predict(X_part).argmax(axis=1)
>>>    print(i)
>>>    print("NN","-ACC",accuracy_score(Y_part,Y_pred))
>>>    print("NN","-REC",recall_score(Y_part,Y_pred,average='macro'))
>>>    print("NN","-F1",f1_score(Y_part,Y_pred,average='macro'))
>>>    print("="*40)
Epoch 1/50
2/2 [==============================] - 0s 3ms/step - loss: 6.2342
Epoch 2/50
2/2 [==============================] - 0s 1000us/step - loss: 6.2133
Epoch 3/50
2/2 [==============================] - 0s 1ms/step - loss: 6.2000
Epoch 4/50
2/2 [==============================] - 0s 2ms/step - loss: 6.1928
Epoch 5/50
2/2 [==============================] - 0s 1ms/step - loss: 6.1893
Epoch 6/50
2/2 [==============================] - 0s 0s/step - loss: 6.1877
Epoch 7/50
2/2 [==============================] - 0s 1000us/step - loss: 6.1870
Epoch 8/50
2/2 [==============================] - 0s 0s/step - loss: 6.1867
Epoch 9/50
2/2 [==============================] - 0s 0s/step - loss: 6.1866
Epoch 10/50
2/2 [==============================] - 0s 1000us/step - loss: 6.1866
Epoch 11/50
2/2 [==============================] - 0s 0s/step - loss: 6.1865
Epoch 12/50
2/2 [==============================] - 0s 1000us/step - loss: 6.1865
Epoch 13/50
2/2 [==============================] - 0s 0s/step - loss: 6.1865
Epoch 14/50
2/2 [==============================] - 0s 1ms/step - loss: 6.1865
Epoch 15/50
2/2 [==============================] - 0s 0s/step - loss: 6.1865
Epoch 16/50
2/2 [==============================] - 0s 1000us/step - loss: 6.1865
Epoch 17/50
2/2 [==============================] - 0s 1000us/step - loss: 6.1865
Epoch 18/50
2/2 [==============================] - 0s 0s/step - loss: 6.1865
Epoch 19/50
2/2 [==============================] - 0s 1000us/step - loss: 6.1865
Epoch 20/50
2/2 [==============================] - 0s 1ms/step - loss: 6.1865
Epoch 21/50
2/2 [==============================] - 0s 0s/step - loss: 6.1865
Epoch 22/50
2/2 [==============================] - 0s 1000us/step - loss: 6.1865
Epoch 23/50
2/2 [==============================] - 0s 0s/step - loss: 6.1865
Epoch 24/50
2/2 [==============================] - 0s 0s/step - loss: 6.1865
Epoch 25/50
2/2 [==============================] - 0s 1000us/step - loss: 6.1865
Epoch 26/50
2/2 [==============================] - 0s 1000us/step - loss: 6.1865
Epoch 27/50
2/2 [==============================] - 0s 0s/step - loss: 6.1865
Epoch 28/50
2/2 [==============================] - 0s 1000us/step - loss: 6.1865
Epoch 29/50
2/2 [==============================] - 0s 1000us/step - loss: 6.1865
Epoch 30/50
2/2 [==============================] - 0s 1ms/step - loss: 6.1865
Epoch 31/50
2/2 [==============================] - 0s 1000us/step - loss: 6.1865
Epoch 32/50
2/2 [==============================] - 0s 999us/step - loss: 6.1865
Epoch 33/50
2/2 [==============================] - 0s 1000us/step - loss: 6.1865
Epoch 34/50
2/2 [==============================] - 0s 1ms/step - loss: 6.1865
Epoch 35/50
2/2 [==============================] - 0s 1ms/step - loss: 6.1865
Epoch 36/50
2/2 [==============================] - 0s 1ms/step - loss: 6.1865
Epoch 37/50
2/2 [==============================] - 0s 1ms/step - loss: 6.1865
Epoch 38/50
2/2 [==============================] - 0s 0s/step - loss: 6.1865
Epoch 39/50
2/2 [==============================] - 0s 1000us/step - loss: 6.1865
Epoch 40/50
2/2 [==============================] - 0s 1000us/step - loss: 6.1865
Epoch 41/50
2/2 [==============================] - 0s 0s/step - loss: 6.1865
Epoch 42/50
2/2 [==============================] - 0s 0s/step - loss: 6.1865
Epoch 43/50
2/2 [==============================] - 0s 1000us/step - loss: 6.1865
Epoch 44/50
2/2 [==============================] - 0s 1000us/step - loss: 6.1865
Epoch 45/50
2/2 [==============================] - 0s 0s/step - loss: 6.1865
Epoch 46/50
2/2 [==============================] - 0s 0s/step - loss: 6.1865
Epoch 47/50
2/2 [==============================] - 0s 1000us/step - loss: 6.1865
Epoch 48/50
2/2 [==============================] - 0s 1000us/step - loss: 6.1865
Epoch 49/50
2/2 [==============================] - 0s 0s/step - loss: 6.1865
Epoch 50/50
2/2 [==============================] - 0s 1000us/step - loss: 6.1865
0
NN -ACC 0.022675736961451247
NN -REC 0.022099447513812154
NN -F1 0.02807017543859649
========================================
1
NN -ACC 0.017006802721088437
NN -REC 0.01818181818181818
NN -F1 0.02040816326530612
========================================
2
NN -ACC 0.02040816326530612
NN -REC 0.022641509433962266
NN -F1 0.029629629629629627