单层感知机是一种最简单的人工神经网络,结构简单,常作为二元线性分类器。有n维输入向量,该向量每一个分量
分别与权重
相乘,求和之后经过阈值,再通过激活函数输出,这里的激活函数一般是relu或者sigmoid函数。数学表达式为:
权重更新表达式为:
其中lr为学习率,这里设为0.1,n为数据数目。
感知机模型
Python代码实现实例
实例中输入为5组数据,每一组数据前两位是偏置值,相当于阈值,后两位是在二维空间中的位置。标签代表数据所属的类别,分别为1和-1。下面是完整的代码:
import numpy as np
import matplotlib.pyplot as plt
n = 0 # 迭代次数
lr = 0.1 # 学习率
X = np.array([[1, 1, 2, 3], [1, 1, 4, 5], [1, 1, 1, 1], [1, 1, 5, 3], [1, 1, 0, 1]]) # 输入数据
Y = np.array([1, 1, -1, 1, -1]) # 标签
W = (np.random.random(X.shape[1]) - 0.5) * 2 # 初始化权值
def get_show():
# 正样本
all_x = X[:, 2]
all_y = X[:, 3]
# 负样本
all_negative_x = [1, 0]
all_negative_y = [1, 1]
# 计算分界线斜率与截距
k = - W[2] / W[3]
b = - (W[0] + W[1]) / W[3] # 关于这里的W[0]和W[1]是什么玩意
# 生成x刻度
x_data = np.linspace(0, 5)
plt.figure()
plt.plot(x_data, x_data * k + b, 'r')
plt.plot(all_x, all_y, 'bo') # 原始数据(正的)
plt.plot(all_negative_x, all_negative_y, 'yo') # 原始数据(负的)
plt.show()
def get_update():
# 所有变量都是全局变量
global X, Y, W, lr, n
n += 1
# 计算符号函数输出
new_y = np.sign(np.dot(X, W.T))
# 更新权重
new_W = W + lr * ((Y - new_y.T).dot(X)) / int(X.shape[0])
W = new_W
if __name__ == '__main__':
for _ in range(100):
get_update()
new_output = np.sign(np.dot(X, W.T))
if (new_output == Y.T).all():
print("迭代次数:", n)
break
get_show()
结果图:
分类结果图