题目
假设平面坐标系上有几个点(3,3), (4,3)这三个点的标签为1，
(０,1)，(1,1)这两个点的标签为-1,构建神经网络来分类
思路：
构造神经元-单层感知器，有三个输入节点 (1,3,3),(1,4,3), (1,1,1)
对应的数据标签为(1,1,-1)
初始化权重值w0, w1,w2为-1到1之间的随机数
学习率设置为0.11
激活函数为Sign函数
单层感知器的思路是模拟大脑中单个神经元的工作方式：激活与否。感知器接收多个输入信号，如果输入信号的和超过某个阈值则输出一个信号，否则就什么也不输出。输入节点：x1, x2, x3
输出节点：y
权向量: w1, w2, w3
偏置因子：b
代码
import numpy as np
import matplotlib.pyplot as plt
X=np.array([[1,3,3],
[1,4,3],
[1,1,1]])
Y=np.array([1,1,-1])
### 产生三个随机权值，范围在 -1 ~ 1
W=(np.random.random(3)-0.5)*2
print(W)
lr=0.11 #学习率
n=0 #迭代次数
O=0 #预测输出
###更新权值
def update():
global X, Y, W, lr, n
n+=1
O=np.sign(np.dot(X, W.T))
W_C=lr*((Y-O.T).dot(X))/int(X.shape[0])
W=W+ W_C
for _ in range(100):
update()
print(W)
print(n)
if(O==Y.T).all():
print('Finished')
print('epoch:',n)
break
#diagram to show
#the category as 1, [3,3], [3,4]
x1=[3,4]
y1=[3,3]
#the category as -1 [1,1]
x2=[1]
y2=[1]
#斜率和截距
k=-W[1]/W[2]
d=-W[0]/W[2]
xdata=np.linspace(0,5)
plt.figure()
plt.plot(xdata, xdata*k+d, 'r')
plt.plot(x1,y1,'bo')
plt.plot(x2,y2,'yo')
plt.show
公式
-
O=np.sign(np.dot(X, W.T))
image.png -
学习率乘输入
image.png
-
斜率和截距
image.png
image.png
image.png
-
结果：很好地区分开了这两类数据
image.png
