Q1:描述PCA的具体步骤
Q2:动手实现一个K-means项目

Answer1:

Answer2:

from numpy import *
import numpy as np

#加载数据

def loaddata(filepath):
    datamat=[]
    data=open(filepath)
    for line in data.readlines():
        curline=line.strip().split('\t')
        ldata=list(map(float,curline))
        datamat.append(ldata)
    return datamat##二维点



#计算欧几里得距离
def distanct(vecA,vecB):
    return sqrt(sum(power((vecA-vecB),2)))##两个向量即两个点之间的距离



##构建质心 ，本例子构建4个质心

def randcent(datamat,k):#参数一个为表数据一个为质心的个数
    n=shape(datamat)[1]#2列，看一下维度
    center=mat(zeros((k,n)))#初始化质心,不加mat array类型，加了为matrix类型，大部分情况两者可以通用，建议用array 类型，简便快捷
    """
    两者一个直观的区别就是array 相乘必须用.dot(),而矩阵就可以直接用数学符号*
    """
    # print (center)
    for j in range(n):
        minj=min(mat(datamat)[:,j])
        maxj=max(mat(datamat)[:,j])
        rangej=float(maxj-minj)
        center[:,j]=minj+rangej*np.random.rand(k,1)#rand 生成指定类型的数组
    return center




##k-means聚类算法
"""
算法的主要步骤
1.初始化一个矩阵来放数据的分类结果和距离
2.boolean 判断循环条件，收敛的条件是每一次迭代，样本的簇不再变化
3.计算每一个样本到所有簇的距离，找到归属的簇和最短距离放入 矩阵中
4.while 循环结束后，更新新的簇（质心）坐标
"""

def kmens(datamat,k,distmens=distanct,createcent=randcent):#距离，初始的质心,默认参数,传入函数名
    m=shape(datamat)[0]
    n=shape(datamat)[1]
    clusterassment=mat(zeros((m,n)))#生成一个80行两列的矩阵，用于存放样本属于哪一个质心及到这个质心的距离
    creatcluster=createcent(datamat,k)#创造质心
    clusterchanged=True #用来判断是否收敛
    while clusterchanged:
        clusterchanged=False
        for i in range(m):
            mindist=inf#初始化最小距离正无穷
            minindex=-1#初始化索引
            for j in range(k):#计算到每个初始化质心的距离
                distji=distmens(creatcluster[j,:],mat(datamat)[i,:])
                if distji<mindist:
                    mindist=distji
                    minindex=j#这样一来就找到了每一个样本对应属于的质心，另外也算出了距离接下来把数据存放到矩阵当中
            if clusterassment[i,0]!=minindex:
                clusterchanged=True#如果分配发生变化，那么需要继续迭代
            clusterassment[i,:]=minindex,mindist**2#第一维存的是属于的质心编号，第二维是欧式距离的平方
        print ("createcluster\n",createcent)
        for cent in range(k):#接下来就是将分配到同一个簇的点，重新计算中心距离，作为新的质心
            clumndata=mat(datamat)[nonzero((clusterassment[:,0].A==cent))[0]]
            """
            首先将属于统一个质心的非零数对应得行索引取出，
            然后取出datamat上得数值
            """
            newcenter=mean(clumndata,axis=0)#按照列求均值
            creatcluster[cent,:]=newcenter
    return creatcluster,clusterassment#整个循环结束，拿到 质心位置及数据源属于得质心类别和距质心距离的平方组成的矩阵







def main():
    filepath='testSet.txt'
    datamat=loaddata(filepath)
    creatcluster, clusterassment=kmens(datamat,4)
    print("final cluster\n", creatcluster#换行符
    print("result of classification\n",clusterassment)


if __name__=='__main__':
    main()

时间飞快，9个训练营的项目，就剩一个了，我相信大家结合这几个项目肯定对机器学习有了初步实践了，是不是有点感觉了，接下来我会把第九个项目搞定，然后开启新的征程，尽量找到kaggle 上比较好的质量高的开源项目，再整体撸一遍实践项目，然后转入下一征程-----tensorflow,hadoop,spark 加油！keeping moving, keep coding ,坚持锻炼身体和敲代码，身体和灵魂都在路上！