KNN的基本思想

    根据距离函数计算待分类样本X和每个训练样本的距离（作为相似度），选择与待分类样本距离最小的K个样本作为X的K个最近邻，最后以X的K个最近邻中的大多数所属的类别作为X的类别。

KNN算法的实现

    对未知类别属性的数据集中的每个点依次执行以下操作：
1.计算已知类别的数据集中的点与当前点之间的距离。
2.按照距离递增次序排序
3.选取与当前点距离最小的k个点
4.确定前k个点所在类别的出现频率
5.返回前k个点出现频率最高的类别作为当前点的预测分类。