mnist手写数字图像识别(等待更新

学长说不用懂原理,直接抄代码就行。我去写大作业啦,写完回来继续学。

【支持向量机SVM】

其基本模型定义为特征空间上的间隔最大的线性分类器,即支持向量机的学习策略便是间隔最大化,最终可转化为一个凸二次规划问题的求解。

1.线性分类

1.1超平面:超平面是n维欧氏空间中余维度等于一的线性子空间(也就是必须是(n-1)维度)。这是平面中的直线、空间中的平面之推广(n大于3才被称为“超”平面),是纯粹的数学概念,不是现实的物理概念。因为是子空间,所以超平面一定经过原点。

那些与p的差向量与 n 向量正交的点,就是点集 i (x,y).

1.2logistic回归

通过h(z)=1/(1+exp(z))实现从(负无穷,正无穷)到(0,1)的映射。

训练中用wTx替代z,当其取值远远大于0时,y取到1的概率为1。因此,希望训练出特征wTx>>0的模型。(<0亦然

在SVM中,用+-1代替1和0.本质没什么区别

1.3函数间隔Functional margin

1.4点到超平面的距离定义:几何间隔Geometrical margin


实际定义几何间隔

函数间隔y*(wx+b)=y*f(x)实际上就是|f(x)|,只是人为定义的一个间隔度量;而几何间隔|f(x)|/||w||才是直观上的点到超平面距离。

1.5最大间隔分类器Maximum Classifier

最大化点集中最小的margin

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 【概述】 SVM训练分类器的方法是寻找到超平面,使正负样本在超平面的两侧(分类正确性即“分得开”),且样本到超平面...
    sealaes阅读 11,148评论 0 7
  • 一、实验目的 学习使用 weka 中的常用分类器,完成数据分类任务。 二、实验内容 了解 weka 中 explo...
    yigoh阅读 8,648评论 5 4
  • 机器学习是做NLP和计算机视觉这类应用算法的基础,虽然现在深度学习模型大行其道,但是懂一些传统算法的原理和它们之间...
    在河之简阅读 20,603评论 4 65
  • 1、录制方式一:badboy badboy下载:http://www.badboy.com.au/ 打开badbo...
    柒柒723阅读 1,447评论 1 0
  • 窗外的雨敲击着耳膜,一声声特别清晰。夜是位安静的孩子,包容着失眠,孤独和怅然若失。 不知道从什么时候,人会在半夜醒...
    忘尘memory阅读 198评论 0 0