机器怎么学习?
处理某个特定的任务,一大量的经验为基础
对任务完成的好坏,给予一定的评判标准
通过分析经验数据,任务完成得更好了
机器学习的定义
机器学习(Machine Learning,ML)主要研究计算机系统对于特定任务的性能,逐步进行改善的算法和统计模型。
通过输入海量训练数据对模型进行训练,使模型掌握数据所蕴含的潜在规律,进而对新输入的数据进行准确的分析或预测。
是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸优化、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。
(最优化问题的求解:找到一个目标,让目标函数取到最大值或最小值,逐渐逼近最优解,这个就是取得最优模型的过程。)
海量数据->提炼规律->预测未来
人工智能、机器学习月深度学习
人工智能:【让机器表现出像人类一样的智能。】它是一门让机器表现出人类智能的学科,旨在使机器能够执行诸如推理、学习、规划、决策和语言理解等任务。
机器学习:人工智能的一个子领域,强调通过数据训练模型,使其在没有明确编程规则的情况下,学会从数据中识别模式并预测或决策。
深度学习:机器学习的一个子领域,主要关注使用多层神经网络(深度神经网络)来从大量数据中提取特征和进行复杂任务处理。
参数(Parameter)
模型通过训练学习到的值,例如线性回归中的权重和偏置(常数项)。
超参数(Hyper Parameter)
由用户直接设置的参数,不能通过训练自动学习,例如学习率、正则化系数等。
模型(Model)
一个机器学习算法与训练后的参数集合,用于进行预测或分类。【数学表达式:根据输入得到输出】
标签(Label)/目标值
监督学习中每个样本的结果信息,也称为目标值(target)。【标准答案】
数据集(Data Set)
多条记录的集合。
数据集可划分成训练集、验证集和测试集。
- 训练集(Training Set):用于训练模型的数据。
- 验证集(Validation Set):用于调节超参数的数据。
- 测试集(Test Set):用于评估模型性能的数据。
样本(Sample)
数据集中的一条记录是关于一个事件或对象的描述,称为一个样本。【每一条数据】
特征(Feature)/属性(Attribute)
数据集中一列反映事件或对象在某方面的表现或性质的事项,称为特征或属性。【基本信息】
特征向量(Feature Vector)
将样本的所有特征表示为向量的形式,输入到模型中。【与预测标签有关的特征的组合】
机器学习三要素
机器学习的方法一般主要由三部分构成:模型、策略和算法
机器学习的方法=模型+策略+算法
模型(model):总结数据的内在规律,用数学语言描述的参数系统
策略(strategy):选取最优模型的评价准则
算法(algorithm):选取最优模型的具体方法
机器学习方法分类
通用分类:按照有无监督,机器学习可以分为有监督学习、无监督学习和半监督学习,除此之外还有强化学习。
- 有监督学习:提供数据并提供数据对应结果的机器学习过程。【通过带标签的数据学习,从而能够预测未知数据的标签】
- 无监督学习:提供数据并且不提供对应结果的机器学习过程。【学习数据的内在结构或模式,通常用于数据探索或模式发现】
- 半监督学习:结合少量有标签数据和大量无标签数据,自动利用无标签数据来提升学习性能。
- 强化学习:通过与环境交互并且获取延迟返回而改进行为的学习过程。【行为树学习思路】
监督学习(Supervised Learning)算法构建了包括输入和所需输出的一组数据的数学模型。这些数据称为训练数据,由一组训练样本组成。
监督学习主要包括分类(离散)和回归(连续)。
当输出被限制为有限的一组值(离散数值)时使用分类算法;当输出可以具有有限范围内的任何数值(连续数值)时使用回归算法。
相似度学习是和回归和分类都密切相关的一类监督机器学习,它的目表是使用相似性函数从样本中学习,这个函数可以度量两个对象直接的相似度或关联度。它在排名、推荐系统、视觉识别跟踪、人脸识别等方面有很好的应用场景。
无监督学习(Unsupervised)算法采用一组仅包含输入的数据,通过寻找数据中的内在结构来进行样本点的分组或聚类。
算法从没有被标记或分类的测试数据中学习。
无监督学习算法不是响应反馈,而是要识别数据中的共性特征;对于一个新数据,可以通过判断其中是否存在这种特征来做出相应的反馈。
无监督学习的核心应用是统计学中的密度估计和聚类分析。
按模型分类:根据模型性质,可以分为概率模型/非概率模型,线性/非线性模型等。
按学习技巧分类:根据算法基于的技巧,可以分为贝叶斯学习、核方法等。
监督学习建模流程
收集数据->数据清洗->特征工程->选择算法->模型训练->模型评估->模型优化->模型部署
收集数据:收集用于训练和测试的数据集,确保数据代表了实际问题的不同方面。
数据清洗:对数据进行清洗,去掉一些脏数据和不可用数据。
特征工程:对数据进行转换和格式化,确保它适合于机器学习模型训练。
选择算法:选择适合任务类型和数据特征的机器学习算法。
模型训练:使用训练数据集来训练模型,让模型从数据中学习规律或模式。
模型评估:使用测试数据集评估模型的性能,确定其是否达到了预期的目标。
模型优化:在确保模型具有更好性能的基础上,进一步提高模型的效果。
模型部署:将训练好的模型部署到生产环境中,并实时监控其表现。