[机器学习入门] 李宏毅机器学习笔记-13 (Semi-supervised Learning ;半监督学习)

[机器学习入门] 李宏毅机器学习笔记-13 (Semi-supervised Learning ;半监督学习)

PDF VIDEO

Introduction

这里写图片描述

Why semi-supervised learning helps?

这里写图片描述

Semi-supervised Learning for Generative Model

Supervised Generative Model VS Semi-supervised Generative Model

这里写图片描述
这里写图片描述

Step

这里写图片描述

Why?

这里写图片描述

Low-density Separation

这里写图片描述

Self-training

这里写图片描述
这里写图片描述

Entropy-based Regularization

这里写图片描述

Outlook: Semi-supervised SVM

这里写图片描述

Smoothness Assumption

核心思想:近朱者赤,近墨者黑

这里写图片描述
这里写图片描述

Classify astronomy vs. travel articles

这里写图片描述
这里写图片描述

更多的数据连在一起,很难分类,那么如何做呢?

Cluster(群集 ) and then Label

这里写图片描述

这种方法不一定made sense ,需要class很强。
But,How to know x1 and x2 are close in a high density region (connected by a high density path)
还有另一种方法:

Graph-based Approach

这里写图片描述

Graph Construction

这里写图片描述
这里写图片描述

怎样在Graph 中定量地表示平滑度

这里写图片描述

将该式子整理一下,换个形式

这里写图片描述

如此,让smoothness 影响Loss,as a regularization term

这里写图片描述

smoothness不一定要放在output上,放到任何一层都可以。


Better Representation

去蕪存菁,化繁為簡
Looking for Better Representation

这里写图片描述
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

  • 飘蓬万里不须停,总无吩咐总无凭。 高歌唱罢阳关曲,遗世抛来孤愤名。 寸断肝肠浊酒暖,风侵纸帐晓寒生。 唯流眼底多情...
    d03e056874dc阅读 310评论 0 0
  • Redis对于一个做后端的人来说,应该再熟悉不过了,但是最近工作中折腾一个问题许久,其实问题不难,已经不是第一次遇...
    小小小码农阅读 12,840评论 3 2
  • 近日的江南大雨绵绵,不过好像全国都在下雨样子。 下雨的天气好啊,也不用被朋友叫着上街逛个遍,累了双脚,然后口干舌燥...
    那徐公子阅读 499评论 2 1

友情链接更多精彩内容