few-shot learning

N-way K-shot

N-way:表示有N个类别
K-shot:每一个类别中,有K个样本
对于一个task,可以表示为
{(s1,y),(s2,y),(s3,y),(s4,y),(s5,y)|(q1,y'),(q2,y'),(q3,y'),(q4,y'),(q5,y')}
s表示的是support,即训练的数据集,q表示的querry,即测试的数据集,这个例子是一个5-shot的任务

方法

Dual TriNet(ECCV 2018)

通过样本生成。
有一些图像,经过卷积神经网络以后到了特征空间,在特征空间上做一些扰动,随机加入一些噪声,生成各种各样的图像,使得它以后的泛化性能更好。
比如做一个杯子的分类,对于一个杯子,它的形状,属性(颜色、材质)不一样,在最终分类之前,学习已有杯子的属性(塑料、形状等),再人为地加入一些属性,比如不同的颜色,就可以生成很多的数据去做分类器训练。
通过生成属性,生成和属性形状、纹理、材质相关的不同类型的数据。

Prototypical Networks(NIPS 2017)


给每一类算一个原型表示,做平均。新来一个样本x,计算x与这3个原型样本之间的距离,离谁最近,就分为哪一类。

优点:
只有一个样本也可以做。
缺点
但是这种方法效果比较受限,因为可利用的信息太少。

MAML 元学习

把每一个分类任务,有树的分类,动物的分类等,把每一种分类当做一个任务去学习,去研究分类任务之间共同的东西,希望学到共同的东西后,当遇到新的问题,可以根据少量几个样本做调整,就能到使得实现对新的类别进行分类的思路。



如图所示,L1,L2,L3是不同的任务,可以学到一个共同的方向。

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 1. 论文相关 NeurIPS 2018 2.摘要 2.1 摘要 在这篇文章中,我们提出了一个概念简单且通用的框架...
    续袁阅读 7,851评论 3 6
  • 1. Interpretable Few-shot Learning 神经网络模型是一种黑盒模型。简单来说,输入一...
    lwink阅读 2,788评论 0 2
  • 今天妈妈没有上班,说今天是7月15,7月15日节日要吃包子的。早上起来妈妈和奶奶就开始切肉,揉面蒸包子,一会的功夫...
    LHM_3173阅读 362评论 0 0
  • 我想有套自己的房子 房子里有个爱我的男子 他对我说不用害怕生命的褶子 因为有他 还有我们的孩子 可我没有通天的法子...
    苏寂然阅读 254评论 6 2
  • 讲 电话 拉近了 彼此的距离 想 解释 就是个 善意的误会 雪 来得突然 惊喜温柔的邂逅 天 冷得厉害 忽视衣物的...
    渊旷奚阅读 266评论 0 2