迁移学习（讲座笔记）

引子:人类举一反三的能力 学了某种语言之后,再学另一个就很easy了,比如会c++后,再学Python
问题:给定一个研究领域和任务,如何利用相似领域进行知识的迁移,从而达成目标
为什么要迁移学习
1.数据角度:没有足够的数据,怎么进行迁移学习?
2.模型角度: 在云到端融合的模型被普遍应用,需要不同设备之间进行迁移.eg,设置路由器的公共配置,然后在各个地方只要稍微配置一丢丢就可以使用.
3.应用角度:机器学习的冷启动的问题 eg推荐系统,没有初始用户数据,没办法精准推荐.
迁移学习的话:1测试和训练数据不需要同分布,只要相关 2数据标注可以少一些3.可以重用模型unlike 机器学习,（1假设就是要同分布的.2.要足够的标注3.每个任务分别建模的）
主要强调任务直接的相关性
相关概念
domain 域:由数据特征和特征分布组成
task 任务：有目标函数和学习结果组成
source domain： 已有知识域（源域） target domain： 目标域
迁移学习：给定源域和源域上的学习任务，目标域和目标域上的task 利用源域和源域上的学习任务学习目标域上的预测函数，其中源域不等于目标域或者源域task不等于目标域task