域适应DA 学习小结

之前看了一些迁移方面的论文，尤其是医学分割方面的，主要有三类方法：多任务学习（没深入学习，需要目标域标签），预训练微调（方法比较简单管用，但需要目标域的标签），域适应DA。如果限定条件是不能使用目标域的标签的话，一般要使用域适应DA。域适应的任务是学习一个映射能把源域和目标域映射到一个共同特征空间，同时再学习一个对共同特征空间的映射，使得复合映射可以拟合只在源域学到的映射，并且非常靠近只在目标域学到的映射。

其主流思路是用到GAN的思想，把分割器的一部分当作生成器，域分类器当作鉴别器

训练流程有两种。

第一种的步骤

1、预训练生成器G（只用源域数据和源域标签），损失只用seg loss

2、联合训练生成器G和鉴别器D，损失用seg loss+对抗 loss (源域数据参与seg loss和对抗loss，目标域数据只参与对抗loss）

Unsupervised Cross-Modality Domain Adaptation of ConvNets forBiomedical Image Segmentations with Adversarial Loss

Unsupervised domain adaptation in brain lesionsegmentation with adversarial networks

其中，第二篇的鉴别器输入利用了多尺度信息

以上训练流程的参考论文是

 Unsupervised Cross-Modality Domain Adaptation of ConvNets for Biomedical Image Segmentations with Adversarial Loss https://arxiv.org/pdf/1804.10916.pdf

Unsupervised domain adaptation in brain lesion segmentation with adversarial networks

 https://arxiv.org/pdf/1612.08894.pdf

第二种是不用分开训练的，利用梯度反转的方法。

示意

论文名字是 Unsupervised Domain Adaptation by Backpropagation（比较早）

博客链接https://www.jianshu.com/p/9a57cfb36e83

这个方案有实验室的同学试过，在检测的迁移方面有一些提升。