简介
Learning a neural-network-based representation for open set recognition.cited-8.
official,tf,star-5.
关键字
Open set
正文
1. 动机和思路
问题：Open set在NN上的一个开山之作是OpenMax，OpenMax是使用传统网络倒数第二层的激活值来适配weibull分布建立异常点检测模型，然后利用模型来判别异常点。该文献认为倒数第二层的值存在以下问题：1）这个值来自于交叉熵，针对的是类标签，而不是具体实例；2）测试阶段和训练阶段的距离度量不一致。
解决方式：受到Fish判据启发，改变原OpenMax的损失计算方式，提出一种新的距离损失满足：1）最小化类内距离；2）最大化类间距离；另外最小化交叉熵也可以作为可选项。
2. 算法和实现
训练模型的算法如图（原文AL1）：
算法.png
使用上面的ii-loss训练好模型后，需要根据阈值来判别异常点，阈值使用原训练集数据的99%来划分。
使用的网络模型如下（原文Fig1）：
模型.png
3. 实验
（1）基准模型对比（原文Table1）：
image.png
（2）与OpenMax对比（原文Fig2）：
image.png
（3）隐变量分布对比（原文Fig3）：
image.png
（4）BN效果对比（原文Fig6）：
BN.png
（5）与AE对比（原文Fig7）：
AE.png
参考资料
[1] Hassen, Mehadi, and Philip K. Chan. "Learning a neural-network-based representation for open set recognition." arXiv preprint arXiv:1802.04365 (2018).
