1. 机器是否知道“我不知道”这件事。
当我们的训练语料中都是“猫”的图片,当我们在测试的时候,出现了一个没见过的图片,那机器是将其归纳为与训练语料中最相似的猫,还是说“我不知道”。
2. 机器能否说出:为什么“我知道”
有这样一个研究,某位专家设计了一个马的图片辨识器,根据第一个模型(DNN),我们发现模型能勾勒出马的轮廓,证明它学习到了马的特征;再看第二个模型(FV),右下角红色部分是模型主要学到的部分,仔细一看,原来是有“文字”标注,那这个模型所学到的就是这个文字标注内容。也就是说这个模型实际上并不清楚它是否知道什么是马。
3. 终身学习
人是可以终身学习的,那机器是否可以终身学习呢?
今天的机器知道学某一个任务,而不能学习多个任务,例如机器人可以学会下围棋,它学会了,如果再让它去学完游戏,如果它学会了玩游戏,就不会下围棋了,这就是当下机器学习的现状。这就是catastrophic forget(灾难性遗忘)。
4. 机器学习一定要很多训练数据吗?
如果你的训练数据很少,那你可以通过Few-shot learning 和 Zero-shot learning的方法去解决。