机器学习中“没有免费的午餐”理论

没有免费的午餐理论最重要的寓意，是让我们清楚地认识到，脱离具体问题，空泛地谈论“什么学习算法更好”毫无意义。与“奥卡姆剃刀”原则相似，即“若有多个假设与观察一致，则选最简单的那个”，其实这个理论真正想表达的是 [你不可能在没有假设的情况下从数据中学习]。

所谓“免费的午餐”，是指您无法获得良好的机器学习，您必须使用有关数据和我们所生活的世界（或者数据所生活的世界）的背景知识来选择合适的机器学习模型，没有单一的，通用的最佳机器学习算法，也没有上下文或与使用无关的理由先验来支持一种算法优于其他算法。也就是说，不能脱离具体问题来谈论算法的优劣，任何算法都有局限性。 必须要“具体问题具体分析”。

该理论对个人的指导：

1、在依赖模型或搜索算法之前，请始终检查您的假设。

2、没有“超级算法”能完美适用于所有数据集。

3、公式说明

公式推导出来之后，我们会发现一个惊人的事情，就是算法a的总误差与算法无关