Boosting和Bagging: 如何开发一个鲁棒的机器学习算法(2)

然而，他们不会解决所有的问题，他们自己也有自己的问题。有很多不同的原因。bagging 在模型过拟合时对减小方差有很大的作用。然而，在这两种方法中，Boosting 更有可能是更好的选择。Boosting 也更有可能导致performance问题。这对于减少不匹配模型中的偏差也很有帮助。

这就是经验和专家的用武之地!可以很容易地跳到第一个有效的模型上。然而，重要的是分析算法及其选择的所有特性。例如，如果决策树设置了特定的叶节点，那么问题来了：为什么要这么设置呢?如果不能用其他数据点可视化的方法来支持这个观点，那么可能就不应该这样去实现。

这不仅仅是在各种数据集上尝试AdaBoost或随机森林。根据算法得到的结果，以及有什么支持，驱动最终的算法。

（编辑：ASP站长网）