从原理上来说,GBDT 和 SVM 哪个更强?为什么
2个回答
2017-04-04
展开全部
GBDT 全称为 Gradient Boosting Decision Tree。是一种基于决策树(decision tree)实现的分类回归算法。GBDT 有两部分组成: gradient boosting, decision tree。
支持向量机(support vector machine)是一种分类算法,通过寻求结构化风险最小来提高学习机泛化能力,实现经验风险和置信范围的最小化,从而达到在统计样本量较少的情况下,亦能获得良好统计规律的目的。
这两个算法关键看应用场景,主要是特征数量、训练过程和可解释性有区别。SVM 能够训练大量特征,不用考虑特征离散化或者分段,非线性映射可以很好的分类。GBDT在特征较少的时候,能够高效bootstrap 抽取样本和特征,训练多颗树,能够自动做特征重要性排序,通过gini系数等指标判断分割点,能够表达非常复杂的规则。
支持向量机(support vector machine)是一种分类算法,通过寻求结构化风险最小来提高学习机泛化能力,实现经验风险和置信范围的最小化,从而达到在统计样本量较少的情况下,亦能获得良好统计规律的目的。
这两个算法关键看应用场景,主要是特征数量、训练过程和可解释性有区别。SVM 能够训练大量特征,不用考虑特征离散化或者分段,非线性映射可以很好的分类。GBDT在特征较少的时候,能够高效bootstrap 抽取样本和特征,训练多颗树,能够自动做特征重要性排序,通过gini系数等指标判断分割点,能够表达非常复杂的规则。
推荐律师服务:
若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询