决策树是什么呢?
2023-11-06 · 百度认证:SPSSAU官方账号,优质教育领域创作者
决策树(Decision Tree)常用于研究类别归属和预测关系的模型,比如是否抽烟、是否喝酒、年龄、体重等4项个人特征可能会影响到‘是否患癌症’,上述4项个人特征称作‘特征’,也即自变量(影响因素X),‘是否患癌症’称为‘标签’,也即因变量(被影响项Y)。决策树模型时,其可首先对年龄进行划分,比如以70岁为界,年龄大于70岁时,可能更容易归类为‘患癌症’,接着对体重进行划分,比如大于50公斤为界,大于50公斤时更可能划分为‘患癌症’,依次循环下去,特征之间的逻辑组合后(比如年龄大于70岁,体重大于50公斤),会对应到是否患癌症这一标签上。
决策树是一种预测模型,为让其有着良好的预测能力,因此通常需要将数据分为两组,分别是训练数据和测试数据。训练数据用于建立模型使用,即建立特征组合与标签之间的对应关系,得到这样的对应关系后(模型后),然后使用测试数据用来验证当前模型的优劣。通常情况下,训练数据和测试数据的比例通常为9:1,8:2,7:3,6:4或者5:5(比如9:1时指所有数据中90%作为训练模型使用,余下10%作为测试模型好坏使用)。具体比例情况似研究数据量而定无固定标准,如果研究数据较少,比如仅几百条数据,可考虑将70%或者60%,甚至50%的数据用于训练,余下数据用于测试。上述中包括模型构建和模型预测两项,如果训练数据得到的模型优秀,此时可考虑将其进行保存并且部署出去使用(此为计算机工程中应用,SPSSAU暂不扰仔提供);除此之外,当决策树模型构建完成后可进行预测,比如新来一个病人,他是否会患癌症及患癌症的可能性有多高。
决策树模型可用于特征质量判断,比如上述是否抽烟、是否喝酒、年龄、体重等4项,该四项对于‘是否患癌症’的预测作用重要性大小可以进行排名用于筛选出最有用的特征项。
决策树模型的构建时,需要对参数进行设置,其目的在于构建良好的模型(良好模型的标准通常为:训练数据得到的模型评估结果良好,并且测试数据时评估结果良好)。需要特别注意一点是:训练数据模型评估结果可能很好(甚至准确率等各项指标拦虚为100%),但是在测试数据上评估结果确很糟糕,此种情况称为‘过拟合’。因而在实际研究数据中,需要特简李燃别注意此种情况。模型的构建时通常情况下参数设置越复杂,其会带来训练数据的模型评估结果越好,但测试效果却很糟糕,因而在决策树构建时,需要特别注意参数的相关设置,接下来会使用案例数据进行相关说明。
决策树模型的原理上,其第1步是找出最优的特征和其分割点,比如影响是否患癌症的特征最可能是年龄,并且分割点可能是70岁,小于70岁可能归为‘不患癌症’,70岁及以上可能归为‘患癌症’。此第1步时会涉及到2个专业名词,分别是‘节点分裂标准’和‘节点划分方式’。第2步是找出次优的特征和其分割点,继续进行拆分。一直循环下去。
关于决策树模型时,通常涉及到以下参数值,如下:
节点分裂标准:其指模型找到特征优先顺序的计算方式,共有两种,分别是gini系数和entropy系数,二者仅为计算标准的区别功能完全一致,一般情况下使用gini系数。
SPSSAU的操作如下:
何为决策树?
你桐悔在任何一个场合或者任何一个时间中只要有纸和笔在你需要作出选择的时候,就可以通过画上几笔分析图,帮你做出当下更好的选择。
举例:
1上街买衣服如何选择呢?
有两个选择买还是不数山买?买衣服就是原点的开始,画树叉图,一条线是买,另一条线是不买,再往下延伸,买衣服的理由,价位,款式,喜好,不买的理由原因,然后分析出买与不买的最佳选择。
2可以用在去哪里就业?
如果你想在一线城市发展,又想在二线三线城市发展,以到哪里就业为原点,画两条竖叉图,一条是一线城市就业;另外一条是二三线城市就业,在从一线城市就业往下局毕正画树叉图,优势和劣势按照金字塔结构画出并分析,优势1,2,3,劣势1,2,3,按同样的方法画出另一条同样的线,分析出自己在一线城市发展和在二三线城市发展的优势和劣势,然后以此3做出最佳的选择。
3买一张去北京的火车票。
已买火车票为原点,画树叉图,当你大概确定了买几点的火车票的时候就要进行选择,画两条竖叉图或者多条,然后写出选择和放弃的的理由,最终做出最优判断,选择。
很多时候我们在做选择的时候一直在纠结,如果能为自己画一个决策树模型的树杈图,很快就会做出当下正确的决策。
这个决策树模型是可以广泛的运用在需要选择的任何场合,记得随身携带一张纸和一支笔,就会帮你轻松简单的决策出当下最需要做的事情。