2.模型的建立
以问卷搜集到的信息中的个人情况中的性别信息、职业信息、年龄段,以及被调查者对于金寨电商模式的认可程度和对金寨电商模式的发展前景的看法的文本为分析对象,在构建决策树时,我们选取1158个人的信息作为训练集,290人作为测试集。最后通过测试集测试模型训练的准确率可以达到84.5666%。下图为所构建决策树的整体分析情况,Python运行代码见附件。
其中,为防止过拟合现象,需要对决策树进行剪枝,即预剪枝和后剪枝。预剪枝:树还没完全分裂的时候,设定好阈值,阻止其分裂。后剪枝:当树完全分裂之后,开始进行剪枝:由完全树 开始,剪枝部分结点(叶子节点,或者子节点)得到 ,再次剪枝部分结点得到 …,直到剩下树根的树(就是根节点) ;在验证数据集上对这k个树分别评价,选择损失函数最小的树 。
采用CART代价复杂度剪枝方法(CCP):
1、决策好一颗树,除去叶子节点后有 ;
2、计算每个子节点剪枝后的表面误差率增益
其中, ,loss(t)是剪枝后的损失函数,loss(T)是剪枝前的损失函数,leaf(T)是剪枝前T节点下面的叶子节点数。
3、 ,剪枝最小的节点 。
http://www.dxsbao.com/shijian/547706.html 点此复制本页地址