概要

决策树（decision tree）是一种基本的分类和回归方法。其主要呈现为树状结构，在分类问题中，表示基于特征对实例进行分类的过程，可以被认为是 if-then 的规则集合，也可以被认为是定义在特征空间与类空间上的条件概率分布。

其优点主要有分类速度快、模型具有可读性，在学习时利用训练数据根据损失函数最小化的原则建立决策树模型；而在预测时对新的数据利用决策树模型进行分类。

决策树模型主要包含以下步骤：

• 特征选择
• 决策树的生成
• 决策树的修剪