0 前言 本文主要介绍决策树信息增益比的计算，并给出例子帮助读者理解。 读者需要具备：信息熵、条件熵、信息增益 相关知识。 本文使用数据集：游玩数据集 1.1节。 1 信息增益比计算公式 2 信息...

0 前言 为了便于学习决策树信息熵相关知识，笔者编写了一个专门用于计算变量信息熵、条件熵、信息增益、信息增益比的程序，方便提升学习效率。 程序中包含了计算过程的数据和详细信息以及最终计...

0 前言 本文主要讲述使用基尼指数构建二叉决策树的算法，并给出例题一步步解析，帮助读者理解。 本文所使用的数据集：贷款.CSV。 读者需要具备的知识：基尼指数计算。 1 基于基尼指数的分类树构...

0 前言 本文主要介绍决策树ID3算法，并举出构建示例帮助理解。 读者需要具备的知识：信息熵、条件熵、信息增益。 本文使用数据集为：游玩数据集 1.1节、西瓜数据集 1.2节。 1 ID3算法简述 ID3（...