0 前言 本文主要介绍极大似然估计的意义，并举出例题帮助读者理解。 1 思想 极大似然估计（Maximum Likelihood Estimation, MLE）是一种在统计学中估计模型参数的方法。它的基本思想是：找到一...

0 前言 为了便于学习决策树信息熵相关知识，笔者编写了一个专门用于计算变量信息熵、条件熵、信息增益、信息增益比的程序，方便提升学习效率。 程序中包含了计算过程的数据和详细信息以及最终计...

0 前言 本文主要讲述使用基尼指数构建二叉决策树的算法，并给出例题一步步解析，帮助读者理解。 本文所使用的数据集：贷款.CSV。 读者需要具备的知识：基尼指数计算。 1 基于基尼指数的分类树构...

0 前言 本文主要介绍决策树ID3算法，并举出构建示例帮助理解。 读者需要具备的知识：信息熵、条件熵、信息增益。 本文使用数据集为：游玩数据集 1.1节、西瓜数据集 1.2节。 1 ID3算法简述 ID3（...