0 前言 本文主要介绍决策树信息增益比的计算，并给出例子帮助读者理解。 读者需要具备：信息熵、条件熵、信息增益 相关知识。 本文使用数据集：游玩数据集 1.1节。 1 信息增益比计算公式 2 信息...

0 前言 本文主要介绍信息增益的计算公式并举出若干例子帮助理解。 读者需要具备的知识有：信息熵、条件熵。 本文所示用的数据集为：游玩数据集 1.1节 1 信息增益计算公式 g(D,A)表示在条件A下对...

0.前言 本文主要介绍了最小二乘法公式推导，并且使用Python语言实现线性拟合。 读者需要具备高等数学、线性代数、Python编程知识。 请读者按照文章顺序阅读。 绘图软件为：geogebra5。 1.原理推...

0 前言 为了便于学习决策树信息熵相关知识，笔者编写了一个专门用于计算变量信息熵、条件熵、信息增益、信息增益比的程序，方便提升学习效率。 程序中包含了计算过程的数据和详细信息以及最终计...