集成学习中的多样性密码：量化学习器的多样性
在集成学习中，多样性是一个关键概念，简单来说，多样性衡量的是各个学习器之间的差异程度。 如果学习器之间差异很大，那么它们的组合就更有可能覆盖更多的情况，从而提高集成模型的性能， 就像...
集成学习常用组合策略：让多个模型“合作”得更好
集成学习通过组合多个学习器的预测结果，达到超越单个学习器的效果。 就像医生会诊时综合多位专家的意见，集成学习的关键在于如何有效整合不同学习器的判断。 这些学习器可以是不同类型的模型，...
集成学习双雄：Boosting和Bagging简介
在机器学习的世界里，集成学习（Ensemble Learning）是一种强大的技术，它通过组合多个模型来提高预测性能。 集成学习通过组合多个基学习器的预测结果，获得比单一模型更优秀的性能。其核心思想...
从“朴素”到“半朴素”：贝叶斯分类器的进阶之路
在机器学习分类任务中，朴素贝叶斯（Naive Bayes）因其简单高效而广受欢迎，但它的“朴素”之名也暗示了其局限性。 为了突破这一局限，半朴素贝叶斯（Semi-Naive Bayes） 应运而生。 本文将详细...
软间隔：让支持向量机更“宽容”
在SVM中，软间隔是一个重要的概念，它允许模型在一定程度上容忍误分类，从而提高模型的泛化能力。 本文将详细介绍软间隔的定义、与硬间隔的区别、损失函数的作用，最后使用 scikit-learn 进行实...
当决策树遇上脏数据：连续值与缺失值的解决方案
在机器学习中，决策树算法因其简单易懂、可解释性强而被广泛应用。 然而，现实世界中的数据往往复杂多变，尤其是连续值和缺失值的存在，给决策树的构建带来了诸多挑战。 连续值（如年龄、收入）...
决策树：机器学习中的“智慧树”
在机器学习的广阔森林中，决策树（Decision Tree）是一棵独特而强大的“智慧树”。 它是一种监督学习算法，既可以用于分类任务，也能用于回归任务，通过树形结构模拟人类决策过程。 这篇文章会...
线性判别分析（LDA）：降维与分类的完美结合
在机器学习领域，线性判别分析（Linear Discriminant Analysis，简称LDA）是一种经典的算法，它在降维和分类任务中都表现出色。 LDA通过寻找特征空间中能够最大化类间方差和最小化类内方差的方...
机器学习的数学基础–微积分
微积分运算在机器学习领域扮演着至关重要的角色，它不仅是许多基础算法和模型的核心，还深刻影响着模型的优化、性能评估以及新算法的开发。 掌握微积分，不仅让我们多会一种计算方式，也有助于...
机器学习中的两个重要函数–sigmoid和softmax
机器学习中，常常见到两个函数名称：sigmoid和softmax。前者在神经网络中反复出现，也被称为神经元的激活函数；后者则出现在很多分类算法中，尤其是多分类的场景，用来判断哪种分类结果的概率更...
