机器学习中的两个重要函数–sigmoid和softmax
机器学习中，常常见到两个函数名称：sigmoid和softmax。前者在神经网络中反复出现，也被称为神经元的激活函数；后者则出现在很多分类算法中，尤其是多分类的场景，用来判断哪种分类结果的概率更...
决策树：机器学习中的“智慧树”
在机器学习的广阔森林中，决策树（Decision Tree）是一棵独特而强大的“智慧树”。 它是一种监督学习算法，既可以用于分类任务，也能用于回归任务，通过树形结构模拟人类决策过程。 这篇文章会...
规则学习：让机器学习像人类一样思考的可解释之路
在机器学习领域，规则学习是一颗独特的明珠--它不像深度学习那样神秘，而是用人类可读的'如果-那么'规则来做出决策。 想象一下医生通过一系列症状判断疾病，或者风控系统根据用户行为拒绝贷款，...
机器学习中的”食材挑选术”：特征选择方法
想象你要做一道美食，面对琳琅满目的食材，优秀的厨师不会把所有原料都扔进锅里，而是会选择最适合的几种。 在机器学习中，特征选择就是这个挑选过程，从原始数据中选择对预测目标最有用的特征...
不同数据场景下的聚类算法
在数据分析和机器学习领域，聚类是一种非常重要的无监督学习方法，它可以帮助我们发现数据中的内在结构，将相似的数据点分组到一起。 本文将介绍几种常见的聚类算法，包括原型聚类（如 k-均值、...
集成学习中的多样性密码：量化学习器的多样性
在集成学习中，多样性是一个关键概念，简单来说，多样性衡量的是各个学习器之间的差异程度。 如果学习器之间差异很大，那么它们的组合就更有可能覆盖更多的情况，从而提高集成模型的性能， 就像...
同样的数据，更强的效果：如何让模型学会‘互补思维’？
集成学习虽然能够通过组合多个学习器来提高预测性能，然而，如果这些学习器过于相似，集成的效果可能并不理想。 因此，增强学习器的多样性是提升集成学习性能的关键。 多样性带来的优势在于： ...
机器学习的数学基础–微积分
微积分运算在机器学习领域扮演着至关重要的角色，它不仅是许多基础算法和模型的核心，还深刻影响着模型的优化、性能评估以及新算法的开发。 掌握微积分，不仅让我们多会一种计算方式，也有助于...
集成学习双雄：Boosting和Bagging简介
在机器学习的世界里，集成学习（Ensemble Learning）是一种强大的技术，它通过组合多个模型来提高预测性能。 集成学习通过组合多个基学习器的预测结果，获得比单一模型更优秀的性能。其核心思想...
软间隔：让支持向量机更“宽容”
在SVM中，软间隔是一个重要的概念，它允许模型在一定程度上容忍误分类，从而提高模型的泛化能力。 本文将详细介绍软间隔的定义、与硬间隔的区别、损失函数的作用，最后使用 scikit-learn 进行实...
