首页 存档 技术 查看内容

机器学习常用的十大算法,你都懂了吗?

2018-3-30 13:00 |来自: 互联网 331 0

摘要: 通过本篇文章大家可以对ML的常用算法形成常识性的认识。没有代码,没有复杂的理论推导,仅是图解,介绍这些算法是什么以及如何应用(例子主要是分类问题)。以后有机会再对单个算法做深入地解析。 今天的算法如下: ...

通过本篇文章大家可以对ML的常用算法形成常识性的认识。没有代码,没有复杂的理论推导,仅是图解,介绍这些算法是什么以及如何应用(例子主要是分类问题)。以后有机会再对单个算法做深入地解析。


今天的算法如下:

  1. 决策树

  2. 随机森林算法

  3. 逻辑回归

  4. SVM

  5. 朴素贝叶斯

  6. K最近邻算法

  7. K均值算法

  8. Adaboost 算法

  9. 神经网络

  10. 马尔可夫


1. 决策树

根据一些 feature 进行分类,每个节点提一个问题,通过判断,将数据分为两类,再继续提问。这些问题是根据已有数据学习出来的,再投入新数据的时候,就可以根据这棵树上的问题,将数据划分到合适的叶子上。


2. 随机森林

在源数据中随机选取数据,组成几个子集。

S 矩阵是源数据,有 1-N 条数据,A B C 是feature,最后一列C是类别。

由 S 随机生成 M 个子矩阵。

这 M 个子集得到 M 个决策树。

将新数据投入到这 M 个树中,得到 M 个分类结果,计数看预测成哪一类的数目最多,就将此类别作为最后的预测结果。


3. 逻辑回归

当预测目标是概率这样的,值域需要满足大于等于0,小于等于1的,这个时候单纯的线性模型是做不到的,因为在定义域不在某个范围之内时,值域也超出了规定区间。

所以此时需要这样的形状的模型会比较好。

那么怎么得到这样的模型呢?

这个模型需要满足两个条件 大于等于0,小于等于1。

大于等于0 的模型可以选择 绝对值,平方值,这里用 指数函数,一定大于0

小于等于1 用除法,分子是自己,分母是自身加上1,那一定是小于1的了。

再做一下变形,就得到了 logistic regression 模型。

通过源数据计算可以得到相应的系数了。

最后得到 logistic 的图形。

4. SVM

support vector machine

要将两类分开,想要得到一个超平面,最优的超平面是到两类的 margin 达到最大,margin就是超平面与离它最近一点的距离,如下图,Z2

声明:文章版权归原作者所有 部分文章转自互联网 如有侵权请联系 [邮箱地址] 删除

路过

雷人

握手

鲜花

鸡蛋

相关分类

返回顶部