通过本篇文章大家可以对ML的常用算法形成常识性的认识。没有代码,没有复杂的理论推导,仅是图解,介绍这些算法是什么以及如何应用(例子主要是分类问题)。以后有机会再对单个算法做深入地解析。 今天的算法如下:
1. 决策树 根据一些 feature 进行分类,每个节点提一个问题,通过判断,将数据分为两类,再继续提问。这些问题是根据已有数据学习出来的,再投入新数据的时候,就可以根据这棵树上的问题,将数据划分到合适的叶子上。 2. 随机森林 在源数据中随机选取数据,组成几个子集。 S 矩阵是源数据,有 1-N 条数据,A B C 是feature,最后一列C是类别。 由 S 随机生成 M 个子矩阵。 这 M 个子集得到 M 个决策树。 将新数据投入到这 M 个树中,得到 M 个分类结果,计数看预测成哪一类的数目最多,就将此类别作为最后的预测结果。 3. 逻辑回归 当预测目标是概率这样的,值域需要满足大于等于0,小于等于1的,这个时候单纯的线性模型是做不到的,因为在定义域不在某个范围之内时,值域也超出了规定区间。 所以此时需要这样的形状的模型会比较好。 那么怎么得到这样的模型呢? 这个模型需要满足两个条件 大于等于0,小于等于1。 大于等于0 的模型可以选择 绝对值,平方值,这里用 指数函数,一定大于0 小于等于1 用除法,分子是自己,分母是自身加上1,那一定是小于1的了。 再做一下变形,就得到了 logistic regression 模型。 通过源数据计算可以得到相应的系数了。 最后得到 logistic 的图形。 4. SVM support vector machine 要将两类分开,想要得到一个超平面,最优的超平面是到两类的 margin 达到最大,margin就是超平面与离它最近一点的距离,如下图,Z2 |
|
声明:文章版权归原作者所有 部分文章转自互联网 如有侵权请联系
[邮箱地址] 删除
|