本文结构：
1. 什么是神经网络神经网络就是按照一定规则将多个神经元连接起来的网络 例如全连接(full connected, FC)神经网络，它的规则包括：
不同的神经网络，具有不同的连接规则 2. 什么是神经元神经元和感知器的区别也是在激活函数： 其中 sigmoid 函数的公式和图表示如下： 想了解更多还可以看这篇：常用激活函数比较 3. 神经网络的训练先向前计算，再向后传播 例如上面神经网络的结构 输入层，首先将输入向量的每个元素的值，赋给输入层的对应神经元 隐藏层，前一层传递过来的输入值，加权求和后，再输入到激活函数中，根据如下公式，向前计算这一层的每个神经元的值 用矩阵来表示 这个公式适用于每个隐藏层和输出层，就是 W 的值和 f 的形式会不一样， 其中 W 是某一层的权重矩阵，x 是某层的输入向量，a 是某层的输出向量 模型要学习的东西就 W。 诸如神经网络的连接方式、网络的层数、每层的节点数这些参数，不是学习出来的，而是人为事先设置的，称之为超参数。 训练它们的方法和前面感知器中用到的一样，就是要用梯度下降算法： 完整的推导可以看这篇，一步一步很详细： part 4. 代码实现 下次再写 学习资料： 关于神经网络，写过的文章汇总：
END. 来源:极客X养成计划 推荐好文 |
注册
登录
