手搓神经网络的核心思想：反向传播 скачать в хорошем качестве

手搓神经网络的核心思想：反向传播

Gmatrix【基地】 数字货币 摆脱奴役 人工智能 摆脱肉体 宇宙殖民摆脱旧世界 钓鱼这事 如果交给计算机 它怎么干呢？ 我们先抽象化出 这样一个简单的数据集 冷水-0 空军-0 温水-0.5 上鱼-1 暴晒水-1 空军-0 那接下来 我们就手搓一个神经网络来“学习”这个数据集 咱们先全程手搓然后再用代码来实现 非常舒爽 这才能真的品鉴神经网络 开搓吧 先画个输入神经元 再画隐藏层 都来最简单的，两个起 输出层一个 史上最简单神经网络 来，过去几期咱们反复叽歪的 每个神经元 需要三个东西 权重w，偏置b，还有激活函数 输入哪来的？ 上一个神经元“传”来的 那我们就把每个神经元都连线上 每根线上都附上 权重 和偏置 激活函数呢？我们统一选择softplus激活函数 这样的曲线 数学表达式就是这样的 那我们就先把激活函数放到需要激活的神经元上 有输入的就需要激活 这里直接输入，这里直接输出，为了方便手搓简单点就不激活了 那数据到底怎么往右沿着“神经”跑呢，激活到底是个咋激活呢？ 这样的 输入x来了 先走上路 x * w1 + b1 到了这个上神经元的门口了 必须得通过softplus这个门进 激活函数的输入就是x * w1 + b1 那激活函数的输出呢？ 这个公式代一下 通过这道门进入上神经元的值是不是就是这个了 e是常数，e≈2.71828 继续传导 y上就成为了下一个神经元的输入了 同样 这个输出神经元的输入就是 没设激活函数，直接大门进大门出 如此 那是不是 上路输出就是这个了，y上代进去 有个这个上路输出函数 w1，b1，w3，b3是我们需要给予神经元的参数 唯一的变量就是输入x了 x就是刚开始我们创造的数据集的x轴 分别是0，0.5，1 分别代进去计算 那是不是就可以得到对应的y1,y2,y3了 那走上路是不是就可以画出这样一条曲线了 由于w1，b1，w3，b3这几个参数我们随机设置的，现在还不知道最优解嘛 所以不可能拟合 同样 我们下路再走一遍 参数换成下路的就行了 是不是可以得到下路输出公式了 同样参数w2，b2，w4，b4现在我们也不知道最优解，随机取的 同样x1，x2，x3横轴输入会得到3个输出，y1，y2，y3 又可以画出一条线了 我们随便画一条表示下，反正不能拟合的那种 我们整成红色以示区别