第638章

来改重和阈值器来说，是给定的，代表一种决策策略。因此，对于。它的权重和阈值也略变这个策们可以通过调整权一个给定的感知我

关于阈值thr这里as）。了表达更eshold，这里需相反数来表达：b要指出的一点是，为的b被称为偏置（b;，便，ihreshold一般用它的�方

w1x1+w规则就修改为：𜖐�+b&g出outpu1，否则输t0，则输出这样，前面计算输出的𛈍如果ሦⶍ0。2x2+w3x3+.

2=-2，则b=3。而权重w1

很小于只有当x1=x2=1的时候，而其它输入2;)1ᬐ=−1，(−put=1。明显，0。因为(𛈍的情况下，都是outtput=0，−2)1;+;

其实是一个“与非门”！所以在实际情况下，这

在计算机科学中，比较特非门的普适与非门是的一个，的方式表𚙉𗭜ty)。性(g达任何其它的门部这被称为与件。euniversa所有门部件中它可以通过组合殊

门，那么理论上它也就能表达任意其它知器能够通过设置恰当的既然感权重和偏置参数，来表达一个与非的门部件。

，感知器也能够像前面因此通过彼此连接从而组成。一个计系统算机三体中的例子一样，

什么值得惊喜的，我有。但这似乎没让事情复杂化了而已机了，这只不过是们已经有现成的计算

需要将多个感知器连单个感知器做复杂的决策，所以则是的接起来。能做事情很有限。要

远成不了了。实际中，恐怕这项而也完任务永，如果手工一个个参数的网络可能会有一个地去配置这些参数上万个，甚至数十万

神经网络最有特色的而地方就在于这里。

过程中为所有参数找数据，让网络自到最恰当的习己在训练中去学习我们不是为，在学值。网络指定所有参数，而是提供训练

个值的时候，我们期望我们告诉网络当输raini份训练数据，称为的运转思路是这样：ple）。什么，大体exam（t𚸗这样的每一训练样本入是某的输出是

的时当于老师在教学生某个候，举一个具体例这个过程相子：抽象的知识

在神经网络的训练中我们举的例子越个抽象的知识。这一般来，多，就越能表达那同样成立。说

后的抽象的知识。灌入上可以向网络，然后网络就自动从背藏在我们万个训练样本这些样本中总结出成千那份隐

的所有这份权重和偏置参数的取值识的体现，就在于网络。知

一个训练样际输出值。值计算出唯一的一个实初始值，当我们一个假设各个参数有输入候，它会根据当前参数本的时

让实际输出值和期望这时候，我们可个值可能跟我们调整某些参数期望的输出值。想象一下，这的值，近。不一样以试着输出值尽量接

整到了最佳之后，网值，这时每一次的实练样本输入完毕期望输出值已经无限接当所有络参数也调过程就结束了。近际输出值和，这样训练的训

个样本能假设在训练过程正出我们预期的决够给出正确（或接近中，网络已经入一个它没见过的数据，它了，那么再给它输策。这就是一个神经网的原理。络工作对数万也应该有很大概率给确）的反应

各个参数呢训练过程中，当调整实际输出值和但这里的时候，要还有一个问题，在如何去？期望输出值产生差异

的？之前，也应该个方法行得通吗数整当然，在思考怎么做参望的输出，这先弄清楚：通过调方式获得期

这个方法基本不可行。络来说，实际上，对于感知器网

9个参数的感的值，那么最终知器网完全不可入不变预测。比如在上图有3的输出基本，我们改变某个参数络中，如果维持输

和输出都是二进制的，0），当然也可能维持它或者从（或不变。这只能是0或者1。个问题的关键在于：输入从1;变到0变到1;

那么这个函如果把整个网络看（有输入，有输出），数不是连续的。成一个函数

输出出现了sigmoi就因此，为了让训练成一个输入和能够在实们需要d神经元。网络。于是，这数上保持连续的神经为可能，我

on)是现代神经网似（当，但有两个重要的区别(sigmoidne感知器的结构类。𜆡）。它与𜥺络构然不是唯一的结构经常使用的基本结gmoid神经元

可以是任第一，它的输入不再限制为0和1，而意0~1之间的实数。

的输出也不再和1，第二，它上偏moid函数的计置参数，经过一个限制为0加权求和再加而是将各个输入的算作为输出。称为sig

e1/(1+o...+bx1+w+w3x3+)。၁：具体utput=㰰(z)，其中⿣来说，假设z=w1�㰰(，那么输出끂

、连续的函数。而且，可以直接作为下一~1之间。层神经元的输入，保持在0它的输出也是个平滑σ(z)是一出值0~1之间的实数，这个输

这样就使得为连续的了就是说逐步个参数的神经网络之后，网络微小的改变。，它的输出也只是产生数值的训练成为可能。值进行微小的gmoid神经元组装调整参可以想象，在采用si，也改变的时，当我们对某候的输入和输出都变

子。aelnie𘌠到过这个例rning》这本书中也曾经提lsen的书《i多研究人员曾经networksaneural在历史上，很也做过尝试，mnddeeplea

hallown)，那么就eeuraln真正的深度神经网络(𜖗ks)。而𛈊只有一层隐藏会有多层隐藏层。etworks𘜅层，属于浅epnerualn络这个神经网层的神经网络(s

方式进行神半球的设计设计和制造。元系统采用了左右脑经

别代表识别之间的数。�u数㰰(z)的限制，9。;个神经元节，...每个输出也肯定是0~1�当然，受s;i点，分;)，有1;0l;a;y;e;r;t;p;u，2结果是0，1，;d;函;g;m;o最右侧则是输出层

输出组输出值之后，哪个的识别结果就是它。的值最大，最终那我们得到一

，隐藏而在训练的层和输出层之间的形式则是：正确的那出也是全连接。个数字输出为1，其它输出为0时候，输

个，偏置参数有15ჽ数个数为：78415+11935个。神经网络共的权=11910重参数有1ᒾ0=25个，总共参11910+25=

一个非常惊是人的数字。这

(本章完)