决策策略。因此，我来改变这个们可以策略。也是给定的，代表一种对于一个给定的，它的权重和阈值通过调整权重和阈值感知器来说

它的相反数来关于阈b被称为偏置（b;里需要指出的一点表达：b=-threshold，这里的ias）。值th是，为了表达更方便，一般用reshold，这

�p>0，则输出+w2x2+w3这样，就修改为：如果w1则输出oo前面计算输出的规则ut=0。utput=1，否⼑𜥼...+b

而权=w2=-2重w1，则b=3。

于0。而其它输入+;(−2;)1ᬐ==x2=1的时候是output=1。񥓯tput=0，因为(−2的情况下，都，ou−1，小很明显，只有当x1

实是一个“与非门所以在实际情况下”！，这其

universalgate比较特殊的是所有门部件中在计算机科学中，与非门其它ity)。一个，它可以通过组合的方式表达任何非门的普适性(的门部件。这被称为与

理论上它也就能表，能够通过与非门，那么既然感知器达权重和偏置参数其它的门部件。任意设置恰当的来表达一个

也能够像前面三体中的通过彼此连接从而因此，感知器算机系统。组成一个计例子一样，

让事情复杂化了而已。已经有现成的计算机了，这只不过是值得惊喜的，我们但这似乎没有什么

很有限。要做复杂的决策，要将多个感知器连接起来。所以则是需单个感知器能做的事情

了了。际中的网络可能会有置这些参数，恐果手工一个一个上万个如，甚至数十万个参数，务永远也完成不而实地去配怕这项任

而神经网络最有就在于这里。特色的地方

有参数，而是提供训我们不是为网络指定所自己在训练中去学习，在学习过程中值。为所有参数找到最恰当的练数据，让网络

路是这样转思络当输入是某个值的大体的运称为训练样是什么，这样的每一份训练数据，𛗬：我们告诉网本（traininge�e）。时候，我们期望的输出

例子：这个过程相当识的时候，举一个具体于老师在教学生某个抽象的知

一般来说，经网络的训练中举的例子越多象的知识。这在神同样成立们。，就越能表达那个抽我

本中总结出那份们可在背后的抽象的知识。以向网络灌入成千隐藏个训练样本，然后我上万网络就自动从这些样

。数的取值的所有权重和偏置参这份知识的体现，就在于网络

据初始值，当前参数值计算出唯一输入一我们当实际输出值。各个参数有一个个训练样假设的一个本的时候，它会根

能跟我们期望的输出值不一样。想象我们可以这个值可值，让实际输出值和期望输出值一下，这时候，尽量接近。试着调整某些参数的

完毕之后，到了最佳输网络参数也调。值，这时每一次的值，这样训练过整输出值和期望实的训练样本输入程就结束了当所有际出已经无限接近

假设在训练过程见过的数万个样本能够。数据，它也应该有很。这就是一个神经（或接近正确）的反应的决策对工作大概率给出我们预期网络了，那么再给它输入一的原理中，网络已经给出正确个它没

异的时候，要如何但这里还有一个问题实际输出，在训呢？值和期望输出值产生差练过程中，当去调整各个参数

数的方式获得期望的输弄清楚：通过调整参？当做之前，也应该先出，然这个方法行得通吗，在思考怎么

不可络来说，这个方法基本行。，实际上对于感知器网

比如在上图有3可预测器网感知输入不变络中的值全不本完，如果维持，那么最终的输出基，我们改变某个数。9个参数的参

变。这个问题的关只能是0或者1也可能维持不;。它或者从0变到1（或从进制的，键在于：输入和输出都是二1;变到0），当然

看成一个函数（有输入，有输出）如果把整个网络，那么这个函数不是连续的。

moid神经元。上保持连续练成为可能，因此，为。于是，这就出了现g𜆡在实数了让训的神经网络输出能够我们需要一个输入和

然不是oid神经元结构类似，但有两idneu别。sigmo络经常的sigm与感知器唯一的结构）。它的基本结构（当使用ron)是现代神经网个重要的区(

第一不再限制为0和1之间的实数。，它的输入，而可以是任意0~1

加上偏置函数的计算作为输出也不再限制为0和参数，经过出。第二，它的输一个称为si输入的加权求和再gmoid1，而是将各个

�那z)。2+w3x3+..+b，说，假设z㰰(z.么输出outpu具体来=w1x1+�;)=1/(1t=㰰(z)，其中：

输入出在0~1层神经(z)是一个续的函数。而且1之间的实数，这个输σ，它的输出也是0~之间平滑、连元的。值可以直接作为下一，保持

只是产生续的了，也就是说，微小的改变。这样就可以想象当我们对某个参数的值进使得逐步训练用sigmo变的时候，它的输出也成入和输出都变为连小的改，在采行微id神经元组装神经网络之后，网络的输调整参数值的为可能。

在历史上，很多研究本书中也曾经提到eplear人员曾经也做𚸙过这个例试，michaes过尝ng》anddeetwork《neuralnlnielsen的书子。这

。而真正的深度神lnet则会有多层隐藏层。orks)，shal属于浅层的神经网络(wneura𚙏nerualnetw，这个神经网络只有一经网络(deepworks)层隐藏层

方式进行设了左右脑半球的神经元系统采用造。计和制设计

(o;u;t;神经元节点，分别代;l;a;y;e;r表识别结果是0，1，2，...，9;o;i;d;函数㰰定是0~1之间的数。;)，有1;0;个;;i;g最右侧则是输出层(z)的限制，每个输出也肯�t。当然，受s

们在得到一组输出值之，最终的识别结果就那我是它后，哪个输。值最大出的

其它输出为0，隐接。是出层之间也是全连的形式则数字输出为1，而在训练的时候，输出：正确的那个藏层和输

，总共参1935个。偏置参数有15+10򂹕为：11910+2神经网络共数有78415+1ᒾ=25个的权重参=11910个，数个数

惊人的数字。这可是一个非常