知器。，也是给定过调整权重和阈我们可以通对于一个给定的感权重和阈值种决策策略。因此值来改变这个策略来说，它的的，代表一

关于要指出的一点是，b被称为）。达更方便，一般用它的相反数来为了表hold，阈值thresd，这里的表达shol这里需：b=-thre偏置（b;ias

规则就修改为：p如果w1x1gt0，则输出out잰output=0。这样，前面计算输出的♮3+...++w2x2+wut=1，否则输出

而权重w1=w2=-2，则b=3。

0，因为很明显，只有当−2;ဵᬐ=−1，小;+;(况下，都是outpu(−2)1于0。而其它输入的情x1=x2=1的时t=1。候，output=

”！其况下，这所以在实际情实是一个“与非门

通过组合的方式表达任与非门的普适性(ga被称为ty)。在计算机科学中，与t有门部件中比较特殊的�何其它的门部件。这非门是所versali一个，它可以i

既然感知器能够通过设置恰当的权重来表达一个与非偏置参数，达任意其部件。和它的门能表门，那么理论上它也就

体中的例子一样，通过。知器也能够像前面三因此，感一个计算机系统彼此连接从而组成

，这只不过是让事机了这似乎没有但们已经有现成的计算我情复杂化了而已。什么值得惊喜的，

是需要将多个感知器连接起来单个感知器能做所以则的事情很有限。要做复杂的决策，。

而实际中的网络可能永远也完成不了了。甚至数果手工一个一十万个参数，如万个，参数，恐个地去配置这些怕这项任务会有上

在于这里。而神经网络最有特色的地方就

我们不是为网学习，让网有参定所有参，络指在学习过据络自己在训练中去程中为所数，而是提供训练数值。数找到最恰当的

le）。，这样的每一份训练，我们期望的输出是为训练样本（大体的运转思路什么网络当输入是某个值的时候是这样：我们告诉xamptraininge数据，称

程相当这个过抽象的知识的时候，举一个于老师在教学生某个具体例子：

一般来说，我象的知识。这在神经网络的训，就越能表达们举的例子越多那个抽练中同样成立。

我们可以向网络总结出识。象的知本络就自动从这些样藏在背后的抽灌入成千上万个训那份隐练样本，然后网中

络的所有权重的取值。和偏置参数这份知识的体现，就在于网

有一个初始值，当我个实际输出值。它会根的时候，个训练样本据当前参数值们输入一计算出唯一的一假设各个参数

时候，我们可以输出值尽量接近。试着调整某些参数的望的输出值不一值，让实际输出这个值可能跟我们值和期望样。想象一下，这期

限入完毕之后，值和期望输出值已经无也结束了。值，这时每一次网络参数练样本输接近，这样训练的实际输出过程就当所有的训调整到了最佳

有很大概率给出我们预数万个样本能够给出接近正确）的反应正确（或个神个它没见假设在训练过程中，网期的决策。这就是一理。络已经对的原经网络工作了，那么再给它输入一过的数据，它也应该

输出值产生差异的，在时候，要如何去一个问题输出值和调整各个参数呢？训练过程中，当实际但这里还有期望

行得数的方式获得通，在吗？当然清楚：通过调整参思考怎么做这个方法期望的输出，该先弄前，也应之

实际上，对方法基本不可行。器网络来说，这个于感知

果维持输入某个参数的值，那不变的输出基本完全不可预测。有39个参，我们改变么最终数的感知器网络中，如比如在上图

（或从1;变。这能维持不它或者从0变到1;的，只能是个问题的关键在于：输入和输出都是二进制0或者1。变到0），当然也可

如果（有输入，有输出么这个函个函数），那数不是连续的。把整个网络看成一

保持连续的神经网络。了sigmoid于是，这就出练成为可能，我们需要一个输入和输出能够在实数上现因此，为了让训神经元。

别。igmoidneu似，但�)是现代神经网络经常使用构）oid神经元(s。它与感知器的结构类sigm有两个重要的区的基本结构（当然不是唯一的结

是任意0~1之间的第一，它的输而可以入不再限制为0和1，实数。

输出也和再加上偏计算作为输制为0和1，不再限第二，它的出。而是将各个求置参数，经过一个称为sigmoid函数的输入的加权

具⺭体来说，假设z=.+b，那么输�;)=1/(1x3+..ut=㰰(z)，其x1+w2x2+w3z)。中：㰰(z出outp

的输出也是接作为下一层神经元而且，它这个输出值可以直数。保σ(z)是一个平滑、0~1之间的实数，连续的函持在0~1之间。的输入，

它的输训练成说，当我们对某个网络之后，网络的输，在采用sigmoi行微小的改变的时候，为可能。数值的使得逐步调整参出都变为连续的d神经元出参数的值进生微小的改组装神经也只是产了，也就是可以想象变。这样就入和输

earning》究人曾经提到过𛗬这本书中也haelnieletwo这个例子。𜆝多研��经也做过尝试，rksanddee员曾n的书《neur在历史上，很

的神经网络(shal度神经网络浅层�rks)。而真正的深)，则会有多层隐deepnerualowne这个神经网络只tworks(藏层。有一层隐藏层，属于uralnetwo

神经元系行设计和制造。脑半球的设计方式进统采用了左右

有1;0;l;a;y;e.，9。当0~1之间的数。代表识别结果是0，1，然，受s;i;，..p;u;t;d;函数㰰(经元节点，分别每个输出也肯定是，2输出层(o;u;t;g;m;o;i;;r;)最右侧则是个神z)的限制，

的识就是它。后，哪个到一组输出值之别结果输出的值最大，最终那我们在得

连接。出为1，其它而在训个数字正确练层和的那输出层之间也是全输出为0，隐出的形式则是：的时候，输输藏

񸴍25个，总共参数个有78经网络共的权重参数数为：11910+25=11910个，偏置参数有15+1935个。而神򀊙+1ᒾ=1

这是一个非常惊人的数字。