策策略。因此，我整感知器来说，它的权对于一个给定的来改变这们可以通过调权重和阈值个策略。重和阈值也是给定的，代表一种决

指出的一点是，为这里的b偏hold，这里需要被称为b;ias）。数来表达：b=-t的相反置（了表达更方便，一般用hreshold，它关于阈值thres

出o3x3+...+b>0，则输utputx2+w出ou面计算输出的规则就修果w1x1+w2=1，否则输改为：如这样，前tput=0。

。，则b=3而权重w1=w2=-2

它输入的情况下，都−2)1;只有当x1=x2=1是outut=0，因为(1，小于0。而其=1。�很明显，的时候，outp+;(−2;)1ᬐ=−

所以在实与非门”！这其实是一个“际情况下，

gateuni门部件中比较特殊的一门的普适性(件。这被称为与非ty)。科学中，与非门是所有表达任versali它可以通过组合的方式，何其它的门部在计算机个

它的门部件偏置参数，来表达然感知一个与非门，那么既上它也理论权重和器能够通过设置恰当的意其。就能表达任

感知器系统。前面三体样中的例子一因此，从而组成一个计算机也能，通过彼此连接够像

，这只化了而已。，我们已经有现不过是让事情复计算机但这似乎没有什么值得惊喜的杂了成的

的要事情接起单个感知器能做很有，所以则是需限。要做复杂的决策来。将多个感知器连

，恐怕这项任配置这些参数而实际中的网络可务永远也完成不了了个参数，如，甚至果手工一个一个地去能会有上万个数十万。

的地方经网络最有特色于这里。而神就在

数据去学习，在学习过程中提供训练练中当的值。训我们不是为网络指定所有参数，而是为所有参数找到最恰，让网络自己在

我ningexam体的运转思路是这样：输入是某们告诉网络当望的输训练数个值的时候，我们期出是什么，ple）。这样的每一份�大据，称为训练样本（t

个过程相当举一个具体例子：的知识的时候，这个抽象于老师在教学生某

训练中同样成。这在神经网络的立。表达那个抽象的知识子越多，就越能般来说，我们举的例一

后网络，然藏在背后的中总结出那份隐就自动从这些样本识。抽象的知入成千上万个训练样本我们可以向网络灌

置参数，就在于网络的所有权的取值。重和偏这份知识的体现

前参数值本的时候，它会根据假设各个参数有一个初始值，当我们输入一个训练样计算出唯一的一个实际当输出值。

数候，我们可以试着调整某些参能跟我们期望的输出值和期望一样。想象一下，这时输出值尽量接近。的值，让实际输出值不这个值可

值和期望输出值已经无限接练过程当所有的训近，这样训时每一次的实际输出了最佳值，这练样本输入完毕之后，网络参数也调整到就结束了。

么一个神经网络工作的它输入一的决策。原理。样本络已经对数万个期再给设在训练过程中，网应该有很大概率给个它没见过的数据，它出我们预这就是也能够假给出正确（或接近正确）的反应了，那

，当里还有一个问题，在训异的差练过程中去调整各个参数呢？实际输出值和期望输出值产生但这时候，要如何

清楚：通过调整参数的方式获之前，也该先弄应当然，在思考怎么做，这个方法行得通吗？得期望的输出

实际上，对于感知器网络来说，这个方法基本不可行。

我们改变变，数的感知器网络中，如果维持输入不最某个参数的值，那么比如在上图终的输出基本完全不可有39个参预测。

的，只能是0或不变。这个问题的关键在于它或者从0变到1;：输入和输出都是二进者1。（或从1;变到制0），当然也可能维持

有输入，有输如果把整出），函数（个网络看成一个个函数不是连续的。这那么

够在实数上保持连续现了s因此，的神经网络。于是，这就出输我们需要一个输入和为了让训练成为可能，igmoid神经元。出能

构类似，但有两个重要dneuro现代神经网络经常）。结构（它与感知器的结当然不是唯一的结构n)是使用的基本的区别。(sigmoisigmoid神经元

~1之间的实数。限制为0和1，而可以是任意0第一，它的输入不再

数的计算作为输0和1，而是将各个输限制为ioid函称为s出。入的加权求和再加𙋅第二，它的输出也不再上偏置参数，经过一个

+w3x3+..+w2x2)，其中：㰰(z;=㰰(z.+b，那么输出output�-z)。)=1/(1+e，假设z=w具体来说

连续的函层神经元的输实数，入，保持在0~1)是一个平滑、是0~1之间的这个输出值可以直接作为下一数。而且，它的输出也之间σ(z。

𙋅。oid神经元组装神也只是产生微小的步调整参数值的训入和输是说，当我改变。的改变的出都变练成为可能们对某个参数的值可以想象，在采用si这样为连续的了，也就时候，它的输出进行经网络之后，网络的输就使得逐微小

𚸗netwoanddee在历史上，很多研究aeln的书《neural�人员》这到过这个例尝试，michplearni子。本书中也曾经提曾经也做过ielsen

ks)。而真正的hallowneur这个神经网eepne�s络(alnetwor会有多层隐藏层。于浅层的神经网rks)，则erualn深度神经网络(d络只有一层隐藏层，属

进行设计和制造半球的设计方式神经元系左右脑。统采用了

i;g;m;o;，分别代表识别结果a;y;e;r;)，�个神经元节点制，每个输出也肯o有1;0;;i;d;函数㰰，1，2;p;u;t最右侧则是输出层(然，受s，.是0当;u;t鲺)的限定是0~1之间的数。..，9。

出哪个输出的值最大，最终的识别值之后，结果就是它。那我们在得到一组输

。为1，其它输出的那个输出之间也是全而在训练的时候，数字连接为0，隐藏层和输出层输出的形式则是：正确

个，总共参数个数为：的权重参数有7򖊍偏򊀁0=11935个。置参数有15+111910个，5+1ᒾ=神经网络共11910+25

常惊人的数字。这是一个非