和阈值决策策略。因此，这个对于一个给定的感知器来说，它的变值也权重和阈来改是给定的，代表策略。一种我们可以通过调整权重

ld，这里的b被称为偏置hold，这里需要关于阈值thres=-thresho来表达：b（b;i表达更方便，一般用它的相反数指出的一点是，为了as）。

，前面⺯出outputoutput=1，否则输出x1+w2x2+计算输出的规则x3+...+b&：如果w1gt0，则输这样就修改为0。=

፡而权重。2=-2，则b=3ww

−1很明显，put=1。1的时候，o=x2=1ᬐ=，小于0。而其它输入t=0，因为(−情况下，都是ouutput;(−2;)只有当x12)1;+的

所以在实际”！门情况下，这其实是一个“与非

通过组合的方式表达任何其它的门部件。这被称机科学中，与在计算比较特殊的一个，它性(gateu为与非门的普适可以非门是所有门部件中)。niversality

既然感知器能够通过设上置恰当它也就能表达任意置参数，来表达的权重和偏的门部件。其它非门，那么理论一个与

从而组成一个计算通过彼此连接体中的例子一样，机系统。能够像前面三因此，感知器也

没有什么值得惊喜的，。我们已经而已有现成但这似乎的计算机了，这只不过是让事情复杂化了

事情很有限。要做复多个感知器连接起来。则是需要将单个感知器能做的杂的决策，所以

了。万个参数，如果手工一不了而实际中的网络可能务永远也完成会有上万个，甚至数十配置这些参数，恐怕这项任个一个地去

神经网络最有特色的地方就在于这里。而

自己在训练中去学习，训练数据，让网络最恰当的值。有参数找到在学习过程中为所定所有参数，而是提供我们不是为网络指

r一份训练数据大体的运转思a络当输入是某个值路是这样：我们告诉网，称为训练样本（t的时候期望的输出是什么，这样的每，我们mple）。iningexa

这个过程相当于老师在教学，举一个具体例子：生某个抽象的知识的时候

就越能表达那个抽象的一般来说中同样成立，我们举的例子越多，练知识。这在神经网络。的训

那份隐藏在背后的可以向网入成千上万然后网络就络灌我们个训练样本，自动。抽象的知识从这些样本中总结出

在于网络的所有权重这份知识的体现，就和偏置参数的取值。

的一个实际输出值。当前参数值计算出唯值，当我们假设根据各个参数有一个初始样本的时一候，它会输入一个训练

量接近。望输出值尽出值不一望的输下，这时候，我们可以试着调整某些际输出值和期参数的值，让实样。想象一这个值可能跟我们期

无限接近，这样训练的实际输出了最佳值，这时每一次过程就结入完毕之后，网络参数也调整到束了。值和期望输出值已经当所有的训练样本输

训练过程假设在网络工作的原理。很大概率给出我们预期再给它就是一个神经的数据，它也应该有中，网络已经对数万个样本能够给出正确（）的反应了，那么输入一个它没见过或接近正确的决策。这

但这里还有呢？出值产生差异的时整，在训练过程中，当候，要如何去调实际输出值和期望输一个问题各个参数

当然，在楚：调整参数的方的输出，这个方法思考怎么做之前，也？清应该先弄行得通吗通过式获得期望

可行。器网络来说，这个方法基本不实际上，对于感知

络中，如果维知器网变某个参数的值，持输入不变，我们改比如在上图有3完全不可预测。参数的感那么最终的输出基本9个

变到0）在于：输入和者1。进制的，只能是0或输出都是二它或者从0，当然也可能维持不变到1;（或从1;变。这个问题的关键

（有输入，有输出整个网络看成一个函数），那么这个函数不是如果把连续的。

实数上保持，这就出现了sig𚨷成为可能，我们需要id神经元。连续的神经网络。于是一个输入和输出能够在练因此，为了让训

dneuro构类似要的区别。）。它与感知器的结n)是现sigmoid神经常使用的基本结构（当元(sigmoi，但有两个重然不是唯一的结构代神经网络经

实数。0~1之第一，它的输入不再限制为0和1，而可以是任意间的

各个输入的加权求经过一个称为sigmoi为输出。d函数的计算作和再加上偏置参数，第二，它的输出也不再限制为0和1，而是将

具体出o设)。z=w1x1+w2x𜥼z;)=1/񱜆(+w3x3++b，那么输z1+e-㰰(z)，其中put=2：㰰(说，假来

是0~1它的输出也作为下，保持在0~1之间函数。而且，。之间的实数，这个滑、连续的一层神经元的输入σ(z)是一个平输出值可以直接

续的了，也就是变的时候，它的输出整参数个参值的训练成为可能。也只是产生微小的改说网络之后，网络的输入id神经元组装神经行微小的改，当我们对某采用sigmo数的值进变。这样就使得逐步调可以想象，在和输出都变为连

uralnetwdeeple曾经也做过中也曾经orksand在历史上，rning》这本书haeln尝试，mic的书《neaielsen提到过这个例子。员很多研究人

正的深度，alnetw网络(deepne层。层rualnetwo这个神经网络只有一orks)。而真隐藏层，属于浅有则会hall经网络(s层的神多层隐藏rks)神经owneur

脑半球和制造。神经元系统采用了左右的设计方式进行设计

定是0~1之间的。当然，受s;i;g..，;t;l;a;y;经0;个神，分别代表识;函数㰰(2，.z)的限制，每个输出最右侧则是输出层(o也肯元节点数。;m;o;i;de;r;)，有1;别结果是0，1，;u;t;p;u9

那我们在得最终的识别结果就是它，组输出值之后。哪个输出的值最大，到一

那个数字输出为1，而在训和输出层之间也是全连的形式则是其它输出为0，隐藏层接。：正确的练的时候，输出

参数有15+10权重参数而神经网络共的：1191个。有78415+1ᒾ=11910个，偏置0+25=119355个，总共参数个数为᠆

数字。一个非常惊人的这是