，我们可决策策略。因此对于一个给定的感知值来改变阈值也是给定的，代表一种器来说，它的权重和策略。这个以通过调整权重和阈

是，为了表达更方便᠁hold，这里的b指出的一点hold，这里需要用它的相反数来表达：b被称为偏置（b;i，一般𘫻as）。关于阈值thrthres

输出+잰1，否则输出output=0。规则就修w2x2+w3+..w1x1这样，前面计算输出的output=.+b&gt0，则改为：如果

w�፡而权重-2，则b=3。

(−2)1;+;(−1，小tput=很明显，只有put==1的时候，out−当x1=x2况下，都0，因为是ou于0。而其它输入的情2;)1ᬐ=1。

在实际情况下，这其实所以是一个“与非门”！

门部件。这普适性(gateunlity)。特殊的一个中被称为与非门的，它组合的方式表有可以通过，与非门在计算机科学达任何其它的是所iversa门部件中比较

过设置恰既然那么理论上它也就能表感知器能够通达任意其它的非门，门部件。当的权重和偏置参数，来表达一个与

因此，感知器也能够像前面三体中的例子一样，一个计算机系统。通过彼此连接从而组成

惊喜的，我们已经有现了而这似乎没有什么值得事情复杂化了，这只不过是让但成的计算机已。

起来单个感知器能做的事。决策，所以则是杂的要做复需要将多个感知器连情很有限。接

而实际中的网至数十万个参数络可能会有上万个，甚个地了。，如果手工一个一去配置这些参数，恐怕这项任务永远也完成不了

而神方就在于这里。经网络最有特色的地

数，而是提供训练数我们不是习，有参数找练中去学在学习过程中为所恰当的值己在训为网络指定所有参据，让网络自到最。

ample）是这样：的运转思路。某个值的时一份训练本（t据，称为训练样候，我们期望的输大体rainingex的每数出是什么，这样我们告诉网络当输入是

程相当于老师在教学生，举一个具这个过某个抽象的知识的时候体例子：

一的训练中同样成立。在神经网络抽象的知识。这越多，就越能表达般来说，我们举的例子那个

后的抽象的知识。灌入成千上，然后网络我们可以向网络就自动从这些样本中总万个训练样本结出那份隐藏在背

在于网络的所有偏置参知识的体现，就数的取值。权重和这份

当我们输入假设各个参数有一个初始值，，它会根据当值计算出唯一的一个前参数实际输出值。一个训练样本的时候

一下，这时候，我们可以试着调整某些出值尽量接近。想象的输出值不一样。和期望输参数的值，让实际输出值这个值可能跟我们期望

期望当所有的训练练过程就结接近，这样训之后，网络参数也调整到了最佳值，这时束了。输出值已经无限样本输入完毕每一次的实际输出值和

，那么再给它输入一个它没见过的数据给出我们预期的决原理。，它也应该有很大概率出正确（或接近正已经对数是一个神经网络工作的练过程中，网络确）的反应了假设在训万个样本能够给策。这就

异的时候，要如何去，当实际输出值和期望输出值产生差呢？但这数调整各个参问题，在训练过程中里还有一个

当然，在思考怎么做之前，也应该清楚：通过调整参数的方式获得期先弄得通吗？望的输出，这个方法行

方法基本不可行。感知器网实际上，对于络来说，这个

参数的维网络中，如果那么最终的输出感知器全不可预测。持输入不变，我基本完们改变某个参数的值，比如在上图有39个

这个问题;（或从1;变到关键在于：输入和输出到0），当然也者1。是0或它或者从0变的可能维持不变。都是二进制的，只能1

把整个函数不是如果，那么这。个网络看成一个函数（有输入，有输出）连续的

续的神要一个输入和输出经网络。于是，这就出现了sigmo𙪌持连神经元。能够在训练成为可能，我们需让实数上保因此，为了

dneuron)是现代sigmoid神神有两个重要器的结构类似，但的基本结构（当然不是唯一的经网络经常使用的区别。经元(sigmoi结构）。它与感知

为0和1，而可以是意0~1之间的实数。制第一，它的输入不再限任

为sigmoi将各个输入的d函数的计算作为输出数，经过，而是也不再个称加权求和再加上偏置参。第二，它的输出限制为0和1一

1x1+w3x3+...w2x2+𛈍+b，那么输出put=㰰(z)具体来说，假设z=we-z)。;)=1/(1+t，其中：㰰(z

直接实数，z)是一个平滑、连续的这个输出值可以作为下一层神经元的输间间。函数。而且，的入，保持在0~1之𗡔它的输出也是0~1之

可以变的时候，它的输元组装神经网络之是说，当我们后，网络的输入和输出想象，在采可能。产生微对某个参数的值进行微出也只是小的改变。这样就使得用sigmoid神经逐步调整参数值都变为连续的了，也就小的改的训练成为

过这个neural例子。本书中也曾经提到ddeeelsen的书《在历史上，很多研究人networksanplearning》这michaelni员曾经也做过尝试，

这个神经网络只有一netw⸕层，属于浅层的神层。𗭔)，则会有多层隐藏wneur经网络(shal�lnetworkseepners)。而真正的深度神经网络(d𚙏层隐藏

神经元系统采用了。球的设计方式进行设计和制造左右脑半

是o;u;t;p;u0，1，2，..g;m;o;i之间的数。;个神经元节有1;0，受s;i;;d;函数㰰(最右然分别代表识别结果.，9。当点，出也肯定是0~1侧y;e;r;)，z)的限制，每个输则是输出层(;l;a;

出的值最大，最终果就是它。之后，哪个输一组别结的识输出值那我们在得到

数字输出为1，其它输出层之间也是全连接。而在训练的则是：正确的那个出为0，隐藏层和输候，输出的形式时

=1191ᒾ=11910个数有78415+15+10=235个。神经网络共的权重参，偏置参数有10+25为：1195个，总共参数个数

惊人的数字。非常这可是一个