人类中枢神经系统的最显著特点就是规模庞大。与之相比，即使是电子计算机这类最复杂的人造物，其规模也要逊色几个数量级。人类的中枢神经系统大约有500亿个神经元，这些神经元的交互情况，可以用扇出（fanout）来进行粗略的衡量。扇出是指此系统中的一个神经元与其他神经元的直接交互次数。典型的中枢神经系统神经元的扇出为1000～10 000，而在一个典型的电子计算机中，其计算单元的扇出还不到10！这大约是3个数量级的差别。在科学上，3个数量级的差别，例如从原子核到电子轨道，已经足以创立一门新的科学——从原子物理学到化学。从扇出不到10的人造机器上得来的经验，显然根本无法帮助我们理解扇出超过1000的系统所具有的复杂性。
在非科技类著作中，关于神经元的描述基本不关注这些细胞的复杂性。尽管我们毫无必要深入到化学和生理学层面来了解神经元，但应该大概知道它具有的一些主要特点。
神经元细胞的表面有着一些错综复杂的延伸部分（见图5-1）。其中一种延伸部分叫作轴突。它像一棵树一样，从细胞的表面开始延伸出一条主干，离细胞体越远，它伸展出的分支越多。轴突有时可能会非常长，可以将大脑中相距甚远的神经元连接起来。轴突的分支决定了神经元细胞的扇出。另外一种延伸部分叫作树突，其形态通常比轴突显得更为茂密，但通常不会从细胞体向外延伸很远。尽管树突的作用也很重要，但本章的讨论重点还是轴突，因为轴突才是神经元间交互作用的关键部分。尽管这里展示的只是一张简化了的神经元活动图，也远比通常研究人造神经元时使用的图复杂。
图5-1 神经元与神经网络（经过高度艺术处理）
轴突的分支一直伸展到其他神经元的表面。它们相接触的点称为突触，轴突分支的终端和另一个神经元之间被一个细小的缝隙分隔开来，这个缝隙叫作突触间隙。这个间隙非常小，长度大约为100埃(8)，化学物质可以在几微秒内通过这个间隙进行扩散。
神经元借由轴突传播的能量脉冲来实现相互作用。由于在神经元内部能量是经由轴突来提供的，所以这种脉冲传播就像导火线的燃烧一样，当脉冲到达轴突的分岔处时，它将毫无衰减地分流。所以，尽管轴突有很多分支（见图5-1），但当脉冲最终到达突触时，其脉冲的大小与从细胞体最初产生的脉冲大小是一样的。也就是说，能量脉冲通过中枢神经系统时，其大小不变，振幅也不会携带任何除脉冲存在与否之外的信息。
当脉冲到达突触时，它会释放出一种名为神经递质的生化物质。这种物质通过突触间隙进入另一个神经元。如果在很短的时间间隔内有足够的脉冲到达这个神经元的表面，该神经元就被激发，开始向它自己的轴突发射一个新的脉冲。从效果来看，一个神经元不断收集和累加接收到的脉冲，当积累到足够多时，它就发射出一个脉冲以标识这个事实。相对于脉冲在两个神经元之间传递所花的时间来说，神经元将接收到的信息汇集起来花费的时间要更长一些。我们根据神经元收集信息的处理时间来模拟中枢神经系统的处理频率，一个时间步长对应神经元收集信息的处理时间。
突触能否有效释放神经递质，取决于脉冲经过突触间隙传递之前的经历，这很像锻炼与肌肉的关系，锻炼能提高肌肉的能力，而长期不锻炼会降低它的能力。这种用进废退的效应很早就被认为可能是学习的基础机制（赫布理论），而且随着人们在探索生物化学活动方面复杂程度的不断提高，这一理论也一再被证实。如果考虑这种效应，我们可以认为突触会根据以往的经验而得到不同权重，就像塞缪尔的国际跳棋程序中那些权重会随经验发生改变一样。
