表示方法
网络由多组或者“多层”类似神经元的单元组成，这些单元分别用以表示正字法、语音和语义。例如，单词的拼写由正字法这一层的单元激活模式（如打开或关闭）表示。这些单元对应着字母或字母的特征。每个单词的拼写都由一个独特的开关单元表示。想想大学橄榄球赛的记分卡，上面的字母便是通过持卡人变换卡片的两个展示面而呈现的。29
人们也采用同样的方法来表示单词的语音和语义代码。语音层的单元对应不同的音素或其组成特征。单词的意思可以用更简化的方式表示，正如单元本身可以表现“小的”“黄色的”“生气勃勃的”“有翅膀的”等特征。在现实生活中，我们认为这些表征是从经验中学到的；它们被构建到这些模型中，以便我们更好地研究系统是如何学习映射的。这些模型可以展示字母串，但是它必须知道哪些字母组合能构成单词以及它们与语音和语义之间的关系。
这些分布于多单元的表征具有很重要的特征。首先，一小部分的单元可以用来表示更大的模式集，类似于一个字母系统可以表示一门语言中的每个单词。其次，这些表征会对模式的相似性进行编码。相似拼写的单词的拼写表征与拼写不相似的单词相比会有更多重叠部分。对于语音和语义表征来说也是如此。这一特点很重要，因为学会一个模式（如must的发音）也将有利于其他有着重叠模式的单词的学习（例如dust和rust）。
联结
一个网络是由一层单元与其他层单元相互联结而形成的。从正字法到语音，或从语音到语义的这些途径，实际上是不同层次的单元之间的大量联结。该网络构造中通常包含位于中间层的“隐藏”单元，这些单元能使模型学习更为复杂的映射。隐藏层上的激活模式最终代表了一种更深层的结构，它提示了不同编码之间的关系。我们设计的模型在每个途径上都存在一层这样的结构，一个强大的深度学习网络可能会使用十几个甚至更多这样的单元层。
激活
单元可以被激活，这与神经元的“放电”类似。它是指一系列包含将电信号和化学信号传递给其他神经元的事件，从而形成发生其他事件的潜在可能性。阅读单词gave的过程始于激活代表该词拼写模式的拼写层单元，随即激活作用传递到隐藏层，然后到达语音和语义单元。被传送的激活量则取决于各单元之间联结的强度。用数字来代表每个连接的强度——也就是一个“权重”，它能调节激活过程中的信息传递顺畅度。该过程就好比神经元之间用不同强度的神经突触来互相影响。例如，语音层每个单元的激活程度是由单元联结传递给它的信号强度所决定的。
