零基础入门深度学习(六):递归神经网络

韩炳涛 2017-03-14 09:57:05

投稿:Intelligent Software Development

团队介绍:团队成员来自一线互联网公司,工作在架构设计与优化、工程方法研究与实践的最前线,曾参与搜索、互联网广告、公有云/私有云等大型产品的设计、开发和技术优化工作。目前主要专注在机器学习、微服务架构设计、虚拟化/容器化、持续交付/DevOps等领域,希望通过先进技术和工程方法最大化提升软件和服务的竞争力。

 

往期回顾
 

 

在前面的文章中,我们介绍了循环神经网络,它可以用来处理包含序列结构的信息。然而,除此之外,信息往往还存在着诸如树结构、图结构等更复杂的结构。对于这种复杂的结构,循环神经网络就无能为力了。本文介绍一种更为强大、复杂的神经网络:递归神经网络 (Recursive Neural Network, RNN),以及它的训练算法BPTS (Back Propagation Through Structure)。顾名思义,递归神经网络(巧合的是,它的缩写和循环神经网络一样,也是RNN)可以处理诸如树、图这样的递归结构。在文章最后,我们将实现一个递归神经网络,并介绍它的几个应用场景。

 

递归神经网络是啥
 

 

因为神经网络的输入层单元个数是固定的,因此必须用循环或者递归的方式来处理长度可变的输入。循环神经网络实现了前者,通过将长度不定的输入分割为等长度的小块,然后再依次输入到网络中,从而实现了神经网络对变长输入的处理。

 

一个典型的例子是,当我们处理一句话时,我们可以把一句话看作是词组成的序列,然后,每次向循环神经网络输入一个词,如此循环直至整句话输入完毕,循环神经网络将产生对应的输出。如此,我们就能处理任意长度的句子了。如下图所示:

 

 

然而,有时候把句子看做是词的序列是不够的,比如下面这句话『两个外语学院的学生』:

 

 

上图显示了这句话的两个不同的语法解析树。可以看出来这句话有歧义,不同的语法解析树则对应了不同的意思。一个是『两个外语学院的/学生』,也就是学生可能有许多,但他们来自于两所外语学校;另一个是『两个/外语学院的学生』,也就是只有两个学生,他们是外语学院的。为了能够让模型区分出两个不同的意思,我们的模型必须能够按照树结构去处理信息,而不是序列,这就是递归神经网络的作用。当面对按照树/图结构处理信息更有效的任务时,递归神经网络通常都会获得不错的结果。

 

递归神经网络可以把一个树/图结构信息编码为一个向量,也就是把信息映射到一个语义向量空间中。这个语义向量空间满足某类性质,比如语义相似的向量距离更近。也就是说,如果两句话(尽管内容不同)它的意思是相似的,那么把它们分别编码后的两个向量的距离也相近;反之,如果两句话的意思截然不同,那么编码后向量的距离则很远。如下图所示:

 

 

从上图我们可以看到,递归神经网络将所有的词、句都映射到一个2维向量空间中。句子『the country of my birth』和句子『the place where I was born』的意思是非常接近的,所以表示它们的两个向量在向量空间中的距离很近。另外两个词『Germany』和『France』因为表示的都是地点,它们的向量与上面两句话的向量的距离,就比另外两个表示时间的词『Monday』和『Tuesday』的向量的距离近得多。这样,通过向量的距离,就得到了一种语义的表示。

 

上图还显示了自然语言可组合的性质:词可以组成句、句可以组成段落、段落可以组成篇章,而更高层的语义取决于底层的语义以及它们的组合方式。递归神经网络是一种表示学习,它可以将词、句、段、篇按照他们的语义映射到同一个向量空间中,也就是把可组合(树/图结构)的信息表示为一个个有意义的向量。比如上面这个例子,递归神经网络把句子"the country of my birth"表示为二维向量[1,5]。有了这个『编码器』之后,我们就可以以这些有意义的向量为基础去完成更高级的任务(比如情感分析等)。如下图所示,递归神经网络在做情感分析时,可以比较好地处理否定句,这是胜过其它一些模型的:

 

 

在上图中,蓝色表示正面评价,红色表示负面评价。每个节点是一个向量,这个向量表达了以它为根的子树的情感评价。比如"intelligent humor"是正面评价,而"care about cleverness wit or any other kind of intelligent humor"是中性评价。我们可以看到,模型能够正确的处理doesn't的含义,将正面评价转变为负面评价。

 

尽管递归神经网络具有更为强大的表示能力,但是在实际应用中并不太流行。其中一个主要原因是,递归神经网络的输入是树/图结构,而这种结构需要花费很多人工去标注。想象一下,如果我们用循环神经网络处理句子,那么我们可以直接把句子作为输入。然而,如果我们用递归神经网络处理句子,我们就必须把每个句子标注为语法解析树的形式,这无疑要花费非常大的精力。很多时候,相对于递归神经网络能够带来的性能提升,这个投入是不太划算的。

 

我们已经基本了解了递归神经网络是做什么用的,接下来,我们将探讨它的算法细节。

 

递归神经网络的前向计算
 

 

接下来,我们详细介绍一下递归神经网络是如何处理树/图结构的信息的。在这里,我们以处理树型信息为例进行介绍。

 

递归神经网络的输入是两个子节点(也可以是多个),输出就是将这两个子节点编码后产生的父节点,父节点的维度和每个子节点是相同的。如下图所示:

 

 

C1和C2分别是表示两个子节点的向量,P是表示父节点的向量。子节点和父节点组成一个全连接神经网络,也就是子节点的每个神经元都和父节点的每个神经元两两相连。我们用矩阵表示这些连接上的权重,它的维度将是d X 2d,其中,d表示每个节点的维度。父节点的计算公式可以写成:

 

 

在上式中,tanh是激活函数(当然也可以用其它的激活函数),b是偏置项,它也是一个维度为d的向量。如果读过前面的文章,相信大家已经非常熟悉这些计算了,在此不做过多的解释了。

 

然后,我们把产生的父节点的向量和其他子节点的向量再次作为网络的输入,再次产生它们的父节点。如此递归下去,直至整棵树处理完毕。最终,我们将得到根节点的向量,我们可以认为它是对整棵树的表示,这样我们就实现了把树映射为一个向量。在下图中,我们使用递归神经网络处理一棵树,最终得到的向量P3,就是对整棵树的表示:

 

 

举个例子,我们使用递归神将网络将『两个外语学校的学生』映射为一个向量,如下图所示:

 

 

最后得到的向量P3就是对整个句子『两个外语学校的学生』的表示。由于整个结构是递归的,不仅仅是根节点,事实上每个节点都是以其为根的子树的表示。比如,在左边的这棵树中,向量P2是短语『外语学院的学生』的表示,而向量P1是短语『外语学院的』的表示。

 

式1就是递归神经网络的前向计算算法。它和全连接神经网络的计算没有什么区别,只是在输入的过程中需要根据输入的树结构依次输入每个子节点。

 

需要特别注意的是,递归神经网络的权重W和偏置项b在所有的节点都是共享的。

 

递归神经网络的训练
 

 

 

误差项的传递

 

 

首先,我们先推导将误差从父节点传递到子节点的公式,如下图:

 

 

 

有了上式,我们就可以把它表示为矩阵形式,从而得到一个向量化表达:

 

 

 

 

 

权重梯度的计算

 

 

根据加权输入的计算公式:

 

 

那么,我们可以求得误差函数在第l层对权重的梯度为:

 

 

 

式3就是第l层权重项的梯度计算公式。我们知道,由于权重是在所有层共享的,所以和循环神经网络一样,递归神经网络的最终权重梯度是各个层权重梯度之和。即:

 

 

因为循环神经网络的证明过程已经在《零基础入门深度学习(三) :卷积神经网络》一文中给出,因此,递归神经网络『为什么最终梯度是各层梯度之和』的证明就留给读者自行完成啦。

 

 

式5是第l层偏置项的梯度,那么最终的偏置项梯度是各个层偏置项梯度之和,即:

 

 

权重更新

 

 

如果使用梯度下降优化算法,那么权重更新公式为:

 

 

把式6带入到上式,即可完成偏置项的更新。

 

这就是递归神经网络的训练算法BPTS。由于我们有了前面几篇文章的基础,相信读者们理解BPTS算法也会比较容易。

 

递归神经网络的实现
 

 

现在,我们实现一个处理树型结构的递归神经网络。

 

在文件的开头,加入如下代码:

 

 

上述四行代码非常简单,没有什么需要解释的。IdentityActivator激活函数是在我们介绍卷积神经网络时写的,现在引用一下它。

 

我们首先定义一个树节点结构,这样,我们就可以用它保存卷积神经网络生成的整棵树:

 

 

接下来,我们把递归神经网络的实现代码都放在RecursiveLayer类中,下面是这个类的构造函数:

 

 

下面是前向计算的实现:

 

   

 

forward函数接收一系列的树节点对象作为输入,然后,递归神经网络将这些树节点作为子节点,并计算它们的父节点。最后,将计算的父节点保存在self.root变量中。

 

上面用到的concatenate函数,是将各个子节点中的数据拼接成一个长向量,其代码如下:

 

   

 

下面是反向传播算法BPTS的实现:

 

 

在上述算法中,calc_delta函数和calc_gradient函数分别计算各个节点的以及最终的梯度。它们都采用递归算法,先序遍历整个树,并逐一完成每个节点的计算。

 

下面是梯度下降算法的实现(没有weight decay),这个非常简单:

 

 

以上就是递归神经网络的实现,总共100行左右,和上一篇文章的LSTM相比简单多了。

 

最后,我们用梯度检查来验证程序的正确性:

 

 

下面是梯度检查的结果,完全正确,OH YEAH!

 

 

递归神经网络的应用
 

 

自然语言和自然场景解析

 

 

在自然语言处理任务中,如果我们能够实现一个解析器,将自然语言解析为语法树,那么毫无疑问,这将大大提升我们对自然语言的处理能力。解析器如下所示:

 

 

可以看出,递归神经网络能够完成句子的语法分析,并产生一个语法解析树。

除了自然语言之外,自然场景也具有可组合的性质。因此,我们可以用类似的模型完成自然场景的解析,如下图所示:

 

 

两种不同的场景,可以用相同的递归神经网络模型来实现。我们以第一个场景,自然语言解析为例。

 

我们希望将一句话逐字输入到神经网络中,然后,神经网络返回一个解析好的树。为了做到这一点,我们需要给神经网络再加上一层,负责打分。分数越高,说明两个子节点结合更加紧密,分数越低,说明两个子节点结合更松散。如下图所示:

 

 

一旦这个打分函数训练好了(也就是矩阵U的各项值变为合适的值),我们就可以利用贪心算法来实现句子的解析。第一步,我们先将词按照顺序两两输入神经网络,得到第一组打分:

 

 

我们发现,现在分数最高的是第一组,The cat,说明它们的结合是最紧密的。这样,我们可以先将它们组合为一个节点。然后,再次两两计算相邻子节点的打分:

 

 

现在,分数最高的是最后一组,the mat。于是,我们将它们组合为一个节点,再两两计算相邻节点的打分:

 

 

这时,我们发现最高的分数是on the mat,把它们组合为一个节点,继续两两计算相邻节点的打分......最终,我们就能够得到整个解析树:

 

 

现在,我们困惑这样牛逼的打分函数score是怎样训练出来的呢?我们需要定义一个目标函数。这里,我们使用Max-Margin目标函数。它的定义如下:

 

 

 

具体细节,读者可以查阅『参考资料3』的论文。

 

小结
 

 

我们在系列文章中已经介绍的全连接神经网络、卷积神经网络、循环神经网络和递归神经网络,在训练时都使用了监督学习(Supervised Learning)作为训练方法。在监督学习中,每个训练样本既包括输入特征X,也包括标记Y,即样本

 

然而,很多情况下,我们无法获得形如的样本,这时,我们就不能采用监督学习的方法。在接下来的几篇文章中,我们重点介绍另外一种学习方法:增强学习(Reinforcement Learning)。在了解增强学习的主要算法之后,我们还将介绍著名的围棋软件AlphaGo,它是一个把监督学习和增强学习进行完美结合的案例。

 

参考资料:

  • CS224d: Deep Learning for Natural Language Processing

  • Learning Task-Dependent Distributed Representations by Back Propagation Through Structure

  • Parsing Natural Scenes and Natural Language with Recursive Neural Networks

 
活动预告