知识图谱问答(Knowledge Graph Question Answering，KGQA)作为近年来广受关注的自然语言处理任务, 目标是在给定知识图谱(知识库)的前提下，对用户提出的问题，在图谱中找到与其答案最匹配的实体或实体集合返回。目前，KGQA主要有两大类方法：基于语义解析(Semantic Parsing，SP)的方法和基于信息检索(Information Retrieval，IR)的方法。随着深度学习的发展，将深度学习与这两种传统方法相结合的、基于深度学习的方法因适应性更强、灵活性更好，得到快速发展。基于深度学习的方法一般是使用n-gram或序列标注等技术对问题文本进行实体识别、筛选后做实体链接，根据链接后的实体查询知识库得到知识库中的一系列候选事实，用经过训练的神经网络模型计算问题与候选事实间的相关性，最终得到问题的答案。这类方法的核心是设计使用编码器网络对问题和知识库中的知识进行编码，使问题与知识库中对应的知识在编码空间上尽可能相近。通常，KGQA包括两个子任务：①实体链接，抽取问题中出现的实体，并将其链接到知识库中对应的实体对象；②关系检测，检测候选关系与问题的相关性。

近年来，大量研究集中在提高关系检测任务精确度上。针对问题和候选关系特征提取，Qu等^[1]从语义级和词级两个粒度对抽象问题和关系的相关性进行建模。张仰森等^[2]提出一种融合语义信息与问题类型、中心词两类关键问题信息的多阶段注意力模型。Zhang等^[3]提出基于注意力机制的词级交互模型，采用匹配-聚合架构缓解最大池化操作造成的信息丢失问题。谢金峰等^[4]提出基于多语义相似性的关系检测方法，通过融合问题和关系的全局语义、局部语义，捕获多样化的特征来提升关系检测性能。Chen等^[5]提出基于Transformer的深度注意力语义匹配模型(Deep Attention Maching, DAM)，该模型应用细粒度的词级注意力提高问题和关系的匹配度。Luo等^[6]提出一种单关系知识问答(Single-Relation Question Answering, SR-QA)方法，利用构造的基于BERT的关系感知注意力网络以增强候选对象的表示，弥合问题和知识库事实之间的语义鸿沟。

上述研究成果均证明基于注意力机制的循环神经网络(Recurrent Neural Network, RNN)可以显著提高关系检测任务的准确率，但现有方法难以刻画抽象问题与知识库关系间复杂而高级的语义联系^[7-10]。因此，本文提出一种基于问题-关系注意力机制和特征视图匹配的关系检测模型，结合多层长短期记忆网络(Long Short-Term Memory, LSTM)，利用自注意力机制，从多个角度对文本的不同粒度特征进行建模，以提取问题和关系之间更加丰富的语义关系，提高实体关系检测的准确率。

1 知识库关系检测

相较于一般的关系检测，KGQA中的关系检测具有以下特点：①关系数量大。一般意义上的关系检测，其关系数量一般小于100，而对于KGQA任务来说，即使是较小的知识库，如Freebase2M^[11]，其关系数量也高达6 000。②KGQA中的关系检测是一种zero-shot学习任务。③像WebQuestions^[12]这种相对复杂的KGQA任务，预测的不仅是一个单一的关系，而且是一个关系序列。

KGQA中的关系检测任务可形式化定义为给定一个输入问题q和一组经过实体检测、实体链接后得到的候选关系R={r₁, …, r_i}，其中，r_i在简单问题中表示单关系，在复杂问题中表示关系路径(可能为单关系也可能为关系链)。关系检测的任务是识别出与问题相关度最高的候选关系r_q，因此，关系检测可以转化为通过构造学习评分函数S(r, q)优化某些排名损失，这个过程可形式化描述为

$r_q=\underset{r_i \in R}{\operatorname{argmax}} S\left(r_i, q\right) 。$

(1)

作为关系检测任务的关键步骤，自然语言句子匹配(Natural Language Sentence Matching, NLSM)是许多自然语言处理(Natural Language Process, NLP)任务的基础，如释义检测、自然语言推理和答案选择。现有序列相似性计算方法按体系结构可分为两大类：孪生网络(Siamese)体系结构和匹配-聚合体系结构。在Siamese体系结构中，研究了一系列编码器，如LSTM^[13]、卷积神经网络(Convolutional Neural Network, CNN)^[14]和基于注意力的模型^{[15, 16]}，利用这些编码器和模型将两个待匹配序列编码为向量以进行比较。但Siamese体系结构将一系列向量合并为一个向量的池化操作可能会发生信息丢失。匹配-聚合方法^[17-19]对输入序列在细粒度级别上进行匹配和比较来缓解信息流的瓶颈，通过合并比较结果估计相似性分数。

2 方法模型 2.1 模型框架

模型通过构造匹配不同的问题关系特征视图实现关系检测，每一个视图都可以看作是一系列标记(词或关系名称)。对于关系r的第i个视图, 有r⁽ⁱ⁾={r₁⁽ⁱ⁾, …, r⁽ⁱ⁾_Mi}，M_i是视图r⁽ⁱ⁾的词序列长度；问题端的定义与关系略有不同，将在第2.2.2节说明。最终得到问题q={q⁽¹⁾, …, q^(N_q)}和关系r={r⁽¹⁾, …, r^(N_r)}作为匹配模块的输入，N_q和N_r分别表示q和r的视图数，它们可能不相等。

本文模型的总体框架见图 1。除了实体别名和实体对之外，每对输入都从多个角度进行匹配，然后将实体对的表示和其余对的匹配表示进行聚合以进行最终预测。所提出的关系检测模型包含4个主要组件：输入模块、上下文表示模块、匹配模块和聚合模块。

2.2 模型实现 2.2.1 关系检测特征视图

对于输入问题q，模型从关系名称及其对应的尾实体(即问题的答案)类型中生成视图，并在模型中使用以下3对输入。

① < 实体名, 实体提及>：从问题和知识库中获取实体信息。

② < 关系名, 抽象问题>：获取输入问题和候选关系之间的交互。按照Yu等^[20]的工作，将问题中提到的实体替换为一个特殊标记(“Balkan Peninsula”在图 1中被替换为标记< e>)，这样就得到一个抽象问题，通过掩蔽问题中的实体，使模型可以更好地将候选关系名称与问题中实体的上下文相匹配，减少实体词对这一过程的干扰。

③ < 尾实体类型, 抽象问题>：用来计算与关系连接的尾实体类型和问题的匹配程度。受之前工作的启发，模型也使用了尾实体类型，表明关系的后半部分在逻辑上可以暗示尾实体。一般情况下，知识库关系只有特定类型的尾实体。例如，对于示例问题“What country is located in the Balkan Peninsula?”，Freebase中的对应关系是contains，尾实体只能是location类型。这种关系和其他关系，如adjoins，street_address，nearby_airport，people_born_here中，只能将location作为尾实体，但这些关系没有明确包含预期作为答案的实体类型的单词，换言之，这种对应只反映在语义上而非字面上。因此，利用尾实体类型信息可能有助于提高关系检测性能。关系实例中的尾实体可能与多种类型关联，给定三元组 < The_ Audacity_of_Hope，author，Barack_Obama>，Barack_Obama的类型从一个人到更具体的writer、politician、us_president等。所以，当给定关系author，删减不相关的实体类型(politician、us_president)并保留相关的实体类型(person、writer)就显得至关重要。为了实现这一步，从Freebase为每个唯一关系获取最多600个实例并查询获得每个尾实体的类型。最后，只保留至少98%的尾实体类型。如果这种方法找不到关系的任何尾实体类型，则使用默认的特殊标记。一旦获得了特定关系的尾实体类型，通过连接每个尾部类型中的单词来形成一个字符串。

所有候选关系的第一对输入均保持不变，即不需要像其他输入对那样通过多角度匹配进行彻底比较，以用于区分候选关系。对于第二视图和第三视图的输入，模型生成两个匹配特征向量，每个匹配方向一个(即对于视图对 < a，b>，方向是a→b和a←b)。最后，将这两对交互信息结合起来，形成一个高级的联合视图，可以帮助检测最有可能正确的关系，得出给定问题、候选关系名称以及相应的尾实体类型的匹配程度。

2.2.2 输入模块

所有视图的输入都是词序列，除问题词序列外，模型分两步对每个序列进行编码。首先，为每个词构造一个d维向量，该向量由两部分组成：词嵌入和字符嵌入。词嵌入是一种固定的、经过预训练的向量，如Glove、word2vec。字符嵌入是通过将单词中的每个字符(也由向量表示)馈入LSTM计算。

对于输入问题，若问题中所有标记总数为|Q|，则问题词序列可表示为q={w₁, w₂, …, w_|Q|}。问题序列通过预训练的固定向量进行词嵌入，得到词嵌入向量E_q={E_q1, E_q2, …, E_q|Q|}。

对词嵌入向量应用注意力机制，使模型在处理长序列时可以获得更好的性能，对q={w₁, w₂, …, w_|Q|}和r={r₁, r₂, …, r_|R|}序列, q中的每个词q_i的注意力权重

$a_{i, j}=q_i^{\mathrm{T}} r_j 。$

(2)

使用Softmax公式计算q的问题-关系注意力加权问题向量q=(q₁, …, q_|Q|)：

$\bar{q}_i=\sum\limits_{j=1}^{|R|} \frac{\exp \left(a_{i, j}\right)}{\sum\limits_{k=1}^{|R|} \exp \left(a_{i, k}\right)} q_i 。$

最后，将加权后的问题嵌入馈入双向长短期记忆(Bi-directional Long Short-Term Memory, BiLSTM)网络层得到问题的语义向量

$v_q=\operatorname{BiLSTM}\left(m_q\right), $

(4)

$m_{q_i}=\left[q_i, \bar{q}_i, \left(q_i-\bar{q}_i\right), \left(q_i \odot \bar{q}_i\right)\right],$

(5)

式中，“-”表示逐元素减法，“⊙”表示逐元素乘法，v_q∈$\mathbb{R}^{|Q| \times d_q}$；m_qi∈$\mathbb{R}^{4 \times d_e}$，[, ]表示连接操作。至此，得到了问题的语义向量。

2.2.3 上下文表示模块

使用相同的BiLSTM对输入的视图进行编码，在匹配模块中使用每个BiLSTM输出上下文向量。将问题的上下文向量输入多个匹配模块，以匹配关系和尾实体类型。本模块的目的是将上下文信息整合到每个输入序列的每个时间步的表示中。利用BiLSTM对输入序列的每个时间步进行上下文嵌入编码，并获得每个单词位置的隐状态。实际操作中，为这两种编码器提供一个单独的共享编码器效果更好。

作为输入，单词由行向量x∈$\mathbb{R}^{n}$表示，x可以是单词嵌入和单词特征的串联。第t个单词的单词向量是x_t。使用具有LSTM的RNN编码器处理单词序列，它被证明在许多类型的NLP任务中有效，包括机器阅读理解^[21-23]和神经机器翻译^[24-26]任务。对于每个位置t，LSTM使用输入x_t和前一个隐状态h_t-1计算h_t：

$i_t=\sigma\left(\boldsymbol{W}_i x_t+\boldsymbol{U}_i h_{t-1}\right), $

(6)

$f_t=\sigma\left(\boldsymbol{W}_f x_t+\boldsymbol{U}_f h_{t-1}\right), $

(7)

$o_t=\sigma\left(\boldsymbol{W}_o x_t+\boldsymbol{U}_o h_{t-1}\right), $

(8)

$\tilde{c}_t=\tanh \left(\boldsymbol{W}_c x_t+\boldsymbol{U}_c h_{t-1}\right) , $

(9)

$c_t=f_t \cdot \tilde{c}_{t-1}+i_t \cdot \tilde{c}_t,$

(10)

$h_t=o_t \cdot \tanh \left(c_t\right),$

(11)

式中，i_t、f_t、o_t、c_t和h_t∈$\mathbb{R}^d$分别是输入门、遗忘门、输出门、存储单元和d维隐状态；$\tilde{c}_t$是单元状态的更新值；W_{{i，f，o，c}}，W ∈$\mathbb{R}^{n \times d}$和U_{{i，f，o，c}}，U∈$\mathbb{R}^{d \times d}$是LSTM的参数；σ是sigmoid函数。对于t中的一个词，使用来自前向LSTM的隐藏状态$\overrightarrow{h}_t$作为前一上下文的表示，以及来自反向LSTM、对文本进行反向编码作为后一上下文的$\overleftarrow{h}_t$，让h_t= [$\overrightarrow{h}_t$, $\overleftarrow{h}_t$]，形成x_t的双向上下文编码，如式(12)所示。为区分不同来源的隐状态，将P中第j个单词的h_j和Q中第k个单词的h_k分别表示为h_j^p和h_k^q。

$\begin{aligned} & \overrightarrow{h}_i=\overrightarrow{\mathrm{LSTM}}\left(\overrightarrow{h}_{i-1}, p_i\right), i=1, \cdots, M, \\ & \overleftarrow{h}_i=\overleftarrow{\mathrm{LSTM}}\left(\overleftarrow{h}_{i+1}, p_i\right), i=M, \cdots, 1 。\end{aligned}$

(12)

2.2.4 匹配模块

关系检测的核心任务是计算关系与给定问题之间的信息相关性，为此设计了带有注意力机制的匹配模块，以更好地匹配关系的每个视图与给定问题。注意力机制之所以重要，是因为关系的不同视图通常对应问题的不同部分，如疑问词通常更能代表关系类型。

本模块使用经过修改的双边多视角匹配(BiMPM)模型^[27]，其结构如图 2所示。BiMPM在多个文本匹配任务中表现出良好的性能。假设BiMPM也可以有效地用于关系检测，因为问题的唯一视图可能需要与关系或尾实体类型匹配，并且匹配方法应该在多粒度和多角度上匹配与问题的关系。

在图 1中，匹配层的每个框是一个单向多视角匹配(MPM)块，两个MPM块一起构成一个BiMPM模块。在实验中，所有视图上的模块都具有相同的参数。每个MPM模块将两个序列(一个起始序列和一个目标序列)作为输入，并将起始序列的每个上下文向量与目标序列的所有上下文向量进行匹配。图 1中MPM框内的箭头表示匹配的方向，即起始→目标，问题序列和关系序列被分别视为起始序列和目标序列，反之也成立。

在匹配过程中，通过合成目标的所有上下文向量，为起始序列的每个上下文向量计算匹配向量。然后，该模型使用多角度余弦相似性函数从多个角度计算起始序列的上下文向量和匹配向量之间的相似性。使用比较两个向量的多角度余弦匹配函数f_m计算匹配向量：

$m=f_m\left(v_1, v_2 ; \boldsymbol{W}\right),$

(13)

式中，v₁和v₂是两个d维向量; W∈R^l×d是一个形为l×d的可训练参数，l是视图数; 返回值m是一个l维向量。每个元素m_k∈m是第k个角度的匹配值，由两个加权向量之间的余弦相似度计算得到，即

$m_k=\operatorname{cosine}\left(\boldsymbol{W}_k \odot v_1, \boldsymbol{W}_k \odot v_2\right) , $

(14)

式中，⊙是元素相乘，W_k是W的第k行，它控制第k个视图，并为d维空间的不同维度分配不同的权重。此处MPM模块使用了以下4种匹配策略。

① 全匹配策略。该策略将起始序列的每个上下文向量与代表整个目标序列的最后一个上下文向量进行比较，匹配向量$\overrightarrow{m}_i^{\text {full }}$和$\overleftarrow{m}_i^{\text {full }}$按下式计算：

$\begin{array}{l} \overrightarrow{m}_i^{\text {full }}=f_m\left(\overrightarrow{h}_i^p, \overrightarrow{h}_N^q ; \boldsymbol{W}^1\right), \\ \overleftarrow{m}_i^{\text {full }}=f_m\left(\overleftarrow{h}_i^q, \overleftarrow{h_1^q} ; \boldsymbol{W}^2\right) 。\end{array}$

(15)

② 最大池匹配策略。该策略利用多视角余弦相似函数将起始序列的每个上下文向量与目标的每个上下文向量进行比较，只保留每个维度的最大值，匹配向量$\overrightarrow{m}_i^{\text {max }}$和$\overleftarrow{m}_i^{\text {max }}$的计算公式为

$\begin{aligned} & \overrightarrow{m}_i^{\max }=\max _{j \in(1, \cdots, N)} f_m\left(\overrightarrow{h}_i^p, \overrightarrow{h}_j^p ; \boldsymbol{W}^3\right), \\ & \overleftarrow{m}_i^{\max }=\max _{j \in(1, \cdots, N)} f_m\left(\overleftarrow{h_i^p}, \overleftarrow{h_j^q} ; \boldsymbol{W}^4\right) 。\\ & \end{aligned}$

(16)

③ 注意力匹配策略。该策略计算两个序列中所有上下文向量对之间的余弦相似度，通过获取目标所有上下文向量的加权和来计算匹配向量，其中注意力权重是最开始计算的余弦相似度。注意力匹配策略的匹配向量$\overrightarrow{m}_i^{\text {att }}$和$\overleftarrow{m}_i^{\text {att }}$按下式计算：

$\begin{aligned} & \overrightarrow{m}_i^{\text {att }}=f_m\left(\overrightarrow{h}_i^p, \overrightarrow{h}_i^{\text {mean }} ; \boldsymbol{W}^5\right), \\ & \overleftarrow{m}_i^{\text {att }}=f_m\left(\overleftarrow{h_i^p}, \overleftarrow{h}_i^{\text {mean }} ; \boldsymbol{W}^6\right), \end{aligned}$

(17)

$\begin{aligned} & \overrightarrow{h}_i^{\text {mean }}=\frac{\sum\limits_{j=1}^N \overrightarrow{\alpha}_{i, j} \cdot \overrightarrow{h}_j^p}{\sum\limits_{j=1}^N \overrightarrow{\alpha}_{i, j}}, \\ & \overleftarrow{h}_i^{\text {mean }}=\frac{\sum\limits_{j=1}^N \overleftarrow{\alpha}_{i, j} \cdot \overleftarrow{h}_j^q}{\sum\limits_{j=1}^N \overleftarrow{\alpha}_{i, j}}, \end{aligned}$

(18)

$\begin{aligned} & \overrightarrow{\alpha}_{i, j}=\operatorname{cosine}\left(\overrightarrow{h}_i^p, \overrightarrow{h}_j^q\right), j=1, \cdots, N, \\ & \overleftarrow{\alpha}_{i, j}=\operatorname{cosine}\left(\overleftarrow{h_i^p} , \overleftarrow{h_j^q}\right), j=1, \cdots, N 。\\ & \end{aligned}$

(19)

④ 最大注意力匹配策略。不同匹配策略见图 3。从图 3可以看出，最大注意力匹配策略与注意力匹配类似，不同之处在于它不把所有上下文向量的加权和作为匹配向量，而是从目标中选取具有最大余弦相似度的上下文向量。

2.2.5 聚合模块

本模块分别对两个匹配向量序列应用另一个BiLSTM，然后通过连接来自BiLSTM模型最后一个时间步的隐状态向量，构造一个定长的匹配向量作为一个视图的整体匹配表示。为了将输入对和实体对的不同视图匹配结果进行组合，设置了一个聚合层，该聚合层从不同视图中提取匹配分数，并提取实体对的特征表示，然后构造一个用于关系预测的特征向量。在本文中，只使用了匹配模块从所有视图生成的不同匹配表示的串联，所有多个视图的组合表示通过多个感知层转化为最终预测。

3 验证实验

为验证本文提出的方法，在SimpleQuestions(SQ)^[28]和WebQSP(WQ)^[12]公开数据集上进行实验。两个数据集中的每个问题都标有头实体和关系信息。SQ只有单关系问题，即每个问题对应一个 < head，relation，tail>三元组。相比而言，WQ既有单关系问题，也有多关系问题。对于多关系问题，在连接头实体和尾实体的路径上存在多个关系，采用与Yu等^[29]相同的方法来创建正负实例，使用罗达等^[30]提出的结合ELMO语言模型的动态词向量以及词性特征的实体链接方法。

本文实验分别使用包含约210万个实体的Freebase子集FB2M^[11]和包含约490万个实体的FB5M作为知识库。训练集有571 000个实例，平均每个问题有8个候选关系。通过WebQSP数据集上的关系检测任务来评估关系检测模型，该训练集有215 000个实例，平均每个问题有71个候选关系。

3.1 实验设置

实验参数：关系候选词、实体候选词以及问题的最大输入长度在单词级别均设置为30，关系候选词在关系级别的输入长度设置为10，单词的词嵌入维度d为300，词向量经过BiLSTM层的输出维度d为300，maxpooling层的窗口大小设置为600，dropout均设置为0.5，epoch设置为30，学习率设置为1e-4, 使用预训练词向量Glove进行随机初始化。

3.2 结果与分析 3.2.1 关系检测

本文所提出的模型与主流基线模型在SimpleQuestions和WebQSP公开数据集上关系检测任务的准确率见表 1。表中“关系输入”一栏标明了这个模型所输入的关系粒度。

从表 1可以看出，本文的模型在WQ (第7行)和SQ (第8行)公开数据集上的关系检测任务准确率都得到了提升，分别比之前的模型高出3.66和0.49个百分点。正如表中准确率所示，WQ由于加入了复杂问题，问题的整体难度要高于SQ，有以下3个原因可能导致这种趋势：首先，由于存在多跳关系，WQ中每个问题的平均候选关系数更多。其次，WQ的问题更多，更接近人类提出的真实问题。相比较而言，SQ中的问题本质上是合成的，因为它们是由以知识库为单位的真实答案组成的。再次，WQ需要更复杂的知识库推理，因为从头实体到答案的路径通常由多跳实体节点组成。因此，SQ的准确率在90%左右，而WQ仍有较大提升空间。

3.2.2 消融实验

本文模型在SimpleQuestions和WebQSP公开数据集上进行消融实验的关系检测准确率见表 2。分别对单视图、两视图、三视图作为输入时的模型表现进行评估，并在调整试图数量的同时对特征视图中的问题表示和关系粒度进行分别组合，以此来分析模型各部分对模型最终表现所起到的作用。

根据表 2第5-7行，使用关系和尾部类型作为两个视图单独输入优于将它们作为单个输入(第3-4行)。比较第5行和第6行可以看出，使用替换实体提及的问题文本比使用原始问题文本更有助于模型关注问题中的重要信息。另外，在单词嵌入的基础上使用字符嵌入并没有显著影响。分析其原因，可能是由于KB关系和尾部类型的数量太少，尽管Freebase中有数千个这样的词汇，但与从大型文本语料库中获取的词汇相比，它们的数量仍然少得多。第8-9行是使用BiGRU替代BiLSTM作为视图编码器的模型性能，可以看到，BiLSTM作为编码器仍然具有一定优势。从最后两行可以看到，本文所提出的模型在WebQSP和SimpleQuestions数据集上都达到了先进性能。虽然替换实体提及产生了改进，但会导致模型无法在关系检测过程中使用实体信息，所以考虑分别从实体对输入中提取特征用于最终预测，实验结果表明该操作可行。使用多视角匹配取代带有实体提及的问题，有助于模型关注所需的信息，也减少了关于实体的信息，对最终预测有一定帮助，实验结果也证实了这个结论。从表 2也可以清楚地看到添加关系类型是有益的。

4 结论

关系检测是KGQA中的关键步骤，针对现有方法中未能较好兼顾全局语义和局部语义信息，以及复杂问题准确率不高的问题，本文提出了一种新的知识库关系检测模型，模型在构造的多个问题-知识库关系视图之间进行双边多视角匹配。实验结果表明，本文的模型在知识库问答关系检测任务上较以前的方法准确率有所提高，并且有望通过提高关系检测精度来使现有的KGQA系统获得更好表现。下一步，将考虑在问句表示中融入知识库信息以及联合实体选择与关系检测任务来进一步优化关系检测过程。