基于维基百科的开放领域问答框架解析

### 基于维基百科的开放领域问答框架解析 #### 1. 字符串匹配算法 字符串匹配算法的前提是处理这样的场景：给定两个字符串，一个文本和一个模式，判断模式是否存在于文本中。在本研究里，“文本”被定义为从问题中提取的属性列表，“模式”由从DBPedia生成的每个关键词标记。由于这两个列表存在多对多的关系，我们按以下方式处理这个问题： - 对于每个潜在的候选属性： - 对于每个关键词： - 比较候选属性字符串和关键词字符串。 - 将匹配百分比存储在一个变量中。 - 如果当前关键词的匹配百分比大于前一个关键词的匹配百分比，更新变量状态以记录最匹配的关键词。 - 将每个属性的最匹配关键词及其对应的百分比值存储在属性匹配数组中。 - 对于属性匹配数组中的每个值： - 依次比较每个值的匹配百分比。 - 选择最匹配的属性作为具有最高相似度度量的关键词序列。 以下是该过程的mermaid流程图： ```mermaid graph TD; A[开始] --> B[选择候选属性]; B --> C[选择关键词]; C --> D[比较字符串]; D --> E[存储匹配百分比]; E --> F{当前匹配百分比更大?}; F -- 是 --> G[更新最匹配关键词]; F -- 否 --> C; G --> H{还有关键词?}; H -- 是 --> C; H -- 否 --> I[存储最匹配关键词及百分比]; I --> J{还有候选属性?}; J -- 是 --> B; J -- 否 --> K[遍历属性匹配数组]; K --> L[比较匹配百分比]; L --> M[选择最匹配属性]; M --> N[结束]; ``` #### 2. 答案提取 最后一步是使用提取的目标实体和具有最高匹配相似度的关键词，作为使用RDF三元组结构向DBPedia查询答案所需的两个元素。我们的目标是为该实体选择具有已识别属性的不同对象。SPARQL查询的输出即为最终的对象答案。由于用于字符串匹配的关键词基于DBPedia数据库中关于目标实体的属性，这种方法避免了使用无法查询的属性的问题。 操作步骤如下： 1. 确定目标实体和最匹配关键词。 2. 构建RDF三元组结构。 3. 使用SPARQL查询DBPedia。 4. 获取查询结果作为答案。 #### 3. 评估 本研究的目标是探索将维基百科用作自动化开放式问答系统知识库的有效性。鉴于现有问答架构的复杂性，且这些架构高度依赖自然语言处理（NLP），我们想研究一种利用维基百科的基本算法方法是否足以回答常见问题。 ##### 3.1 数据收集 为了评估我们方法的有效性，我们需要收集一系列随机的开放式问题。文本检索会议（TREC）专注于信息检索研究，为开放式、封闭类且主要基于事实的问题提供了样本问题集。TREC提供了从TREC - 8（1999年）到TREC（2004年）的六个可能的数据集。为了评估本研究，我们选择了TREC - 8数据集。选择该数据集的原因是其提供的答案明确，强调单一答案。通过使用TREC - 8数据集，我们认为可以更可靠地评估我们系统的有效性。 在本研究中，我们假设只关注包含明确目标实体的问题类别。但数据集中并非所有问题都符合这一条件，因此，任何包含多个唯一目标实体或根据我们的实体类别不存在实体的问题都被排除在本研究之外。以下是问题根据实体特征的分布情况： | 实体特征 | 问题数量 | | --- | --- | | 人物实体 | 29 | | 组织实体 | 14 | | 位置实体 | 59 | | 多个实体（相同类型） | 14 | | 多个实体（不同类型） | 16 | | 无实体记录 | 68 | 在200个问题中，有102个问题用于我们的评估。 ##### 3.2 命名实体识别 由于我们生成答案的能力依赖于目标实体的正确分类，我们首先评估了基于条件随机场（CRF）的命名实体识别（NER）在正确识别和标记实体方面的成功率。在102个问题中，有100个问题的实体被正确标记为其正确的实体类型，这表明基于CRF的NER具有较高的精度，平均准确率为98.04%。 虽然基于CRF的NER能够成功识别问题中的实体，但在利用提取的实体为所有问题生成查询时存在一定局限性。对数据的定性分析表明，问题的语义、口语化表达和语言结构会影响所识别的实体是否能被定义为问题的“目标实体”。我们根据不同的实体类型讨论这些观察结果，并对所有三种实体类型普遍存在