Large Language Models Meet Knowledge Graphs to Answer Factoid Questions

本文是LLM系列文章，针对《Large Language Models Meet Knowledge Graphs to Answer Factoid Questions》的翻译。

摘要

最近，有研究表明，将结构化知识整合到大型语言模型中可以显著提高各种NLP任务的结果。在本文中，我们提出了一种方法来探索预训练的文本到文本语言模型，该模型丰富了来自知识图谱的附加信息，用于回答事实性问题。更具体地说，我们提出了一种基于问题实体和候选答案的知识图谱子图提取算法。然后，我们通过提取的子图的线性化，使用基于transformer的模型获得易于解释的信息。使用提取的信息对候选答案进行最终重新排序，可将预训练的文本到文本语言模型的Hits@1分数提高4 - 6%。

1 引言

2 相关工作

3 提出的方法

4 实验设计

5 结果与讨论

6 结论

综上所述，在本文中，我们提出了一种利用知识图谱的附加信息来提高llm问答输出的方法。通过提取与输入问题实体和预测答案候选人相关的子图，我们将Hits@1提高了4%到6%;并根据提取的子图对候选答案进行进一步排序。我们的结果分析表明，建议的解决方案提高了交叉题的分数，而对比较题几乎没有影响。消融研究证明了pipeline各步骤的效率。作为未来的工作，我们计划将我们的方法扩展到其他语言，并使用实体链接器和其他生成式Transformer模型测试整个pipeline。