• 知识图谱以结构化的形式描述客观世界中概念、实体及其关系。
  • 实体是客观世界中的事物
  • 概念是对具有相同属性的事物的概括和抽象
• 知识图谱可以看作是本体知识表示的一个大规模应用，本体是知识图谱的知识表示基础，可以形式化为
  • C是概念集合，如事物性概念和事件类概念
  • H是概念的上下位关系集合，也称Taxonomy知识
  • P是属性集合，描述概念具有的特征
  • A是规则集合，描述领域规则
  • I是实例集合，用来描述实例-属性-值
• 知识图谱技术是知识图谱建立和应用的技术，是语义Web、自然语言处理和机器学习等的交叉学科。可以将知识图谱技术分为三个部分：知识图谱构建技术、知识图谱查询和推理技术，以及知识图谱应用。
  • 知识图谱的构建包括：知识表示与建模、知识表示学习、实体识别与链接、实体关系学习、事件知识学习。
  • 知识图谱查询与推理计算包括：知识存储和查询、知识推理。
  • 知识图谱应用包括：通用的领域知识图谱、语义集成。

一、知识图谱的构建

1、知识表示与建模

• 知识表示将现实世界中的各类知识表达成计算机可存储和计算的结构。
• 知识图谱的知识表示以结构化的形式描述客观世界中概念、实体及其关系，将互联网的信息表达成更接近人类认知世界的形式，为理解互联网内容提供了基础支撑。

（1）知识表示

• 人工智能的核心也是研究怎样用计算机易于处理的方式表示、学习和处理各种各样的知识。知识表示是现实世界的可计 算模型 (Computable Model of Reality)，广义的讲，神经网络也是一种知识表示形式。
• 知识的五大特点：（1）客观事物的机器标示（A KR is a Surrogate），即知识表示首先需要定义客观实体的机器指代或指称。（2）一组本体约定和概念模型（A KR is a Set of Ontological Commitments），即知识表示还需要定义用于描述客观事物的概念和类别体系。（3）支持推理的表示基础（A KR is a Theory of Intelligent Reasoning），即知识表示还需要提供机器推理的模型与方法。（4）用于高效计算的数据结构（A KR is a medium for Efficient Computation），即知识表示也是一种用于高效计算的数据结构。（5）人可理解的机器语言（A KR is a Medium of Human Expression），即知识表示还必须接近于人认知，是人可理解的机器语言。
• 不论是语义网络还是框架语言和产生式规则都缺少严格的语义理论模型和形式化的语义定义。
• 描述逻辑主要用于刻画概念（Concepts）、属性（Roles）、个体（Individual）、关系（Relationships）、 元语（Axioms，即逻辑描述 Logic Statement）等知识表达要素。与传统专家系统的知识表示语言不同，描述逻辑家族更为关心知识表示能力和推理计算复杂性之间关系，并深入研究了各种表达构件的组合所带来的查询、分类、一致性检测等推理计算的计算复杂度问题。
• 语义网Semantic Web的基础数据模型 RDF 受到了元数据模型、框架系统和面向对象语言等多方面的影响，其最初的目的是为人们在 Web 上发布结构化数据提供一个标准的数据描述框架。RDF 最基本的表达构件是被称为三元组的（Subject,Predicate,Object）。语义网进一步吸收描述逻辑的研究成果，发展出了用 OWL 系列标准化本体语言。现代知识图谱如DBPedia、Yago、Freebase、Schema.ORG、Wikidata等大都以语义网的表达模型为基础进行扩展或删减。
• 不论是早期专家系统时代的知识表示方法，还是语义网时代的知识表示模型，都属于以符号逻辑为基础的知识表示方法。符号知识表示的特点是易于刻画显性、离散的知识，因而具有内生的可解释性。但由于人类知识还包含大量不易于符号 化的隐性知识，完全基于符号逻辑的知识表示通常由于知识的不完备而失去鲁棒性，特别是推理很难达到实用。由此催生了采用连续向量方式来表示知识的研究。
• 通过嵌入（Embedding）将知识图谱中的实体和关系投射到一个低维的连续向量空间，可以为每一个实体和关系学习出一个低维度的向量表示。这种基于向量的知识表示可以实现通过数值运算来发现新事实和新关系，并能更有效的发现更多的隐性知识和潜在假设，这些隐性知识通常是人的主观不易于观察和总结出来的。更为重要的是，知识图谱嵌入也通常作为一种类型的先验知识辅助输入到很多深度神经网络模型中，用来约束和监督神经网络的训练过程。
• 知识图谱时代的知识表示方法与传统人工智能相比，已经发生了很大的变化。一方面，现代知识图谱受到规模化扩展的要求，通常采用以三元组为基础的较为简单实用的知识表示方法，并弱化了对强逻辑表示的要求；另外一方面，由于知识图谱是很多搜索、问答和大数据分析系统的重要数据基础，基于 向量的知识图谱表示使得这些数据更加易于与深度学习模型集成，使得基于向量空间的知识图谱表示得到越来越多的重视。

（2）知识图谱的表示方法

• 知识图谱的表示方法主要有基于符号和基于向量的知识表示方法。
• 现代知识图谱的显著特点是规模巨大，无法单一依靠人工和专家构建，这源于“知识完备性”难题。
• 知识图谱对规模的扩展性需求使得知识方法逐渐发生了四方面的变化：（1）从强逻辑表达转化为轻语义表达；（2）从较为注重TBox概念型知识转化为更加注重ABox事实型知识；（3）从以推理为主要应用目标转化为综合搜索、问答、推理、分析等多方面的应用目标；（4）从以离散的符号逻辑表示向以连续的向量空间表示方向发展。
• 随着表示学习与深度神经网络的发展，一个重要的发展趋势是基于向量的知识表示方法得到越来越多的重视。传统基于逻辑的符号知识表示的优点是基于显性知识表示，因而表示能力强，能处理较为复杂的知识结构，具有可解释性，并支持复杂的推理。基于表示学习的连续向量表示优点是易于捕获隐性知识，并易于与深度学习模型集成，缺点是对复杂知识结构的支持不够，可解释性差， 不能支持复杂推理。目前，基于符号和基于向量的知识图谱表示并存并逐步相互融合。

基于符号的知识图谱表示方法

• 目前大多数知识图谱的实际存储方式都是以传统符号化的表示方法为主。大多数开放域的知识图谱都是基于语义网的表示模型进行了扩展或删改。语义网是符号知识表示框架和方法的一种。
• RDF。RDF是最常用的符号语义表示模型。RDF的基本模型是有向标记图。图上每条边对应于一个三元组（Subject-主语，Predecate-谓语，Object-宾语）。一个三元组对于一个逻辑表达式或关于世界的陈述。
• RDFS。RDF虽提供了描述客观世界事实的基本框架，但缺少类、属性等Schema层的定义手段。RDFS（RDF Schema）主要用于定义术语集、类集合和属性集合，主要包括如下元语：Class, subClassOf, type, Property, subPropertyOf, Domain, Range等。基于这些简单的表达构件可以构建最基本的类层次体系和属性体系。
• OWL。OWL以描述逻辑为主要理论基础，主要在RDFS基础上扩展了表示类和属性约束的表示能力。扩展的本体表达能力包括：（1）复杂类表达 Complex Classes，如：intersection, union 和 complement 等；（2）属性约束 Property Restrictions，如：existential quantification, universal quantification, hasValue 等；（3）基数约束 Cardinality Restrictions ， 如 : maxQualifiedCardinality, minQualifiedCardinality, qualifiedCardinality 等；（4）属性特征 Property Characteristics，如：inverseOf, SymmetricProperty, AsymmetricProperty, propertyDisjointWith, ReflexiveProperty, FunctionalProperty 等。

基于向量的知识图谱表示学习模型

• 依据知识图谱嵌入表示模型建模原理将基于向量的知识表示模型划分为翻译模型、组合模型、神经网络模型。
• 翻译模型。灵感来自word2vec中词汇关系的平移不变性，典型方法包括基于向量的三角形法则和范数原理的TransE模型，通过超平面转化或线性变换处理多元关系的TransH、TransR和TransD模型，通过增加一个稀疏度参数向量解决异构多元关系的TransSparse模型。
• 组合模型。采用向量的线性组合和点积原理，典型特征是将实体建模为列向量、关系建模为矩阵，然后通过头实体向量与关系矩阵的线性组合，再与尾实体进行点积来计算打分函数。经典成员包括采用普通矩阵的 RESCAL、采用低秩矩阵的 LFM、采用对角矩阵的 DistMult 和采用循环矩阵的 HolE。神经网络模型采用神经网络拟合三元组，典型模型包括采用单层线性或双线性网络的 SME、采用单层非线性网络的 SLM、NTN 和 MLP，以及采用多层网络结构的 NAM 。

（3）常见知识库以及知识图谱的知识表示方法

早期的知识库项目

• Cyc。最初目标是建立人类最大的常识数据库。Cyc主要特点是基于形式化的知识表示方法来刻画知识。形式化的优势是可以支持复杂的推理，但过于形式化也导致知识库的扩展性和应用的灵活性不够。Cyc提供开放版本OpenCyc。
• WordNet。是最著名的词典知识库，主要用于词义消歧。WordNet表示框架主要定义了名词、动词、形容词和副词之间 的语义关系。
• ConceptNet。是常识知识库，主要依靠互联网众包、专家创建和游戏三种方法创建，以三元组形式的关系型知识构成。与Cyc相比，ConceptNet采用了非形式化、更加接近自然语言的描述；与链接数据和谷歌知识图谱相比，ConceptNet比较侧重于词与词之间的关系；与WordNet相比，Concept包含的关系类型多。Concept完全免费开放，并支持多种语言。

语义网与知识图谱

• 以互联网资源为基础的新一代知识库，这类知识库的构建方法可以分为三类：互联网众包、专家协作和互联网挖掘。

总结

• 现代知识图谱由于要满足规模化的扩建需求，大多降低了对强逻辑表达的要求，并以三元组为基础的关系型知识为主。并更多地关注实例层面的知识构建。另一方面，由于知识图谱是很多搜索、问答和大数据分析系统的重要知识基础，基于向量的知识图谱表示使得这些数据更加易于与深度学习模型集成，使得基于向量空间的知识图谱表示得到越来越多的重视。
• 知识图谱表示一个重要研究趋势是：把符号逻辑与表示学习结合起来研究更加鲁棒、易于捕获隐含知识、易于与深度学习集成、并适应大规模知识图谱应用的新型表示框架是。为此需要较好地平衡符号逻辑的表示能力和表示学习模型的复杂性，一方面要能处理结构多样性、捕获表达控件的语义和支持较为复杂的推理，另一方面又要求学习模型的复杂性低。

2、知识表示学习

• 知识表示学习是面向知识库中的实体和关系进行表示学习，将实体和关系表示为稠密的低维向量，实现了对实体和实体关系的分布式表示，能够实现对实体和关系的语义信息的表示，可以高效地计算实体、关系及其之间的复杂语义关联，可显著提升计算效率，有效缓解数据稀疏，实现异质信息融合。
• 知识表示使知识获取与应用的基础，知识表示学习问题是贯穿知识库构建与应用全过程的关键问题。基于网络形式的知识表示面临诸多挑战性难题，主要包括计算效率问题和数据稀疏问题。
  • 计算效率问题。专门的图算法存在可移植性差的问题，更重要的，基于图算法计算复杂度高，可扩展性差，知识库规模达到一定规模就很难较好满足实时计算的需求。
  • 数据稀疏问题。大规模知识库与其他类型的大规模数据类似，遵守长尾分布，在长尾部分的实体和关系上，面临着严重的数据稀疏问题。
• 知识表示学习主要面临复杂关系建模、多源信息融合和关系路径建模的挑战。
  • 复杂关系建模。复杂关系定义如下，按照知识库中关系两端连接实体的数目，可以将关系划分为1-1、1-N、N-1和N-N四种类型。将后三种关系称为复杂关系。
  • 多源信息融合。现有的知识表示学习模型仅利用知识图谱的三元组结构信息进行表示学习，尚有大量与知识有关的其他信息没有得到有效利用。
    • 知识库中的其他信息，如实体和关系的描述信息、类别信息等。
    • 知识库外的海量信息，如互联网文本蕴含了大量与知识库实体和关系有关的信息。
  • 关系路径建模。关系路径蕴含着丰富的信息，突破知识表示学习孤立学习每个三元组的局限性，充分考虑关系路径信息。
• 知识表示学习的未来方向会是面向不同知识类型的知识表示学习、多元信息融合的知识表示学习、考虑复杂推理模式的知识表示学习、面向大规模数据库的在线学习和快速学习、基于知识分布式表示的应用。

3、实体识别与链接

• 实体是客观世界地事物，是构成知识图谱的基本单位（这里实体指实例）。实体分为限定类别的实体（如常用的人名、地名、组织机构等）以及开放类别实体（如药物名称、疾病等名称）。
• 实体识别是识别文本中指定类别的实体。
• 实体链接是识别出文本中提及实体的词或者短语（称实体提及），并于知识库中对应实体进行链接。
• 实体识别与链接是知识图谱构建、知识补全与知识应用的核心技术。
  • 实体识别技术可以检测文本中的新实体，并将其加入到现有知识库中。
  • 实体链接技术通过发现现有实体在文本中的不同出现，可以针对性的发现关于特定实体的新知识。实体识别与链接的研究将为计算机类人推理和自然语言理解提供知识基础。
• 实体是文本中承载信息的重要语言单位，也是知识图谱的核心单元。
• 命名实体识别是指识别文本中的命名性实体，并将其划分到指定类别的任务。
• 实体连接主要解决实体名的歧义性和多样性问题，是指将文本中实体名指向其代表的真实世界实体的而任务，也通常被称为实体消歧。
• 实体识别与链接是海量文本分析的核心技术，为解决信息过载提供了有效手段，作为知识图谱的基本单元，实体识别与链接是知识图谱构建和补全的核心技术。
• 实体识别与链接处理各种非结构化/半结构化的输入（如文本、新闻网页、商品页面、微博、论坛页面等），使用多种技术（统计方法、深度学习方法、知识挖掘方法），提取各种类型的实体（如人名、地名、商品、药物等），并将这些信息与现有知识图谱进行集成（实体链接）。
  • 实体识别。命名实体识别的目的是识别文本中指定类别的实体。命名实体识别系统通常包含两个部分：实体边界识别和实体分类。其中实体边界识别判断一个字符串是否组成一个完整实体，而实体分类将识别出的实体划分成到预先给定的不同类别中。命名实体识别的难点在于表达不规律、且缺乏训练预料的开放域命名实体识别。
  • 实体链接。实体链接的目的是将实体提及与知识库中对应实体进行链接。一个实体链接系统包括如下研究内容：（1）识别文档中的目标提及；（2）针对每一个提及，识别该提及在知识图谱中可能指向的候选目标实体； （3）基于提及的上下文等信息对目标实体进行排序；（4）空提及检测与聚类。
• 概括来说，实体分析任务主要面临以下几个关键科学问题：实体名的歧义性和多样性、资源缺乏问题和实体的开放性问题。
• 现有的研究方法有：传统统计模型方法、深度学习方法和文本挖掘方法。
• 实体识别的发展方向包括：融合先验知识的深度学习模型、资源缺乏环境下的实体分析技术、面向开放域的可扩展实体分析技术等。

4、实体关系学习

• 实体关系描述客观存在的事物之间的关联关系，定义为两个或多个实体之间的某种联系。
• 实体关系学习就是自动从文本中检测和识别出实体之间具有的某种语义关系，也称为关系抽取。
• 实体关系抽取分类预定义关系抽取和开放关系抽取。实体关系识别是知识图谱自动构建和自然语言理解的基础。
  • 预定义关系抽取是指系统所抽取的关系是预先定义好的，比如知识图谱中定义好的关系类别，如上下位关系、国家—首都关系等。开放式关系抽取。
  • 开放式关系抽取不预先定义抽取的关系类别，由系统自动从文本中发现并抽取关系。
• 关系抽取是知识图谱构建和信息抽取中的一个关键环节，具有重要的理论意义和广阔的应用前景，为多种应用提供重要的支持，主要表现在：大规模知识图谱的自动构建、为其他信息获取技术提供支持（如信息检索、问答系统等）、自然语言理解等。
• 关系抽取系统处理各种非结构化/半结构化的文本输入（如新闻网页、商品页面、微博、论坛页面等），使用多种技术（如规则方法、统计方法、知识挖掘方法），识别和发现各种预定义类别和开发类别的体系。根据关系类别是否预定义，目前关系抽取的核心研究内容可以划分为限定域关系抽取和开放域关系抽取。
  • 限定域关系抽取。系统所抽取的关系类别是预先定义好的，在限定域关系抽取中关系的类别一般是人工定义或者从现有知识图谱中自动获取，主要研究如何利用有监督或弱监督的方法抽取预定义的实体关系知识，在有监督方法中集中于如何挖掘更多能表征相应语义关系的特征，在弱监督方法中集中于如何降低自动生成的语料中的噪声。
  • 开放域关系抽取。又称开放式关系发现，不预先定义抽取的关系类别，由系统自动从文本中发现并抽取关系。利用关系指示词代表关系的类型，主要研究如何利用无监督的方法自动抽取关系三元组。
• 关系抽取目前主要面临如下三个挑战：自然语言表达的多样性、关系表达的隐含性和实体关系的复杂性
• 现有的关系抽取方法可以从不同维度进行划分，根据关系类型，关系抽取可以分为限定域关系抽取和开放域关系抽取；根据关系抽取的方法可以分为基于规则的方法和基于机器学习的方法；根据对于监督知识的依赖，关系抽取可以分为有监督关系抽取、无监督关系抽取和弱监督知识抽取。
• 关系抽取的发展方向如下：面向开放域的可语义化的关系抽取技术、篇章级的关系抽取、具有时空特性的多元关系抽取。

5、事件知识学习

• 事件是促使事物状态和关系改变的条件，是动态的、结构化的知识。
• 针对不同领域的不同应用，事件有不同的描述范畴。一种源自信息抽取领域，将事件定义为发生在某个特定的时间点或时间段、某个特定的地域范围内，由一个或者多个角色参与的一个或者多个动作组成的事情或者状态的改变。一种源自信息检索领域，将事件认为是细化了的主题，是由某些原因、条件引起，发生在特定时间、地点，涉及某些对象，并可能伴随某些必然结果的事情。
  • 信息抽取领域的事件的相关研究为事件的识别与抽取。
  • 信息检索领域的事件的相关研究为事件的检测与追踪。
• 事件知识学习，即将非结构化文本文本中自然语言所表达的事件以结构化的形式呈现，对于知识表示、理解、计算和应用意义重大。
• 知识图谱中的事件知识隐含互联网资源中，包括已有的结构化的语义知识、数据库的结构化信息、半结构化的信息资源以及非结构化资源，不同性质的资源有不同的知识获取方法。
• 事件的识别与抽取研究如何从描述事件信息的文本中识别并抽取出事件信息并以结构化的形式呈现出来，包括发生的时间、地点、参与角色以及与之相关的动作或者状态的改变，核心概念如下：
  • 事件描述。客观发生具体事件的自然语言描述，通常是一个句子或者句群。同一个事件可以有很多不同的事件描述，可能分布在同一文档的不同位置或不同的文档中。
  • 事件触发词。事件描述中最能代表事件发生的词，是决定事件类别的重要特征，在ACE评测中事件触发词一般为动词或名词。
  • 事件元素。事件的参与者，是组成事件的核心部分，与事件触发词构成了事件的整个框架。事件元素与主要由实体、时间和属性值等表达完整语义的细粒度单位组成。
  • 元素角色。事件元素与事件之间的语义关系，也就是事件元素在相应事件中扮演什么角色。
  • 事件类型。事件元素和触发词决定了事件的类别。很多评测和任务均指定了事件类别和相应模板，方便元素识别及角色判定。
• 事件的检测与追踪旨在将文本新闻流按照其报道的事件进行组织，为传统媒体多种来源的新闻监控提供核心技术，以便让用户了解新闻及其发展。事故发现与跟踪包括三个主要任务：分割、发现和跟踪，将新闻文本分解为事件、发现新的（不可预见的）事件、跟踪以前报道事件的发展。事件的发现任务又可以细分为历史事件发现和在线事件发现两种形式，前者目标是从按照事件排序的新闻文档中发现以前没有识别的事件，后者则是从实时新闻流中实时发现新的事件。
• 事件知识学习具有公开评测和数据集。
• 事件知识学习是一项综合研究，需要比较深入的自然语言处理方向和技术作为支撑，相较于其他抽取和识别任务（如实体识别、关系抽取），事件识别和抽取的难点主要表现在如下几个方面（事件的检测和追踪虽然着眼点比事件识别和抽取稍显宏观，但这些层面的挑战是高度统一的）：
  • 认知层面。事件具有复杂的内部结构，涉及更多的实体和值，并且事件中各个元素间具有复杂关系和结构。
  • 语言层面。事件的表述是灵活的、具有歧义的。
  • 方法层面。事件抽取会遇到错误累计的问题，低性能的工具引入的错误会降低事件抽取系统的性能。
  • 语料层面。标注语料规模小、数据稀疏。
• 根据抽取方法，事件抽取可以分为基于模式匹配的事件抽取和基于机器学习的事件抽取。
• 事件检测和追踪研究的主流方法包括基于相似度聚类和基于概率统计两类。
• 事件知识学习的最总目的是从非结构化的文本数据中抽取结构化的事件表示，构建事件知识库弥补现有知识图谱的动态事件信息缺失问题。目前事件知识库的研究的基础就是事件识别抽取和事件检测追踪两方面，基于句子级的事件抽取和文档级的事件发现。
• 事件识别和抽取的发展趋势表现在如下方面：从分步抽取到联合抽取（以避免分步噪音积累）、从局部信息到全局信息、从人工标注到半自动生成语料。
• 事件检测和追踪的发展趋势表现在如下方面：非参数化、多流交互。

二、知识图谱查询和推理计算

1、知识存储和查询

• 知识图谱以图（Graph）的方式来展现实体、事件及其之间的关系。
• 知识图谱的结构是复杂的图结构。知识图谱存储和查询研究如何设计有效的存储模式支持对大规模图数据的有效管理，实现对知识图谱中知识高效查询。

2、知识推理

• 知识推理从给定的知识图谱推导出新的实体跟实体之间的关系。知识推理在知识计算中具有重要作用，如知识分类、知识校验、知识链接预测与知识补全等
• 知识图谱推理可以分为基于符号的推理和基于统计的推理。
  • 在人工智能的研究中，基于符号的推理一般是基于经典逻辑(一阶谓词逻辑或者命题逻辑)或者经典逻辑的变异(比如说缺省逻辑)。基于符号的推理可以从一个已有的知识图谱推理出新的实体 间关系，可用于建立新知识或者对知识图谱进行逻辑的冲突检测。
  • 基于统计的方 法一般指关系机器学习方法，即通过统计规律从知识图谱中学习到新的实体间关系。

三、知识图谱应用

1、通用和领域知识图谱

• 知识图谱分为通用知识图谱与领域知识图谱两类，两类图谱本质相同，其区别主要体现在覆盖范围与使用方式上。
• 通用知识图谱可以形象地看成一个面向通用领域的结构化的百科知识库，其中包含了大量的现实世界中的常识性知识，覆盖面广。领域知识图谱又叫行业知识图谱或垂直知识图谱，通常面向某一特定领域，可看成是一个基于语义技术的行业知识库，因其基于行业数据构建，有着严格而丰富的数据模式，所以对该领域知识的深度、知识准确性有着更高的要求。

2、语义集成

• 语义集成的目标就是将不同知识图谱融合为一个统一、一致、简洁的形式,为使用不同知识图谱的应用程序间的交互提供语义互操作性。常用技术方法包括本体匹配(也称为本体 映射)、实例匹配(也称为实体对齐、对象共指消解)以及知识融合等。

3、语义搜索

• 知识图谱是对客观世界认识的形式化表示，将字符串映射为客观事件的事务（实体、事件以及之间的关系）。当前基于关键词的搜索技术在知识图谱的知识支持下可以上升到基于实体和关系的检索，称之为语义搜索。
• 语义搜索利用知识图谱可以准确地捕捉用户搜索意图，借助于知识图谱，直接给出满足用户搜索意图的答案，而不是包含关键词的相关网页的链接。

4、基于知识的问答

• 问答系统(Question Answering, QA)是指让计算机自动回答用户所提出的问题，是信息服务的一种高级形式。
• 不同于现有的搜索引擎,问答系统返回用户的不再是基于关键词匹配的相关文档排序,而是精准的自然语言形式的答案。