awesome-knowledge-graph

Knowledge graph repository

A curated collection of resources and research papers on knowledge graphs, language models, and their applications in natural language processing and related fields.

整理知识图谱相关学习资料

GitHub

5k stars
115 watching
934 forks
last commit: over 3 years ago
Linked from 1 awesome list


awesome-knowledge-graph / 理论及论文 / 综述综合

Knowledge Graph Construction Techniques
Review on Knowledge Graph Techniques (2016) [一篇经典的中文综述,适合入门。]
Reviews on Knowledge Graph Research (2017) [清华大学李娟子老师的综述,十分经典,对知识图谱走入大众视野功不可没。]
The Research Advances of Knowledge Graph (2017) [东南大学漆桂林老师的综述,也是2017年发表的,同样对知识图谱走入大众视野起到很大作用。]
A Survey on Knowledge Graphs: Representation, Acquisition and Applications (2020)
Knowledge Graphs (2020) [2020年初的一篇作者众多、内容很全的综述,适合系统性的建立知识图谱的知识体系。]
ERNIE: Enhanced Representation through Knowledge Integration(2019) [百度版本ERNIE,在预训练阶段Mask Token时引入了Entity级别和Phase级别,似的模型在学习时能够将某些特定知识作为一个整体进行学习。]
ERNIE: Enhanced Language Representation with Informative Entities(2019) [清华版本ERNIE,将从句子中识别出的Entity的Embedding与原句子Embedding同时K-Encoder新设计的模块,在该模块中也采用多头注意力机制之后融合编码在分别输出到下一层。]
Latent Relation Language Models(2019) [将文本中实体在知识图谱中的结构作为条件建模到概率语言模型中。]
K-BERT: Enabling Language Representation with Knowledge Graph
KG-BERT: BERT for Knowledge Graph Completion(2019) [与ERNIE系列处理的问题正好相反,是将Bert的模型应用到知识图谱的补全任务中,根据h,r->t,h,r,t->{0,1}的任务特点设计出两个fine-tuning任务。]
Enriching BERT with Knowledge Graph Embeddings for Document Classification(2019) [结合Bert和知识图谱embedding应用到具体的文档分类任务,将Bert输出、人工设计的Meta特征、作者的kg embedding进行concat之后输入mlp进行分类。]
ERNIE 2.0: A Continual Pre-Training Framework for Language Understanding
SENSEMBERT: Context-Enhanced Sense Embeddings for Multilingual Word Sense Disambiguation
Inducing Relational Knowledge from BERT
Integrating Graph Contextualized Knowledge into Pre-trained Language Models
Enhancing Pre-Trained Language Representations with Rich Knowledge for Machine Reading Comprehension
K-ADAPTER- Infusing Knowledge into Pre-Trained Models with Adapters
Knowledge Enhanced Contextual Word Representations (EMNLP 2019)
KEPLER: A Unified Model for Knowledge Embedding and Pre-trained Language Representation (2020)
Pretrained Encyclopedia: Weakly Supervised Knowledge-Pretrained Language Model (ICLR 2020) [在预训练任务中结合wikepedia知识将句子中的实体替换为同类型的其他实体,使预训练模型能够在很少的训练数据甚至是无训练数据的情况下在某些特定QA任务取得不错的效果。]
Language Models as Knowledge Bases? [设计出一种基于完形填空任务的探测结构LAMA验证了类BERT预研模型具备一定的知识库能力]
A Frame-based Sentence Representation for Machine Reading Comprehension (ACL 2020) [将句子中包含的FrameNet信息自动标注出来之后,平铺展开填充形成quadruples,再将quadruples采用不同的Aggregation Model表示为句子表示,然后采用BERT等神经网络进行编码进行后续的阅读理解任务。]
KILT: a Benchmark for Knowledge Intensive Language Tasks(2020) [facebook 针对知识集中型的语言任务设计的baenchmark,其中包括设计常识的任务。]
TransOMCS: From Linguistic Graphs to Commonsense Knowledge(ICJAI 2020) [基于语言图谱构建常识知识,采用ConceptNet中子集作为常识种子,从语言图谱中挖掘满足种子(h,r,t)的模式,然后再基于这些模式从语言图谱中找常识,同时为了避免错误模式带来的影响,引入一个打分机制筛选模式,并且对找出来的常识进行可信度排序。]
ATOMIC: An Atlas of Machine Commonsense for If-Then Reasoning (AAAI 2019) [将常识信息抽象成一系列if then表示的框架,并基于词框架设计众包任务获得数据集,通过encoder(ELMo)+decoder结构的model进行训练,最后采用BLEU score来评价机器在指定指令下的推断输出。]
COMET: Commonsense Transformers for Automatic Knowledge Graph Construction (ACL 2019) [结合预训练模型提出了一种常识知识图谱构建框架,并在ATOMIC和ConceptNet常识知识图谱上进行实验,同时也验证了模型参数采用预训练之后的参数比随机初始化效果明显要好。]

awesome-knowledge-graph / 理论及论文 / 知识应用

Commonsense Knowledge Aware Conversation Generation with Graph Attention (IJCAI 2018) [先将原始文本中的实体转化为常识知识图谱中的子图片段,再将子图片段采用图注意力方式embedding之后的向量同时输入到encoder和decoder中进行融合。]
Mem2Seq: Effectively Incorporating Knowledge Bases into End-to-End Task-Oriented Dialog Systems(2018) [提出一种Men2Seq的改进结构来配合copy 机制更好的处理任务型对话系统。]
Augmenting End-to-End Dialogue Systems with Commonsense Knowledge(2018) [将问句x中的实体所对应的常识概念以及之间的关系作为额外信息a,将x与y,a与y分别使用LSTM打分之后的总和作为回答y的分值。]
Towards Scalable Multi-Domain Conversational Agents: The Schema-Guided Dialogue Dataset
Improving Knowledge-aware Dialogue Generation via Knowledge Base Question Answering
Graph-Based Reasoning over Heterogeneous External Knowledge for Commonsense Question Answering

awesome-knowledge-graph / 理论及论文 / 推荐系统

Multi-modal Knowledge Graphs for Recommender Systems(CIKM 2020) [将多模态信息引入知识图谱推荐,整体结构上包括多模态知识图谱graph embedding和recommendation两部分,其中graph embedding包括entity encoder和attention,用于综合表示节点以及其周围节点信息。]

awesome-knowledge-graph / 理论及论文 / 知识计算

Knowledge Representation Learning: A Review
Interstellar: Searching Recurrent Architecture for Knowledge Graph Embedding(NeurIPS 2020) [基于由三元组组成的关系路径(relational path)提出 Interstellar 模型,通过搜索一种递归神经网络,来处理关系路径中的短链、长链信息,达到根据不同任务,有针对性地对关系路径进行建模的目的。]
Holographic embeddings of knowledge graphs
Context-dependent knowledge graph embedding. EMNLP 2015. Luo, Yuanfei and Wang, Quan and Wang, Bin and Guo, Li.
GAKE: graph aware knowledge embedding. COLING 2016. Feng, Jun and Huang, Minlie and Yang, Yang and Zhu, Xiaoyan.
KBGAN: Adversarial Learning for Knowledge Graph Embeddings. Cai, Liwei, and William Yang Wang.(NAACL 2018)
Bootstrapping Entity Alignment with Knowledge Graph Embedding. Zequn Sun, Wei Hu, Qingheng Zhang and Yuzhong Qu.(IJCAI 2018)
RotatE: Knowledge Graph Embedding by Relational Rotation in Complex Space(ICLR 2019) [在Tran系列的embedding上进了一步,将三元组(h,r,t)中的关系r建模成复平面的旋转,使得r更具表示力,能够很好的表示Symmetry、Antisymmetry以及Inversion关系,使用了自对抗负采样损失方法。]
Quaternion Knowledge Graph Embeddings(2019) [相比RotatE更进了一步,通过4元组的Hamilton Product来表示关系变换,比复数具备了更多的自由度。]
Knowledge Graph Embeddings and Explainable AI(2020) [一篇综述性质文章,介绍了目前sota的KGE方法,并分析embedding与可解释性的关系和联系。]
Reasoning on Knowledge Graphs with Debate Dynamics
Logic Tensor Networks: Deep Learning and Logical Reasoning from Data and Knowledge(2016) [提出一种通过tenor网络结构设计实现真值逻辑的框架,尝试通过深度学习解决逻辑推理问题,比较有创新性。]
Differentiable Learning of Logical Rules for Knowledge Base Reasoning.(2017) []
Query2box: Reasoning over Knowledge Graphs in Vector Space Using Box Embeddings(ICLR 2020) [将问题映射为向量空间中的box,答案实体为向量空间中的向量,回答问题的过程可以建模成Projection、 Intersection和Union,最终获得问题的box,通过定义好的query和entity距离计算方法计算距离,小于阈值则为答案集合。]
Conversational Neuro-Symbolic Commonsense Reasoning(2020)
Neural-Symbolic Reasoning on Knowledge Graphs(2020) [系统的整理了知识图谱推理中的Symbolic reasoning以及Neural reasoning的方法,并介绍了其不同的优劣势,对KGC和KBQA问题在统一推力网络中进行了总结。]
Learning Sequence Encoders for Temporal Knowledge Graph Completion
Differentiable Reasoning on Large Knowledge Bases and Natural Language
Diachronic Embedding for Temporal Knowledge Graph Completion
Commonsense Knowledge Base Completion with Structural and Semantic Context
KG-BERT: BERT for Knowledge Graph Completion
Intra-document Coreference Resolution: The state of the art (2007) [指代消解,较全面的介绍了指代消解的发展、分类方法和评测标准,基本都是偏传统的方法。]
指代消解综述 (2010) [一篇入门级的综述,介绍了如何标注以及基于句法、基于规则、基于统计、基于分类等相对较为传统指代消解的方法。]
Cross-Document Co-Reference Resolution using Sample-Based Clustering with Knowledge Enrichment (EMNLP 2015) [Pipeline方式,首先采用通用工具计算出文档内的mention组,再采用谱聚类和图相关算法优化相关度计算并完成跨文档的mention指代消解。]
Higher-order Coreference Resolution with Coarse-to-fine Inference (ACL2018)
BERT for Coreference Resolution: Baselines and Analysis (2019) [将上一篇paper中lstm等encode部分更换为bert的优化方法,套路与其他任务换成bert类似。]
Deep Reinforcement Learning for Mention-Ranking Coreference Models (ACL2016)

awesome-knowledge-graph / 理论及论文 / 知识获取

A Survey on Entity Alignment of Knowledge Base
Knowledge Graph Alignment Network with Gated Multi-hop Neighborhood Aggregation
Coordinated Reasoning for Cross-Lingual Knowledge Graph Alignment
End-to-End Neural Entity Linking (2018) [将mention的字、词向量拼接之后过bilstm得到mention embedding,将候选mention的头尾词向量和基于attention的soft head拼接得到候选mention embedding,两个embedding一起通过FFNN打分,从而实现端到端的实体链接。]
Zero-shot Entity Linking with Efficient Long Range Sequence Modeling (2020)
Using Type Information to Improve Entity Coreference Resolution

awesome-knowledge-graph / 理论及论文 / 知识建模

AutoKnow: Self-Driving Knowledge Collection for Products of Thousands of Types(KDD 2020) [结合商品领域特点将传统SPO三元组结构的建模方式进行了修改,并提出一种自动进行实体收集的架构]
A Short Survey on Taxonomy Learning from Text Corpora: Issues, Resources and Recent Advances (ACL2017) [以两段式流程框架介绍了基于语料构建本体的各种方法,两段式流程框架是指is-a关系的抽取和基于is-a关系的本体构建。]

awesome-knowledge-graph / 理论及论文 / 其他扩展

Context-Aware Attentive Knowledge Tracing(KDD 2020) []
Knowledge Query Network for Knowledge Tracing() [将学生外在表现建模成knowledge vetor和skill vetor的点积]
Knowledge tracing- Modeling the acquisition of procedural knowledge
Individualized Bayesian Knowledge Tracing Models
Deep Knowledge Tracing
Tracking Knowledge Proficiency of Students with Educational Priors

awesome-knowledge-graph / 图谱及数据集 / 开放知识图谱

官网地址

awesome-knowledge-graph / 图谱及数据集 / 领域知识图谱

访问地址(http://acemap.sjtu.edu.cn/)

awesome-knowledge-graph / 图谱及数据集 / 数据集

https://rajpurkar.github.io/SQuAD-explorer/
完整数据集下载地址
WikiData中文部分-截至2017.01

awesome-knowledge-graph / 工具 / 知识推理

官网地址
Github地址 1,958 over 2 years ago

awesome-knowledge-graph / 工具 / 知识表示

官网地址
Github地址 3,841 11 months ago

awesome-knowledge-graph / 白皮书及报告

百度知识中台白皮书(2020版)
面向人工智能新基建的知识图谱行业白皮书(艾瑞咨询2020版)
知识图谱标准化白皮书(2019版)
CCKS2018-知识图谱发展报告

awesome-knowledge-graph / 机构及人物

清华大学网页 李娟子:
清华大学网页 刘知远: 、
东南大学网页 漆桂林:
复旦大学网页 肖仰华:
中科院网页 刘康:
哈工大网页 刘挺:

awesome-knowledge-graph / 视频课程 / 小象学院知识图谱课程

知识图谱

awesome-knowledge-graph / 视频课程 / 贪心学院知识图谱课程

知识图谱的技术与应用
教你搭建一个工业级知识图谱系统

awesome-knowledge-graph / 视频课程 / CSDN视频课

知识图谱系统架构剖析
AI开发者大会——知识图谱专题

awesome-knowledge-graph / 评测竞赛

“达观杯”文本智能信息抽取挑战赛
CCKS 2019 公众公司公告信息抽取
CCKS 2019 医疗命名实体识别
CCKS 2019 面向金融领域的事件主体抽取
CCKS 2019 人物关系抽取
CCKS 2019 中文短文本的实体链指
CCIR 2019 基于电子病历的数据查询类问答
瑞金医院MMC人工智能辅助构建知识图谱大赛
CCKS 2018 面向中文电子病历的命名实体识别
CCKS 2018 面向音乐领域的命令理解任务
CCKS 2018 微众银行智能客服问句匹配大赛
CCKS 2018 开放领域的中文问答任务
CCKS 2017 问题命名实体识别和链接任务
CCKS 2017 面向电子病历的命名实体识别

awesome-knowledge-graph / 会议交流及讲座 / AICon

AICon 2019知识图谱专题
AICon 2018知识图谱深度培训
AICon 2017知识图谱技术实践

awesome-knowledge-graph / 会议交流及讲座 / BDTC

BDTC 2018 医疗知识图谱的构建和应用
BDTC 2018 从知识图谱到人工智能:产品演进路径上的思考
BDTC 2018 基于cnSchema的大规模金融知识图谱实战
BDTC 2017 Event Extraction from Texts
BDTC 2017 知性会话:基于知识图谱的人机对话系统方法与实践
BDTC 2017 基于图的海量知识图谱数据管理
CSDN AI 2018 医疗知识图谱的敏捷构建和实践
CSDN AI 2018 知识图谱的表示和推理
CSDN AI 2018 大规模通用知识图谱构建及应用
CSDN AI 2018 大规模通用知识图谱构建及应用

awesome-knowledge-graph / 会议交流及讲座 / 其他

知识图谱中的深度学习技术应用概述
2018云栖大会上海-人工智能专场
AI研习社-知识图谱的嵌入:更好更快的负采样

awesome-knowledge-graph / 项目案例 / 农业领域知识图谱

https://github.com/CrisJk/Agriculture-KnowledgeGraph-Data.git

awesome-knowledge-graph / 项目案例 / 其他知识图谱

https://github.com/chizhu/KGQA_HLM 1,156 over 5 years ago
https://github.com/Pelhans/Z_knowledge_graph 755 over 4 years ago
https://github.com/ownthink/KnowledgeGraph 1,003 about 4 years ago
https://github.com/SimmerChan/KG-demo-for-movie 1,283 over 2 years ago

awesome-knowledge-graph / 推广技术文章 / 2020

基于知识图谱的语义理解技术及应用
阿里巴巴资深算法专家张伟:百科类知识图谱构建和应用已到深水区,行业和多模态知识图谱引关注
华为开发者大会 HDC.Cloud 硬核技术解读:知识图谱构建流程及方法
腾讯云知识图谱技术与应用实践之路
知识图谱在小米的落地与挑战
构建行业知识图谱切勿操之过急,这里有三大前提条件

awesome-knowledge-graph / 推广技术文章 / 2019

大众点评搜索基于知识图谱的深度学习排序实践
知识图谱已成AI下一风口,但你知道它进展到哪了吗?
下一代 AI 系统基石:知识图谱将何去何从?
阿里巴巴电商认知图谱揭秘
为电商而生的知识图谱,如何感应用户需求?
阿里小蜜:知识结构化推动智能客服升级
CCKS 2019:百度CTO王海峰详解知识图谱与语义理解
反守为攻!从华为知识图谱窥探AI布局

awesome-knowledge-graph / 推广技术文章 / 2018

张伟博士:阿里巴巴百亿级别的三元组知识图谱掌舵者
知识图谱在互联网金融行业的应用
上交大发布知识图谱AceKG,超1亿实体,近100G数据量
知识图谱数据构建的“硬骨头”,阿里工程师如何拿下?
这是一份通俗易懂的知识图谱技术与应用指南
一文揭秘!自底向上构建知识图谱全过程
健康知识图谱,阿里工程师如何实现?
为电商而生的知识图谱,如何感应用户需求?
肖仰华谈知识图谱:知识将比数据更重要,得知识者得天下
知识图谱在旅游领域有哪些应用?携程度假团队这样回答
快手结合知识图谱进行多模态内容理解
腾讯互娱刘伟:知识图谱让AI更有学识
美团大脑:知识图谱的建模方法及其应用
美团餐饮娱乐知识图谱——美团大脑揭秘
人力资源知识图谱搭建及应用
基于概念知识图谱的短文本理解——王仲远

awesome-knowledge-graph / 推广技术文章 / 2017

阿里知识图谱首次曝光:每天千万级拦截量,亿级别全量智能审核
百度王海峰:知识图谱是 AI 的基石
哈工大刘挺:从知识图谱到事理图谱
智能导购?你只看到了阿里知识图谱冰山一角

awesome-knowledge-graph / 推广技术文章 / 2016

构建 LinkedIn 知识图谱

Backlinks from these awesome lists:

0