distillation relational knowledge
《RAPL: A Relation-Aware Prototype Learning Approach for Few-Shot Document-Level Relation Extraction》阅读笔记
代码 原文地址 预备知识： 1.什么是元学习（Meta Learning）？ 元学习或者叫做“学会学习”（Learning to learn），它是要“学会如何学习”，即利用以往的知识经验来指导新任务的学习，具有学会学习的能力。由于元学习可帮助模型在少量样本下快速学习，从元学习的使用角度看，人们也称 ......
转载：深度学习：蒸馏Distill
转载，写的比较好了，可以参考：https://blog.csdn.net/pipisorry/article/details/117257414 Distilling the knowledge in a neural networkHinton 在论文中提出方法很简单，就是让学生模型的预测分布，来 ......
cdn引入vue后报错无法识路径 Uncaught TypeError: Failed to resolve module specifier "vue". Relative references must start with either "/", "./", or "../".
如果你用了 pinia 就需要引入 vue-demi: vue-demi 是一个 Vue.js 的兼容性库，旨在为 Vue 2 和 Vue 3 提供一致的 API。它通过提供与 Vue 3 相似的 API 来帮助开发者平滑地迁移代码从 Vue 2 到 Vue 3。 pinia 为了兼容新, 使 ......
【略读论文|大模型相关】Zero-Shot Relational Learning on Temporal Knowledge Graphs with Large Language Models
时间：2023 学校：慕尼黑大学 创新点： 1.据我们所知，这是第一个试图在TKGF背景下研究零射击关系学习的工作。 2.我们设计了一种基于llm的方法zrLLM，并设法在零射击关系推理中增强各种基于嵌入的TKGF模型。 3.实验结果表明，zrLLM有助于大大提高所有考虑的TKGF模型对包含未见零射 ......
《Span-Based Joint Entity and Relation Extraction with Transformer Pre-Training》阅读笔记
代码 原文地址 预备知识： 1.什么是束搜索算法（beam search）? beam search是一种用于许多自然语言处理和语音识别模型的算法，作为最终决策层，用于在给定目标变量(如最大概率或下一个输出字符)的情况下选择最佳输出。 2.什么是条件随机场（Conditional Random Fi ......
《An End-to-end Model for Entity-level Relation Extraction using Multi-instance Learning》阅读笔记
代码 原文地址 预备知识： 1.什么是MIL？ 多示例学习（MIL）是一种机器学习的方法，它的特点是每个训练数据不是一个单独的实例，而是一个包含多个实例的集合（称为包）。每个包有一个标签，但是包中的实例没有标签。MIL的目的是根据包的标签来学习实例的特征和分类规则，或者根据实例的特征来预测包的标签。 ......
《A Novel Table-to-Graph Generation Approach for Document-Level Joint Entity and Relation Extraction》阅读笔记
代码 原文地址 文档级关系抽取（DocRE）的目的是从文档中提取实体之间的关系，这对于知识图谱构建等应用非常重要。然而，现有的方法通常需要预先识别出文档中的实体及其提及，这与实际应用场景不一致。为了解决这个问题，本文提出了一种新颖的表格到图生成模型（TAG），它能够在文档级别上同时抽取实体和关系。T ......
Cold Brew: Distilling Graph Node Representations with Incomplete or Missing Neighborhoods
目录概符号说明Cold Brew代码 Zheng W., Huang E. W., Rao N., Katariya S., Wang Z., Subbian K. Cold brew: Distilling graph node representations with incomplete or ......
Relation Networks for Object Detection
Relation Networks for Object Detection * Authors: [[Han Hu]], [[Jiayuan Gu]], [[Zheng Zhang]], [[Jifeng Dai]], [[Yichen Wei]] DOI: 10.1109/CVPR.2018.0 ......
Local Relation Networks for Image Recognition： LRNet
Local Relation Networks for Image Recognition * Authors: [[Han Hu]], [[Zheng Zhang]], [[Zhenda Xie]], [[Stephen Lin]] DOI: 10.1109/ICCV.2019.00356 @in ......
Rethinking and Improving Relative Position Encoding for Vision Transformer: ViT中的位置编码
Rethinking and Improving Relative Position Encoding for Vision Transformer * Authors: [[Kan Wu]], [[Houwen Peng]], [[Minghao Chen]], [[Jianlong Fu]], ......
[Codeforces] CF1740D Knowledge Cards
CF1740D Knowledge Cards 题意 有一个 \(n \times m\) 的棋盘。现在\((1,1)\)中有一个栈，你可以按照一定的顺序进行出栈操作，每次都可以移动一个卡片到一个相邻的空白位置，但是卡片不能重合。问，能否通过若干次操作，将\((1,1)\)中全部的卡片移动到\((n ......
题解 QOJ1173【Knowledge Is...】 / accoders::NOI 5681【interval】
https://qoj.ac/contest/537/problem/1173 problem 给定 \(n\leq 10^6\) 个区间，你需要求出能够最多选出多少对区间，使得两个区间不交（区间为闭区间）。要求一个区间最多属于一对选出的区间。 solution 这是一般图匹配问题的特殊情况，所以放 ......
Graph regularized non-negative matrix factorization with prior knowledge consistency constraint for drug-target interactions prediction
Graph regularized non-negative matrix factorization with prior knowledge consistency constraint for drug-target interactions prediction Junjun Zhang 1 ......
《REBEL Relation Extraction By End-to-end Language generation》阅读笔记
论文来源 代码地址 相关视频（YouTube） 相关概念： 1.What is natural language understanding (NLU)? Natural language understanding (NLU) is a branch of artificial intellige ......
Python报错：WARNING conda.models.version:get_matcher(542): Using .* with relational operator is superfluous and deprecated and will be removed in a future version of conda.
参考： https://blog.csdn.net/weixin_45685859/article/details/132916216 报错： [23:59:14](pytorch) devil@OMEN:~$ [23:59:14](pytorch) deviconda install pytorc ......
SQLC - ERROR: relation "accounts" does not exist
Copied the example of sqlc.yaml generated by 'sqlc init' from https://docs.sqlc.dev/en/stable/tutorials/getting-started-postgresql.html# . Changed it ......
【略读论文|时序知识图谱补全】Tucker Decomposition with Frequency Attention for Temporal Knowledge Graph Completion
会议：ACL，时间：2023，学校：北京航空航天大学，多伦多大学 关键词：基于张量分解；频率注意力；正则化 摘要： 之前基于张量分解的TKGC模型存在仅独立考虑一种关系与一个时间戳的组合，忽略了嵌入的全局性质的问题。 本文的方法：一种频率注意力（FA）模型来捕获一个关系与整个时间戳之间的全局时间依赖 ......
【略读论文|时序知识图谱补全】Learn from Relational Correlations and Periodic Events for Temporal Knowledge Graph Reasoning
会议：SIGIR，时间：2023，学校：国防科技大学 摘要： 之前模型存在的问题：未能利用快照内结构信息的关系之间的语义相关性与快照间时间交互沿时间轴的周期性时间模式。 本文的工作：提出了一种新的推理模型（RPC）；它通过两个新的通信单元，即关系通信单元(RCU)和周期通信单元(PCU)，充分挖掘关 ......
【略读论文|时序知识图谱补全】Hierarchical Self-Atention Embedding for Temporal Knowledge Graph Completion
会议：WWW，时间：2023，学校：东北大学计算机与通信工程学院 摘要： 目前TKGC模型存在的问题：只考虑实体或关系的结构信息，而忽略了整个TKG的结构信息。此外，它们中的大多数通常将时间戳视为一般特征，不能利用时间戳的潜在时间序列信息。 本文的方法：一种基于自注意机制和历时嵌入技术的分层自注意嵌 ......
【略读论文|时序知识图谱补全】DREAM: Adaptive Reinforcement Learning based on Attention Mechanism for Temporal Knowledge Graph Reasoning
会议：SIGIR，时间：2023，学校：苏州大学计算机科学与技术学院，澳大利亚昆士兰布里斯班大学信息技术与电气工程学院，Griffith大学金海岸信息通信技术学院 摘要： 原因：现在的时序知识图谱推理方法无法生成显式推理路径，缺乏可解释性。 方法迁移：由于强化学习 (RL) 用于传统知识图谱上的多跳 ......
【略读论文|时序知识图谱补全】Adaptive Path-Memory Network for Temporal Knowledge Graph Reasoning
会议：IJCAI，时间：2023，学校：1 中国科学院计算机网络信息中心，北京 2中国科学院大学，北京 3 澳门大学智慧城市物联网国家重点实验室，澳门 4 香港科技大学(广州)，广州 5 佛罗里达大学计算机科学系，奥兰多 摘要： 提出一种新的具有TKG关联特征的体系结构建模方法，即自适应路径-记忆网 ......
【略读论文|时序知识图谱补全】Temporal Knowledge Graph Reasoning with Historical Contrastive Learning
会议：AAAI，时间：2023，学校：上海交通大学 摘要： 大多数时序知识图谱的推理方法高度依赖于事件的递归或周期性，这给推断与缺乏历史交互的实体相关的未来事件带来了挑战。本文提出一种新的基于历史对比学习训练框架的对比事件网络（CENET）的新事件预测模型。 1.CENET 学习历史和非历史依赖来区 ......
【略读论文|时序知识图谱补全】Logic and Commonsense-Guided Temporal Knowledge Graph Completion
会议：AAAI，时间：2023，学校：北京航空航天大学 文中谓词可以视为关系。 以往的TKG补全(TKGC)方法不能同时表示事件的时效性和因果关系。为了应对这些问题，作者提出了一个逻辑和尝试引导嵌入模型（LCGE ），从常识的角度共同学习涉及事件的及时性和因果关系的时间敏感表示，以及事件的时间无关表 ......
Linkless Link Prediction via Relational Distillation
目录概符号说明LLP代码 Guo Z., Shiao W., Zhang S., Liu Y., Chawla N. V., Shah N. and Zhao T. Linkless link prediction via relational distillation. ICML, 2023. 概 ......
Distilling Knowledge from Graph Convolutional Networks
目录概符号说明DistillGCNLocal Structure Preserving代码 Yang Y., Qiu J., Song M., Tao D. and Wang X. Distilling knowledge from graph convolutional networks. CVP ......
Decoupled Knowledge Distillation
目录概符号说明DKD代码 Zhao B., Cui Q., Song R., Qiu Y. and Liang J. Decoupled knowledge distillation. CVPR, 2022. 概 对普通的 KD (Knowledge Distillation) 损失解耦得到 Tar ......
UniKGQA Unified Retrieval and Reasoning for Solving Multi-hop Question Answering Over Knowledge Graph
目录概主要内容代码 Jiang J., Zhou K., Zhao W. and Wen J. UniKGQA: Unified retrieval and reasoning for solving multi-hop question answering over knowledge graph ......
Open Domain Question Answering Using Early Fusion of Knowledge Bases and Text
目录概主要内容代码 Sun H., Dhingra B., Zaheer M., Mazaitis K., Salakhutdinov R. and Cohen W. W. Open domain question answering using early fusion of knowledge ......