representation unsupervised momentum contrast
[论文阅读] Self-conditioned Image Generation via Generating Representations
Pre title: Self-conditioned Image Generation via Generating Representations accepted: arXiv 2023 paper: https://arxiv.org/abs/2312.03701 code: https:/ ......
Language Models are Unsupervised Multitask Learners
郑重声明：原文参见标题，如有侵权，请联系作者，将会撤销发布！ OpenAI blog, 2019 ......
Cold Brew: Distilling Graph Node Representations with Incomplete or Missing Neighborhoods
目录概符号说明Cold Brew代码 Zheng W., Huang E. W., Rao N., Katariya S., Wang Z., Subbian K. Cold brew: Distilling graph node representations with incomplete or ......
GPT-2 《Language Models are Unsupervised Multitask Learners》解读
背景 GPT1采用了pre-train + fine-tuning训练方式，也就是说为了适应不同的训练任务，模型还是需要在特定任务的数据集上微调，仍然存在较多人工干预的成本。GPT-2 想彻底解决这个问题，通过 zero-shot，在迁移到其他任务上的时候不需要额外的标注数据，也不需要额外的模型训练 ......
[论文阅读] Learning Component-Level and Inter-Class Glyph Representation for few-shot Font Generation
Pre title: Learning Component-Level and Inter-Class Glyph Representation for few-shot Font Generation accepted: ICME 2023 paper: https://ieeexplore.ie ......
LightGCL Simple Yet Effective Graph Contrastive Learning For Recommendation论文阅读笔记
Abstract 目前的图对比学习方法都存在一些问题，它们要么对用户-项目交互图执行随机增强，要么依赖于基于启发式的增强技术（例如用户聚类）来生成对比视图。这些方法都不能很好的保留内在的语义结构，而且很容易受到噪声扰动的影响。所以我们提出了一个图对比学习范式LightGCL来减轻基于CL的推荐者的通 ......
Segmentation Transformer: Object-Contextual Representations for Semantic Segmentation；OCRNet
Segmentation Transformer: Object-Contextual Representations for Semantic Segmentation * Authors: [[Yuhui Yuan]], [[Xiaokang Chen]], [[Xilin Chen]], [[ ......
Adaptive Graph Contrastive Learning for Recommendation论文阅读笔记
Abstract 在实际的场景中，用户的行为数据往往是有噪声的，并且表现出偏态分布。所以需要利用自监督学习来改善用户表示。我们提出了一种新的自适应图对比学习(AdaGCL)框架，该框架使用两个自适应对比视图生成器来进行数据增强，以更好地增强CF范式。具体的说，我们使用了两个可训练的视图生成器，一个图 ......
Drug response prediction using graph representation learning and Laplacian feature selection
Drug response prediction using graph representation learning and Laplacian feature selection Minzhu Xie 1 2, Xiaowen Lei 3, Jianchen Zhong 3, Jianxing ......
DeepWalk Online Learning of Social Representations
目录概符号说明DeepWalk代码 Perozzi B., AI-Rfou R. and Skiena S. DeepWalk: Online learning of social representations. KDD, 2014. 概 经典的 graph embedding 学习方法. 符号说 ......
【今日收获】Representation Collapse
在深度学习中，对预训练模型进行 fine-tuning 可能会引发一种称为 "Representation Collapse" 的现象。Representation Collapse 指的是模型在 fine-tuning 过程中失去了原始预训练模型所具有的多样性和丰富性的特征表示，导致最终模型的表示 ......
BMR论文阅读笔记（Bootstrapping Multi-view Representations for Fake News Detection）
以往的多媒体假新闻检测研究包括一系列复杂的特征提取和融合网络，从新闻中收集有用的信息。然而，跨模态一致性如何影响新闻的保真度以及不同模态的特征如何影响决策仍然是一个悬而未决的问题。本文提出了一种基于自举多视图表示(BMR)的假新闻检测方案。对于一篇多模态新闻，我们分别从文本、图像模式和图像语义的角度... ......
2023ICCV_Feature Modulation Transformer: Cross-Refinement of Global Representation via High-Frequency Prior for Image Super-Resolution
一. Motivation 1. transformer的工作主要集中在设计transformer块以获得全局信息，而忽略了合并高频先验的潜力 2. 关于频率对性能的影响的详细分析有限（Additionally, there is limited detailed analysis of the i ......
Generative-Contrastive Graph Learning for Recommendation论文阅读笔记
Abstract 首先介绍了一下GCL的一些缺点，GCL是通过数据增强来构造对比视图，然后通过最大化对比视图之间的互信息来提供自监督信号。但是目前的数据增强技术都有着一定的缺点 结构增强随机退出节点或边，容易破坏用户项目的内在本质 特征增强对每个节点施加相同的尺度噪声增强，忽略的节点的独特特征 所以 ......
CA-TCC: 半监督时间序列分类的自监督对比表征学习《Self-supervised Contrastive Representation Learning for Semi-supervised Time-Series Classification》(时间序列、时序表征、时间和上下文对比、对比学习、自监督学习、半监督学习、TS-TCC的扩展版)
现在是2023年11月27日，10:48，今天把这篇论文看了。 论文：Self-supervised Contrastive Representation Learning for Semi-supervised Time-Series Classification GitHub：https://g ......
论文阅读13-SCGC:Simple Contrastive Graph Clustering
论文阅读13-SCGC:Simple Contrastive Graph Clustering 存在的问题 由于对比学习的发展，设计了更加一致和有辨别力的对比损失函数来取代网络训练的聚类引导损失函数。结果，缓解了手动试错问题，并提高了聚类性能。然而，复杂的数据增强和耗时的图卷积操作降低了这些方法的效 ......
【略读论文|时序知识图谱补全】Temporal Knowledge Graph Reasoning with Historical Contrastive Learning
会议：AAAI，时间：2023，学校：上海交通大学 摘要： 大多数时序知识图谱的推理方法高度依赖于事件的递归或周期性，这给推断与缺乏历史交互的实体相关的未来事件带来了挑战。本文提出一种新的基于历史对比学习训练框架的对比事件网络（CENET）的新事件预测模型。 1.CENET 学习历史和非历史依赖来区 ......
通过时序和上下文对比学习时间序列表征《Time-Series Representation Learning via Temporal and Contextual Contrasting》(时间序列、时序表征、时态和上下文对比、对比学习、自监督学习、半监督学习)
现在是2023年11月14日的22:15，肝不动了，要不先回寝室吧，明天把这篇看了，然后把文档写了。OK，明天的To Do List. 现在是2023年11月15日的10:35，继续。 论文：Time-Series Representation Learning via Temporal and C ......
基于时间频率一致性对时间序列进行自监督对比预训练《Self-Supervised Contrastive Pre-Training for Time Series via Time-Frequency Consistency》(时序、时频一致性、对比学习)
2023年11月10日，今天看一篇论文，现在17:34，说实话，想摆烂休息，不想看，可还是要看，拴Q。 论文：Self-Supervised Contrastive Pre-Training for Time Series via Time-Frequency Consistency 或者是：Sel ......
[论文阅读] Mean-Shifted Contrastive Loss for Anomaly Detection
Mean-Shifted Contrastive Loss for Anomaly Detection Abstract 这篇文章探讨了异常检测领域的一个关键问题，即如何通过使用预训练特征来提高异常检测性能。研究者首先介绍了异常检测的背景和现有方法，指出了使用自监督学习和外部数据集预训练特征的潜力。 ......
doris FE启动异常：org.yaml.snakeyaml.representer.Representer: method <init>()V not found
doris FF启动异常，异常信息如下： 2023-11-01 09:53:22,691 INFO (main|1) [PaloFe.start():124] Palo FE starting... 2023-11-01 09:53:22,699 INFO (main|1) [FrontendOpt ......
[论文阅读] PCL: Proxy-based Contrastive Learning for Domain Generalization
PCL: Proxy-based Contrastive Learning for Domain Generalization abstract 领域泛化是指从不同源领域的集合中训练模型，该模型可以直接泛化到未见过的目标领域的问题。一种有前途的解决方案是对比学习，它试图通过利用不同领域之间的样本对之 ......
【图形学笔记】Lecture09-Mesh Representation &Geometry Processing-网格表示与几何处理
Lecture09-Mesh Representation &Geometry Processing-网格表示与几何处理 目录Lecture09-Mesh Representation &Geometry Processing-网格表示与几何处理Mesh Presentation网格表示Smooth ......
[论文速览] SimCSE@ Simple Contrastive Learning of Sentence Embeddings
Pre title: SimCSE: Simple Contrastive Learning of Sentence Embeddings accepted: EMNLP 2021 paper: https://arxiv.org/abs/2104.08821 code: https://githu ......
Robust Graph Representation Learning via Neural Sparsification
目录概符号说明NeuralSparse Zheng C., Zong B., Cheng W., Song D., Ni J., Yu W., Chen H. and Wang W. Robust graph representation learning via neural sparsifica ......
Learning Phrase Representations using RNN Encoder-Decoder for Statistical Machine Translation
Learning Phrase Representations using RNN Encoder-Decoder for Statistical Machine Translation 关键词：GRU、Encoder-Decoder 📜 研究主题 提出了Encoder-Decoder结构，采用两 ......
【PRC】鲁棒跨域伪标记和对比学习的无监督域自适应NIR-VIS人脸识别 Robust Cross-Domain Pseudo-Labeling and Contrastive Learning for Unsupervised Domain Adaptation NIR-VIS Face Recognition
【该文章为杨学长的文章，膜拜】 探索跨领域数据中的内在关系并学习领域不变表示 由于需要在低光照条件下实现24h的人脸识别，近红外加可见光的(NIR-VIS)人脸识别受到了更多的关注。但是数据标注是一个难点。该文章提出了Robust crossdomain Pseudo-labeling and Co ......
Non-terminating decimal expansion; no exact representable decimal result.
上网查了一下这个异常的，找到了原因所在：通过BigDecimal的divide方法进行除法时当不整除，出现无限循环小数时，就会抛异常：java.lang.ArithmeticException: Non-terminating decimal expansion; no exact represen ......
Implicit Autoencoder for Point-Cloud Self-Supervised Representation Learning论文阅读
2023 ICCV Implicit Autoencoder for Point-Cloud Self-Supervised Representation Learning论文阅读，思想很妙，该笔记非常简要 ......
[论文阅读] ECOD: Unsupervised Outlier Detection Using Empirical Cumulative Distribution Functions
ECOD: Unsupervised Outlier Detection Using Empirical Cumulative Distribution Functions Author：Zheng Li, Yue Zhao, Student Member Xiyang Hu, Nicola Bot ......