revisited sampling random论文
Generative-Contrastive Graph Learning for Recommendation论文阅读笔记
Abstract 首先介绍了一下GCL的一些缺点，GCL是通过数据增强来构造对比视图，然后通过最大化对比视图之间的互信息来提供自监督信号。但是目前的数据增强技术都有着一定的缺点 结构增强随机退出节点或边，容易破坏用户项目的内在本质 特征增强对每个节点施加相同的尺度噪声增强，忽略的节点的独特特征 所以 ......
一段博士论文致谢
摘自：https://www.zhihu.com/question/58018004/answer/396042486 读博士的过程像西天取经一样，欲取得真经，需历尽万苦千辛。故事中的唐僧是个幸福的博士，有白龙马骑，有悟空的保护，有八戒的冷幽默，有悟净的分担，有漂亮女妖的惦记和多情。更有天朝的庇佑和 ......
简化版Transformer来了，网友：年度论文
前言 从大模型的根源开始优化。 本文转载自机器之心 仅用于学术分享，若侵权请联系删除 欢迎关注公众号CV技术指南，专注于计算机视觉的技术总结、最新技术跟踪、经典论文解读、CV招聘信息。 CV各大方向专栏与各个部署框架最全教程整理 【CV技术指南】CV全栈指导班、基础入门班、论文指导班 全面上线!! ......
简化版Transformer ：Simplifying Transformer Block论文详解
在这篇文章中我将深入探讨来自苏黎世联邦理工学院计算机科学系的Bobby He和Thomas Hofmann在他们的论文“Simplifying Transformer Blocks”中介绍的Transformer技术的进化步骤。这是自Transformer 开始以来，我看到的最好的改进。 大型语言模 ......
[论文速览] R-Drop@ Regularized Dropout for Neural Networks
Pre title: R-Drop: Regularized Dropout for Neural Networks accepted: NeurIPS 2021 paper: https://arxiv.org/abs/2106.14448 code: https://github.com/dro ......
论文精读之Unet
提问： 1.将输入图像从1扩展为64的过程发生了什么？通道与通道之间的不同是如何实现的？其中的所有东西都是随机的吗？ 2.怎样实现："该 网 络 没 有 任 何 完 全 连 接 的 层 ， 只 使 用 每 个 卷 积 的 有 效 部 分"中的“只 使 用 每 个 卷 积 的 有 效 部 分” 3.怎 ......
【论文阅读笔记】【OCR-文本识别】 LISTER: Neighbor Decoding for Length-Insensitive Scene Text Recognition
LISTER ICCV 2023 读论文思考的问题 论文试图解决什么问题？ 由于长尾效应和错误累积等原因，现有的文本识别模型对于长文本的识别能力较差 如何提高模型对于长度较长的文本的识别能力？ 文章提出了什么样的解决方法？ 提出了 LISTER 模型，引入了 neighbor matrix 的概念， ......
FPGA入门笔记007_A——按键消抖模块设计与验证（状态机、$random、仿真模型、task语法）
实验现象： 每次按下按键0，4个LED显示状态以二进制加法格式加1。 每次按下按键1，4个LED显示状态以二进制加法格式减1。 知识点： 1、testbench中随机数发生函数$random的使用； 2、仿真模型的概念 1、按键波形分析： 按键未按，FPGA管脚检测到高电平。 按键按下，FPGA管脚 ......
C++随机数random库 介绍及应用
一、摘要 随机数可以应用在很多场景下如游戏抽卡、抽奖、场景生成、洗牌，歌曲app中的随机播放，社交app中的匹配等以及随机化算法。 以下是针对C中随机函数rand、C++random库使用的总结，以及一些随机应用例子 二、C/C++ 中的rand 函数 使用时需要引入头文件<stdlib.h> 该函 ......
论文：Predicting Optical Water Quality Indicators from Remote Sensing Using Machine Learning Algorithms in Tropical Highlands of Ethiopia
水刊，中科院都没有收录。不属于sci。 吃一堑长一智，以后先看属于哪个期刊的。总是忘记。 期刊：Hydrology 浪费时间，啥也没有，没有创新点，就一点点的对比工作量。 “Predicting Optical Water Quality Indicators from Remote Sensing ......
论文：Predicting the performance of green stormwater infrastructure using multivariate long short-term memory (LSTM) neural network
题目“Predicting the performance of green stormwater infrastructure using multivariate long short-term memory (LSTM) neural network” (Al Mehedi 等, 2023, ......
java基础学习：random随机数，random案例
1.Random使用步骤： package com.itheima.Random; import java.util.Random; public class Random1 { public static void main(String[] args) { Random random=new R ......
VoxelNeXt论文解读
前言 VoxelNeXt是一个采用全稀疏卷积的3D目标检测方法，该方法启发自CenterPoint，将输入点云场景体素化后通过3D稀疏卷积提取3D体素特征，提取的特征经高度压缩后采用2D稀疏卷积Head预测。不同于CenterPoint通过热力图的方式预测各个目标的中心点，VoxelNeXt预测各个 ......
[ABC277G] Random Walk to Millionaire 题解
题目链接 点击打开链接 题目解法 首先 \(O(n^3)\) 的 \(dp\) 是显然的，令 \(f_{i,j,k}\) 为第 \(i\) 步在 \(j\)，当前等级为 \(k\) 的 \([i,n]\) 步获得钱数的期望，转移枚举出边即可 一个很妙的优化是：贡献都是 \(k^2\) 的形式，所以我 ......
论文：FEED-FORWARD NETWORKS WITH ATTENTION CAN SOLVE SOME LONG-TERM MEMORY PROBLEMS
题目：FEED-FORWARD NETWORKS WITH ATTENTION CAN SOLVE SOME LONG-TERM MEMORY PROBLEMS” (Raffel 和 Ellis, 2016, p. 1) “带有注意力的前馈网络可以解决一些长期记忆问题” (Raffel 和 Elli ......
论文：Multistep ahead prediction of temperature and humidity in solar greenhouse based on FAM-LSTM model
Multistep ahead prediction of temperature and humidity in solar greenhouse based on FAM-LSTM model 基于 FAM-LSTM 模型的日光温室温湿度多步提前预测 题目：“Multistep ahead pr ......
神经网络入门篇：详解随机初始化（Random+Initialization）
当训练神经网络时，权重随机初始化是很重要的。对于逻辑回归，把权重初始化为0当然也是可以的。但是对于一个神经网络，如果把权重或者参数都初始化为0，那么梯度下降将不会起作用。 来看看这是为什么。 有两个输入特征，\(n^{[0]} = 2\)，2个隐藏层单元\(n^{[1]}\)就等于2。 因此与一个隐 ......
论文阅读13-SCGC:Simple Contrastive Graph Clustering
论文阅读13-SCGC:Simple Contrastive Graph Clustering 存在的问题 由于对比学习的发展，设计了更加一致和有辨别力的对比损失函数来取代网络训练的聚类引导损失函数。结果，缓解了手动试错问题，并提高了聚类性能。然而，复杂的数据增强和耗时的图卷积操作降低了这些方法的效 ......
【略读论文|时序知识图谱补全】Tucker Decomposition with Frequency Attention for Temporal Knowledge Graph Completion
会议：ACL，时间：2023，学校：北京航空航天大学，多伦多大学 关键词：基于张量分解；频率注意力；正则化 摘要： 之前基于张量分解的TKGC模型存在仅独立考虑一种关系与一个时间戳的组合，忽略了嵌入的全局性质的问题。 本文的方法：一种频率注意力（FA）模型来捕获一个关系与整个时间戳之间的全局时间依赖 ......
speculative-sampling笔记
title: speculative-sampling笔记 banner_img: https://cdn.studyinglover.com/pic/2023/09/d5ca60e13944b8fb7e33e289bdc411d3.png index_img: https://cdn.studyi ......
vqvae 论文阅读
https://arxiv.org/abs/1711.00937 直接3.1 首先我们定义一个嵌入空间. 是K*D维度的. K是离散空间向量的数量. D是每一个向量的维度. 所以e_i 中的i属于 1到K. 模型的输入是x, 也就是图片. 然后模型编码成一个z_e(x). 然后使用最近算法来得到 z ......
【4.0】常用模块之random模块
【一】导入模块 import random 【二】随机小数 【1】默认区间的小数(random) 大于0且小于1之间的小数 import random # 默认是 大于0且小于1之间的小数 res = random.random() print(res) # 0.24512653841495302 ......
如何写论文的笔记
#论题陈述 改善稀疏奖励的强化学习有助于移动机器人动态避障 #收集论证 #阅读文献-记录 阅读时做一个word文档，五列的表格。 第一列，文献标题。第二列，期刊名称。第三列，研究对象、问题。第四列，研究方法、理论、视角。第五列，数据来源。 为了对抗网络上不相关，不准确，动机险恶的信息，你们应该牢记一 ......
使用NVIDIA HPC SDK构建cuda-samples
NVIDIA HPC SDK虽然附带了CUDA、cuBLAS等库，但安装路径与CUDA Toolkit有差异。cuda-samples有些示例用到了cuBLAS等数学库，按照文档直接make会找不到库文件。 翻找示例的Makefile想找全局的设置，发现有行ALL_CCFLAGS += $(EXTR ......
【论文解读】在上下文中学习创建任务向量
【论文解读】在上下文中学习创建任务向量 一、简要介绍 大型语言模型（LLMs）中的上下文学习（ICL）已经成为一种强大的新的学习范式。然而，其潜在的机制仍未被很好地了解。特别是，将其映射到“标准”机器学习框架是具有挑战性的，在该框架中，人们使用训练集S在某些假设类中找到最佳拟合函数f (x)。在这里 ......
【论文阅读笔记】【OCR-End2End】 ESTextSpotter: Towards Better Scene Text Spotting with Explicit Synergy in Transformer
ESTextSpotter ICCV 2023 读论文思考的问题 论文试图解决什么问题？ 场景文本端到端识别任务中，检测和识别两个任务的协同作用十分关键，然而以往的方法通常用一些十分隐式的方式来体现这种协同作用（shared backbone, shared encoder, shared quer ......
Convolutional Neural Networks on Graphs with Chebyshev Approximation, Revisited
目录概符号说明MotivationChebNetII代码 He M., Wei Z. and Wen J. Convolutional neural networks on graphs with chebyshev approximation, revisited. NIPS, 2022. 概 作 ......
【略读论文|时序知识图谱补全】Learn from Relational Correlations and Periodic Events for Temporal Knowledge Graph Reasoning
会议：SIGIR，时间：2023，学校：国防科技大学 摘要： 之前模型存在的问题：未能利用快照内结构信息的关系之间的语义相关性与快照间时间交互沿时间轴的周期性时间模式。 本文的工作：提出了一种新的推理模型（RPC）；它通过两个新的通信单元，即关系通信单元(RCU)和周期通信单元(PCU)，充分挖掘关 ......
如何使用markdown写毕业论文
step 1: pandoc: https://github.com/jgm/pandoc/releases step 2: pandoc-crossref: https://github.com/lierdakil/pandoc-crossref/releases step 3: pip3 ins ......
论文阅读笔记：Revisiting Prototypical Network for Cross Domain Few-Shot Learning
标题：重新审视用于跨领域少样本学习的原型网络 研究背景： 问题背景：原型网络是一种流行的小样本学习方法， 其网络简单而直观，对于小样本学习问题有着较好的表现，尤其是在图像分类等领域。 存在问题：然而，当推广到跨领域的少样本分类任务时，其性能出现了大幅度下降，这严重限制了原型网络的实用性。 研究动机： ......