window-based compression attention details
CF1523C Compression and Expansion
前言 多测不清零，亲人两行泪。 题意 对于一个空的数字串，有两种操作： 删除末尾的 \(n\) 个 \((n \ge 0)\) 元素，并将修改后数字串的最后一个元素加一； 在数字串末尾添加一个数字 \(1\)。 输入 \(n\) 个元素，表示第 \(n\) 次操作后数字串末尾的元素。 思路 首先考虑 ......
tf.keras.layers.Attention: Dot-product attention layer, a.k.a. Luong-style attention.
tf.keras.layers.Attention( View source on GitHub ) Dot-product attention layer, a.k.a. Luong-style attention. Inherits From: Layer, Module tf.keras.la ......
QARV: Quantization-Aware ResNet VAE for Lossy Image Compression
目录简介创新之处模型结构实验结果 什么是Quantization-Aware量化感知？ 简介 该文章基于VAE提出一种新的有损图像压缩方法，起名叫quantization-aware ResNet VAE (QARV). 这种方法集成了测试时间量化和量化感知训练，没有它就无法进行熵编码？ 除此之外还 ......
Self-attention小小实践
目录公式 1 不带权重的自注意力机制公式 2 带权重的自注意力机制 公式 1 不带权重的自注意力机制 \[Attention(X) = softmax(\frac{X\cdot{X^T}}{\sqrt{dim_X}})\cdot X \]示例程序： import numpy as np emb_di ......
FLAC: Federated Learning with Autoencoder Compression and Convergence Guarantee-2022
目的：减少通信量(成本)，例如VGGNet架构具有大约1.38亿个参数（4264 Mb） 方法：具有自动编码器压缩（Autoencoder Compression）且具有收敛保证（Convergence Guarantee）；利用冗余信息（the redundant information）和FL的 ......
CF1901E Compressed Tree 题解
原题链接：CF1901E，树形 dp + 神奇分类讨论。 很容易想到树形 dp。难点在于如何转移以及统计答案，需要大量分讨。 父亲（及其以上）和自己组成连通块，不缩。(只保留自己并且往上传递) 连通块中只有自己一个（记录答案） 一个儿子和自己组成连通块，且自己作为根节点，不和父亲收缩（记录答案） 一 ......
Is Attention Better Than Matrix Decomposition?
Is Attention Better Than Matrix Decomposition? * Authors: [[Zhengyang Geng]], [[Meng-Hao Guo]], [[Hongxu Chen]], [[Xia Li]], [[Ke Wei]], [[Zhouchen Li ......
SegNeXt: Rethinking Convolutional Attention Design for Semantic Segmentation
SegNeXt: Rethinking Convolutional Attention Design for Semantic Segmentation * Authors: [[Meng-Hao Guo]], [[Cheng-Ze Lu]], [[Qibin Hou]], [[Zhengning ......
CCNet: Criss-Cross Attention for Semantic Segmentation
CCNet: Criss-Cross Attention for Semantic Segmentation * Authors: [[Zilong Huang]], [[Xinggang Wang]], [[Yunchao Wei]], [[Lichao Huang]], [[Humphrey S ......
Dual Attention Network for Scene Segmentation：双线并行的注意力
Dual Attention Network for Scene Segmentation * Authors: [[Jun Fu]], [[Jing Liu]], [[Haijie Tian]], [[Yong Li]], [[Yongjun Bao]], [[Zhiwei Fang]], [[H ......
Attention Is All You Need
Attention Is All You Need * Authors: [[Ashish Vaswani]], [[Noam Shazeer]], [[Niki Parmar]], [[Jakob Uszkoreit]], [[Llion Jones]], [[Aidan N. Gomez]], ......
Expectation-Maximization Attention Networks for Semantic Segmentation 使用了EM算法的注意力
Expectation-Maximization Attention Networks for Semantic Segmentation * Authors: [[Xia Li]], [[Zhisheng Zhong]], [[Jianlong Wu]], [[Yibo Yang]], [[Zho ......
CBAM: Convolutional Block Attention Module
CBAM: Convolutional Block Attention Module * Authors: [[Sanghyun Woo]], [[Jongchan Park]], [[Joon-Young Lee]], [[In So Kweon]] doi:https://doi.org/10. ......
PSANet: Point-wise Spatial Attention Network for Scene Parsing双向注意力
PSANet: Point-wise Spatial Attention Network for Scene Parsing * Authors: [[Hengshuang Zhao]], [[Yi Zhang]], [[Shu Liu]], [[Jianping Shi]], [[Chen Cha ......
Object Tracking Network Based on Deformable Attention Mechanism
Object Tracking Network Based on Deformable Attention Mechanism Local library 初读印象 comment:: （DeTrack）采用基于可变形注意力机制的编码器模块和基于自注意力机制的编码器模块相结合的方式进行特征交互。基于 ......
BiFormer: Vision Transformer with Bi-Level Routing Attention 使用超标记的轻量ViT
alias: Zhu2023a tags: 超标记 注意力 rating: ⭐ share: false ptype: article BiFormer: Vision Transformer with Bi-Level Routing Attention * Authors: [[Lei Zhu] ......
A Deformable Attention Network for High-Resolution Remote Sensing Images Semantic Segmentation可变形注意力
A Deformable Attention Network for High-Resolution Remote Sensing Images Semantic Segmentation * Authors: [[Renxiang Zuo]], [[Guangyun Zhang]], [[Rong ......
GCGP：Global Context and Geometric Priors for Effective Non-Local Self-Attention加入了上下文信息和几何先验的注意力
Global Context and Geometric Priors for Effective Non-Local Self-Attention * Authors: [[Woo S]] 初读印象 comment:: （GCGP）提出了一个新的关系推理模块，它包含了一个上下文化的对角矩阵和二维相 ......
Fully Attentional Network for Semantic Segmentation：FLANet
Fully Attentional Network for Semantic Segmentation * Authors: [[Qi Song]], [[Jie Li]], [[Chenghong Li]], [[Hao Guo]], [[Rui Huang]] 初读印象 comment:: (F ......
如何写出漂亮代码 https://libin9ioak.blog.csdn.net/article/details/127749042
从代码的编写规范，格式的优化，设计原则和一些常见的代码优化的技巧等方面总结了45个小技巧： 1、规范命名命名是写代码中最频繁的操作，比如类、属性、方法、参数等。好的名字应当能遵循以下几点： 见名知意 比如需要定义一个变量需要来计数 int i = 0;1名称 i 没有任何的实际意义，没有体现出数量的 ......
Flash-attention 2.3.2 支持 Windows了，但是我的2080ti是不支持的。
不久前Flash-attention 2.3.2 终于支持了 Windows，推荐直接使用大神编译好的whl安装 github.com/bdashore3/flash-attention/releasesstable diffusion webui flash-attention2性能测试 安装环境 ......
【论文解读】System 2 Attention提高大语言模型客观性和事实性
本文简要介绍了论文“System 2 Attention (is something you might need too) ”的相关工作。基于transformer的大语言模型（LLM）中的软注意很容易将上下文中的不相关信息合并到其潜在的表征中，这将对下一token的生成产生不利影响。为了帮助纠正... ......
The Devil Is in the Details: Window-based Attention for Image Compression
目录简介 简介 基于CNN的模型的一个主要缺点是 cNN结构不是为捕捉局部冗余而设计的，尤其是非重复纹理，这严重影响了重建质量。受视觉转换器（ViT）和Swin Transformer最新进展的启发，我们发现将局部感知注意机制与全局相关特征学习相结合可以满足图像压缩的期望。 介绍了一种更简单有效的基 ......
论文笔记: Attributed Graph Clustering: A Deep Attentional Embedding Approach
论文笔记: Attributed Graph Clustering: A Deep Attentional Embedding Approach 中文名称: 属性图聚类：一种深度注意力嵌入方法 论文链接: https://arxiv.org/abs/1906.06532 背景: 图聚类是发现网络 ......
Attention 2015-今
现在attention的热度已经过去了，基本上所有的attention都是transformer的kqv形式的，甚至只要说道attention，默认就是transformer的attention。 为避免遗忘历史，我这里做一个小总结。繁杂的att我就不去了解了，只了解下经典的。 以下以\(h_i\) ......
AIX Oracle 11.2.0.4打PSU crsconfig_lib.pm line 11821解决 (转自：https://blog.csdn.net/jwocnimabi/article/details/125440561)
1. GRID打补丁crsconfig_lib.pm line 11821 # 以root用户登录 # export USER=grid # 建议执行该命令，不执行该命令偶尔导致打补丁失败还会由于许多文件权限变化无法回滚。 # /u01/app/11.2/grid/OPatch/opatch aut ......
System 2 Attention：可以提高不同LLM问题的推理能力
推理正在成为大型语言模型(llm)关注的下一个主要领域。尽管llm拥有先进的能力，但大多数llm经常被简单的错误绊倒，显示出他们在推理方面的局限性。这些模型可能会被上下文中的不相关细节所误导，或者受到输入提示中的偏差的影响。而后一种倾向被称为谄媚，也就是说模型会更偏向与输入一致，而不管准确性如何。人 ......
Predicting gene expression from histone modifications with self-attention based neural networks and transfer learning
Predicting gene expression from histone modifications with self-attention based neural networks and transfer learning Yuchi Chen 1, Minzhu Xie 1, Jie ......
skywalking 部署安装 https://blog.csdn.net/swg321321/article/details/129704345
https://blog.csdn.net/swg321321/article/details/129704345 前言在分布式系统中会出现服务间的相互调用，且服务数量众多。一般会出现如下异常 请求出现异常，需要定位定位具体是哪个服务器发生异常，需要对这个请求链路一步一步调试才能确定那个服务出现异常 ......
论文：FEED-FORWARD NETWORKS WITH ATTENTION CAN SOLVE SOME LONG-TERM MEMORY PROBLEMS
题目：FEED-FORWARD NETWORKS WITH ATTENTION CAN SOLVE SOME LONG-TERM MEMORY PROBLEMS” (Raffel 和 Ellis, 2016, p. 1) “带有注意力的前馈网络可以解决一些长期记忆问题” (Raffel 和 Elli ......