轻量transformer标记attention
Swin Transformer 马尔奖论文（ICCV 2021最佳论文）
目录 简介 作者之一的微软亚研院的首席研究员胡瀚老师在bibili讲过该论文 swin transformer比ViT做的更好的原因之一就是它将图片的一些特性嵌入到了网络模型之中，比如说平移不变性和尺寸不变性等，这样使得网络能够在cv领域做的更好。 该文章提出的Swin Transformer可以被 ......
Flash-attention 2.3.2 支持 Windows了，但是我的2080ti是不支持的。
不久前Flash-attention 2.3.2 终于支持了 Windows，推荐直接使用大神编译好的whl安装 github.com/bdashore3/flash-attention/releasesstable diffusion webui flash-attention2性能测试 安装环境 ......
【论文解读】System 2 Attention提高大语言模型客观性和事实性
本文简要介绍了论文“System 2 Attention (is something you might need too) ”的相关工作。基于transformer的大语言模型（LLM）中的软注意很容易将上下文中的不相关信息合并到其潜在的表征中，这将对下一token的生成产生不利影响。为了帮助纠正... ......
The Devil Is in the Details: Window-based Attention for Image Compression
目录简介 简介 基于CNN的模型的一个主要缺点是 cNN结构不是为捕捉局部冗余而设计的，尤其是非重复纹理，这严重影响了重建质量。受视觉转换器（ViT）和Swin Transformer最新进展的启发，我们发现将局部感知注意机制与全局相关特征学习相结合可以满足图像压缩的期望。 介绍了一种更简单有效的基 ......
MIT斯坦福Transformer最新研究：过度训练让中度模型「涌现」结构泛化能力
前言 过度训练让中度模型出现了结构泛化能力。 本文转载自新智元 仅用于学术分享，若侵权请联系删除 欢迎关注公众号CV技术指南，专注于计算机视觉的技术总结、最新技术跟踪、经典论文解读、CV招聘信息。 CV各大方向专栏与各个部署框架最全教程整理 【CV技术指南】CV全栈指导班、基础入门班、论文指导班 全 ......
transformer模型
Transformer由谷歌团队在论文《Attention is All You Need》提出，是基于attention机制的模型，最大的特点就是全部的主体结构均为attention。 以下部分图片来自论文，部分图片来自李宏毅老师的transformer课程 课程链接：强烈推荐！台大李宏毅自注意力 ......
Transformer架构在大型语言模型(LLM)中的应用与实践
Transformer架构是当今最前沿的语言模型技术之一，它已经在谷歌的BERT、OpenAI的GPT系列中取得了显著的成就。这一架构之所以独特，是因为它打破了传统的序列处理模式，引入了创新的“自注意力”机制。 Transformer架构的核心是自注意力机制，它使模型能够识别和重视输入数据中不同部分 ......
【线段树入门】 P1198 最大数(区间最大值+无懒标记+末尾插入)
1 //笔记-自用 2 //#pragma GCC optimize("Ofast") 3 //#pragma GCC optimize("unroll-loops") 4 #define _CRT_SECURE_NO_WARNINGS 5 #define All(a) a.begin(),a.en ......
[论文阅读] Replacing softmax with ReLU in Vision Transformers
Pre title: Replacing softmax with ReLU in Vision Transformers accepted: Arxiv 2023 paper: https://export.arxiv.org/abs/2309.08586 code: None 关键词：atten ......
使用Python openpyxl找出两个文件的差异之处并标记
# It imports the PatternFill class from the openpyxl.styles module. from openpyxl.styles import PatternFill # It imports the colors class from the ope ......
论文笔记: Attributed Graph Clustering: A Deep Attentional Embedding Approach
论文笔记: Attributed Graph Clustering: A Deep Attentional Embedding Approach 中文名称: 属性图聚类：一种深度注意力嵌入方法 论文链接: https://arxiv.org/abs/1906.06532 背景: 图聚类是发现网络 ......
unity Transform 的 Rotate(xAngle: float, yAngle: float, zAngle: float, relativeTo: Space = Space.Self, Space.World); 刨根问底
public class demoword2 : MonoBehaviour { // Start is called before the first frame update void Start() { //transform.Rotate(60, 70, 80, Space.World); ......
Attention 2015-今
现在attention的热度已经过去了，基本上所有的attention都是transformer的kqv形式的，甚至只要说道attention，默认就是transformer的attention。 为避免遗忘历史，我这里做一个小总结。繁杂的att我就不去了解了，只了解下经典的。 以下以\(h_i\) ......
基于Transformer的遥感影像目标检测研究
基于Transformer的遥感影像目标检测研究 1. 研究课题三要素 1.1 研究对象 遥感影像。 1.2 研究问题 目标检测任务指的是为每个感兴趣的对象预测一组边界框和类别标签。与自然场景下的通用目标检测不同，遥感影像存在一些自身的特点，例如遥感图像幅面大、成像视角单一、可提取的特征较少；目标数 ......
Retentive Networks Meet Vision Transformers， 视觉RetNet
alias: Fan2023 tags: RetNet rating: ⭐ share: false ptype: article RMT: Retentive Networks Meet Vision Transformers 初读印象 comment:: (RMT)Retentive Netwo ......
System 2 Attention：可以提高不同LLM问题的推理能力
推理正在成为大型语言模型(llm)关注的下一个主要领域。尽管llm拥有先进的能力，但大多数llm经常被简单的错误绊倒，显示出他们在推理方面的局限性。这些模型可能会被上下文中的不相关细节所误导，或者受到输入提示中的偏差的影响。而后一种倾向被称为谄媚，也就是说模型会更偏向与输入一致，而不管准确性如何。人 ......
线段树模板区间加（含懒标记）
const int N = 1e5 + 10; int n, m; int a[N]; struct Tree{ int l,r; ll sum,add; }tr[4*N]; void build(int u,int l,int r){ // l=tr[u].l;r=tr[u].r; //注释掉的部 ......
Predicting gene expression from histone modifications with self-attention based neural networks and transfer learning
Predicting gene expression from histone modifications with self-attention based neural networks and transfer learning Yuchi Chen 1, Minzhu Xie 1, Jie ......
深入解析LLaMA如何改进Transformer的底层结构
本篇文章将以LLaMA 模型为例，介绍大语言模型架构在Transformer 原始结构上的改进，并介绍Transformer 模型结构中空间和时间占比最大的注意力机制优化方法。 ......
svg transform总结
1. svg的transform和dom的不同，旋转中心不是默认自身，而是画布左上角 2. svg要以自身为中心旋转，可以使用rotate(angle [x y]), 比css的rotate(angel)多了x,y两个参数，x,y分别设置为svg图形的中心点坐标即可 3. 线性变换 translat ......
.NET 轻量级工作流引擎
title: .NET 轻量级工作流引擎 updated: 2023-09-15 07:58:10Z created: 2023-09-15 07:58:10Z source: https://mp.weixin.qq.com/s/Q3B8tUwqosNLcX6_5_Ka3Q tags: - dot ......
大语言模型底层架构丨带你认识Transformer
本文分享自华为云社区《大语言模型底层架构你了解多少？大语言模型底层架构之一Transfomer的介绍和python代码实现》，作者： 码上开花_Lancer 。 语言模型目标是建模自然语言的概率分布，在自然语言处理研究中具有重要的作用，是自然语言处理基础任务之一。大量的研究从n 元语言模型（n-gr ......
Erasing, Transforming, and Noising Defense Network for Occluded Person Re-Identification
三个分支：擦除、转换、噪声 用来生成对抗性表征，模拟遮挡问题 对应信息丢失、位置错位和噪声信息 对抗性防御：思路是GAN网络，以对抗性的方式优化生成器和判别器 ......
go-carbon v2.2.14 发布，轻量级、语义化、对开发者友好的 Golang 时间处理库
carbon 是一个轻量级、语义化、对开发者友好的 golang 时间处理库，支持链式调用。 目前已被 awesome-go 收录，如果您觉得不错，请给个 star 吧 github.com/golang-module/carbon gitee.com/golang-module/carbon 安装 ......
2023ICCV_Feature Modulation Transformer: Cross-Refinement of Global Representation via High-Frequency Prior for Image Super-Resolution
一. Motivation 1. transformer的工作主要集中在设计transformer块以获得全局信息，而忽略了合并高频先验的潜力 2. 关于频率对性能的影响的详细分析有限（Additionally, there is limited detailed analysis of the i ......
简化版Transformer ：Simplifying Transformer Block论文详解
前言 本文探讨了来自苏黎世联邦理工学院计算机科学系的Bobby He和Thomas Hofmann在他们的论文“Simplifying Transformer Blocks”中介绍的Transformer技术的进化步骤。这是自Transformer 开始以来，我看到的最好的改进。 本文转载自Deep ......
CSS进阶3-transform 动画-渐变(线性渐变、镜像渐变)-关键帧
1. 动画 介绍：改变盒子在平面内的形态（平移、缩放、旋转、倾斜） 属性： 平移：transform：translate(值1 ，值2);(默认为X轴，translateY--下移) — —平移依然在原来文档流。 移动：transform：translate(值1，值2)；可右斜移动 代码： /* ......
LLM 学习笔记-transformers库的 PreTrainedModel 和 ModelOutput 到底是什么？
闲言碎语 我在刚开始接触 huggingface （后简称 hf） 的 transformers 库时候感觉很冗杂，比如就模型而言，有 PretrainedModel, AutoModel，还有各种 ModelForClassification, ModelForCausalLM, AutoMode ......
Google Colab 现已支持直接使用 transformers 库
Google Colab，全称 Colaboratory，是 Google Research 团队开发的一款产品。在 Colab 中，任何人都可以通过浏览器编写和执行任意 Python 代码。它尤其适合机器学习、数据分析和教育目的。从技术上来说，Colab 是一种托管式 Jupyter 笔记本服务。 ......
ETL (Extra-Transform-Load)
背景介绍 随着企业的发展，目前的业务线越来越复杂，各个业务系统独立运营。例如：CRM系统只会生产CRM的 数据；Billing只会生产Billing的数据。各业务系统之间只关心自己的数据，导致各业务系统之间数据相互独立，互不相通。一旦业务系统之间进行数据交互，只能通过传统的webservice接口之 ......