transformer
End-to-End Object Detection with Transformers论文阅读笔记
## 摘要 作者提出了一种新的基于Transformer的目标检测模型DETR，将检测视为集合预测问题，无需进行nms以及anchor generation等操作。同时，对模型进行简单的修改就可以应用到全景分割任务中。 ## 方法 ### Object detection set predictio ......
ICML 2023 | 轻量级视觉Transformer (ViT) 的预训练实践手册
前言 本文介绍一下最近被 ICML 2023 接收的文章：A Closer Look at Self-Supervised Lightweight Vision Transformers.文章聚焦在轻量级 ViT 的预训练上，相当于为相关方向的研究提供了一个 benchmark，相关的代码与模型也都 ......
CF280E - Sequence Transformation
给定一个不降整数序列 $1\le x_1\le x_2\le \cdots\le x_n\le q$，请构造一个实数序列 $y$ 满足 $y_i\in [1,q]$，$y_i-y_{i-1}\in[a,b]$，且最小化 $\sum (y_i-x_i)^2$，保证有解。 #### 利用凸函数性质维护导 ......
Learning Affinity from Attention: End-to-End Weakly-Supervised Semantic Segmentation with Transformers概述
0.前言 相关资料： arxiv github 论文解读 论文基本信息： 领域：弱监督语义分割 发表时间： CVPR 2022(2022.3.5) 1.针对的问题 目前主流的弱监督语义分割方法通常首先训练分类模型，基于类别激活图（CAM）或其变种生成初始伪标签；然后对伪标签进行细化作为监督信息训练一 ......
【研究生学习】Transformer模型以及Pytorch实现
Transformer是Google在2017年提出的网络架构，仅依赖于注意力机制就可以处理序列数据，从而可以不使用RNN或CNN。当前非常热门的BERT模型就是基于Transformer构建的，本篇博客将介绍Transformer的基本原理，以及其在Pytorch上的实现。 ......
加餐-基于Transformer实现中译英（tf2.x）
# 1.项目概述 > 本实例使用Transformer这个强大的特征提取工具，把英文翻译成中文。具体步骤先构建Transorformer架构，然后训练模型、评估模型，最后使用几个英文语句测试模型效果。 > > 为便于训练，这里训练数据仅使用使用TensorFlow2上的wmt19_translate ......
Do Transformers Really Perform Badly for Graph Representation
Ying C., Cai T., Luo S., Zheng S., Ke D., Shen Y. and Liu T. Do transformers really perform badly for graph representation? NIPS, 2021. 概 本文提出了一种基于图的 ......
免注意力Transformer (AFT)：使用逐元素乘积而不是点积
注意力机制作为现代深度学习模型的基石，能够毫不费力地对长期依赖进行建模，并关注输入序列中的相关信息。然而，需要点积自注意力 - 广泛使用在Transformer架构中的一个关键组件 - 已被证明在序列长度方面具有二次空间复杂度，因此不适用于处理长输入。在本文中，我们介绍了Attention Free ......
在 Transformers 中使用对比搜索生成可媲美人类水平的文本 🤗
1. 引言 自然语言生成 (即文本生成) 是自然语言处理 (NLP) 的核心任务之一。本文将介绍神经网络文本生成领域当前最先进的解码方法 对比搜索 (Contrastive Search)。提出该方法的论文 “A Contrastive Framework for Neural Text Gener ......
Transformer 模型中的positional encoding(位置编码)计算理解(2)
以下（以上）内容来自(参考): https://www.bilibili.com/video/BV1Di4y1c7Zm?p=2&vd_source=6292df769fba3b00eb2ff1859b99d79e import numpy as np def getPositionEncoding( ......
Customising claims transformation in ASP.NET Core Identity
I’ve been testing out the new version of ASP.NET Identity and had the need to include additional claims in the ClaimIdentity generated when a user is ......
Transformers回顾 ：从BERT到GPT4
人工智能已成为近年来最受关注的话题之一，由于神经网络的发展，曾经被认为纯粹是科幻小说中的服务现在正在成为现实。从对话代理到媒体内容生成，人工智能正在改变我们与技术互动的方式。特别是机器学习 (ML) 模型在自然语言处理 (NLP) 领域取得了重大进展。一个关键的突破是引入了“自注意力”和用于序列处理 ......
Transformer 估算 101
Transformer 估算 101 本文主要介绍用于估算 transformer 类模型计算量需求和内存需求的相关数学方法。 引言 其实，很多有关 transformer 语言模型的一些基本且重要的信息都可以用很简单的方法估算出来。不幸的是，这些公式在 NLP 社区中鲜为人知。本文的目的是总结这些 ......
ETL--Extract-Transform-Load
ETL，是英文Extract-Transform-Load的缩写，用来描述将数据从来源端经过抽取（extract）、转换（transform）、加载（load）至目的端的过程。ETL一词较常用在数据仓库，但其对象并不限于数据仓库。 ETL是将业务系统的数据经过抽取、清洗转换之后加载到数据仓库的过程， ......
现代计算机图形学——P4. Transformation 3D
P4. Transformation Cont. （上节课补充） ———————————————————————————————————————————————————————————————— 今天的内容： ————————————————————————————————————————————— ......
kettle从入门到精通 第十七课 kettle Transformation executor
Transformation executor步骤是一个流程控件，和映射控件类似却又不一样。 1、子转换需要配合使用从结果获取记录和复制记录到结果两个步骤，而子映射需要配合映射输入规范和映射输出规范使用。 如下子转换实现的功能是计算x+y的值 2、从结果获取记录 1）步骤名称：自定义 2）字段：设置 ......
[MRCTF2020]Transform 1
#查壳： ###64位，先看看运行有问题吗： ####任意输入给你弹了一个wrong ###进IDA看看： ####解释：输入一个字符串，要满足字符串的长度为33，不然就报错。接下来是在输入的字符串中拿出特定的字符，进行异或后得到一个新的字符串，最后与特定的字符串对比。 ####这样看来，我们先看要 ......
Pytorch-Vanilla Transformer的实现
Vanilla Transformer 注意力提示 我们可以将是否包含自主性提示作为将注意力机制与全连接层或汇聚层区别的标准。 定义外部输入至感官的信息为键-值，键是表征值的非自主提示，关注信息为查询（自主性提示） 非自主提示：决策选择偏向于感官输入值，可使用参数化的全连接层或非参数化的最大 ......
Pytorch-Vanilla Transformer的实现
Vanilla Transformer 注意力提示 我们可以将是否包含自主性提示作为将注意力机制与全连接层或汇聚层区别的标准。 定义外部输入至感官的信息为键-值，键是表征值的非自主提示，关注信息为查询（自主性提示） 非自主提示：决策选择偏向于感官输入值，可使用参数化的全连接层或非参数化的最大 ......
2023AAAI_Ultra-High-Definition Low-Light Image Enhancement: A Benchmark and Transformer-Based Method(LLformer)
一. motivition 1. 之前的数据集分辨率较低 二. contribution 1. 提出两个超高清数据集UHD-4k和UHD-8k 2. 网络结构LLFormer(网络结构类似2022CVPR_Restormer: Effificient Transformer forHigh-Reso ......
Transformer学习
Transformer学习 此帖用于整理回顾自己学transformer的一些问题和知识 极好的博客和资料： Transformer 模型详解-CSDN博客：原理讲的很清楚 举个例子讲下transformer的输入输出细节及其他 - 知乎 (zhihu.com)：讲的是输入输出的细节 Transfo ......
【pytorch】土堆pytorch教程学习（四）Transforms 的使用
transforms 在工具包 torchvision下，用来对图像进行预处理：数据中心化、数据标准化、缩放、裁剪、旋转、翻转、填充、噪声添加、灰度变换、线性变换、仿射变换、亮度/饱和度/对比度变换等。 transforms 本质就是一个python文件，相当于一个工具箱，里面包含诸如 Resize ......
[Prompt] Transforming
Transforming In this notebook, we will explore how to use Large Language Models for text transformation tasks such as language translation, spelling a ......
李宏毅transformer笔记
首先这里解决的问题是Seq2Seq 列出各种场景，语音识别，机器翻译，chatbot 当前现在NLP模型之所以这么重要，在于他的通用能力，很多场景都可以转换成Seq2Seq summary，情感分析啊，只要你能通过QA和机器交互的场景都可以是Seq2Seq 这里的例子，语法树解析，多元分类，甚至是对 ......
An Image Is Worth 16x16 Words: Transformers For Image Recognition At Scale
模型如下图所示: 将H×W×C的图像reshape成了N×(P2×C),其中(H,W)是图像的原始分辨率,C是通道数,(P,P)是每个图像块的分辨率,N=H×W/P2为图像块的数量,将一个图像块使用可学习的线性层映射到维度为D的隐藏向量,如式(1)所示,线性映射的输出称为patch embeddin ......
【阅读】Transformer
参考 Attention Is All You Need A General Survey on Attention Mechanisms in Deep Learning 注意力足矣（Attention Is All You Need） 一般注意力模型 这个模型接受一个输入，执行指定的任务，然后产 ......
Transformers 发展一览
动动发财的小手，点个赞吧！ Transformers 研究概览 1. 介绍 近年来，深度学习的研究步伐显着加快，因此越来越难以跟上所有最新发展。尽管如此，有一个特定的研究方向因其在自然语言处理、计算机视觉和音频处理等多个领域取得的成功而备受关注。这在很大程度上归功于其高度适应性的架构。该模型称为 T ......
论文阅读笔记《Stochastic Grounded Action Transformation for Robot Learning in Simulation》
Stochastic Grounded Action Transformation for Robot Learning in Simulation 发表于IROS 2020(CCF C) 模拟中机器人学习的随机接地动作转换 Desai S, Karnan H, Hanna J P, et al. ......
论文阅读笔记《Grounded Action Transformation for Robot Learning in Simulation》
Grounded Action Transformation for Robot Learning in Simulation 发表于AAAI 2017 仿真机器人学习中的接地动作变换 Hanna J, Stone P. Grounded action transformation for robo ......