reinforcement transformer decision learning
Instruction-Following Agents with Multimodal Transformer
概述 提出了InstructRL，包含一个multimodal transformer用来将视觉obs和语言的instruction进行编码，以及一个transformer-based policy，可以基于编码的表示来输出actions。 前者在1M的image-text对和NL的text上进行训 ......
关于UIView transform使用注意点
先上代码 let tView = UIView()override func viewDidLoad() { tView.backgroundColor = .orange view.addSubview(tView)} override func viewWillLayoutSubViews() ......
将Transformer用于扩散模型，AI 生成视频达到照片级真实感
前言 在视频生成场景中，用 Transformer 做扩散模型的去噪骨干已经被李飞飞等研究者证明行得通。这可算得上是 Transformer 在视频生成领域取得的一项重大成功。 本文转载自机器之心 仅用于学术分享，若侵权请联系删除 欢迎关注公众号CV技术指南，专注于计算机视觉的技术总结、最新技术跟踪 ......
纯卷积BEV模型的巅峰战力 | BEVENet不用Transformer一样成就ADAS的量产未来(转)
近年来，在自动驾驶领域，鸟瞰视角（BEV）空间中的3D目标检测作为一种普遍的方法逐渐脱颖而出。尽管与视角视图方法相比，BEV方法在精度和速度估计方面得到了改进，但将BEV技术部署到实际自动驾驶车辆中仍然具有挑战性。这主要归因于它们依赖于基于视觉 Transformer （ViT）的架构，这使得相对于 ......
《Progressive Learning of Category-Consistent Multi-Granularity Features for Fine-Grained Visual Classification》阅读笔记
论文标题 《Progressive Learning of Category-Consistent Multi-Granularity Features for Fine-Grained Visual Classification》 细粒度视觉分类中类别一致多粒度特征的渐进学习 作者 Ruoyi D ......
【scikit-learn基础】--『预处理』之 数据缩放
数据的预处理是数据分析，或者机器学习训练前的重要步骤。通过数据预处理，可以 提高数据质量，处理数据的缺失值、异常值和重复值等问题，增加数据的准确性和可靠性 整合不同数据，数据的来源和结构可能多种多样，分析和训练前要整合成一个数据集 提高数据性能，对数据的值进行变换，规约等（比如无量纲化），让算法更加 ......
【学习笔记】transformer 简札
高铁心血来潮逼着自己把这个模型的结构看了一遍，不写下来会忘掉的 Encoder 输入是词向量。 word vector -> [(multihead) self-attention -> forward ]×n-> layer normalization self attention 就是 qkv矩 ......
Swin Transformer 马尔奖论文（ICCV 2021最佳论文）
目录 简介 作者之一的微软亚研院的首席研究员胡瀚老师在bibili讲过该论文 swin transformer比ViT做的更好的原因之一就是它将图片的一些特性嵌入到了网络模型之中，比如说平移不变性和尺寸不变性等，这样使得网络能够在cv领域做的更好。 该文章提出的Swin Transformer可以被 ......
【scikit-learn基础】--『预处理』之 标准化
数据的预处理是数据分析，或者机器学习训练前的重要步骤。通过数据预处理，可以 提高数据质量，处理数据的缺失值、异常值和重复值等问题，增加数据的准确性和可靠性 整合不同数据，数据的来源和结构可能多种多样，分析和训练前要整合成一个数据集 提高数据性能，对数据的值进行变换，规约等（比如无量纲化），让算法更加 ......
MIT斯坦福Transformer最新研究：过度训练让中度模型「涌现」结构泛化能力
前言 过度训练让中度模型出现了结构泛化能力。 本文转载自新智元 仅用于学术分享，若侵权请联系删除 欢迎关注公众号CV技术指南，专注于计算机视觉的技术总结、最新技术跟踪、经典论文解读、CV招聘信息。 CV各大方向专栏与各个部署框架最全教程整理 【CV技术指南】CV全栈指导班、基础入门班、论文指导班 全 ......
transformer模型
Transformer由谷歌团队在论文《Attention is All You Need》提出，是基于attention机制的模型，最大的特点就是全部的主体结构均为attention。 以下部分图片来自论文，部分图片来自李宏毅老师的transformer课程 课程链接：强烈推荐！台大李宏毅自注意力 ......
Transformer架构在大型语言模型(LLM)中的应用与实践
Transformer架构是当今最前沿的语言模型技术之一，它已经在谷歌的BERT、OpenAI的GPT系列中取得了显著的成就。这一架构之所以独特，是因为它打破了传统的序列处理模式，引入了创新的“自注意力”机制。 Transformer架构的核心是自注意力机制，它使模型能够识别和重视输入数据中不同部分 ......
[论文阅读] Replacing softmax with ReLU in Vision Transformers
Pre title: Replacing softmax with ReLU in Vision Transformers accepted: Arxiv 2023 paper: https://export.arxiv.org/abs/2309.08586 code: None 关键词：atten ......
unity Transform 的 Rotate(xAngle: float, yAngle: float, zAngle: float, relativeTo: Space = Space.Self, Space.World); 刨根问底
public class demoword2 : MonoBehaviour { // Start is called before the first frame update void Start() { //transform.Rotate(60, 70, 80, Space.World); ......
基于Transformer的遥感影像目标检测研究
基于Transformer的遥感影像目标检测研究 1. 研究课题三要素 1.1 研究对象 遥感影像。 1.2 研究问题 目标检测任务指的是为每个感兴趣的对象预测一组边界框和类别标签。与自然场景下的通用目标检测不同，遥感影像存在一些自身的特点，例如遥感图像幅面大、成像视角单一、可提取的特征较少；目标数 ......
Retentive Networks Meet Vision Transformers， 视觉RetNet
alias: Fan2023 tags: RetNet rating: ⭐ share: false ptype: article RMT: Retentive Networks Meet Vision Transformers 初读印象 comment:: (RMT)Retentive Netwo ......
Adaptive Graph Contrastive Learning for Recommendation论文阅读笔记
Abstract 在实际的场景中，用户的行为数据往往是有噪声的，并且表现出偏态分布。所以需要利用自监督学习来改善用户表示。我们提出了一种新的自适应图对比学习(AdaGCL)框架，该框架使用两个自适应对比视图生成器来进行数据增强，以更好地增强CF范式。具体的说，我们使用了两个可训练的视图生成器，一个图 ......
15.Please retell the parable of The Blind men and An Elephant. What is the moral of the parable? What can we learn from the parable when it comes to critical thinking?
Round 1: Retelling the Parable and Extracting the Moral Speaker 1 (Student A): Hey everyone! So, let's dive into the parable of "The Blind Men and the ......
【scikit-learn基础】--『数据加载』之外部数据集
这是scikit-learn数据加载系列的最后一篇，本篇介绍如何加载外部的数据集。 外部数据集不像之前介绍的几种类型的数据集那样，针对每种数据提供对应的接口，每个接口加载的数据都是固定的。而外部数据集加载之后，数据的字段和类型是不确定的。 简单来说，我们在实际的数据分析工作中，用到的是外部数据集加载 ......
Overview of Machine Learning Methods for Genome-Wide Association Analysis
Overview of Machine Learning Methods for Genome-Wide Association Analysis BIBE2021: The Fifth International Conference on Biological Information and B ......
Paper Reading: Oversampling with Reliably Expanding Minority Class Regions for Imbalanced Data Learning
为了设计更有效的插值过采样算法，本文提出了一种新的插值过采样方法 OREM。OREM 在原始少数类样本周围找到候选少数类区域，然后利用这些候选区域识别不包含任何多数类样本的干净子区域。它们被认为是潜在的少数类区域，所以通过将合成样本填充到干净子区域可以增强少数类的表达能力。OREM 方法的思路很简单... ......
Drug response prediction using graph representation learning and Laplacian feature selection
Drug response prediction using graph representation learning and Laplacian feature selection Minzhu Xie 1 2, Xiaowen Lei 3, Jianchen Zhong 3, Jianxing ......
Predicting gene expression from histone modifications with self-attention based neural networks and transfer learning
Predicting gene expression from histone modifications with self-attention based neural networks and transfer learning Yuchi Chen 1, Minzhu Xie 1, Jie ......
【scikit-learn基础】--『数据加载』之样本生成器
除了内置的数据集，scikit-learn还提供了随机样本的生成器。通过这些生成器函数，可以生成具有特定特性和分布的随机数据集，以帮助进行机器学习算法的研究、测试和比较。 目前，scikit-learn库（v1.3.0版）中有20个不同的生成样本的函数。本篇重点介绍其中几个具有代表性的函数。 1. ......
DeepWalk Online Learning of Social Representations
目录概符号说明DeepWalk代码 Perozzi B., AI-Rfou R. and Skiena S. DeepWalk: Online learning of social representations. KDD, 2014. 概 经典的 graph embedding 学习方法. 符号说 ......
The second day learning summary
1.什么是接口测试？ 接口测试是测试系统组件间接口的一种测试。接口测试主要用于外部系统与系统之间以及内部各个子系统之间的交互点，定义特定的交互点，然后通过这些交互点来，通过一些特殊的规则也就是协议，来进行数据之间的交互。测试的重点是要检查数据的交换，传递和控制管理过程，以及系统间的相互逻辑依赖关系等 ......
深入解析LLaMA如何改进Transformer的底层结构
本篇文章将以LLaMA 模型为例，介绍大语言模型架构在Transformer 原始结构上的改进，并介绍Transformer 模型结构中空间和时间占比最大的注意力机制优化方法。 ......
Class-Incremental Learning with Generative Classifiers(CVPR2021W)
前置知识：VAE（可以参考https://zhuanlan.zhihu.com/p/348498294） Motivation 之前的方法通常使用判别式分类器，对条件分布\(p(y|\textbf{x})\)进行建模（classifier+softmax+ce）。其问题在于分类器会偏向最新学的类别， ......
svg transform总结
1. svg的transform和dom的不同，旋转中心不是默认自身，而是画布左上角 2. svg要以自身为中心旋转，可以使用rotate(angle [x y]), 比css的rotate(angel)多了x,y两个参数，x,y分别设置为svg图形的中心点坐标即可 3. 线性变换 translat ......
大语言模型底层架构丨带你认识Transformer
本文分享自华为云社区《大语言模型底层架构你了解多少？大语言模型底层架构之一Transfomer的介绍和python代码实现》，作者： 码上开花_Lancer 。 语言模型目标是建模自然语言的概率分布，在自然语言处理研究中具有重要的作用，是自然语言处理基础任务之一。大量的研究从n 元语言模型（n-gr ......