526互联

crossformer cross-scale transformer attention

论文阅读笔记《Stochastic Grounded Action Transformation for Robot Learning in Simulation》

Stochastic Grounded Action Transformation for Robot Learning in Simulation 发表于IROS 2020(CCF C) 模拟中机器人学习的随机接地动作转换 Desai S, Karnan H, Hanna J P, et al. ......
Transformation Stochastic Simulation Grounded Learning

论文阅读笔记《Grounded Action Transformation for Robot Learning in Simulation》

Grounded Action Transformation for Robot Learning in Simulation 发表于AAAI 2017 仿真机器人学习中的接地动作变换 Hanna J, Stone P. Grounded action transformation for robo ......
Transformation Simulation Grounded Learning 笔记

Swin transformer环境

pip install torch==1.7.0+cu101 torchvision==0.8.1+cu101 torchaudio==0.7.0 -f https://download.pytorch.org/whl/torch_stable.html pip install mmcv-full= ......
transformer 环境 Swin

设置transform导致弹窗字体模糊问题

原因项目中弹出框的样式居中是这样写的：.box { position: absolute; top: 50%; left: 50%; transform: translate(-50%, -50%);}123456比如盒子的宽度为300px，高度为401.5px，这样transform计算出的50% ......
transform 字体 问题

大规模 Transformer 模型 8 比特矩阵乘简介 - 基于 Hugging Face Transformers、Accelerate 以及 bitsandbytes

引言 语言模型一直在变大。截至撰写本文时，PaLM 有 5400 亿参数，OPT、GPT-3 和 BLOOM 有大约 1760 亿参数，而且我们仍在继续朝着更大的模型发展。下图总结了最近的一些语言模型的尺寸。 由于这些模型很大，因此它们很难在一般的设备上运行。举个例子，仅推理 BLOOM-176B ......
矩阵 Transformers bitsandbytes Transformer Accelerate

Attention Is All You Need—transformer详解

Attention Is All You Need 论文 transformer代码 以下大部分是根据论文理解进行的总结和概括，如有疑问，欢迎交流~ transformer仅仅使用注意力机制，没有使用任何的卷积或者RNN结构。 传统RNN结构的当前隐层状态$h_t$需要当前时刻的输入以及上一时刻的隐 ......
transformer Attention Need All You

如何生成文本: 通过 Transformers 用不同的解码方法生成文本

简介 近年来，随着以 OpenAI GPT2 模型 为代表的基于数百万网页数据训练的大型 Transformer 语言模型的兴起，开放域语言生成领域吸引了越来越多的关注。开放域中的条件语言生成效果令人印象深刻，典型的例子有: GPT2 在独角兽话题上的精彩续写，XLNet 以及 使用 CTRL 模型 ......
文本 Transformers 方法

Attention

参考：https://blog.csdn.net/weixin_52668444/article/details/115288690 传统的机器翻译为例子来说明为什么我们需要Attention。 encoder的工作原理和RNN类似，将词向量输入到Encoder中之后，我们将最后一个hidden s ......
Attention

Transformer

参考： transform的paper出处:https://blog.csdn.net/qq_40585800/article/details/112427990 发展 Transformer是由谷歌于2017年提出的具有里程碑意义的模型，同时也是语言AI革命的关键技术。在此之前的SOTA模型都是以 ......
Transformer

3_transforms (pytorch tutorial)

Transforms Data does not always come in its final processed form that is required for training machine learning algorithms. We use transforms to perfo ......
transforms tutorial pytorch

深入了解 Transformers – Part 1: 介绍 Transformer 模型

动动发财的小手，点个赞吧！ 自从最新的Large Language Models（LLaM）发布以来，如OpenAI的GPT系列、开源模型Bloom或谷歌发布的LaMDA等，Transformer展现出了巨大的潜力，成为了深度学习的前沿架构楷模。 尽管已经有几篇文章介绍了 transformer 及 ......
Transformers Transformer 模型 Part

Swin Transformer

22年初的屠榜模型 题目：用了移动窗口的层级式的vision transformer 摘要：Swin transformer可以作为CV中通用骨干网络。与NLP不同的第一个是对象尺度的问题，第二是多次提到的分辨率太大的问题，之前工作已经用很多办法减少过输入模型的序列长度。移动窗口可以让每次只计算一个 ......
Transformer Swin

Heterogeneous Graph Attention Network

Wang X., Ji H., Shi C., Wang B., Cui P., Yu P. and Ye Y. Heterogeneous graph attention network. WWW, 2019. 概 Attention + 异构图. 符号说明 $\mathcal{G} = (\ma ......
Heterogeneous Attention Network Graph

使用 Transformers 进行图分类

在之前的 博文 中，我们探讨了图机器学习的一些理论知识。这一篇我们将探索如何使用 Transformers 库进行图分类。(你也可以从 此处 下载演示 notebook，跟着一起做！) 目前，Transformers 中唯一可用的图 transformer 模型是微软的 Graphormer，因此本 ......
Transformers

文献阅读《AcsiNet: Attention-Based Deep Learning Network for CSI Prediction in FDD MIMO Systems》

这篇文献的作者是南华大学的林文斌老师，于2023年3月3日发表在IEEE WIRELESS COMMUNICATIONS LETTERS。 文章直接对上行 CSI 矩阵使用离散傅里叶逆变换进行压缩，然后将其输入一个基于注意力（attention-based）的深度学习网络，该网络可以专注于关键的 C ......
Attention-Based Prediction Attention 文献 Learning

Unity CharacterController的transform赋值无效（一直下落）问题

题 使用 CharacterController 后 ， 坐标系统会变得混乱，这个是上期说过的问题，各系统之间使用自己的缓存来保持数据，玩家为了模拟重力 不得不持续进行运算。 这样就会令其他坐标操作指令出现无效化或者混乱 unity 也提供了一个简单的解决方案 就是每计算一次之前 都去同步其他坐标操 ......
CharacterController transform 问题 Unity

Hugging News #0414: Attention 在多模态情景中的应用、Unity API 以及 Gradio 主题构建器

每一周，我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新，包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等，我们将其称之为「Hugging News」，本期 Hugging News 有哪些有趣的消息，快来看看吧！ 社区动向 Attention ......
模态 Attention 情景 Hugging 主题

Attributed Graph Clustering |A Deep Attentional Embedding Approach

论文阅读01-Attributed Graph Clustering: A Deep Attentional Embedding Approach 1. 创新点idea Two-step的图嵌入方法不是目标导向的，聚类效果不好，提出一种基于目标导向的属性图聚类框架。 所谓目标导向，就是说特征提取和聚 ......
Attentional Attributed Clustering Embedding Approach

Transformer网络-Self-attention is all your need

一、Transformer Transformer最开始用于机器翻译任务，其架构是seq2seq的编码器解码器架构。其核心是自注意力机制： 每个输入都可以看到全局信息，从而缓解RNN的长期依赖问题。 输入： （待学习的）输入词嵌入 + 位置编码（相对位置） 编码器结构： 6层编码器： 一层编码器 = ......
Self-attention Transformer attention 网络 Self

Generative Pre-trained Transformer（GPT）模型技术初探

一、Transformer模型 2017年，Google在论文 Attention is All you need 中提出了 Transformer 模型，其使用 Self-Attention 结构取代了在 NLP 任务中常用的 RNN 网络结构。相比 RNN 网络结构，其最大的优点是可以并行计算。 ......
Pre-trained Transformer Generative 模型 trained

image forest transform算法及其实现（Java Web版本）

感觉分水岭算法和骨架算法还挺有趣的，自己空余时间写着玩儿了一下，原理还是参考论文以及其他的代码。 本文实现了 image forest transform 中的 skeleton 算法，也就是提取图片中的骨架，其他的分水岭暂时没搞。 代码中的其他组件都有，需要的话可以自己二次开发实现。 论文暂时没有 ......
算法 transform 版本 forest image

04 Viewing Transformation

##关键点 ModelView Transformation Matrix (1-3) Orthographic Projection Matrix (4) Perspective Projection Matrix (5-6) 1. View/Camera/ModelView Transforma ......
Transformation Viewing 04

03 Transformation

关键点 Affine Transformation (Linear Transformation, Transmation) Homogeneous coordinates Composite Transform 2D and 3D 1. Linear Transformation (2D for ......
Transformation 03

现代计算机图形学——P3. Transformation-2D

P3. Transformation P3. Transformation 矩阵和变换联系起来 Reflection Matrix（反射矩阵（名字不重要））： 切变： 旋转： 推导： 旋转矩阵中的B和D可以用（0,1）这个点来推算 线性变换： （先不管这个M） 齐次坐标 为什么要用齐次坐标： 平移变 ......
Transformation 图形 计算机 P3 2D

CVPR 2023｜两行代码高效缓解视觉Transformer过拟合，美图&国科大联合提出正则化方法DropKey

前言 美图影像研究院（MT Lab）与中国科学院大学突破性地提出正则化方法 DropKey，用于缓解 Vision Transformer 中的过拟合问题。该方法通过在注意力计算阶段随机 drop 部分 Key 以鼓励网络捕获目标对象的全局信息，从而避免了由过于聚焦局部信息所引发的模型偏置问题，继而 ......
正则 Transformer 美图 视觉 DropKey

Computer Transformation UVA - 1647

初始串为一个1，每一步会将每个0改成10，每个1改成01，因此1会依次变成 01, 1001, 01101001,… 输入n（n≤1000），统计n步之后得到的串中， “00”这样的连续两个0出现了多少次 f =[0]*1003 g =[0]*1003 f[1]=0 g[1]=1 for i in ......
Transformation Computer 1647 UVA

ViT-Adapter：用于密集预测任务的视觉 Transformer Adapter

前言 这篇文章提出了一种用于使得 ViT 架构适配下游密集预测任务的 Adapter。简单的 ViT 模型，加上这种 Adapter 之后，下游密集预测任务的性能变强不少。本文给出的 ViT-Adapter-L 在 COCO 数据集上达到了 60.9 的 box AP 和 59.3 的 mask A ......
Adapter ViT-Adapter Transformer 视觉 任务

Element Plus错误警告 | Popper: Detected CSS transitions on at least one of the following CSS properties: "transform", "top", "right", "bottom", "left".

这个错误的解决方案如下： 1. 禁用 "computeStyles" 修饰符的 adaptive 选项：这将允许平滑过渡，但可能会降低性能。 禁用 "computeStyles" 修饰符的 adaptive 选项，可以在创建 Popper 实例时指定 modifiers 参数，并将 computeS ......
quot transitions properties CSS following

cesium：Transforms

Transforms类提供了一些用于坐标变换的方法，可以帮助我们在不同的参考系之间转换点或向量。 cesium中最常用的transforms类有以下几个： Transforms.eastNorthUpToFixedFrame(origin, ellipsoid, result) 这个方法接受一个原点 ......
Transforms cesium

[oeasy]python0132_[专业选修]utf-8_unicode_transformation_format_8_编码方式

utf-8 回忆上次内容 上次再次输出了大红心<span style="color:red">♥</span> 找到了红心对应的编码 黑红梅方都对应有编码 原来的编码叫做 ascii️ \u这种新的编码方式叫unicode 包括了 中日韩字符集等 各书写系统的字符集 但是有个问题 拜这个字 在字节中 ......
unicode_transformation_format transformation 编码 unicode 方式
共480篇  :14/16页 首页上一页14下一页尾页