526互联

recommendation personalized explainable transformer

Transformer架构在大型语言模型(LLM)中的应用与实践

Transformer架构是当今最前沿的语言模型技术之一，它已经在谷歌的BERT、OpenAI的GPT系列中取得了显著的成就。这一架构之所以独特，是因为它打破了传统的序列处理模式，引入了创新的“自注意力”机制。 Transformer架构的核心是自注意力机制，它使模型能够识别和重视输入数据中不同部分 ......
Transformer 架构 模型 语言 LLM

[论文阅读] Replacing softmax with ReLU in Vision Transformers

Pre title: Replacing softmax with ReLU in Vision Transformers accepted: Arxiv 2023 paper: https://export.arxiv.org/abs/2309.08586 code: None 关键词：atten ......
Transformers Replacing softmax Vision 论文

unity Transform 的 Rotate(xAngle: float, yAngle: float, zAngle: float, relativeTo: Space = Space.Self, Space.World); 刨根问底

public class demoword2 : MonoBehaviour { // Start is called before the first frame update void Start() { //transform.Rotate(60, 70, 80, Space.World); ......
Space float 刨根问底 relativeTo Transform

基于Transformer的遥感影像目标检测研究

基于Transformer的遥感影像目标检测研究 1. 研究课题三要素 1.1 研究对象 遥感影像。 1.2 研究问题 目标检测任务指的是为每个感兴趣的对象预测一组边界框和类别标签。与自然场景下的通用目标检测不同，遥感影像存在一些自身的特点，例如遥感图像幅面大、成像视角单一、可提取的特征较少；目标数 ......
遥感 Transformer 影像 目标

Retentive Networks Meet Vision Transformers， 视觉RetNet

alias: Fan2023 tags: RetNet rating: ⭐ share: false ptype: article RMT: Retentive Networks Meet Vision Transformers 初读印象 comment:: (RMT)Retentive Netwo ......
Transformers Retentive Networks 视觉 RetNet

Adaptive Graph Contrastive Learning for Recommendation论文阅读笔记

Abstract 在实际的场景中，用户的行为数据往往是有噪声的，并且表现出偏态分布。所以需要利用自监督学习来改善用户表示。我们提出了一种新的自适应图对比学习(AdaGCL)框架，该框架使用两个自适应对比视图生成器来进行数据增强，以更好地增强CF范式。具体的说，我们使用了两个可训练的视图生成器，一个图 ......
Recommendation Contrastive Adaptive Learning 笔记

20.Explain how the following reasoning fails to address the complexity of the issue involved, and rebut it. “Sanya is warm all year round and has beautiful beaches,

Round 1: Identifying the Failure in Reasoning Speaker 1 (Student A): Hello, everyone! Let's kick off our discussion by examining the reasoning: "Sanya ......
the complexity following and beautiful

Recommendation as Instruction Following: A Large Language Model Empowered Recommendation Approach

目录概InstructRecInstruction Generation Zhang J., Xie R., Hou Y., Zhao W. X., Lin L., Wen J. Recommendation as instruction following: a large language mo ......
Recommendation Instruction Following Empowered Approach

A Novel Approach Based on Bipartite Network Recommendation and KATZ Model to Predict Potential Micro-Disease Associations

A Novel Approach Based on Bipartite Network Recommendation and KATZ Model to Predict Potential Micro-Disease Associations Shiru Li 1, Minzhu Xie 1, Xi ......
Recommendation Micro-Disease Associations Bipartite Potential

浅析MySQL代价模型：告别盲目使用EXPLAIN，提前预知索引优化策略

熟悉代价模型之后，我们可以预先了解 MySQL 在执行查询时会如何选择索引，从而更有效地进行索引优化。在接下来的文章中，我将结合近期进行索引优化的具体案例，来详细解释如何运用代价模型来优化索引。 ......
索引 模型 代价 策略 EXPLAIN

深入解析LLaMA如何改进Transformer的底层结构

本篇文章将以LLaMA 模型为例，介绍大语言模型架构在Transformer 原始结构上的改进，并介绍Transformer 模型结构中空间和时间占比最大的注意力机制优化方法。 ......
底层 Transformer 结构 LLaMA

svg transform总结

1. svg的transform和dom的不同，旋转中心不是默认自身，而是画布左上角 2. svg要以自身为中心旋转，可以使用rotate(angle [x y]), 比css的rotate(angel)多了x,y两个参数，x,y分别设置为svg图形的中心点坐标即可 3. 线性变换 translat ......
transform svg

大语言模型底层架构丨带你认识Transformer

本文分享自华为云社区《大语言模型底层架构你了解多少？大语言模型底层架构之一Transfomer的介绍和python代码实现》，作者： 码上开花_Lancer 。 语言模型目标是建模自然语言的概率分布，在自然语言处理研究中具有重要的作用，是自然语言处理基础任务之一。大量的研究从n 元语言模型（n-gr ......
底层 Transformer 架构 模型 语言

Multi-view Information Integration and Propagation for Occluded Person Re-identification

这篇从多视角这个思路出发，提出多视图信息集成模块，包括定位、量化和集成。 给定具有相同身份的多个图像，MVI2P：i）定位特征图中的空间辨别区域以过滤掉噪声信息。 ii）量化不同图像的显着性信息的相对重要性。 iii) 通过执行逐元素加法来集成多视图信息。 iv)通过知识蒸馏将多个图像隐含的综合信息 ......
Re-identification identification Information Integration Propagation

Erasing, Transforming, and Noising Defense Network for Occluded Person Re-Identification

三个分支：擦除、转换、噪声 用来生成对抗性表征，模拟遮挡问题 对应信息丢失、位置错位和噪声信息 对抗性防御：思路是GAN网络，以对抗性的方式优化生成器和判别器 ......
Re-Identification Identification Transforming Occluded Erasing

MYSQL EXPLAIN 执行计划

EXPLAIN 语句来能够查看某个查询语句的具体执行计划，要搞懂 EPLATN 的各个输出项都有什么作用，从而可以有针对性的提升查询语句的性能。通过使用 EXPLAIN 关键字可以模拟优化器执行 SQL 查询语句，从而知道 MySQL 是如何处理 SQL 语句的。分析查询语句或是表结构的性能瓶颈。 ......
EXPLAIN MYSQL

2023ICCV_Feature Modulation Transformer: Cross-Refinement of Global Representation via High-Frequency Prior for Image Super-Resolution

一. Motivation 1. transformer的工作主要集中在设计transformer块以获得全局信息，而忽略了合并高频先验的潜力 2. 关于频率对性能的影响的详细分析有限（Additionally, there is limited detailed analysis of the i ......
Cross-Refinement Super-Resolution High-Frequency Representation ICCV_Feature

简化版Transformer ：Simplifying Transformer Block论文详解

前言 本文探讨了来自苏黎世联邦理工学院计算机科学系的Bobby He和Thomas Hofmann在他们的论文“Simplifying Transformer Blocks”中介绍的Transformer技术的进化步骤。这是自Transformer 开始以来，我看到的最好的改进。 本文转载自Deep ......
Transformer Simplifying 论文 Block

Generative-Contrastive Graph Learning for Recommendation论文阅读笔记

Abstract 首先介绍了一下GCL的一些缺点，GCL是通过数据增强来构造对比视图，然后通过最大化对比视图之间的互信息来提供自监督信号。但是目前的数据增强技术都有着一定的缺点 结构增强随机退出节点或边，容易破坏用户项目的内在本质 特征增强对每个节点施加相同的尺度噪声增强，忽略的节点的独特特征 所以 ......
Generative-Contrastive Recommendation Contrastive Generative Learning

CSS进阶3-transform 动画-渐变(线性渐变、镜像渐变)-关键帧

1. 动画 介绍：改变盒子在平面内的形态（平移、缩放、旋转、倾斜） 属性： 平移：transform：translate(值1 ，值2);(默认为X轴，translateY--下移) — —平移依然在原来文档流。 移动：transform：translate(值1，值2)；可右斜移动 代码： /* ......
线性 transform 镜像 关键 动画

LLM 学习笔记-transformers库的 PreTrainedModel 和 ModelOutput 到底是什么？

闲言碎语 我在刚开始接触 huggingface （后简称 hf） 的 transformers 库时候感觉很冗杂，比如就模型而言，有 PretrainedModel, AutoModel，还有各种 ModelForClassification, ModelForCausalLM, AutoMode ......
PreTrainedModel transformers ModelOutput 笔记 LLM

Google Colab 现已支持直接使用 transformers 库

Google Colab，全称 Colaboratory，是 Google Research 团队开发的一款产品。在 Colab 中，任何人都可以通过浏览器编写和执行任意 Python 代码。它尤其适合机器学习、数据分析和教育目的。从技术上来说，Colab 是一种托管式 Jupyter 笔记本服务。 ......
transformers Google Colab

ETL (Extra-Transform-Load)

背景介绍 随着企业的发展，目前的业务线越来越复杂，各个业务系统独立运营。例如：CRM系统只会生产CRM的 数据；Billing只会生产Billing的数据。各业务系统之间只关心自己的数据，导致各业务系统之间数据相互独立，互不相通。一旦业务系统之间进行数据交互，只能通过传统的webservice接口之 ......
Extra-Transform-Load Transform Extra Load ETL

Transformer

Attention 什么是注意力机制? 对于人类来说，注意力机制是在注意力有限的情况下，只关注接受信息的一部分，而忽略其他部分。 对于Transformer来说，以NLP为例，注意力机制就是对于当前token来说，为其所在序列中 对任务而言更重要的元素赋予更高权重(注意力)。 感知机可以认为是对不同 ......
Transformer

简化版Transformer来了，网友：年度论文

前言 从大模型的根源开始优化。 本文转载自机器之心 仅用于学术分享，若侵权请联系删除 欢迎关注公众号CV技术指南，专注于计算机视觉的技术总结、最新技术跟踪、经典论文解读、CV招聘信息。 CV各大方向专栏与各个部署框架最全教程整理 【CV技术指南】CV全栈指导班、基础入门班、论文指导班 全面上线!! ......
Transformer 年度 网友 论文

ENTROFORMER: A TRANSFORMER-BASED ENTROPY MODEL基于transformer的熵模型

目录简介模型核心代码性能实验 简介 \(\quad\)由于cnn在捕获全局依赖关系方面效率低，因此该文章提出了基于tansformer的熵模型——Entoformer；并针对图像压缩进行了top-k self-attention和a diamond relative position encodin ......
TRANSFORMER-BASED ENTROFORMER TRANSFORMER transformer 模型

简化版Transformer ：Simplifying Transformer Block论文详解

在这篇文章中我将深入探讨来自苏黎世联邦理工学院计算机科学系的Bobby He和Thomas Hofmann在他们的论文“Simplifying Transformer Blocks”中介绍的Transformer技术的进化步骤。这是自Transformer 开始以来，我看到的最好的改进。 大型语言模 ......
Transformer Simplifying 论文 Block

transformer中decoder到底是串行还是并行

在Transformer中，Decoder部分内部的不同层通常可以并行工作，这意味着每个Decoder层可以同时处理整个序列。比如，在处理Self-Attention时，模型可以同时计算所有位置的注意力权重。 但在生成输出序列时，尽管Decoder内部的不同层可以并行工作，模型仍然需要按顺序逐步生成 ......
transformer decoder 还是

ElasticSearch之cat transforms API

命令样例如下： curl -X GET "https://localhost:9200/_cat/transforms?v=true&format=json" --cacert $ES_HOME/config/certs/http_ca.crt -u "elastic:ohCxPH=QBE+s5=* ......
ElasticSearch transforms API cat

Meta对Transformer架构下手了：新注意力机制更懂推理

前言 作者表示，这种全新注意力机制（Sytem 2 Attention）或许你也需要呢。 本文转载自机器之心 仅用于学术分享，若侵权请联系删除 欢迎关注公众号CV技术指南，专注于计算机视觉的技术总结、最新技术跟踪、经典论文解读、CV招聘信息。 CV各大方向专栏与各个部署框架最全教程整理 【CV技术指 ......
Transformer 注意力 架构 机制 Meta
共551篇  :3/19页 首页上一页3下一页尾页