recommendation personalized explainable transformer
mysql 调优-EXPLAIN 命令
一条 sql 的执行，会生成一个执行计划，这个执行计划是 优化器 认为最优的，然后执行器再执行这个执行计划 执行计划只是优化器自认为最优，不见得就是最优的 执行计划里面包括：可用的索引，真正用到的索引，表的读取顺序，每张表有多少行被优化等等 EXPLAIN 和 DESCRIBE 效果一样 EXPLA ......
Do Transformers Really Perform Badly for Graph Representation
Ying C., Cai T., Luo S., Zheng S., Ke D., Shen Y. and Liu T. Do transformers really perform badly for graph representation? NIPS, 2021. 概 本文提出了一种基于图的 ......
免注意力Transformer (AFT)：使用逐元素乘积而不是点积
注意力机制作为现代深度学习模型的基石，能够毫不费力地对长期依赖进行建模，并关注输入序列中的相关信息。然而，需要点积自注意力 - 广泛使用在Transformer架构中的一个关键组件 - 已被证明在序列长度方面具有二次空间复杂度，因此不适用于处理长输入。在本文中，我们介绍了Attention Free ......
MySQL explain type详解
type类型从快到慢：system > const > eq_ref > ref > range > index > ALLsystem表中只有一行记录（系统表）。是const类型的一个特殊情况。（目前InnoDB已经没有，在MyISAM可以）const表中最多只有一行匹配的记录。一般用在主键索引或 ......
在 Transformers 中使用对比搜索生成可媲美人类水平的文本 🤗
1. 引言 自然语言生成 (即文本生成) 是自然语言处理 (NLP) 的核心任务之一。本文将介绍神经网络文本生成领域当前最先进的解码方法 对比搜索 (Contrastive Search)。提出该方法的论文 “A Contrastive Framework for Neural Text Gener ......
Transformer 模型中的positional encoding(位置编码)计算理解(2)
以下（以上）内容来自(参考): https://www.bilibili.com/video/BV1Di4y1c7Zm?p=2&vd_source=6292df769fba3b00eb2ff1859b99d79e import numpy as np def getPositionEncoding( ......
Personalized Top-N Sequential Recommendation via Convolutional Sequence Embedding
Tang J. and Wang K. Personalized top-n sequential recommendation via convolutional sequence embedding. WSDM, 2018. 概 序列推荐的经典之作, 将卷积用在序列推荐之上. 符号说明 $\ma ......
Customising claims transformation in ASP.NET Core Identity
I’ve been testing out the new version of ASP.NET Identity and had the need to include additional claims in the ClaimIdentity generated when a user is ......
Transformers回顾 ：从BERT到GPT4
人工智能已成为近年来最受关注的话题之一，由于神经网络的发展，曾经被认为纯粹是科幻小说中的服务现在正在成为现实。从对话代理到媒体内容生成，人工智能正在改变我们与技术互动的方式。特别是机器学习 (ML) 模型在自然语言处理 (NLP) 领域取得了重大进展。一个关键的突破是引入了“自注意力”和用于序列处理 ......
Transformer 估算 101
Transformer 估算 101 本文主要介绍用于估算 transformer 类模型计算量需求和内存需求的相关数学方法。 引言 其实，很多有关 transformer 语言模型的一些基本且重要的信息都可以用很简单的方法估算出来。不幸的是，这些公式在 NLP 社区中鲜为人知。本文的目的是总结这些 ......
ETL--Extract-Transform-Load
ETL，是英文Extract-Transform-Load的缩写，用来描述将数据从来源端经过抽取（extract）、转换（transform）、加载（load）至目的端的过程。ETL一词较常用在数据仓库，但其对象并不限于数据仓库。 ETL是将业务系统的数据经过抽取、清洗转换之后加载到数据仓库的过程， ......
现代计算机图形学——P4. Transformation 3D
P4. Transformation Cont. （上节课补充） ———————————————————————————————————————————————————————————————— 今天的内容： ————————————————————————————————————————————— ......
kettle从入门到精通 第十七课 kettle Transformation executor
Transformation executor步骤是一个流程控件，和映射控件类似却又不一样。 1、子转换需要配合使用从结果获取记录和复制记录到结果两个步骤，而子映射需要配合映射输入规范和映射输出规范使用。 如下子转换实现的功能是计算x+y的值 2、从结果获取记录 1）步骤名称：自定义 2）字段：设置 ......
[MRCTF2020]Transform 1
#查壳： ###64位，先看看运行有问题吗： ####任意输入给你弹了一个wrong ###进IDA看看： ####解释：输入一个字符串，要满足字符串的长度为33，不然就报错。接下来是在输入的字符串中拿出特定的字符，进行异或后得到一个新的字符串，最后与特定的字符串对比。 ####这样看来，我们先看要 ......
EXPLAIN详细介绍
1.简介 使用EXPLAIN关键字可以模拟优化器执行SQL查询语句，从而知道MySQL是如何处理你的SQL语句的。分析你的查询语句或是表结构的性能瓶颈 2.如何使用explain explain + sql语句 执行计划包含的信息如下 | id | select_type | table | par ......
Pytorch-Vanilla Transformer的实现
Vanilla Transformer 注意力提示 我们可以将是否包含自主性提示作为将注意力机制与全连接层或汇聚层区别的标准。 定义外部输入至感官的信息为键-值，键是表征值的非自主提示，关注信息为查询（自主性提示） 非自主提示：决策选择偏向于感官输入值，可使用参数化的全连接层或非参数化的最大 ......
Pytorch-Vanilla Transformer的实现
Vanilla Transformer 注意力提示 我们可以将是否包含自主性提示作为将注意力机制与全连接层或汇聚层区别的标准。 定义外部输入至感官的信息为键-值，键是表征值的非自主提示，关注信息为查询（自主性提示） 非自主提示：决策选择偏向于感官输入值，可使用参数化的全连接层或非参数化的最大 ......
PostgreSQL 性能优化: EXPLAIN 使用教程
PostgreSQL为每个收到的查询产生一个查询计划。选择正确的计划来匹配查询结构和数据的属性对于好的性能来说绝对是最关键的，因此系统包含了一个复杂的规划器来尝试选择好的计划。你可以使用EXPLAIN命令察看规划器为任何查询生成的查询计划。 ......
2023AAAI_Ultra-High-Definition Low-Light Image Enhancement: A Benchmark and Transformer-Based Method(LLformer)
一. motivition 1. 之前的数据集分辨率较低 二. contribution 1. 提出两个超高清数据集UHD-4k和UHD-8k 2. 网络结构LLFormer(网络结构类似2022CVPR_Restormer: Effificient Transformer forHigh-Reso ......
Transformer学习
Transformer学习 此帖用于整理回顾自己学transformer的一些问题和知识 极好的博客和资料： Transformer 模型详解-CSDN博客：原理讲的很清楚 举个例子讲下transformer的输入输出细节及其他 - 知乎 (zhihu.com)：讲的是输入输出的细节 Transfo ......
【pytorch】土堆pytorch教程学习（四）Transforms 的使用
transforms 在工具包 torchvision下，用来对图像进行预处理：数据中心化、数据标准化、缩放、裁剪、旋转、翻转、填充、噪声添加、灰度变换、线性变换、仿射变换、亮度/饱和度/对比度变换等。 transforms 本质就是一个python文件，相当于一个工具箱，里面包含诸如 Resize ......
[Prompt] Transforming
Transforming In this notebook, we will explore how to use Large Language Models for text transformation tasks such as language translation, spelling a ......
李宏毅transformer笔记
首先这里解决的问题是Seq2Seq 列出各种场景，语音识别，机器翻译，chatbot 当前现在NLP模型之所以这么重要，在于他的通用能力，很多场景都可以转换成Seq2Seq summary，情感分析啊，只要你能通过QA和机器交互的场景都可以是Seq2Seq 这里的例子，语法树解析，多元分类，甚至是对 ......
Handling Information Loss of Graph Neural Networks for Session-based Recommendation
Chen T. and Wong R. C. Handling information loss of graph neural networks for session-based recommendation. KDD, 2020. 概 作者发现图用在 Session 推荐中存在: lossy ......
An Image Is Worth 16x16 Words: Transformers For Image Recognition At Scale
模型如下图所示: 将H×W×C的图像reshape成了N×(P2×C),其中(H,W)是图像的原始分辨率,C是通道数,(P,P)是每个图像块的分辨率,N=H×W/P2为图像块的数量,将一个图像块使用可学习的线性层映射到维度为D的隐藏向量,如式(1)所示,线性映射的输出称为patch embeddin ......
【阅读】Transformer
参考 Attention Is All You Need A General Survey on Attention Mechanisms in Deep Learning 注意力足矣（Attention Is All You Need） 一般注意力模型 这个模型接受一个输入，执行指定的任务，然后产 ......
Transformers 发展一览
动动发财的小手，点个赞吧！ Transformers 研究概览 1. 介绍 近年来，深度学习的研究步伐显着加快，因此越来越难以跟上所有最新发展。尽管如此，有一个特定的研究方向因其在自然语言处理、计算机视觉和音频处理等多个领域取得的成功而备受关注。这在很大程度上归功于其高度适应性的架构。该模型称为 T ......
论文阅读笔记《Stochastic Grounded Action Transformation for Robot Learning in Simulation》
Stochastic Grounded Action Transformation for Robot Learning in Simulation 发表于IROS 2020(CCF C) 模拟中机器人学习的随机接地动作转换 Desai S, Karnan H, Hanna J P, et al. ......
论文阅读笔记《Grounded Action Transformation for Robot Learning in Simulation》
Grounded Action Transformation for Robot Learning in Simulation 发表于AAAI 2017 仿真机器人学习中的接地动作变换 Hanna J, Stone P. Grounded action transformation for robo ......