transformers handwriting论文
Transformer 估算 101
Transformer 估算 101 本文主要介绍用于估算 transformer 类模型计算量需求和内存需求的相关数学方法。 引言 其实，很多有关 transformer 语言模型的一些基本且重要的信息都可以用很简单的方法估算出来。不幸的是，这些公式在 NLP 社区中鲜为人知。本文的目的是总结这些 ......
[重读经典论文]YOLOX
参考博客：YOLOX网络结构详解 参考视频：YOLOX网络结构详解 亮点： 网络检测头部分，改成解耦的结构，将类别分数、边界框回归参数和objectness分别预测，提高网络收敛速度。 使用Anchor free对目标进行预测。 正负样本匹配策略SimOTA。 （完） ......
多模态里程碑论文（ALBEF、BLIP、BLIP-2）
1. ALBEF: ALign the image and text BEfore Fusing 1.1 论文与代码链接： https://arxiv.org/abs/2107.07651 GitHub - salesforce/ALBEF: Code for ALBEF: a new ......
ETL--Extract-Transform-Load
ETL，是英文Extract-Transform-Load的缩写，用来描述将数据从来源端经过抽取（extract）、转换（transform）、加载（load）至目的端的过程。ETL一词较常用在数据仓库，但其对象并不限于数据仓库。 ETL是将业务系统的数据经过抽取、清洗转换之后加载到数据仓库的过程， ......
论文阅读 | Déjà Vu? Client-Side Fingerprinting and Version Detection of Web Application Software 似曾相识？ Web应用软件的客户端指纹识别与版本检测
https://ieeexplore.ieee.org/abstract/document/9524885 Introduction 在这项工作中，我们提出了一种新颖的方法，该方法能够使用被动扫描技术为不同的 Web 应用程序自动构建指纹。除了资产文件的哈希值，我们还建议在指纹识别过程中使用 XPa ......
论文解读《Mixup for Node and Graph Classification》
论文信息 论文标题：Mixup for Node and Graph Classification论文作者：Yiwei Wang、Wei Wang论文来源：WWW 2021论文地址：download 论文代码：download视屏讲解：click 1 介绍 ......
数学建模论文排版（公式自动排序）
本文为学习清风数学建模排版的公式编号部分的笔记 配套资料可以在微信公众号《数学建模学习交流》后台发送“论文排版”免费获取。 步骤 先插入一个“无边框“，“格式居中”表格如图（表格工具——布局——查看网格线），并随便在第一列输入公式，第二列输入（），并将光标放到括号里 然后插入——文档部件——域——A ......
论文解读（ID-MixGCL）《ID-MixGCL: Identity Mixup for Graph Contrastive Learning》
论文信息 论文标题：ID-MixGCL: Identity Mixup for Graph Contrastive Learning论文作者：Gehang Zhang.....论文来源：2023 aRxiv论文地址：download 论文代码：download视屏讲解：click 介绍 ......
现代计算机图形学——P4. Transformation 3D
P4. Transformation Cont. （上节课补充） ———————————————————————————————————————————————————————————————— 今天的内容： ————————————————————————————————————————————— ......
SAM：SegMent Anything万物分割论文解读
SAM: SegMent Anything 作者：elfin 资料来源：SAM论文 论文：https://ai.facebook.com/research/publications/segment-anything/ 代码：https://github.com/facebookresearch/se ......
Twitter延迟转化论文《Addressing Delayed Feedback for Continuous Training with Neural Networks in CTR prediction》阅读
背景 由于用户的兴趣是实时变化的，现代推荐、广告系统采用了流式更新的方式来捕捉用户实时兴趣的变化。实时训练的方式面临的一个难题就是正样本的回传是有延迟的，一个实时发送的负样本其实是无法确认是否是真的负样本的。也就是说实时观测到的数据流是一个有偏数据流，并不是真实的数据。如果模型在这个有偏分布上学习， ......
[重读经典论文]YOLOv4
推荐博客：YOLOv4网络详解 配套视频：YOLOv4网络详解 补充知识：3.1 YOLO系列理论合集(YOLOv1~v3) 中的yolov3spp理论讲解(包括CIoU以及Focal Loss) （完） ......
kettle从入门到精通 第十七课 kettle Transformation executor
Transformation executor步骤是一个流程控件，和映射控件类似却又不一样。 1、子转换需要配合使用从结果获取记录和复制记录到结果两个步骤，而子映射需要配合映射输入规范和映射输出规范使用。 如下子转换实现的功能是计算x+y的值 2、从结果获取记录 1）步骤名称：自定义 2）字段：设置 ......
[MRCTF2020]Transform 1
#查壳： ###64位，先看看运行有问题吗： ####任意输入给你弹了一个wrong ###进IDA看看： ####解释：输入一个字符串，要满足字符串的长度为33，不然就报错。接下来是在输入的字符串中拿出特定的字符，进行异或后得到一个新的字符串，最后与特定的字符串对比。 ####这样看来，我们先看要 ......
【论文】Range-Focused Fusion of Camera-IMU-UWB for Accurate and Drift-Reduced Localization
## Abstract## I. INTRODUCTION为什么需要添加UWB？因为传统的VIO会由于传感器的噪声和计算误差产生累计偏移。所以需要G ......
《Generative Adversarial Nets》论文精读
#论文精读《Generative Adversarial Nets》 导言：生成模型是目前爆火的一个研究方向，据Microsoft对于ChatGPT-4的研究称“ChatGPT-4可以看成是通用型人工智能(AGI)的早期版本；其独特的推理能力和理解语义能力迅速在全球掀起了大模型研究的一股热潮。不仅仅 ......
Pytorch-Vanilla Transformer的实现
Vanilla Transformer 注意力提示 我们可以将是否包含自主性提示作为将注意力机制与全连接层或汇聚层区别的标准。 定义外部输入至感官的信息为键-值，键是表征值的非自主提示，关注信息为查询（自主性提示） 非自主提示：决策选择偏向于感官输入值，可使用参数化的全连接层或非参数化的最大 ......
Pytorch-Vanilla Transformer的实现
Vanilla Transformer 注意力提示 我们可以将是否包含自主性提示作为将注意力机制与全连接层或汇聚层区别的标准。 定义外部输入至感官的信息为键-值，键是表征值的非自主提示，关注信息为查询（自主性提示） 非自主提示：决策选择偏向于感官输入值，可使用参数化的全连接层或非参数化的最大 ......
【论文写作】MDPI 投稿记录
期刊：Applied Sciences 投稿流程： 2023-03-24 投稿 (星期五，下午五点半)2023-03-25 Pending review2023-03-27 Under review (周一，分配 编辑)2023-04-17 Article Processing Charge Con ......
【论文分析】COGMEN:基于上下文化GNN的多模态情感识别
1. 简述 COGMEN ：基于上下文化图神经网络的多模式情感识别架构，该架构既解决了上下文对语句的影响，也解决了用于预测会话中每个说话者的每一语句情感的相互依赖性和内部依赖性 COGMEN有以下特点： 基于上下文化图神经网络（GNN）的多模式情感识别架构，用于预测会话中每语句每说话者的情感 模型在 ......
1-ORB-SLAM3论文重点导读及整体算法流程梳理-归纳
摘要 ORB-SLAM3是第一个能够执行纯视觉、视觉-惯导以及多地图的SLAM系统，可以在单目，双目以及RGB-D相机上使用针孔以及鱼眼模型。 本文主要新颖之处在于基于特征的VIO紧耦合系统，该系统完全依赖于最大后验估计，即使在IMU初始化阶段也是如此。本系统在小型和大型、室内和室外环境中实时稳定运 ......
2023AAAI_Ultra-High-Definition Low-Light Image Enhancement: A Benchmark and Transformer-Based Method(LLformer)
一. motivition 1. 之前的数据集分辨率较低 二. contribution 1. 提出两个超高清数据集UHD-4k和UHD-8k 2. 网络结构LLFormer(网络结构类似2022CVPR_Restormer: Effificient Transformer forHigh-Reso ......
数学建模论文排版（画图篇）
本文为学习清风数学建模排版的画图部分的笔记（各方面的原因导致较为简略） 配套资料可以在微信公众号《数学建模学习交流》后台发送“论文排版”免费获取。 思维导图 可以用很多方法实现，这里主要介绍PPT的smartart的实现 将图中文字打到PPT中，并进行分层（开始--段落--提高列表级别），效果如图： ......
论文分享：使用生成对抗性网络的照片真实单图像超分辨率
尽管使用更快和更深的卷积神经网络在单幅图像超分辨率的精度和速度上取得了突破，但一个中心问题仍然很大程度上没有解决：当我们以大的放大因子进行超分辨时，我们如何恢复更精细的纹理细节？基于优化的超分辨方法的行为主要由目标函数的选择驱动。最近的工作主要集中在最小化均方重建误差。所得到的估计具有高峰值信噪比， ......
Transformer学习
Transformer学习 此帖用于整理回顾自己学transformer的一些问题和知识 极好的博客和资料： Transformer 模型详解-CSDN博客：原理讲的很清楚 举个例子讲下transformer的输入输出细节及其他 - 知乎 (zhihu.com)：讲的是输入输出的细节 Transfo ......
论文解读《Interpolated Adversarial Training: Achieving robust neural networks without sacrificing too much accuracy》
论文信息 论文标题：Interpolated Adversarial Training: Achieving robust neural networks without sacrificing too much accuracy论文作者：Alex LambVikas VermaKenji Kawa ......
【论文翻译】COGMEN：基于上下文化GNN的多模态情感识别
摘要 情感是人类互动的固有组成部分，因此，开发能够理解和识别人类情感的人工智能系统势在必行。在涉及不同人的谈话中，一个人的情绪受到另一个说话人的语句和自己对语句的情绪状态的影响。在本文中，我们提出了基于上下文化图神经网络的多模态情感识别(COGMEN)系统，该系统利用了局部信息(即说话者之间的相互/ ......
【pytorch】土堆pytorch教程学习（四）Transforms 的使用
transforms 在工具包 torchvision下，用来对图像进行预处理：数据中心化、数据标准化、缩放、裁剪、旋转、翻转、填充、噪声添加、灰度变换、线性变换、仿射变换、亮度/饱和度/对比度变换等。 transforms 本质就是一个python文件，相当于一个工具箱，里面包含诸如 Resize ......
[Prompt] Transforming
Transforming In this notebook, we will explore how to use Large Language Models for text transformation tasks such as language translation, spelling a ......