swin-transformer transformer经典 论文
DETR基于Transformer目标检测
DETR基于Transformer目标检测 目录DETR基于Transformer目标检测DETR网络结构和NLP Transformer对比Object QueryFFN为什么DETR不需要NMS优缺点参考资料 DETR首次将Transformer应用到了目标检测任务中。图像会先经过一个传统的CN ......
三分钟学完科研论文常用统计图
统计分析的结果通常包括统计图和统计表。统计图是一种用图形表示数据的方式，它能够直观地展示数据的分布、趋势和关系。科研论文中常见的统计图包括条形图、饼图、折线图、散点图等。这些图形可以帮助人们快速地理解和分析数据，找出其中的规律和特征。今天就来讲一讲常用的科研统计图。 一、统计图结构 统计图一般包括5 ......
Net 高级调试之十五：经典的锁故障
一、简介 今天是《Net 高级调试》的第十五篇文章，这个系列的文章也快结束了，但是我们深入学习的脚步还不能停止。上一篇文件我们介绍了C# 中一些锁的实现逻辑，并做到了眼见为实的演示给大家它们底层是如何实现的，今天这篇文件就主要介绍一些如何查找和解决在项目调试中遇到的锁的问题，比如：死锁、孤立锁、线程 ......
论文笔记：全同态加密研究进展-白利芳等
论文笔记：全同态加密研究进展-白利芳等 同态加密–概念 同态性 给定2个代数结构间的映射，**$ \delta: A \to B\(，满足\)\delta(x _A y)=\delta(x) _B \delta(y)\(**，这里这种映射\)\delta \(就可以看作是同态加密中的“加密”操作，即 ......
在 IIS 上生成经典 ASP 网站
场景：在 IIS 上生成经典 ASP 网站 本文档将指导你完成安装 IIS 和配置经典 ASP 网站的过程。 经典 ASP 是服务器端脚本环境，可用于创建和运行动态 Web 应用程序。 借助 ASP，你可以将 HTML 页面、脚本命令和 COM 组件组合在一起，从而创建易于开发和修改的交互式网页。 ......
【Transformer 基础系列】手推显存占用
https://zhuanlan.zhihu.com/p/648924115 本文试图以最清晰的方式手动推导 Transformers 每一步的参数量到显存、计算量问题。理解底层，才能更好的做训练和优化。可能是目前最全的大模型显存优化方案分析。 本文内容包括（1）模型训练和推理过程中的显存占用（2） ......
Unity3D 通过transform实现人物移动还是velocity详解
Unity3D是一款非常流行的游戏引擎，它提供了多种方式来实现游戏中的人物移动。其中，最常用的两种方法是通过transform组件和通过velocity属性来实现。 对啦！这里有个游戏开发交流小组里面聚集了一帮热爱学习游戏的零基础小白，也有一些正在从事游戏开发的技术大佬，欢迎你来交流学习。 通过tr ......
VLOOKUP函数16种经典用法
功能：在表格的首列查找指定的数值，并返回表格当前行中指定列处的数值。 结构：=VLOOKUP(查找值,查找区域,列序数,匹配条件) 解释：=VLOOKUP(找谁,在哪里找,第几列,0或1) 说明： 1、第一参数：查找值（找谁），比如说根据【姓名】来查找【成绩】，【姓名】就是查找值 2、第二参数：查找 ......
分享经典好句
1、出来混最重要的是什么：是义气？ 那肯定是先出来啊 2、有一天，孙悟空到饭店吃饭，饭店里面有很多水果，有苹果，桃子，香蕉，榴莲，你猜他会吃什么，不，不是，而是榴莲，有石猴有石猴，宁愿选择榴莲不放手 3、掏心掏肺心力交瘁，没心没肺活得不累 4、在这个世界上只有一种英雄主义,那就是在认清生活真相之后依 ......
某宝上搞来的电子书，经典的量化投资书籍，《Advances in Financial Machine Learning》—— 《金融机器学习的进展》、《量化投资与机器学习》、《金融机器学习研究进展》
英文书名： 《Advances in Financial Machine Learning》 经典的量化投资书籍，某宝上6元搞来的电子版： ......
计算机经典教材
计算机经典教材 目录 1 前言 2 Mathematics (数学) 3 Data Structures & Algorithms (数据结构、算法) 4 Compiler (编译原理) 5 Operating System (操作系统) 6 Database (数据库) 7 C (C 语言) 8 ......
linux经典电灯驱动（古老版，参考用）
驱动程序 #include <linux/types.h> #include <linux/kernel.h> #include <linux/delay.h> #include <linux/ide.h> #include <linux/init.h> #include <linux/module ......
GPT-1论文《Improving Language Understanding by Generative Pre-Training》解读
背景 GPT-1 采用了两阶段训练的方式： 1. 第一阶段 pre-training，在海量文本上训练，无需label，根据前k-1个词预测第k个单词是什么，第一阶段的训练让模型拥有了很多的先验知识，模型具有非常强的泛化性 2. 第二阶段在特定任务上fine-tuning，让模型能适应不同的任务，提 ......
kettle从入门到精通 第二十六课 再谈 kettle Transformation executor
1、前面文章有学习过Transformation executor ，但后来测试kettle性能的时候遇到了很大的问题，此步骤的处理性能太慢，导致内存溢出等问题。所以再次一起学习下此步骤的用法。 2、 如下图中rds-sametable-同步逻辑处理使用的是Transformation execut ......
大模型涉及到的比较经典的论文
大模型涉及到的比较经典的论文： 2014 Neural Machine Translation by Jointly Learning to Align and Translate - This paper introduces an attention mechanism in RNNs to i ......
南阳卧龙岗100副经典楹联、匾额
南阳卧龙岗100副经典楹联、匾额，文化含金量奇高！ 2020-07-15 17:32 南阳卧龙岗，有座“鲤鱼跳龙门”大型砖雕照壁 1.千古人龙（大门外石坊） 注：人龙：人中龙，比喻出类拔萃，有重大影响的人物。此指诸葛亮。 清道光十二年（1832年）南阳县典史王清亮书。 释义：诸葛亮是永垂千古的人类的 ......
【论文精读#1】SPGAN-DA：用于领域自适应遥感图像语义分割的语义保留生成对抗网络
作者: Yansheng Li 发表年代: 2023 使用的方法: 无监督领域自适应(UDA)、GAN、ClassMix、边界增强 来源: IEEE TGRS 方向: 语义分割 期刊层次: CCF B；工程技术1区；IF 8.2 文献链接： https://doi.org/10.1109/TGRS. ......
论文推荐：大型语言模型能自我解释吗?
这篇论文的研究主要贡献是对LLM生成解释的优缺点进行了调查。详细介绍了两种方法，一种是做出预测，然后解释它，另一种是产生解释，然后用它来做出预测。 最近的研究发现，即使LLM是在特定数据上训练的，也不能认识到训练的知识与推理上下文之间的联系。 因此一些人认为之为“X链”的方法非常重要。因为要求LLM ......
[论文阅读] Learning Component-Level and Inter-Class Glyph Representation for few-shot Font Generation
Pre title: Learning Component-Level and Inter-Class Glyph Representation for few-shot Font Generation accepted: ICME 2023 paper: https://ieeexplore.ie ......
transformer 预测 ENSO
第一篇《A self-attention–based neural network for threedimensional multivariate modeling and its skillful ENSO predictions 》 发表在Sci Adv. 张荣华 起名3D-Geoforme ......
PDF论文重命名
PDF-Renamer Python 库的使用教程 "pdf-renamer" 是一个 Python 命令行工具，主要用于自动地重命名科研论文的 PDF 文件。它可以用于重新命名单个文件，也可以批量扫描整个文件夹及其子目录。 内容目录 简介 安装 使用 在 Windows 右键菜单添加快捷方式 简介 ......
《OneLLM: One Framework to Align All Modalities with Language》论文学习
一、Abstract 随着LLM的兴起，由于其强大的语言理解和推理能力，在学术和工业界中越来越受欢迎。LLM的进展也启发了研究人员将LLM作为多模态任务的接口，如视觉语言学习、音频和语音识别、视频理解等，因此多模态大语言模型(Multimodal Large Language Model， MLLM ......
论文精读：ST2Vec：道路网络中的时空轨迹相似性学习（ST2Vec: Spatio_Temporal Trajectory Similarity Learning in Road Networks）
论文精读：ST2Vec 道路网络中的时空轨迹相似性学习 《ST2Vec: Spatio-Temporal Trajectory Similarity Learning in Road Networks》 论文链接：https://doi.org/10.48550/arXiv.2112.09339 一 ......
可视化学习：CSS transform与仿射变换
在几年前，我就在一些博客中看到关于CSS中transform的分析，讲到它与线性代数中矩阵的关系，但当时由于使用transform比较少，再加上我毕竟是个数学学渣，对数学有点畏难心理，就有点看不下去，所以只是随便扫了两眼，就没有再继续了解了。现在在学习可视化，又遇到了这个点，又说到这是可视化的基础知... ......
用AI大模型学经典：了凡四训
缘起： 在读《了凡四训-立命之学》时，总有些疑问，比如立命究竟是什么含义？生死之命，贫富之命，贵贱之命究竟是什么意思？ 参考学习和自己拓展 参考AI大模型后，可知： 立命： 确立自己的天命（人生目标），令自己生活或工作有奔头，精神有寄托。从而坚定志向，不至于被挫折或困难所阻碍自己的目标达成 三个命的 ......
论文阅读-OpenFE 自动特征生成技术
论文链接：https://arxiv.org/abs/2211.12507 摘要 提出了一种新的feature boost方法来鉴别候选特征在准确率上对模型的提升效果 双阶段剪枝算法，从粗筛到精筛从候选特征池中挑选出top k个生成特征 在简单但有代表性的设置下，证明了特征生成是有益的 引言 Exp ......
论文阅读-Self-supervised and Interpretable Data Cleaning with Sequence Generative Adversarial Networks
1. GARF 简介 代码地址：https://github.com/PJinfeng/Garf-master 基于 SeqGAN 提出了一种自监督、数据驱动的数据清洗框架——GARF。 GARF 的数据清洗分为两个步骤： 规则生成 (Rule generation with SeqGAN)：利用 ......
transformer总体架构
transformer总体架构 目录transformer总体架构循环神经网络总体架构EncoderDecoder输入输出层模型输入位置编码模型输出自注意力机制关于QKV的理解Q, K, V 及注意力计算多头注意力机制多头注意力机制作用Feed Forward 层参考资料 论文地址：Attentio ......
transformer补充细节
transformer补充细节 目录transformer补充细节注意力机制细节为什么对点积注意力进行缩放多头带来的好处数据流训练时数据流推理时数据流解码器中注意力的不同带掩码的注意力机制位置编码整型数值标记[0,1]范围标记位置二进制标记周期函数标识用sin和cos交替来表示位置训练测试细节参考资 ......
5.经典进程同步问题
生产者消费者问题 一组生产者进程和一组消费者进程共享一个初始为空，大小为n的缓冲区。当缓冲区没满时，生产者才能把消息放入缓冲区，否则必须等待，只有缓冲区不空时，消费者才能从中取出消息，否则必须等待。由于缓冲区是临界资源，它只允许一个生产者放入消息，或一个消费者从中取出消息。 semaphore mu ......