transformers handwriting论文
论文推荐：基于联合损失函数的多任务肿瘤分割
以FFANet为主干，加入分类的分支，将模型扩展为多任务图像分割框架，设计了用于分类和分割的联合损失函数。 FFANet+MTL 完整文章： https://avoid.overfit.cn/post/6a605da56978443bb548e8f342cbda37 ......
3_transforms (pytorch tutorial)
Transforms Data does not always come in its final processed form that is required for training machine learning algorithms. We use transforms to perfo ......
论文解读（VAT）《Virtual Adversarial Training: A Regularization Method for Supervised and Semi-Supervised Learning》
论文信息 论文标题：Virtual Adversarial Training: A Regularization Method for Supervised and Semi-Supervised Learning论文作者：Takeru Miyato, S. Maeda, Masanori Koya ......
ChatGPT 可以写你的论文，但你应该使用它吗？
随着在线写作工具的日益普及，您可能想知道：我可以使用ChatGPT来写我的论文吗？如果您从未使用过聊天机器人，它可以在几秒钟内生成几段文本。这肯定比任何人打字都快，但使用它也有很多限制。以下是您需要了解的有关 ChatGPT 在撰写论文方面的表现以及您是否应该使用它的所有信息。 快速回答 ChatG ......
论文解读《Do We Need Zero Training Loss After Achieving Zero Training Error?》
论文信息 论文标题：Do We Need Zero Training Loss After Achieving Zero Training Error?论文作者：Takashi Ishida, I. Yamane, Tomoya Sakai, Gang Niu, M. Sugiyama论文来源：20 ......
论文解读（PGD）《Towards deep learning models resistant to adversarial attacks》
论文信息 论文标题：Towards deep learning models resistant to adversarial attacks论文作者：Aleksander Madry, Aleksandar Makelov, Ludwig Schmidt, Dimitris Tsipras, Ad ......
深入了解 Transformers – Part 1: 介绍 Transformer 模型
动动发财的小手，点个赞吧！ 自从最新的Large Language Models（LLaM）发布以来，如OpenAI的GPT系列、开源模型Bloom或谷歌发布的LaMDA等，Transformer展现出了巨大的潜力，成为了深度学习的前沿架构楷模。 尽管已经有几篇文章介绍了 transformer 及 ......
MapReduce论文阅读报告
1 背景 MapReduce可以简单理解为一个函数式编程框架，因为对于大量数据处理在分布式场景下会有各种各样的麻烦，比如错误处理，数据集划分，分布式调度等问题。Google的两位工程师提出了这一个框架，就可以让一个没有分布式经验的普通用户（比如我），只通过实现map和reduce函数，就能轻松完成分 ......
论文解读（FGSM）《Explaining and Harnessing Adversarial Examples》
论文信息 论文标题：Explaining and Harnessing Adversarial Examples论文作者：Ian J. Goodfellow, Jonathon Shlens, Christian Szegedy论文来源：ICLR 2015论文地址：download 论文代码：dow ......
猛读论文13 |【CVPR 2022 UDA】Unleashing Potential of Unsupervised Pre-Training with Intra-Identity Regularization for Person Re-Identification
动机 解决（1）对比学习管道中的增强通常会扭曲人物图像中的判别线索（2）细粒度的局部特征人物图像尚未得到充分探索。 思路 方法 ......
猛读论文6 |【CVPR 2022】Camera-Conditioned Stable Feature Generation for Isolated Camera Supervised Person Re-IDentification
用于孤立摄像机监督行人重识别的摄像机条件稳定特征生成 动机 常规ReID，对于一个ID，在不同摄像头拍摄的图片上提取跨相机视图不变特征 而 ISCS情况下，无法做到同一个ID采集到不同摄像头图片 由于跨相机样本在人体 Re-ID 模型训练中起着重要作用，而在 ISCS 设置下不存在此类配对图像，因此 ......
出版学术研究论文的一些小技巧
动动发财的小手，点个赞吧！ 本文的目的是与研究生分享一些关于在期刊和会议上发表文章的指南。这是基于我过去作为博士生的经验。我的一篇 AI（深度学习）论文最近在 Google Scholar中被引用了 1000 次。根据 Web of Science™ 数据库，只有约 0.026% 的论文被引用次数超 ......
论文解析 -- A Survey of AIOps Methods for Failure Management
此篇Survey是A Systematic Mapping Study in AIOps的后续研究 对于AIOPS中占比较高的Failure Management进行进一步的研究 Compared to traditional approaches, AIOps is: • fast, becaus ......
Swin Transformer
22年初的屠榜模型 题目：用了移动窗口的层级式的vision transformer 摘要：Swin transformer可以作为CV中通用骨干网络。与NLP不同的第一个是对象尺度的问题，第二是多次提到的分辨率太大的问题，之前工作已经用很多办法减少过输入模型的序列长度。移动窗口可以让每次只计算一个 ......
浏览器打开有些pdf内容不全，打开有些论文页很多红色绿色的框
问题 问题1：edge 浏览器打开pdf，只能看到表格，看不到表格里的字，用其他浏览器打开或者pdf阅读器打开都能看到完整的表格内容。 问题2：用edge浏览器看pdf论文的时候，会有很多红色绿色的框，比如： 解决方法 偶然间，我发现导致这些问题是因为我安装的 “侧边翻译” 插件，由于之前看网页中的 ......
论文阅读记录3——基于提示学习的小样本文本分类方法——计算机应用
方法： 首先，利用预训练模型 BERT在标注样本上学习到最优的提示模板；然后，在每条样本中补充提示模板和空缺，将文本分类任务转化为完形填空任务；最后，通过预测空缺位置的 填充词，结合填充词与标签之间的映射关系得到最终的标签。 原因： 文本分类任务通常依赖足量的标注数据，针对低资源场景下的分类模型在小 ......
论文阅读记录2——条件生成对抗网络读后归纳
方法： 具体的来说，我们可以在生成模型G和判别模型D中同时加入条件约束来引导数据的生成过程。条件可以是任何补充的信息，如类标签，其它模态的数据等。然后这样的做法应用也很多，比如图像标注，利用text生成图片等等。 原因： 因为原始的GAN过于自由，训练会很容易失去方向，从而导致不稳定又效果差。而Co ......
springboot项目 宿舍管理系统 (源码+数据库文件+1w字论文+ppt)
来了就点个赞再走呗，即将毕业的兄弟有福了文章底部获取源码springboot项目 宿舍管理系统 (源码+数据库文件+1w字论文+ppt)技术框架:java+springboot+vue+mysql后端框架: Spring Boot、Spring MVC、MyBatis Plus前端界面: vue、B ......
使用 Transformers 进行图分类
在之前的 博文 中，我们探讨了图机器学习的一些理论知识。这一篇我们将探索如何使用 Transformers 库进行图分类。(你也可以从 此处 下载演示 notebook，跟着一起做！) 目前，Transformers 中唯一可用的图 transformer 模型是微软的 Graphormer，因此本 ......
伟大思想论文：Cantor–Bernstein-Schröder 定理及其证明简介
Cantor–Bernstein-Schröder 定理及其证明简介 1 定理简介 Cantor–Bernstein-Schröder 定理，也称作 Schröder–Bernstein 定理、Cantor–Bernstein 定理，是集合论中的重要定理。它的内容十分简单：如果集合 $A$ 到集合 ......
第一学期写的三篇论文
胡言乱语罢了。开了博客园之后想把它们传到上面来，先试试 Pandoc 的效果。 author: 马逸飞 522031910765 title: 从自然数指数幂到三角函数 摘要 本文从较为自然的自然数指数幂出发，定义整数指数幂、有理数指数幂、实数指数幂、复数指数幂运算和指数函数，并探究它们的性质。最后 ......
[论文速览] Word-As-Image for Semantic Typography
Pre title: Word-As-Image for Semantic Typography accepted: Arxiv 2023 paper: https://arxiv.org/abs/2303.01818 code: https://github.com/WordAsImage/Wor ......
Unity CharacterController的transform赋值无效（一直下落）问题
题 使用 CharacterController 后 ， 坐标系统会变得混乱，这个是上期说过的问题，各系统之间使用自己的缓存来保持数据，玩家为了模拟重力 不得不持续进行运算。 这样就会令其他坐标操作指令出现无效化或者混乱 unity 也提供了一个简单的解决方案 就是每计算一次之前 都去同步其他坐标操 ......
论文caption写法讨论
本文来自一篇英文博客。总结了该博客提出的关于caption写法。博客链接在末尾给出。 caption的组成部分 一个caption 通常由一下几个部分组成。 declarative title: 总结在figure中展示的数据的主要发现。 通常的caption中不会明确表示数据的主要发现而是仅说明被 ......
论文解读《Automatically discovering and learning new visual categories with ranking statistics》
论文信息 论文标题：Automatically discovering and learning new visual categories with ranking statistics论文作者：K. Han, Sylvestre-Alvise Rebuffi, Sébastien Ehrhard ......
论文解读（PAWS）《Semi-Supervised Learning of Visual Features by Non-Parametrically Predicting View Assignments with Support Samples》
论文信息 论文标题：Semi-Supervised Learning of Visual Features by Non-Parametrically Predicting View Assignments with Support Samples论文作者：Mahmoud Assran, Mathi ......
论文解读：基于 OpenMLDB 的流式特征计算优化
近期，数据库领域的顶级学术会议 ICDE 2023 在迪斯尼主题公园的故乡 - 美国的安纳海姆（Anaheim）举办。由 OpenMLDB 开源社区和新加坡科技设计大学（Singapore University of Technology and Design）联合完成的研究工作在 ICDE 202... ......
毕业论文插入参考文献
软件：VS CODE，JabRef，谷歌学术，图书馆 插入英文文献： https://sc.panda321.com/scholar?hl=zh-CN&as_sdt=0%2C5&q=Widely+Linear+Filtering+for+Multiimpairment+Compensation+in ......
论文阅读记录1——Lmbff（更好的基于微调的语言模型）读后归纳
方法： 基于GPT-3的强大功能：只要给出一个自然语言提示和一些任务演示，GPT-3就能够做出准确的预测，而无需更新其底层局域网的任何权重。 在一个更实际的场景中研究了少数镜头学习，在那里我们使用了更小的语言模型，其中的微调在计算上是有效的。我们提出了lm - bff(更好的语言模型的少量微调)，这 ......
Transformer网络-Self-attention is all your need
一、Transformer Transformer最开始用于机器翻译任务，其架构是seq2seq的编码器解码器架构。其核心是自注意力机制： 每个输入都可以看到全局信息，从而缓解RNN的长期依赖问题。 输入： （待学习的）输入词嵌入 + 位置编码（相对位置） 编码器结构： 6层编码器： 一层编码器 = ......