transform mrctf 2020
Meta-Transformer 多模态学习的统一框架
Meta-Transformer是一个用于多模态学习的新框架，用来处理和关联来自多种模态的信息，如自然语言、图像、点云、音频、视频、时间序列和表格数据，虽然各种数据之间存在固有的差距，但是Meta-Transformer利用冻结编码器从共享标记空间的输入数据中提取高级语义特征，不需要配对的多模态训练 ......
IOI2020国家集训队作业 做题记录
## 约定 - 【码】：标记为该题码量大，考验码力。 # IOI2020国家集训队作业 Part 1 1. [CF504E Misha and LCP on Tree](https://codeforces.com/problemset/problem/504/E)【码】： 序列上的套路拉到树上。运 ......
2020 某高校学生使用手机的目的调查。
As is apparently demonstrated in the chart above, we are informed some information concerning college students" reading intentions with mobile phones ......
Meta-Transformer：1个框架理解12种模态引发的质变与涌现（已开源）
前言 近日，香港中文大学多媒体实验室（CUHK MMLab）联合上海人工智能实验室的OpenGVLAB研究团队提出一个统一多模态学习框架 Meta-Transformer，实现骨干网络的大一统，具有一个模态共享编码器，并且无需配对数据，即可理解 12 种模态信息, 并提供了多模态无边界融合的新范式。 ......
Bidirectional Encoder Representations from Transformers
BERT（Bidirectional Encoder Representations from Transformers）是由Google在2018年提出的自然语言处理（NLP）模型。它是一个基于Transformer架构的预训练模型，通过无监督学习从大量的文本数据中学习通用的语言表示，从而能够更好... ......
Transformer模型
### Transformer模型 [Transformer模型及其实现](https://blog.csdn.net/moo611/article/details/122234867) 历史：谷歌团队在2017年提出的经典NLP模型（目前很火的bert模型就是基于此模型）。 特点：Transfor ......
CTFer成长记录——CTF之Web专题·[ACTF2020 新生赛]Include
一、题目链接 https://buuoj.cn/challenges#[ACTF2020%20新生赛]Include 二、解法步骤 打开网页: 有趣的是无论是查看源代码还是bp抓包都一无所获，这题考的是php的filter伪协议进行文件包含： php://filter：(from https://b ......
CF623E Transforming Sequence
难点在于卡 `__int128`（？）。 首先 $N>K$ 显然无解，只需考虑 $N\le K$ 的情况。然而这并没有什么用。 把 $b$ 看作集合，显然 $b_i\subset b_{i+1}$。所以令 $f_{n,i}$ 为考虑到 $b_n$ 且 $|b_n|=i$ 的方案数，集合元素无序，即选 ......
VBA利用transform函数和ADO实现交叉汇总
VBA中transform函数基本语法： Creates a crosstab query. Syntax TRANSFORM aggfunction selectstatement PIVOT pivotfield [IN (value1[, value2[, ...]])] The TRANSF ......
Vision Transformer
Vision Transformer 本文关注ViT论文`4.5 Inspecting Vision Transformer`可视化的原理及实现，此外还对ViT pytorch源码实现进行理解 [toc] # Introduction [论文地址](arXiv:2010.11929) ## Titl ......
transformer中解码器的实现细节
1. 前言 17年google团队发表l了论文《Attention Is All You Need》，transformer横空出世，并引领了AI学术圈的研发风向，以Transformer为基础模型的新模型层出不穷，无论是NLP还是CV或者是多模态，attention遍地开花。 这篇文章遵循enco ......
buuctf-[WUSTCTF2020]朴实无华
打开靶机显示 啥都没有，先去查看robots.txt 发现 之后再fake里面请求头中发现fl4g.php 最后绕过三层php限制 第一关 intvar 可以解析科学计数法 所以传入 1e4 第一个截断解析为1 第二个加一解析为10001 payload：num=1e4 第二关 只要是0e开头md5 ......
[CSP-S2020]儒略日
# [[CSP-S2020] 儒略日](https://www.luogu.com.cn/problem/P7075) 本题需要掌握正确的方法，不然写起来很麻烦。 在格里高利历中，日期计算以400年为周期，每400年都有恰好146097天。 预处理出400年内的情况，将年份模400即可快速得到答案。 ......
P7074 [CSP-J2020] 方格取数 题解
题目： 题目描述 设有 n*m 的方格图，每个方格中都有一个整数。现有一只小熊，想从图的左上角走到右下角，每一步只能向上、向下或向右走一格，并且不能重复经过已经走过的方格，也不能走出边界。小熊会取走所有经过的方格中的整数，求它能取到的整数之和的最大值。 输入格式 第一行有两个整数 n, m。 接下来 ......
【论文写作】实现部分的剖析 ICSE2020
## 背景 Time-travel Testing of Android Apps ICSE 2020 新加坡国立大学 ## 4 Implementation 实施 我们的时间旅行框架作为一个全自动化的应用测试平台实施，它使用或扩展了以下工具：VirtualBox [4]，用于运行和控制Androi ......
Cnoi2020 领域极限
应该是最简单的做法，同时也是 AT 官方题解做法。 考虑计算 $\min\sum\limits_{1\le i\le j\le n}|a_i-a_j|$，乘二即为答案。 考虑 $n$ 个线段中使 $l_x$ 最大的 $x$ 以及使 $r_y$ 最小的 $y$。 - 若 $l_x\le r_y$，那么 ......
Transformer（转换器）
Sequence To Sequence（序列对序列） 输入一个序列，输出一个序列 输出序列的长度由机器自己决定，例如：语音辨识、机器翻译、语音翻译 Sequence To Sequence一般分成两部分： Encoder:传入一个序列，由Encoder处理后传给Decoder Decoder:决定 ......
[ACTF2020 新生赛]Exec
[ACTF2020 新生赛]Exec 题目来源：buuctf 题目类型：web 涉及考点：目录遍历 1. 题目直接给了一个输入框，ping一下127.0.0.1看看 接着查看目录，直接`127.0.0.1;ls`： 只有index.php，我们先看看： ``` 127.0.0.1;cat index ......
斯坦福博士一己之力让Attention提速9倍！FlashAttention燃爆显存，Transformer上下文长度史诗级提升
前言 FlashAttention新升级！斯坦福博士一人重写算法，第二代实现了最高9倍速提升。 本文转载自新智元 仅用于学术分享，若侵权请联系删除 欢迎关注公众号CV技术指南，专注于计算机视觉的技术总结、最新技术跟踪、经典论文解读、CV招聘信息。 CV各大方向专栏与各个部署框架最全教程整理 【CV技 ......
Transformer取代者登场！微软、清华刚推出RetNet：成本低、速度快、性能强
前言 Transformer 的训练并行性是以低效推理为代价的：每一步的复杂度为 O (N) 且键值缓存受内存限制，让 Transformer 不适合部署。不断增长的序列长度会增加 GPU 内存消耗和延迟，并降低推理速度。研究者们一直在努力开发下一代架构，希望保留训练并行性和 Transformer ......
[未解决] vue transform-blocks解析源代码报错：Illegal tag name. Use '<' to print '<'.
报错内容： [vite] Internal server error: Illegal tag name. Use '<' to print '`标签后报错，但其他vue文件可以正常读取和展示。 报错的文件，去掉``标签就可以正常加载。报错的方法是vue-compiler的`baseParse()` ......
从RNN到Transformer
## 1. RNN 循环神经网络的内容可参考https://www.youtube.com/watch?v=UNmqTiOnRfg。 RNN建模的对象是具有时间上前后依赖关系的对象。以youtube上的这个视频为例，一个厨师如果只根据天气来决定今天他做什么菜，那么就是一个普通的神经网络；但如果他第i ......
P6835 [Cnoi2020] 线形生物题解
# P6835 [Cnoi2020] 线形生物题解 ## 题目描述 求从 $1$ 到 $n+1$ 的链的期望，其中有 $m$ 条返祖边：$u->v$ 这条边 $u\ge v$，**等概率**，求期望 ## Solution 这种爬楼梯的题一般求解 $E(x\rightarrow x+1)$，则最后答 ......
[BJDCTF2020]鸡你太美
得到两个gif,一个是正文一个是副本，010查看发现副本没有文件头，之后用winhex插入文件头，就得到了flagzhi_yin_you_are_beautiful ......
[ACTF新生赛2020]outguess
首先拿到文件查看图片信息社会主义核心价值观编码，直接解码用kali里面的outguess隐写解一下outguess -k 'abc' -r mmm.jpg flag.txt之后cat flag.txt ......
Hugging News #0717: 开源大模型榜单更新、音频 Transformers 课程完成发布！
每一周，我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新，包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等，我们将其称之为「Hugging News」。本期 Hugging News 有哪些有趣的消息，快来看看吧！ 🎉 😍 ## 重磅更新 ......
大语言模型的预训练[1]:基本概念原理、神经网络的语言模型、Transformer模型原理详解、Bert模型原理介绍
# 大语言模型的预训练[1]:基本概念原理、神经网络的语言模型、Transformer模型原理详解、Bert模型原理介绍 # 1.大语言模型的预训练 ## 1.LLM预训练的基本概念 预训练属于迁移学习的范畴。现有的神经网络在进行训练时，一般基于反向传播（Back Propagation，BP）算法 ......
题解 P6772 [NOI2020] 美食家
观察数据范围，$T$ 很大，$n$ 很小，用矩乘。 对于一条边 $(u,v,w)$，我们将 $u$ 拆成 $w-1$ 个点，并连接 $(u_0,u_1,0),(u_1,u_2,0)...(u_{w-2},u_{w-1},0)$ 和 $(u_{w-1},v_0,c_{v})$，总点数 $5n$。 将美 ......
题解 P7165 [COCI2020-2021#1] Papričice
### 题面描述 给定一颗树，求分成三部分后的最小差异值。 ### 题解 暴力：每次枚举两个点，将其父边断掉，如果存在祖先关系则特判一下，复杂度 $O(n^2)$，预计 50pts。 正解：dfs 搜索每个结点，砍掉它的父边，剩下的尽量等分（易证）。 这一步可以用 multiset 维护。 对于一个 ......