transform mrctf 2020
图解transformer中的自注意力机制
本文将将介绍注意力的概念从何而来，它是如何工作的以及它的简单的实现。 注意力机制 在整个注意力过程中，模型会学习了三个权重:查询、键和值。查询、键和值的思想来源于信息检索系统。所以我们先理解数据库查询的思想。 假设有一个数据库，里面有所有一些作家和他们的书籍信息。现在我想读一些Rabindranat ......
CMU15445 (Fall 2020) 数据库系统 Project#4 - Concurrency Control 详解
# 前言 一个合格的事务处理系统，应该具备四个性质：原子性（atomicity）、一致性（consistency）、隔离性（isolation）和持久性（durability）。隔离性保证了一个活跃的事务（还没提交或者回滚）对数据库所做的系统对于其他的活跃事务是不可见的，看起来就像某一时刻就只有一个 ......
[BJDCTF 2020]encode
# [BJDCTF 2020]encode ## **分析程序** * 无壳 * 32位ELF程序 程序运行回显如下:  放IDA中继续分析: ......
三大特征提取器（RNN/CNN/Transformer）
三大特征提取器 - RNN、CNN和Transformer# 简介# 近年来，深度学习在各个NLP任务中都取得了SOTA结果。这一节，我们先了解一下现阶段在自然语言处理领域最常用的特征抽取结构。 本文部分参考张俊林老师的文章《放弃幻想，全面拥抱Transformer：自然语言处理三大特征抽取器（CN ......
3.3 Spatial Transformer
# 1. Spatial Transformer Layer ## 1.1 CNN is not invariant to scaling and rotation (1) CNN并不能真正做到scaling和rotation. (2) 如下图所示,在通常情况下,左右两边的图片对于CNN来说是不一样 ......
transform (牛客多校) (双指针+二分+ 中位数妙用+前缀和相减维护)
题目大意: n 个商店在 一条直线上, 有一个xi 然后 有 ai 个商品 你可以把 商店的物品 移动到另一个商店, 代价为 : abs(xi-xj) 在代价不超过T的情况下 你可以选择一个商店来让 其他商店的物品都移到这个商店,问最多移动多少个物品 思路: 双指针维护一个最大的区间, 因为这个最大 ......
[NOIP2020] 移球游戏 解题报告
## 题目描述 给定 $n+1$ 个栈，栈的高度限制为 $m$。初始时前 $n$ 个上每个有 $m$ 个球，最后一个为空。球分为 $n$ 种颜色，每种恰好 $m$ 个。一次操作可以把一个栈顶的元素弹出放到一个另一个栈顶，但是不可以使栈溢出或下溢。现要把同种颜色的球移动到同一个栈上，你需要构造一个在 ......
JOI Final 2020 题解
##### JOI 2020 Just Long Neckties 首先一定是贪心将两个从小到大排。然后考虑维护 $a_i-b_i$ 的前缀 max 与 $a_{i+1}-b_i$ 的后缀 max 即可。 https://qoj.ac/submission/113106 ##### JOI 2020 ......
[ACTF2020 新生赛]Exec 1
查看源代码，发现并没有什么东西 有一个可以输入的框框，想到命令执行 ls可以在linux查看文件 由于不知道在哪个文件下，用../../进行判断--注意执行前面要有|  数据库系统 Project#3 - Query Execution 详解
# 前言 经过前两个实验的铺垫，终于到了执行 SQL 语句的时候了。这篇博客将会介绍 SQL 执行计划实验的实现过程，下面进入正题。 # 总体架构 一条 SQL 语句的处理流程可以归纳为： 1. SQL 被 Parser 解析为抽象语法树 AST 2. Binber 将 AST转换为 Bustub ......
利用生成式预训练Transformer实现文本分类和命名实体识别
[toc] 利用生成式预训练Transformer实现文本分类和命名实体识别 随着人工智能技术的不断发展，文本分类和命名实体识别成为了人工智能领域的重要应用。在这些应用中，使用生成式预训练Transformer模型已经成为了一种流行的解决方案。本文将介绍如何利用生成式预训练Transformer实现 ......
Transformer算法的应用
[toc] Transformer 算法的应用 近年来，随着深度学习和自然语言处理领域的迅速发展，Transformer 算法成为了深度学习中最重要的算法之一。Transformer 算法是一种基于自注意力机制的深度神经网络模型，它在处理序列数据时具有极强的并行计算能力和出色的表现力。本文将详细介绍 ......
GPT生成式预训练Transformer架构应用实战
[toc] GPT生成式预训练Transformer架构应用实战 ## 1. 引言 人工智能在过去几年发展迅速，深度学习和Transformer架构成为了当前人工智能领域的热点。GPT生成式预训练Transformer架构是深度学习中的一种新型架构，可以更好地处理自然语言生成任务，因此受到了广泛关注 ......
利用生成式预训练Transformer实现智能问答与人机交互
[toc] 利用生成式预训练Transformer实现智能问答与人机交互 随着人工智能技术的不断发展，智能问答和人机交互已经成为了人工智能领域中的重要研究方向。在智能问答中，机器能够以自然的方式与人类进行对话，通过理解人类的问题，为其提供相关的答案。在人机交互中，机器能够与人类进行更加流畅和自然的交 ......
基于生成式预训练Transformer的跨语言文本摘要与情感分析
[toc] 标题：《基于生成式预训练Transformer的跨语言文本摘要与情感分析》 ## 1. 引言 随着人工智能技术的不断发展，跨语言文本摘要和情感分析成为了许多应用场景的重要需求。在这些应用中，文本摘要通常是为了简洁、准确地概述文本内容，而情感分析则是为了分析文本中的情感倾向。这些技术需要处 ......
生成式预训练Transformer：探索其在自然语言处理领域的最新应用
[toc] 生成式预训练Transformer：探索其在自然语言处理领域的最新应用 ## 1. 引言 自然语言处理 (NLP) 是一项具有巨大潜力的技术领域，近年来得到了广泛的关注和发展。其中，生成式预训练Transformer(GPT) 是一种先进的神经网络模型，被广泛应用于文本生成、机器翻译、语 ......
Transformer编码器和解码器被广泛应用于自然语言处理、计算机视觉、语音识别等领域。下面是一些Trans
[toc] Transformer 编码器和解码器被广泛应用于自然语言处理、计算机视觉、语音识别等领域。近年来，由于 Transformer 在自然语言处理领域的广泛应用，越来越多的研究者开始关注 Transformer 的改进与优化。本文将详细介绍 Transformer 编码器和解码器的原理、实 ......
NOIP2020 T2 字符串匹配【题解】
# NOIP2020 T2 字符串匹配 ### 首先声明 这篇题解存在大多数让我这种人看懂的废话，如果想要速通，请另寻他解 ## 题目简化 定义字符串乘法为 $AB$ 为把两个字符串拼起来，定义阶乘 $A^i$ 表示 $\prod_{1}^i A$ 再定义 $F(S)$ 为 $S$ 中出现奇数次字符 ......
Custom directive is missing corresponding SSR transform and will be ignored
## 背景 最近在给业务组件库集成指令库，将各个项目中常用的指令如一键复制、元素和弹窗拖拽等封装到一起，进行统一发版维护。 业务组件库项目架构采用的是pnpm+vite+vue3+vitepress，其中vitepress主要做组件库文档站点同时展示可交互的组件。 ## 问题 开发运行时指令库dem ......
transformers
sentence = "Hello, my son is cuting."input_ids_method1 = torch.tensor(tokenizer.encode(sentence, add_special_tokens=True)) # Batch size 1 //一次性进行分词和id ......
生成式预训练Transformer在机器翻译中的应用与挑战
[toc] 机器翻译是人工智能领域的重要应用之一，而生成式预训练Transformer(GPT)技术则是目前机器翻译领域的前沿之一。本文将介绍GPT技术的原理、实现步骤和应用场景，并探讨其在机器翻译中的挑战和发展趋势。 ## 1. 引言 机器翻译是一个重要的应用领域，因为翻译需要将一种语言的文字转化 ......
利用生成式预训练Transformer实现文本分类和命名实体识别
[toc] 利用生成式预训练Transformer实现文本分类和命名实体识别 随着人工智能技术的不断发展，文本分类和命名实体识别成为了人工智能领域的重要应用。在这些应用中，使用生成式预训练Transformer模型已经成为了一种流行的解决方案。本文将介绍如何利用生成式预训练Transformer实现 ......
Transformer算法的应用
[toc] Transformer 算法的应用 近年来，随着深度学习和自然语言处理领域的迅速发展，Transformer 算法成为了深度学习中最重要的算法之一。Transformer 算法是一种基于自注意力机制的深度神经网络模型，它在处理序列数据时具有极强的并行计算能力和出色的表现力。本文将详细介绍 ......
GPT生成式预训练Transformer架构应用实战
[toc] GPT生成式预训练Transformer架构应用实战 ## 1. 引言 人工智能在过去几年发展迅速，深度学习和Transformer架构成为了当前人工智能领域的热点。GPT生成式预训练Transformer架构是深度学习中的一种新型架构，可以更好地处理自然语言生成任务，因此受到了广泛关注 ......
利用生成式预训练Transformer实现智能问答与人机交互
[toc] 利用生成式预训练Transformer实现智能问答与人机交互 随着人工智能技术的不断发展，智能问答和人机交互已经成为了人工智能领域中的重要研究方向。在智能问答中，机器能够以自然的方式与人类进行对话，通过理解人类的问题，为其提供相关的答案。在人机交互中，机器能够与人类进行更加流畅和自然的交 ......
基于生成式预训练Transformer的跨语言文本摘要与情感分析
[toc] 标题：《基于生成式预训练Transformer的跨语言文本摘要与情感分析》 ## 1. 引言 随着人工智能技术的不断发展，跨语言文本摘要和情感分析成为了许多应用场景的重要需求。在这些应用中，文本摘要通常是为了简洁、准确地概述文本内容，而情感分析则是为了分析文本中的情感倾向。这些技术需要处 ......
生成式预训练Transformer：探索其在自然语言处理领域的最新应用
[toc] 生成式预训练Transformer：探索其在自然语言处理领域的最新应用 ## 1. 引言 自然语言处理 (NLP) 是一项具有巨大潜力的技术领域，近年来得到了广泛的关注和发展。其中，生成式预训练Transformer(GPT) 是一种先进的神经网络模型，被广泛应用于文本生成、机器翻译、语 ......