transformer tensorflow pytorch gpt
PyTorch 系列
PyTorch【】-模型保存、加载、加载内置模型 PyTorch 模型所有属性 及 应用 PyTorch 形变操作汇总（包括形状、维度、合并拆分等） PyTorch-优化器optim与学习率 PyTorch-池化 PyTorch【】-tensoboard 详解 PyTorch-function 之 ......
transformers 系列
Attention 注意力机制【1】-入门篇 注意力机制【2】- CV中的注意力机制 注意力机制【3】-Self Attention 注意力机制【4】-多头注意力机制 注意力机制【5】Scaled Dot-Product Attention 和 mask attention 注意力机制【6】-tra ......
GPT-2（small）架构推理解析
1、有字符串BBCAD 2、为字符串中的每个字母添加index索引以进行排序，A、B、C、D的索引下标分别是0、1、2、3，因此排序的数字结果为01123 3、将01123中的每个数字转换为c个元素的向量（这个过程称为embedding，其中c是一个超参数） 4、将每个字母的索引信息分别嵌入到tok ......
Pandas - apply、agg、transform 函数
apply：行或列的操作。 agg：聚合，可以传递字典，对多个列使用不同的函数。最终结果可能会合并，与原 DataFrame 列长度不保持一致。 transform：转换，也可以对多个列使用不同的函数。但是最终结果与原 DataFrame 列长度保持一致，不会聚合。 ......
华为云耀云服务器L实例-深度学习环境配置-TensorFlow进行手写数字识别
华为云耀云服务器L实例-深度学习环境配置-TensorFlow进行手写数字识别 产品官网：https://www.huaweicloud.com/product/hecs-light.html 今天我们采用可靠更安全、智能不卡顿、价优随心用、上手更简单、管理特省心的华为云耀云服务器L实例为例，本篇中 ......
pytorch转onnx中关于卷积核的问题
pytorch导出onnx过程中报如下错误： RuntimeError: Unsupported: ONNX export of convolution for kernel of unknown shape. 我报错的部分代码如下： def forward(self, input): n, c, ......
Swin Transformer
Swin Transformer 目录Swin Transformer简介VIT的缺陷核心创新总体结构和运作网络细节Patch partitionLinear EmbeddingPatch MergingSwin Block模块W-MSASW-MSAAttention Mask计算成本分析主要优势S ......
VIT Vision Transformer
VIT Vision Transformer 目录VIT Vision TransformerViT模型结构图像划分PatchLinear Projection of Flatted PatchesPatch+Position Embedding分类向量和位置向量EncoderMLP Head（全连 ......
DETR基于Transformer目标检测
DETR基于Transformer目标检测 目录DETR基于Transformer目标检测DETR网络结构和NLP Transformer对比Object QueryFFN为什么DETR不需要NMS优缺点参考资料 DETR首次将Transformer应用到了目标检测任务中。图像会先经过一个传统的CN ......
快速使用 Pytorch 的混合精度进行训练
使用混合精度的代码示例 以非常基础的训练代码片段为例： for epoch in range(epochs): model.train() for i, (images, labels) in enumerate(loader_train): images = images.to(device) l ......
Gemini VS GPT
Gemini 声称优于 ChatGPT https://medium.com/@gbaptista/gemini-claims-superiority-over-chatgpt-i-tried-to-replicate-their-findings-9751b31394b1 欢迎关注公-众-号【Ta ......
GPT Zero 是什么？
from https://openaigptguide.com/gptzero/ 在人工智能技术飞速发展的今天，人们对于文字内容的准确性和可信度要求越来越高。例如在学术研究领域，防止抄袭和造假是非常重要的。而对于普通用户而言，辨别哪些内容是由人工智能生成的，哪些内容是由人类编写的，也逐渐成为一个亟待 ......
TensorFlow Object Detection API —— 开箱即用的目标检测API
TensorFlow Object Detection API 提供了在 COCO 2017 数据集上预训练的检测模型集合。如果你要识别的对象存在于 COCO2017 数据集，那么你就可以直接使用 TensorFlow Object Detection API 来检测图片或视频。 TensorFlo ......
免费的GPT4.0镜像与GPT账号
4.0账号： 访问至[https://chat1.zhile.io/auth/login] 将fk-igCXpSmZrZ3kcygOe_G1JuSmXFhlVbV-dgiUQg_AwaU粘贴于此即可使用， 这个模型也是4.0如果没有次数了就用这个模型。 4.0镜像： http://163.47.8. ......
【Transformer 基础系列】手推显存占用
https://zhuanlan.zhihu.com/p/648924115 本文试图以最清晰的方式手动推导 Transformers 每一步的参数量到显存、计算量问题。理解底层，才能更好的做训练和优化。可能是目前最全的大模型显存优化方案分析。 本文内容包括（1）模型训练和推理过程中的显存占用（2） ......
GPT-3《Language Models are Few-Shot Learners》解读
GPT-3 和 GPT-2差别 1. 效果上，超出 GPT-2 非常多，能生成人类难以区分的新闻文章；2. 主推 few-shot，相比于 GPT-2 的 zero-shot，具有很强的创新性；3. 模型结构略微变化，采用 sparse attention 模块；4. 海量训练语料 45TB（清洗后 ......
Unity3D 通过transform实现人物移动还是velocity详解
Unity3D是一款非常流行的游戏引擎，它提供了多种方式来实现游戏中的人物移动。其中，最常用的两种方法是通过transform组件和通过velocity属性来实现。 对啦！这里有个游戏开发交流小组里面聚集了一帮热爱学习游戏的零基础小白，也有一些正在从事游戏开发的技术大佬，欢迎你来交流学习。 通过tr ......
使用 GPT4V+AI Agent 做自动 UI 测试的探索
从 Web 诞生之日起，UI 自动化就成了测试的难点，到现在近 30 年，一直没有有效的手段解决Web UI测试的问题，尽管发展了很多的 webdriver 驱动，图片 diff 驱动的工具，但是这些工具的投入产出比一直被质疑，自动化率越多维护成本越高，大部分都做着就放弃了，还有一部分在做与不做间纠... ......
【大语言模型基础】60行Numpy教你实现GPT-原理与代码详解
写在前面 本文主要是对博客 https://jaykmody.com/blog/gpt-from-scratch/ 的精简整理，并加入了自己的理解。 中文翻译：https://jiqihumanr.github.io/2023/04/13/gpt-from-scratch/#circle=on 项目 ......
PYTORCH基础(15)torch.nn库五大基本功能：nn.Parameter、nn.Linear、nn.functioinal、nn.Module、nn.Sequentia
第1章 torch.nn简介 1.1 torch.nn相关库的导入 #环境准备 import numpy as np # numpy数组库 import math # 数学运算库 import matplotlib.pyplot as plt # 画图库 import torch # torch基础 ......
GPT-2 《Language Models are Unsupervised Multitask Learners》解读
背景 GPT1采用了pre-train + fine-tuning训练方式，也就是说为了适应不同的训练任务，模型还是需要在特定任务的数据集上微调，仍然存在较多人工干预的成本。GPT-2 想彻底解决这个问题，通过 zero-shot，在迁移到其他任务上的时候不需要额外的标注数据，也不需要额外的模型训练 ......
GPT-1论文《Improving Language Understanding by Generative Pre-Training》解读
背景 GPT-1 采用了两阶段训练的方式： 1. 第一阶段 pre-training，在海量文本上训练，无需label，根据前k-1个词预测第k个单词是什么，第一阶段的训练让模型拥有了很多的先验知识，模型具有非常强的泛化性 2. 第二阶段在特定任务上fine-tuning，让模型能适应不同的任务，提 ......
AIKit v4.11.0 – WordPress AI 自动编写器、聊天机器人、写作助手和内容重定向器 / OpenAI GPT 插件
AIKit v4.11.0：WordPress的AI革命 一、引言 AIKit v4.11.0是一款为WordPress用户精心设计的强大插件，该插件集成了OpenAI的GPT-3技术，为用户提供了前所未有的AI写作和聊天机器人功能。此版本的推出，将WordPress的功能扩展到了全新的领域，利用人 ......
kettle从入门到精通 第二十六课 再谈 kettle Transformation executor
1、前面文章有学习过Transformation executor ，但后来测试kettle性能的时候遇到了很大的问题，此步骤的处理性能太慢，导致内存溢出等问题。所以再次一起学习下此步骤的用法。 2、 如下图中rds-sametable-同步逻辑处理使用的是Transformation execut ......
基于pytorch写一个三层神经网络，训练数据并导出模型
import torch import torch.nn as nn import torch.optim as optim # 定义三层神经网络 class ThreeLayerNN(nn.Module): def __init__(self, input_size, hidden_size1, ......
transformer 预测 ENSO
第一篇《A self-attention–based neural network for threedimensional multivariate modeling and its skillful ENSO predictions 》 发表在Sci Adv. 张荣华 起名3D-Geoforme ......
Pytorch模型结构修改
1. Var方差在pytorch中的差别： tlist = input.tolist() print(input) print(np.mean(tlist), np.var(tlist)) print(torch.mean(input), torch.var(input)) 可以看到numpy与to ......
可视化学习：CSS transform与仿射变换
在几年前，我就在一些博客中看到关于CSS中transform的分析，讲到它与线性代数中矩阵的关系，但当时由于使用transform比较少，再加上我毕竟是个数学学渣，对数学有点畏难心理，就有点看不下去，所以只是随便扫了两眼，就没有再继续了解了。现在在学习可视化，又遇到了这个点，又说到这是可视化的基础知... ......
pytorch——基于循环神经网络的情感分类
任务目标 基于给定数据集，进行数据预处理，搭建以LSTM为基本单元的模型，以Adam优化器对模型进行训练，使用训练后的模型进行预测并计算预测分类的准确率。 数据集信息 IMDB数据集是一个对电影评论标注为正向评论与负向评论的数据集，共有25000条文本数据作为训练集，25000条文本数据作为测试集。 ......
阿里云+智能ai+gpt
1.阿里 百度 腾讯分词 知识库。 阿里云（项目具体的费用预算展示，实际功能核算。） 向量智库 https://developer.aliyun.com/article/1234278?spm=5176.22133730.J_5253785160.2.79c57b5enFPauE 计费 https: ......