pytorch
pytorch报错IndexError: invalid index of a 0-dim tensor. Use tensor.item() to convert a 0-dim tensor to a Python
该错误消息表示您正在尝试索引其中只有一项的数组。例如， In [10]: aten = torch.tensor(2) In [11]: aten Out[11]: tensor(2) In [12]: aten[0] IndexError Traceback (most recent call l ......
《动手学深度学习 Pytorch版》 4.1 多层感知机
```python %matplotlib inline import torch from d2l import torch as d2l ``` # 4.1.1 隐藏层 整节理论，详见书本。 以下展示常见的激活函数。 1. ReLU 函数 $$ \mathrm{ReLU}(x)=\max(x,0 ......
PyTorch多卡分布式训练DDP单机多卡
PyTorch多卡分布式训练：DistributedDataParallel (DDP) 简要分析 前言 因为课题组发的卡还没有下来，先向导师问了实验室的两张卡借用。之前都是单卡训练模型，正好在这个机会实践以下单机多卡训练模型的方法。关于 DDP 网上有很多资料，但都比较零碎（有些博客的代码甚至没办 ......
Pytorch环境搭建
https://pytorch.org/ https://blog.csdn.net/weixin_43737866/article/details/127784768 https://www.jianshu.com/p/4c7b9127cf83 https://blog.csdn.net/m0_5 ......
torch.nn基础学习教程 | PyTorch nn Basic Tutorial
> 基于`torch.nn`搭建神经网络的基础教程大纲： ## **1. 引言** 在我们开始深入探讨`torch.nn`之前，我们首先需要理解PyTorch及其神经网络库的基础知识。这一部分的内容将帮助你对PyTorch有一个整体的了解。 ### 1.1 **为什么选择PyTorch？** - * ......
【pytorch】从零开始，利用yolov5、crnn+ctc进行车牌识别
笔者的运行环境：python3.8+pytorch2.0.1+pycharm+kaggle用到的网络框架：yolov5、crnn+ctc项目地址：[GitHub - WangPengxing/plate_identification: 利用yolov5、crnn+ctc进行车牌识别](https:/ ......
[note] pytorch的几种维度操作方式比对
## pre 今天看代码在想 `torch.unbind + torch.cat` 与 `torch.reshape` 的区别，直观上来看reshape似乎更便利。 ## chatgpt ### 问题 x is a tensor of three dimension, what is the dif ......
pytorch nn.LSTM模块参数详解
nn.LSTM模块参数 input_size ：输入的维度 hidden_size：h的维度 num_layers：堆叠LSTM的层数，默认值为1 bias：偏置 ，默认值：True batch_first： 如果是True，则input为(batch, seq, input_size)。默认值为： ......
带你上手基于Pytorch和Transformers的中文NLP训练框架
基于pytorch、transformers做中文领域的nlp开箱即用的训练框架，提供全套的训练、微调模型（包括大模型、文本转向量、文本生成、多模态等模型）的解决方案。 ......
简单的将pytorch模型部署到onnx
1. 创建一个pytorch模型 这里我用的U2Net，直接加载好训练出的权重 model = U2Net(class_nums=4) model.load_state_dict(torch.load(checkpoint_path)) 2. 将pytorch模型转成onnx格式 x = torcg ......
循环神经网络RNN完全解析：从基础理论到PyTorch实战
>在本文中，我们深入探讨了循环神经网络（RNN）及其高级变体，包括长短时记忆网络（LSTM）、门控循环单元（GRU）和双向循环神经网络（Bi-RNN）。文章详细介绍了RNN的基本概念、工作原理和应用场景，同时提供了使用PyTorch构建、训练和评估RNN模型的完整代码指南。 > 作者 TechLea ......
大连人工智能计算平台——华为昇腾AI平台——高性能计算HPC——如何在MPI中支持multiprocessing和fork操作——如何在HPC平台上使用pytorch——是否可以通过调度器的提交参数绕过HPC的计费系统
本文要讨论的就是如何在MPI中支持multiprocessing和fork操作，但是这个问题同时也是如何在HPC平台如何使用pytorch的问题，可以说这两个问题其实是同一个问题，而这个问题的解决过程中又产生了另一个问题，你就是是否可以通过调度器的提交参数绕过HPC的计费系统？ ......
win10 CUDA11.1安装torch1.9 / reformer_pytorch
# 环境 - NVIDIA-SMI 457.52 - Driver Version: 457.52 - CUDA Version: 11.1 # 安装torch-gpu 1. `conda create -n torch1.9 python=3.8` 2. `pip install torch==1 ......
PyTorch 提高生产力的技巧
推荐：使用NSDT场景编辑器助你快速搭建3D应用场景 介绍 您是否曾经花费数小时调试机器学习模型，但似乎找不到准确性没有提高的原因？你有没有觉得一切都应该完美地工作，但由于某种神秘的原因，你没有得到模范的结果？ 好吧，没有了。作为初学者探索 PyTorch 可能会令人生畏。在本文中，您将探索久经考验 ......
讲解pytorch的tensor没有移除某个元素的操作
在 PyTorch 中，要从一个 Tensor 中移除一个元素，您需要使用索引操作来选择保留的元素，然后重新创建一个新的 Tensor。由于 PyTorch 的 Tensor 是不可变的，所以无法直接在原 Tensor 上移除元素。 下面是一个示例，展示了如何从一个 PyTorch Tensor 中 ......
PyTorch基础学习笔记
### 一、初识 pytorch读取数据设计两个类：Dataset 和Dataloader > DataSet：提供一种方式，获取其中需要的数据及其对应的真实label值，并完成编号。主要实现功能： - 如何获取每一个数据和label - 告诉我们共有多少的数据 Dataloader：打包，为后面的 ......
【pytorch】目标检测：一文搞懂如何利用kaggle训练yolov5模型
笔者的运行环境：python3.8+pytorch2.0.1+pycharm+kaggle。yolov5对python和pytorch版本是有要求的，python>=3.8，pytorch>=1.6。yolov5共有5种类型n\s\l\m\x，参数量依次递增，对训练设备的要求也是递增。本文以yolo ......
【pytorch】目标检测：新手也能彻底搞懂的YOLOv5详解
YOLOv5是Glenn Jocher等人研发，它是Ultralytics公司的开源项目。YOLOv5根据参数量分为了`n、s、m、l、x`五种类型，其参数量依次上升，当然了其效果也是越来越好。从2020年6月发布至2022年11月已经更新了7个大版本，在v7版本中还添加了语义分割的功能。本文以YO ......
【pytorch】目标检测：YOLO的基本原理与YOLO系列的网络结构
利用深度学习进行目标检测的算法可分为两类：two-stage和one-stage。two-stage类的算法，是基于Region Proposal的，它包括R-CNN，Fast R-CNN, Faster R-CNN；one-stage类的算法仅仅使用一个CNN网络直接预测不同目标的类别与位置，它包 ......
TedNet：一个用于张量分解网络的Pytorch工具包
## 摘要 张量分解网络（Tensor Decomposition Networks，TDNs）因其固有的紧凑架构而流行。为了给更多的研究人员提供一种灵活的方式来利用TDNs，我们提出了一个名为TedNet的Pytorch工具包。TedNet实现了5种张量分解（即，CANDECOMP/PARAFAC ......
Pytorch 并行：DistributedDataParallel
# Pytorch 并行：DistributedDataParallel 一个节点上往往有多个 GPU（单机多卡），一旦有多个 GPU 空闲（~~当然得赶紧都占着~~），就需要合理利用多 GPU 资源，这与并行化训练是分不开的。 ## O、数据并行化 按 《深入浅出Pytorch》的话来说，pyto ......
Pytorch中使用Embedding报错'IndexError'的解决方法
# 简介 Pytorch中`nn.Embedding`为针对词向量的层，其用来实现词与词向量的映射。其调用形式如下 ```python nn.Embedding( num_embeddings: int, embedding_dim: int, padding_idx: int | None = N ......
pytorch实现图像算子层
一、Sobel边缘提取算子的实现： import cv2 import matplotlib.pyplot as plt import numpy as np import torch import torch.nn as nn def get_sobel(in_chan, out_chan): # ......
改动一行代码，PyTorch训练三倍提速，这些「高级技术」是关键
前言 用对了方法，加速 PyTorch 训练，有时也不是那么复杂。 本文转载自机器之心 仅用于学术分享，若侵权请联系删除 欢迎关注公众号CV技术指南，专注于计算机视觉的技术总结、最新技术跟踪、经典论文解读、CV招聘信息。 CV各大方向专栏与各个部署框架最全教程整理 【CV技术指南】CV全栈指导班、基 ......
实践教程｜源码级理解Pytorch中的Dataset和DataLoader
前言 本文30分钟带你达到对Pytorch中的Dataset和DataLoader的源码级理解，并提供构建数据管道的3种常用方式的范例，扫除你构建数据管道的一切障碍。 本文转载自算法美食屋 作者 | 梁云1991 仅用于学术分享，若侵权请联系删除 欢迎关注公众号CV技术指南，专注于计算机视觉的技术总 ......
Anaconda+PyCharm+Pytorch/tensorflow环境配置个人总结
Anaconda是一个非常方便的python版本管理工具，可以很方便地切换不同版本的Python进行测试。同时不同版本之间也不存在相互的干扰。 PyCharm是一款常见的Python IDE，pytorch和TensorFlow是目前两个主流的深度学习框架。 Anaconda安装 前往官方网址下载最 ......
【pytorch】ResNet源码解读和基于迁移学习的实战
“工欲善其事，必先利其器”，掌握ResNet网络有必要先了解其原理和源码。本文分别从原理、源码、运用三个方面出发行文，先对ResNet原理进行阐述，然后对pytorch中的源码进行详细解读，最后再基于迁移学习对模型进行调整、实战。本文若有疏漏、需更正、改进的地方，望读者予以指正！！！笔者的运行设备与 ......
大连人工智能计算平台——华为昇腾AI平台——高性能计算HPC的pytorch源码编译的一些注意事项
配置过程： (base) root@afa50e5922a4:~/pytorch# python setup.py develop Building wheel torch-2.1.0a0+git3c70d4b -- Building version 2.1.0a0+git3c70d4b cmake ......
利用pytorch自定义CNN网络（五）：保存、加载自定义模型【转载】
**本文转载自：**[**PyTorch | 保存和加载模型**](https://zhuanlan.zhihu.com/p/82038049) ## 1. **简介** 本文主要介绍如何加载和保存 PyTorch 的模型。这里主要有三个核心函数： 1. torch.save ：把序列化的对象保存到 ......