kldivloss损失pytorch nn
《动手学深度学习 Pytorch版》 4.5 权重衰减
# 4.5.1 范数与权重衰减 整节理论，详见书本。 # 4.5.2 高维线性回归 ```python %matplotlib inline import torch from torch import nn from d2l import torch as d2l ``` ```python # ......
关于包mamba安装和官网pytorch安装顺序的问题（基于anaconda）
如题，有以下几点需要特别注意： 1.对于anaconda，base环境旨在维护依赖关系，所以强烈建议不要在base环境中安装任何其他东西，因为可能会中断安装或者出现别的问题。实践证明，在base环境中安装mamba包，就算安装到天荒地老，也装不上，哈哈！！！ 2.在虚拟环境中如果要用官方代码安装最新 ......
pytorch分布式训练报错：Duplicate GPU detected : rank 1 and rank 0 both on CUDA device 35000
之前使用的比较老的torch 1.8.1，换到torch 2.0后报错 "rank 1 and rank 0 both on CUDA device 35000" 将main函数开头部分的初始化 ```python distributed.init_process_group(backend='nc ......
循环神经网络--基于pytorch框架
import matplotlib.pyplot as plt import math import torch from torch import nn from torch.nn import functional as f from d2l import torch as d2l batch_ ......
pytorch优化器
#torch.optim.SGD 常用参数列表： params 需要学习的参数 lr 学习率 momentum 冲量 加入冲量后权重更新公式由v=−dx∗lr+v变成v=−dx∗lr+v∗momemtum weight_decay 权重衰减 防止过拟合，原理见[这里](https://zhuanla ......
量化自定义PyTorch模型入门教程
在以前Pytorch只有一种量化的方法，叫做“eager mode qunatization”，在量化我们自定定义模型时经常会产生奇怪的错误，并且很难解决。但是最近，PyTorch发布了一种称为“fx-graph-mode-qunatization”的方方法。在本文中我们将研究这个fx-graph- ......
自定义CUDA实现PyTorch算子的四种简单方法
### 背景 在探索新的深度学习算法的时候，我们可能会遇到PyTorch提供的算子不能满足需求的情况，这时候就需要自定义PyTorch算子，将我们的算法集成到PyTorch的工作流中。同时，为了提高运算效率，算子往往都需要使用CUDA实现。所幸，PyTorch及很多其他Python库都提供了简化这一 ......
Proj CDeepFuzz Paper Reading: Automatic differentiation in PyTorch
## Abstract 本文：描述automatic differentiation module of PyTorch 包括：Lua Torch, Chainer, HIPS Autograd Task: Provides a high-performance environment on dif ......
《动手学深度学习 Pytorch版》 4.4 模型选择、欠拟合和过拟合
# 4.4.1 训练误差和泛化误差 整节理论，详见书本。 # 4.4.2 模型选择 整节理论，详见书本。 # 4.4.3 欠拟合还是过拟合 整节理论，详见书本。 # 4.4.4 多项回归 ```python import math import numpy as np import torch fr ......
《动手学深度学习 Pytorch版》 4.3 多层感知机的简洁实现
```python import torch from torch import nn from d2l import torch as d2l ``` # 模型 ```python net = nn.Sequential(nn.Flatten(), nn.Linear(784, 256), nn. ......
《动手学深度学习 Pytorch版》 4.2 多层感知机的从零开始实现
```python import torch from torch import nn from d2l import torch as d2l # 经典数据集与batch size batch_size = 256 train_iter, test_iter = d2l.load_data_fas ......
pytorch报错IndexError: invalid index of a 0-dim tensor. Use tensor.item() to convert a 0-dim tensor to a Python
该错误消息表示您正在尝试索引其中只有一项的数组。例如， In [10]: aten = torch.tensor(2) In [11]: aten Out[11]: tensor(2) In [12]: aten[0] IndexError Traceback (most recent call l ......
《动手学深度学习 Pytorch版》 4.1 多层感知机
```python %matplotlib inline import torch from d2l import torch as d2l ``` # 4.1.1 隐藏层 整节理论，详见书本。 以下展示常见的激活函数。 1. ReLU 函数 $$ \mathrm{ReLU}(x)=\max(x,0 ......
PyTorch多卡分布式训练DDP单机多卡
PyTorch多卡分布式训练：DistributedDataParallel (DDP) 简要分析 前言 因为课题组发的卡还没有下来，先向导师问了实验室的两张卡借用。之前都是单卡训练模型，正好在这个机会实践以下单机多卡训练模型的方法。关于 DDP 网上有很多资料，但都比较零碎（有些博客的代码甚至没办 ......
Pytorch环境搭建
https://pytorch.org/ https://blog.csdn.net/weixin_43737866/article/details/127784768 https://www.jianshu.com/p/4c7b9127cf83 https://blog.csdn.net/m0_5 ......
torch.nn基础学习教程 | PyTorch nn Basic Tutorial
> 基于`torch.nn`搭建神经网络的基础教程大纲： ## **1. 引言** 在我们开始深入探讨`torch.nn`之前，我们首先需要理解PyTorch及其神经网络库的基础知识。这一部分的内容将帮助你对PyTorch有一个整体的了解。 ### 1.1 **为什么选择PyTorch？** - * ......
【pytorch】从零开始，利用yolov5、crnn+ctc进行车牌识别
笔者的运行环境：python3.8+pytorch2.0.1+pycharm+kaggle用到的网络框架：yolov5、crnn+ctc项目地址：[GitHub - WangPengxing/plate_identification: 利用yolov5、crnn+ctc进行车牌识别](https:/ ......
[note] pytorch的几种维度操作方式比对
## pre 今天看代码在想 `torch.unbind + torch.cat` 与 `torch.reshape` 的区别，直观上来看reshape似乎更便利。 ## chatgpt ### 问题 x is a tensor of three dimension, what is the dif ......
pytorch nn.LSTM模块参数详解
nn.LSTM模块参数 input_size ：输入的维度 hidden_size：h的维度 num_layers：堆叠LSTM的层数，默认值为1 bias：偏置 ，默认值：True batch_first： 如果是True，则input为(batch, seq, input_size)。默认值为： ......
BOSHIDA DC电源模块在传输过程中如何减少能量的损失
BOSHIDA DC电源模块在传输过程中如何减少能量的损失 DC电源模块是电子设备中常见的电源转换器，它可以将交流电转换成稳定的直流电，并且具有高效能、低功耗、可控性强等优点。在DC电源模块传输过程中，由于电能的转换过程中会产生一定的能量损失，因此如何减少能量损失，提高转换效率成为一个重要的问题。 ......
带你上手基于Pytorch和Transformers的中文NLP训练框架
基于pytorch、transformers做中文领域的nlp开箱即用的训练框架，提供全套的训练、微调模型（包括大模型、文本转向量、文本生成、多模态等模型）的解决方案。 ......
简单的将pytorch模型部署到onnx
1. 创建一个pytorch模型 这里我用的U2Net，直接加载好训练出的权重 model = U2Net(class_nums=4) model.load_state_dict(torch.load(checkpoint_path)) 2. 将pytorch模型转成onnx格式 x = torcg ......
循环神经网络RNN完全解析：从基础理论到PyTorch实战
>在本文中，我们深入探讨了循环神经网络（RNN）及其高级变体，包括长短时记忆网络（LSTM）、门控循环单元（GRU）和双向循环神经网络（Bi-RNN）。文章详细介绍了RNN的基本概念、工作原理和应用场景，同时提供了使用PyTorch构建、训练和评估RNN模型的完整代码指南。 > 作者 TechLea ......
大连人工智能计算平台——华为昇腾AI平台——高性能计算HPC——如何在MPI中支持multiprocessing和fork操作——如何在HPC平台上使用pytorch——是否可以通过调度器的提交参数绕过HPC的计费系统
本文要讨论的就是如何在MPI中支持multiprocessing和fork操作，但是这个问题同时也是如何在HPC平台如何使用pytorch的问题，可以说这两个问题其实是同一个问题，而这个问题的解决过程中又产生了另一个问题，你就是是否可以通过调度器的提交参数绕过HPC的计费系统？ ......
win10 CUDA11.1安装torch1.9 / reformer_pytorch
# 环境 - NVIDIA-SMI 457.52 - Driver Version: 457.52 - CUDA Version: 11.1 # 安装torch-gpu 1. `conda create -n torch1.9 python=3.8` 2. `pip install torch==1 ......
PyTorch 提高生产力的技巧
推荐：使用NSDT场景编辑器助你快速搭建3D应用场景 介绍 您是否曾经花费数小时调试机器学习模型，但似乎找不到准确性没有提高的原因？你有没有觉得一切都应该完美地工作，但由于某种神秘的原因，你没有得到模范的结果？ 好吧，没有了。作为初学者探索 PyTorch 可能会令人生畏。在本文中，您将探索久经考验 ......
讲解pytorch的tensor没有移除某个元素的操作
在 PyTorch 中，要从一个 Tensor 中移除一个元素，您需要使用索引操作来选择保留的元素，然后重新创建一个新的 Tensor。由于 PyTorch 的 Tensor 是不可变的，所以无法直接在原 Tensor 上移除元素。 下面是一个示例，展示了如何从一个 PyTorch Tensor 中 ......
深度学习（十三）——损失函数与反向传播
# 一、损失函数：Loss Function > 官网文档：[torch.nn — PyTorch 2.0 documentation](https://pytorch.org/docs/stable/nn.html#loss-functions) ## 1. Loss Function的作用 - ......
PyTorch基础学习笔记
### 一、初识 pytorch读取数据设计两个类：Dataset 和Dataloader > DataSet：提供一种方式，获取其中需要的数据及其对应的真实label值，并完成编号。主要实现功能： - 如何获取每一个数据和label - 告诉我们共有多少的数据 Dataloader：打包，为后面的 ......
nn.Sequential 、 nn.ModuleList 、 nn.ModuleDict区别
1、nn.Sequential 、 nn.ModuleList 、 nn.ModuleDict 类都继承自 Module 类。 2、各自用法 net = nn.Sequential(nn.Linear(128, 256), nn.ReLU())net = nn.ModuleList([nn.Lin ......