torch

Torch not compiled with Cuda enabled 解决办法

确保下方指令运行有效: nvcc --version 进入指定虚拟环境下运行下方指令: conda install pytorch==1.11.0 torchvision==0.12.0 torchaudio==0.11.0 cudatoolkit=11.3 -c pytorch 参考来源 ......
compiled enabled 办法 Torch Cuda

diffusers[torch]==0.21.2 torch==2.0.1+cu117 安装失败解决办法

安装失败 主要原因是 pip源 使用索引为官方 使用清华源 设置如下 pip install -r requirements.txt \ --extra-index-url https://download.pytorch.org/whl/cu117 \ -i https://pypi.tuna.t ......
torch diffusers 办法 117 21

如何判断torch中tensor的维度

省流版本 在输出一个张量时,你可以根据张量输出的方括号([])的数量来判断张量的维度。每个方括号对应张量的一个维度,张量的维度数就是方括号的数量。 最外面的为第一个维度,往里面依次为第2 3 ... 维度。 例如,如果你看到如下输出: tensor([[1, 2, 3], [4, 5, 6]]) 这 ......
维度 tensor torch

torch.unique

写代码的时候想把一个张量\(X\)中的最后一个维度进行类似集合那样的操作,于是网上找到了torch.unique这个方法(官方文档) torch.unique(input, sorted=True, return_inverse=False, return_counts=False, dim=Non ......
unique torch

torch.tensor与torch.Tensor区别

在pytorch中torch.tensor与torch.Tensor都可以生成新的张量 torch.Tensor是python类,会调用自己的构造函数,是默认张量类型torch.FloatTensor的别名,所以数据传入时会使用全局默认类型(FloatTensor) 而torch.tensor会根据 ......
torch tensor Tensor

检查torch是否是gpu版本

检查torch是否是gpu版本 1. 查看PyTorch版本: 打开Python交互式环境,导入torch包,使用命令torch.__version__查看PyTorch版本,如果版本名称中包含“cuda”,则表示是GPU版本。 例如,如果版本名称为“1.7.0+cu101”,则是支持CUDA 10 ......
版本 torch gpu

torch和numpy的维度交换方法

Tensor的维度转置方法 ​ 在搭建神经网络的时候,经常会遇到需要交换维度的时候,比如将HWCN的Tensor维度顺序变换为NCHW顺序,此时需要用到Tensor的转置方法。 ​ 一般有以下三种方法: 1、numpy.transpose ​ 如果Tensor是由np.Array转换而来,那么可以在 ......
维度 方法 torch numpy

利用 device_map、torch.dtype、bitsandbytes 压缩模型参数控制使用设备

# device_map 以下内容参考 [Huggingface Accelerate文档:超大模型推理方法](https://zhuanlan.zhihu.com/p/606061177) 在 HuggingFace 中有个重要的关键字是 device_map,它可以简单控制模型层部署在哪些硬件上 ......
bitsandbytes device_map 模型 参数 device

torch索引需要注意的小细节

1.索引的数据类型必须是int,bool,有时候会出现使用float类型去索引,这个时候会报错提示数据格式不对,这个时候需要检查自己的数据类型 2.加入有个a =tensor([1,2,3]), 当a>1,会取索引tensor([1,2]) ,当a<2,会取索引tensor(0),此时的区别就是:当 ......
索引 细节 torch

torch.nn基础学习教程 | PyTorch nn Basic Tutorial

> 基于`torch.nn`搭建神经网络的基础教程大纲: ## **1. 引言** 在我们开始深入探讨`torch.nn`之前,我们首先需要理解PyTorch及其神经网络库的基础知识。这一部分的内容将帮助你对PyTorch有一个整体的了解。 ### 1.1 **为什么选择PyTorch?** - * ......
学习教程 Tutorial PyTorch 基础 教程

torch和np互相转换

**1.torch转np** ``` # 创建一个形状为[2, 2, 40, 256]的随机张量 torch_tensor = torch.rand(2, 2, 40, 256) # 将张量转换为NumPy数组 numpy_array = torch_tensor.numpy() ``` **2.n ......
torch

torch.argmax()函数-截至2023年8月28日

argmax函数参数dim=0表示从列获取最大值索引,dim=1从行获取最大值索引,dim=-1从最后一个维度获取最大值索引[^argmax参考]。 举例 ```python import torch d = torch.tensor([[9,7,6], [4,8,2], [5,10,0]]) pr ......
函数 argmax torch 2023

torch.sum()用法-截至2023年8月28日

torch.sum()维度0,1,2。比如现在有$3\times\ 2\times3$的张量,理解为3个$2\times3$的矩阵。当dim=0,1,2时分别在哪个维度上相加[^文艺数学君]?下面是具体的矩阵 $$ [1,2,3]\\ [4,5,6]\\\\ [1,2,3] \\ [4,5,6]\\ ......
torch 2023 sum

torch索引使用方式示例

已知b = torch.Tensor([[1],[2]]),请问b[1]和b[[1]]的区别 在 PyTorch 中,b[1] 和 b[[1]] 之间有一个微妙的区别,这涉及到张量的索引和切片操作。让我解释一下两者之间的区别: b[1]:这是使用整数索引来获取张量 b 中的元素。由于 b 是一个形状 ......
示例 索引 方式 torch

解决wsl正确安装torch_sparse、torch_scatter的问题

# 快速解决torch_sparse、torch_scatter安装并正确使用的问题 我们如果直接进行pip install后,会因为pip的机制自动下载最新版本的其他依赖,例如torch等cuda版本。 所以我们需要找到对应自己电脑的cuda版本的模块whl,进行离线安装。 ## 找到对应版本 打 ......

ModuleNotFoundError: No module named 'torch._six'

ModuleNotFoundError: No module named 'torch._six' 由于torch 2.0版本没有这个模块,因此,只需要降低torch版本,就可以解决。 1)新建一个虚拟环境 2)安装低版本torch REF https://blog.csdn.net/wzwddkb ......
ModuleNotFoundError module named torch 39

win10 CUDA11.1安装torch1.9 / reformer_pytorch

# 环境 - NVIDIA-SMI 457.52 - Driver Version: 457.52 - CUDA Version: 11.1 # 安装torch-gpu 1. `conda create -n torch1.9 python=3.8` 2. `pip install torch==1 ......

Torch计算指标-ACC、Recall、Precision、NDCG、HR、ARHR

Calculating Binary Classification Metrics (Accuracy, Recall, Precision, F1, DCG, NDCG, HR, ARHR) for Batched Data using Torch - Input: pred -> [B, N], ......
Precision 指标 Recall Torch NDCG

torch基础操作汇总(常更新)

已知一个torch tensor[2,4,5,6],要取其中对应的索引位置(2,3),怎么操作 你可以使用 PyTorch 的索引操作来从给定的张量中提取特定索引位置的元素。在你提供的示例中,张量是 [2, 4, 5, 6],你希望提取的索引位置是 (2, 3)。以下是如何进行操作: import ......
基础 torch

torch tensor,boxes[:][:2] -= boxes[:][:2]/2 报错

因为在 PyTorch 中进行切片操作时,不支持使用 `[:][:2]` 的方式进行多次切片。正确的方式是将两次切片操作合并成一次。在你的代码中,你可能想要对所有的 boxes 进行操作,对每个 box 的前两个元素进行减法操作。 以下是正确的代码示例: ```python import torch ......
boxes tensor torch

模型超参数基本都没改,测试时加载模型报模型结构不匹配,设置模糊加载模型即:model.load_state_dict(torch.load(model_path), strict=Fasle),但效果出奇的差

# 原因 跑模型的时候,用的是多卡加载torch.nn.DataParallel(self.model),测试是用的单卡模糊加载保存的模型权重,很多模型参数都没有加载成功,自然会导致测试效果很差。 # 解决方法 ` # 如果你想要用nn.DataParallel来加载模型 state_dict = ......
模型 model load load_state_dict model_path

torch.cat()

要将一个大小为(2, 2)的PyTorch张量和一个大小为(1, 2)的张量拼接在一起,以形成一个新的大小为(3, 2)的张量,你可以使用PyTorch库中的torch.cat()函数。以下是一个示例代码: import torch # 假设你有一个大小为(2, 2)的张量 tensor1 和一个大 ......
torch cat

大连人工智能计算平台——华为昇腾AI平台——高性能计算HPC的pytorch环境报错——torch.cuda.is_available()显示false——NVIDIA显卡驱动版本过低导致pytorch无法使用cuda

在使用这个HPC平台的时候发现了这么一个问题,那就是编译好的pytorch-cuda和anaconda官方安装的pytorch-cuda均不能调用cuda计算,这个现象十分的诡异,经过长时间的调查发现了问题所在——NVIDIA驱动版本过低。 给出该HPC的显卡驱动版本: ......

【d2l】【常见函数】【20】 torch.bmm( )

**局部矩阵乘法** 参考:https://pytorch.org/docs/stable/generated/torch.bmm.html ![image](https://img2023.cnblogs.com/blog/3240132/202307/3240132-20230729221513 ......
函数 常见 torch d2l bmm

【d2l】【常见函数】【19】 torch.squeeze( ), torch.unsqueeze( )

## torch.squeeze() **压缩大小为1的维度** 参考:https://pytorch.org/docs/stable/generated/torch.squeeze.html ![image](https://img2023.cnblogs.com/blog/3240132/202 ......
torch 函数 unsqueeze 常见 squeeze

【d2l】【常见函数】【17】 torch.rand( (size) )

**返回一个指定size的张量,元素是0~1之间的随机数** 参考: https://pytorch.org/docs/stable/generated/torch.rand.html ![image](https://img2023.cnblogs.com/blog/3240132/202307/ ......
函数 常见 torch rand size

【d2l】【常见函数】【16】 torch.repeat_interleave( )

参考:https://pytorch.org/docs/stable/generated/torch.repeat_interleave.html ![image](https://img2023.cnblogs.com/blog/3240132/202307/3240132-20230729132 ......

torch.all()

torch.all() 其中的所有项都为True,返回True,反之,返回False >>> import torch >>> a = torch.tensor([[1, 2], [3, 4]]) >>> b = torch.tensor([[1, 2], [3, 4]]) >>> a OUT: t ......
torch all

torch的flatten函数

python:flatten()参数详解 这篇博客主要写flatten()作用,及其参数的含义 flatten()是对多维数据的降维函数。 flatten(),默认缺省参数为0,也就是说flatten()和flatte(0)效果一样。 python里的flatten(dim)表示,从第dim个维度开 ......
函数 flatten torch

【d2l】【常见函数】【12】 torch.tensor.repeat( )

**Repeats this tensor along the specified dimensions.** 参考:https://pytorch.org/docs/stable/generated/torch.Tensor.repeat.html ![image](https://img2023 ......
函数 常见 tensor repeat torch