pytorch
pytorch模型降低计算成本和计算量
下面是如何使用PyTorch降低计算成本和计算量的一些方法： 压缩模型：使用模型压缩技术，如剪枝、量化和哈希等方法，来减小模型的大小和复杂度，从而降低计算量和运行成本。 分布式训练：使用多台机器进行分布式训练，可以将模型训练时间大大缩短，提高训练效率，同时还可以降低成本。 硬件加速：使用GPU或TP ......
【pytorch】为什么 ToTensor 后紧接 Normalize 操作？
学习 pytorch 的 transforms 一节中产生疑问：ToTensor 操作中图像数据满足 [0,255] 条件会进行线性归一化，映射到 [0,1]。在 ToTensor 操作后一般紧接着 Nomalize 操作，又进行了一次标准差归一化。既然已经归一化了一次，为什么还要再来一次？ 以下是 ......
【pytorch】土堆pytorch教程学习（四）Transforms 的使用
transforms 在工具包 torchvision下，用来对图像进行预处理：数据中心化、数据标准化、缩放、裁剪、旋转、翻转、填充、噪声添加、灰度变换、线性变换、仿射变换、亮度/饱和度/对比度变换等。 transforms 本质就是一个python文件，相当于一个工具箱，里面包含诸如 Resize ......
在PyTorch中，可以对Tensor进行操作的一些函数：view、permute、squeeze、unsqueeze等
tensor是深度学习中非常实用的数据类型，PyTorch包含了许多可以操作tensor的工具，比如重塑、、（不考虑内存底层的具体情况）。 1. 查看Tensor的shape ......
医学图像的深度学习的完整代码示例：使用Pytorch对MRI脑扫描的图像进行分割
图像分割是医学图像分析中最重要的任务之一，在许多临床应用中往往是第一步也是最关键的一步。在脑MRI分析中，图像分割通常用于测量和可视化解剖结构，分析大脑变化，描绘病理区域以及手术计划和图像引导干预，分割是大多数形态学分析的先决条件。 本文我们将介绍如何使用QuickNAT对人脑的图像进行分割。使用M ......
代码笔记27 numpy和pytorch中的多维数组切片
原来还可以用数组切数组，我算是长见识了。不多说了，直接上代码应该可以明白 import numpy as np xyz = np.arange(36).reshape(3, 4, 3) B, N, C = xyz.shape farthest = np.random.randint(0, N, si ......
【pytorch】土堆pytorch教程学习（三）TensorBoard的使用
TensorBoard 是TensorFlow的可视化工具包，提供机器学习实验所需的可视化功能和工具： 跟踪和可视化损失及准确率等指标 可视化模型图（操作和层） 查看权重、偏差或其他张量随时间变化的直方图 将嵌入投射到较低的维度空间 显示图片、文字和音频数据 剖析 TensorFlow 程序 安装 ......
关于pytorch包的测试问题
pytorch的官方github项目有个文件专门用于测试torch是否安装成功，例如：https://github.com/pytorch/pytorch/blob/v1.11.0/test/test_torch.py 但是我们平时测试一个pip包是否安装成功，都是直接import来测试，这样的测试 ......
PyTorch常用操作
数据集加载 1. 网络数据集 加载数据集：https://pytorch.org/vision/stable/datasets.html import torchvision.datasets as datasets import torchvision.transforms as transfor ......
Pytorch2 如何通过算子融合和 CPU/GPU 代码生成加速深度学习
动动发财的小手，点个赞吧！ PyTorch 中用于图形捕获、中间表示、运算符融合以及优化的 C++ 和 GPU 代码生成的深度学习编译器技术入门 计算机编程是神奇的。我们用人类可读的语言编写代码，就像变魔术一样，它通过硅晶体管转化为电流，使它们像开关一样工作，并允许它们实现复杂的逻辑——这样我们就可 ......
【深度学习基础】使用libtorch部署pytorch训练的网络
下载安装配置：https://pytorch.org/cppdocs/installing.html 小例程：https://pytorch.org/cppdocs/frontend.html 官方：https://pytorch.org/tutorials/beginner/Intro_to_To ......
PyTorch保存模型断点以及加载断点继续训练
在训练神经网络时，用到的数据量可能很大，训练周期较长，如果半途中断了训练，下次从头训练就会很费时间，这时我们就想断点续训。 一、神经网络模型的保存，基本两种方式：1. 保存完整模型model， torch.save(model, save_path) 2. 只保存模型的参数， torch.save( ......
利用pytorch深度学习框架验证骰子的合格性
利用pytorch深度学习框架验证骰子的合格性 骰子生产的合格性可以用概率来表达，比如每个面出现的概率大概都是1/6。 import torch from d2l import torch as d2l from torch.distributions import multinomial # 多次 ......
win11+pytorch2.0+cuda11.7.1安装记录
起个坑，后面会开始更一些深度学习的内容，也好久没经营博客了。研0的生活鸭 使用的环境：暗影精灵9（win11+rtx4050，6999最低配那个） 1.Anaconda安装 网上教程一大把，这里就不贴了 2.cuda 11.7.1版本下载 这个下载也容易，一拉一大把，略 3.pytorch安装 co ......
pytorch自定义或自组织数据集
import os from pathlib import Path from typing import Any, Callable, Optional, Tuple import numpy as np import torch import torchvision from PIL impor ......
使用PyTorch和Flower 进行联邦学习
本文将介绍如何使用 Flower 构建现有机器学习工作的联邦学习版本。我们将使用 PyTorch 在 CIFAR-10 数据集上训练卷积神经网络，然后将展示如何修改训练代码以联邦的方式运行训练。 完整文章： https://avoid.overfit.cn/post/8d05a12c208c4f49 ......
Pytorch可视化热力图
可视化热力图可以有两种方式： 1）特征图可视化，将各通道特征的最大值作为热力图像素值，进行可视化——可以参考博客，一种比较灵活的特征图保存方式 2）根据梯度值结合特征图计算热力图，热力图的显示的重点是梯度高的地方，也是网络关注的重点 基于梯度进行热力图可视化有一些工作，如grad-cam，也有一些开 ......
动手深度学习pytorch 5-7章
深度学习计算 1. 块提供的基本功能： 1. 输入数据作为前向传播函数的参数 2. 通过前向传播函数生成输出 3. 计算其输出关于输入的梯度 4.存储和访问前向传播计算所需的参数 5. 根据需要初始化模型参数 2. Sequential 类 1. 将块逐个追加到列表中的函数 2. 前向传播函数，用于 ......
3_transforms (pytorch tutorial)
Transforms Data does not always come in its final processed form that is required for training machine learning algorithms. We use transforms to perfo ......
pytorch在有限的资源下部署大语言模型（以ChatGLM-6B为例）
pytorch在有限的资源下部署大语言模型（以ChatGLM-6B为例） Part1知识准备 在PyTorch中加载预训练的模型时，通常的工作流程是这样的： my_model = ModelClass(...)state_dict =torch.load(checkpoint_file) 用简单的话 ......
【pytorch】土堆pytorch教程学习（二）加载数据
Pytorch加载数据初认识 pytorch 中加载数据主要涉及两个类：Dataset 和 Dataloader。 Dataset 提供一种方式去获取数据及其label Dataloader 为网络提供不同的数据形式 Dataset Dataset 实现的功能： 获取每个数据及其label 获取数据 ......
【pytorch】土堆pytorch教程学习（一）环境配置及安装
管理虚拟环境 不同的项目需要不同的环境，Anaconda集成的conda包可以创建不同的环境并进行隔离。 打开 Anaconda Promp，创建环境，其中 pytorch 为创建的环境名： conda create -n 虚拟环境名 python=版本 启动环境 conda activate 虚拟 ......
pytorch_ssd 代码注释
box_utils.py # -*- coding: utf-8 -*- import torch def point_form(boxes): """ Convert prior_boxes to (xmin, ymin, xmax, ymax) representation for compar ......
N1、Pytorch文本分类入门
一、背景介绍¶ 本节是一个使用PyTorch实现的简单文本分类实战案例。在这个例子中，我们将使用AG News数据集进行文本分类。 AG News（AG's News Topic Classification Dataset）是一个广泛用于文本分类任务的数据集，尤其是在新闻领域。该数据集是由AG's ......
pytorch学习笔记（二）
pytorch的基本数据结构是张量Tensor。张量即多维数组。Pytorch的张量和numpy中的array很类似。 本节我们主要介绍张量的数据类型、张量的维度、张量的尺寸、张量和numpy数组等基本概念。 张量的数据类型和numpy.array基本一一对应，但是不支持str类型。 一般神经网络建 ......
深度学习--PyTorch维度变换、自动拓展、合并与分割
深度学习--PyTorch维度变换、自动拓展、合并与分割 一、维度变换 1.1 view/reshape 变换 这两个方法用法相同，就是变换变量的shape，变换前后的数据量相等。 a=torch.rand(4,1,28,28) a.view(4,28*28) #tensor([[0.9787, ......
深度学习--PyTorch定义Tensor以及索引和切片
深度学习--PyTorch定义Tensor 一、创建Tensor 1.1未初始化的方法 这些方法只是开辟了空间，所附的初始值（非常大，非常小，0），后面还需要我们进行数据的存入。 torch.empty()：返回一个没有初始化的Tensor，默认是FloatTensor类型。 #torch.em ......
pytorch报错 No module named 'nn'
问题描述 pytorch 报错 No module named 'nn' 如果你 import torch 没问题，而 import torch.nn时出现问题，你可能命名使用了一个名字为 torch.py 文件，由于 torch.py 文件与系统的 torch.py 文件重名，所以会触发该问题，将 ......
深度学习-Pytorch常见的数据类型
深度学习-Pytorch常见的数据类型 数据类型认识 首先，python与PyTorch中的数据类型 | python | PyTorch | | : : | : : | | int | IntTensor | | float | FloatTensor | | int array | IntTen ......