pytorch scitech-bigdataaiml-pytorch bigdataaiml
pytorch转onnx中关于卷积核的问题
pytorch导出onnx过程中报如下错误： RuntimeError: Unsupported: ONNX export of convolution for kernel of unknown shape. 我报错的部分代码如下： def forward(self, input): n, c, ......
BigDataAIML-Kaggle-How to Calculate Principal Component Analysis (PCA) from Scratch in Python
How to Calculate Principal Component Analysis (PCA) from Scratch in Python https://www.kaggle.com/code/aurbcd/pca-using-numpy-from-scratch PCA using N ......
快速使用 Pytorch 的混合精度进行训练
使用混合精度的代码示例 以非常基础的训练代码片段为例： for epoch in range(epochs): model.train() for i, (images, labels) in enumerate(loader_train): images = images.to(device) l ......
PYTORCH基础(15)torch.nn库五大基本功能：nn.Parameter、nn.Linear、nn.functioinal、nn.Module、nn.Sequentia
第1章 torch.nn简介 1.1 torch.nn相关库的导入 #环境准备 import numpy as np # numpy数组库 import math # 数学运算库 import matplotlib.pyplot as plt # 画图库 import torch # torch基础 ......
基于pytorch写一个三层神经网络，训练数据并导出模型
import torch import torch.nn as nn import torch.optim as optim # 定义三层神经网络 class ThreeLayerNN(nn.Module): def __init__(self, input_size, hidden_size1, ......
Pytorch模型结构修改
1. Var方差在pytorch中的差别： tlist = input.tolist() print(input) print(np.mean(tlist), np.var(tlist)) print(torch.mean(input), torch.var(input)) 可以看到numpy与to ......
pytorch——基于循环神经网络的情感分类
任务目标 基于给定数据集，进行数据预处理，搭建以LSTM为基本单元的模型，以Adam优化器对模型进行训练，使用训练后的模型进行预测并计算预测分类的准确率。 数据集信息 IMDB数据集是一个对电影评论标注为正向评论与负向评论的数据集，共有25000条文本数据作为训练集，25000条文本数据作为测试集。 ......
从分布式计算的角度看pytorch和TensorFlow哪个更优？
背景： pytorch框架是一个从学术圈出来的框架，因此pytorch并不原生支持分布式计算，而且在大模型火爆的今年以外好像在深度学习领域使用分布式计算的场景确实不多，所以pytorch并不原生支持分布式计算的事情好像也并无大碍，而且pytorch可以通过安装第三方库的方式实现同步形式的分布式计算。 ......
【Pytorch基础实战】第二节，卷积神经网络
项目地址 https://gitee.com/wxzcch/pytorchbase/tree/master/leason_2 源码 import torch from torch import nn, optim from torch.autograd import Variable from to ......
BIgdataAIML-IBM-A neural networks deep dive - An introduction to neural networks and their programming
https://developer.ibm.com/articles/cc-cognitive-neural-networks-deep-dive/ By M. Tim Jones, Published July 23, 2017 Neural networks have been around f ......
BigdataAIML-ML-Models for machine learning Explore the ideas behind machine learning models and some key algorithms used for each
最好的机器学习教程系列：https://developer.ibm.com/articles/cc-models-machine-learning/ By M. Tim Jones, Published December 4, 2017 Models for machine learning Alg ......
pytorch——豆瓣读书评价分析
任务目标 基于给定数据集，采用三层bp神经网络方法，编写程序并构建分类模型，通过给定特征实现预测的书籍评分的模型。 选取数据 在各项指标中，我认为书籍的评分和出版社、评论数量还有作者相关，和其他属性的关系并大。所以，对于出版社，我选取了出版社的平均评分和出版社在这个表格中出现的频率作为出版社的评价指 ......
pytorch 踩坑记录
arr = arr.astypr(numpy.int16) tensor = torch.from_numpy(arr) TypeError: can't convert np.ndarray of type numpy.uint16. The only supported types are: f ......
pytorch的docker镜像
安装docker环境 sudo apt-get update sudo apt-get install -y docker.io sudo systemctl enable docker docker版本查看 sudo docker version sudo docker info 查看镜像 sud ......
win11 安装pytorch
第一步骤，是安装cuda和cudnn，看这个链接。 https://zhuanlan.zhihu.com/p/586913250。重点就是如何安装pytorch了，因为网络慢的原因 首先，直接使用下面这个命令不好使，如果你的科上网流量非常足的话，没问题的。我用aconda，差不多就安装好了，可是比较 ......
BigdataAIML-Important Data Features processing points
Standardize scales first using scikit-learn; Identify correlated features using mathematics(Measure of correlationship); Consider using a pairwise plo ......
pytorch——支持向量机
1、任务要求 针对已知类别的5张卧室照片(标签为+1)和5张森林照片(标签为-1)所对应的矩阵数据进行分类训练,得到训练集模型;再利用支持向量机对另外未知类别的5张卧室照片和5张森林照片数据进行测试分类(二分类)，得到分类结果及其准确率。 2、先导入查看基本数据 3、合并数据 将房间的数据和森林的数 ......
pytorch减少显存方式
引导 1. 显存都用在哪儿了？ 2. 技巧 1：使用就地操作 3. 技巧 2：避免中间变量 4. 技巧 3：优化网络模型 5. 技巧 4：减小 BATCH_SIZE 6. 技巧 5：拆分 BATCH 7. 技巧 6：降低 PATCH_SIZE 8. 技巧 7：优化损失求和 9. 技巧 8：调整训练精 ......
使用ubuntu根据cuda11.2安装pytorch
在使用镜像新建了一个cuda11.2-python3.9 容器配置环境的过程中需要安装PyTorch。一开始我直接使用 pip install torch 来进行安装，但是运行程序时出现报错： RuntimeError: The NVIDIA driver on your system is too ......
pytorch——房价预测
1、首先对数据进行读取和预处理 2、读取数据后，对x数据进行标准化处理，以便于后续训练的稳定性，并转换为tensor格式 3、接下来设置训练参数和模型 这里采用回归模型，既y=x*weight1+bias1，设置的学习率为0.0006，损失函数采用了MSE（均方误差） 4、绘制图像 由于数据量较少， ......
【Pytorch基础实战】第一节，BP神经网络
项目地址 https://gitee.com/wxzcch/pytorchbase/tree/master/leason_1 实现代码 import pandas as pd import torch import torch.nn as nn import torch.optim as optim ......
使用 PyTorch FSDP 微调 Llama 2 70B
引言 通过本文，你将了解如何使用 PyTorch FSDP 及相关最佳实践微调 Llama 2 70B。在此过程中，我们主要会用到 Hugging Face Transformers、Accelerate 和 TRL 库。我们还将展示如何在 SLURM 中使用 Accelerate。 完全分片数据并 ......
使用PyTorch II的新特性加快LLM推理速度
Pytorch团队提出了一种纯粹通过PyTorch新特性在的自下而上的优化LLM方法，包括: Torch.compile: PyTorch模型的编译器 GPU量化:通过降低精度操作来加速模型 推测解码:使用一个小的“草稿”模型来加速llm来预测一个大的“目标”模型的输出 张量并行:通过在多个设备上运 ......
在pytorch中保存模型或模型参数
在 PyTorch 中，我们可以使用 torch.save 函数将 PyTorch 模型保存到文件。这个函数接受两个参数：要保存的对象（通常是模型），以及文件路径。 保存模型参数 import torch import torch.nn as nn # 假设有一个简单的模型 class Simple ......
pytorch强制转换模型的所有参数都变成统一类型
可以调用模型的父类Module中的type方法，例如model.type(torch.float64)，将网络模型model的参数和缓冲区强制转换为torch.float64类型，这样就可以训练torch.float64类型的数据了，还可以指定其他类型。另外还有一些强制转换为某一种类型的方法：flo ......
自有AI芯片接入AI框架Pytorch的方案
现在AI框架主要用Pytorch，包括一些常用的库对Pytorch支持都较好 一、华为昇腾npu 能够跟上Pytorch的更新，直接和Pytorch兼容，而且有较多人来维护，代码风格不错，之前是通过注入Pytorch预留的的xla搞的接入，现在被官方接收了。 二、寒武纪MLU 这个版本很老，他们是通 ......
【PyTorch】如何判定运算维度
实际上无论是几维，方法都是一样。假设以 torch.softmax() 为例： # 下面运行结果所使用的代码 import torch import numpy as np z = np.arange(1, 33).reshape((2, 2, 2, 4)) z = torch.tensor(z, ......
PyTorch造大模型“加速包”，不到1000行代码提速10倍！英伟达科学家：minGPT以来最好的教程式repo之一
前言 PyTorch团队让大模型推理速度加快了10倍。且只用了不到1000行的纯原生PyTorch代码！ 本文转载自量子位 仅用于学术分享，若侵权请联系删除 欢迎关注公众号CV技术指南，专注于计算机视觉的技术总结、最新技术跟踪、经典论文解读、CV招聘信息。 CV各大方向专栏与各个部署框架最全教程整理 ......
使用 PyTorch 完全分片数据并行技术加速大模型训练
本文，我们将了解如何基于 PyTorch 最新的 完全分片数据并行 (Fully Sharded Data Parallel，FSDP) 功能用 Accelerate 库来训练大模型。 动机 🤗 随着机器学习 (ML) 模型的规模、大小和参数量的不断增加，ML 从业者发现在自己的硬件上训练甚至加载 ......
[pytorch] 余弦退火+warmup实现调研
tl;dr: pytorch的 torch.optim.lr_scheduler.OneCycleLR 就很不错，能兼顾warmup和余弦学习率，也不用下载额外的包 import torch from torch.optim.lr_scheduler import CosineAnnealingLR ......