kldivloss损失pytorch nn
我真的想知道，AI框架跟计算图什么关系？PyTorch如何表达计算图？
目前主流的深度学习框架都选择使用计算图来抽象神经网络计算表达，通过通用的数据结构（张量）来理解、表达和执行神经网络模型，通过计算图可以把 AI 系统化的问题形象地表示出来。
本节将会以AI概念落地的时候，遇到的一些问题与挑战，因此引出了计算图的概念来对神经网络模型进行统一抽象。接着展开什么是计算，... ......
pytorch深度学习基础模型
激活函数 作用 在网路的中间层，允许输出函数在不同的值上具有不同的斜率，这些不同斜率的部分可以近似任意函数。 在网络的最后一层，可以将线性运算的输出限制在指定范围内。 具有的性质 非线性：非线性允许整个网络可以近似更复杂的函数。 可微：可以通过梯度来更新。 至少有一个敏感区域：输入中，细微的改变对输 ......
Pytorch-机器学习
线性模型 y = w * x + b def model(t_u,w,b): return w*t_u+b w为权重，b为偏置项，是可学习参数。 损失函数 预测值与真实值之间的误差，以均方损失误差MSE为例。 def loss_fn(t_p,t_c): squared_diffs = (t_p-t_ ......
win10+python3.8+Anaconda3+cuda10.2+cudnn7.6+pytorch安装教程
>版本问题很重要，为了这个版本，真的吐血版！！！ ### 其他链接 1.cuda10.2+cudnn7.6安装和测试的方法 2.彻底卸载 Anaconda 3.新建的虚拟环境总是在c盘怎么解决 ### 1.安装Anaconda3 >在Anaconda安装的过程中，比较容易出错的环节是环境变量的配置， ......
pytorch使用（三)torch.zeros用法
#torch.zeros用法 torch.zeros() 是 PyTorch 中用来创建全 0 张量的函数。用法为 torch.zeros(size, out=None, dtype=None, layout=torch.strided, device=None, requires_grad=Fal ......
pytorch使用（四）np.random.randint用法
#np.random.randint 用法 np.random.randint 是 numpy 库中用于生成随机整数的函数。它的用法如下： numpy.random.randint(low, high=None, size=None, dtype='l') 其中，各个参数的含义如下： low：生成的 ......
安装pytorch并且搭建环境，在pycharm上成功可运行（解决各类疑难杂症版）
## 首先非常推荐小土堆的安装教程，我是根据他的安装步骤出现各种问题，并且一个个解决！ [链接在这里，Click！](https://www.bilibili.com/video/BV1hE411t7RN/?p=2&spm_id_from=pageDriver&vd_source=a47c7eaab ......
Pytorch常用函数
常用函数 随机数 torch.randn(batch,channels,rows,columns) 说明： rows：行 colums：列 channels：通道个数 batch：生成的个数 生成batch个具有channels个通道的rows行columns列的tensor 求平均 tensor. ......
Pytorch自定义数据集模型完整训练流程
2、导入各种需要用到的包 import torch //用于导入名为"torch"的模块。torch 是一个广泛使用的库，用于构建和训练神经网络。它提供了丰富的功能和工具，包括张量操作、自动求导、优化算法等，使得深度学习任务更加简单和高效。可以使用torch.Tensor类来创建张量，使用torch ......
PyTorch Lightning简约哲学
PyTorch已经足够简单易用，但是简单易用不等于方便快捷。特别是做大量实验的时候，很多东西都会变得复杂，代码也会变得庞大，这时候就容易出错。针对这个问题，就有了PyTorch Lightning。它可以重构你的PyTorch代码，抽出复杂重复部分，让你专注于核心的构建，让你的实验更快速更便捷地开展 ......
对比损失与温度系数
对比学习中的温度系数是一个神秘的参数，大部分论文都默认采用小的温度系数来进行自监督对比学习（例如0.07，0.2）。然而并没有对采用小温度系数的解释，以及温度系数是如何影响学习过程的，即温度系数这个角色的意义。 今天给大家介绍一篇CVPR2021中研究对比损失（Contrastive Loss）温度 ......
NLP（四十七）：损失函数
三元组损失 triplet loss 设计初衷： 让x与这个跟他同类的点距离更近，跟非同类的点距离更远。 d是距离，m的含义是，当x与x+的距离减去x与x-，如果小于-m时，对损失函数的贡献为0， 如果大于-m时，对损失的贡献大于0. 含义就是：当负例太简单时，不产生损失，这个损失的目标是，挑选困难 ......
pytorch使用（三）用PIL(Python-Imaging)反转图像的颜色
利用PIL将图片转换为黑色与白色反转的图片，例如用MNIST数据集训练的模型要测试的话，测试数据需要黑底白字 ......
pytorch使用（二）python读取图片各点灰度值or怎么读、转换灰度图
python读取图片各点灰度值 方法一：在使用OpenCV读取图片的同时将图片转换为灰度图： img = cv2.imread(imgfile, cv2.IMREAD_GRAYSCALE) print("cv2.imread(imgfile, cv2.IMREAD_GRAYSCALE)结果如下：") ......
pytorch-Dataset-Dataloader
## pytorch-Dataset-Dataloader [TOC] **pyTorch为我们提供的两个Dataset和DataLoader类分别负责可被Pytorh使用的数据集的创建以及向训练传递数据的任务。** ### data.Dataset **torch.utils.data.Datas ......
深度学习（六）——神经网络的基本骨架：nn.Module的使用
# 一、torch.nn简介 > 官网地址： > > [torch.nn — PyTorch 2.0 documentation](https://pytorch.org/docs/stable/nn.html) ## 1. torch.nn中的函数简介 - Containers：神经网络的骨架 - ......
pytorch+CRNN实现
最近接触了一个仪表盘识别的项目，简单调研以后发现可以用CRNN来做。但是手边缺少仪表盘数据集，就先用ICDAR2013试了一下。 结果遇到了一系列坑。为了不使读者和自己在以后的日子继续遭罪。我把正确的代码发到下面了。 超参数请不要调整！！！！CRNN前期训练极其慢，需要良好的调参，loss才会慢慢下 ......
笔记本安装pytorch环境
先安装Anaconda3，python 3.9 创建d2l虚拟环境： (base) C:\Users\Administrator>conda create -n d2l python=3.9 激活d2l： (base) C:\Users\Administrator>conda activate d2 ......
Linux和Windows系统下安装深度学习框架所需支持:Anaconda、Paddlepaddle、Paddlenlp、pytorch，含GPU、CPU版本详细安装过程
Linux和Windows系统下安装深度学习框架所需支持:Anaconda、Paddlepaddle、Paddlenlp、pytorch，含GPU、CPU版本详细安装过程 ......
Pytorch
# 安装Pytorch 根据配置生成安装命令 > https://pytorch.org/get-started/locally/ 因为我使用的是笔记本，所以仅安装cpu版本 ``` conda install pytorch torchvision torchaudio cpuonly -c py ......
测试gpu_矩阵计算tensorflow2|pytorch
tensorflow import tensorflow as tf import timeit physical_gpus = tf.config.list_physical_devices("GPU") # 获得本地GPU列表 physical_cpus = tf.config.list_phy ......
albumentations 的数据增强为什么是 先 Normalize， 再 ToTensorV2，而 pytorch 正好相反
albumentations： T += [A.Normalize(mean=mean, std=std), ToTensorV2()] # Normalize and convert to Tensor torchvision： T.ToTensor(), T.Normalize(IMAGENET ......
AI_Pytorch—内容回顾
###pytorch 基本结构与组件-基本流程与步骤-基本方法和应用 组件 PyTorch都是用C++和CUDA编写的 modules and classes torch.nn , torch.optim , Dataset , and DataLoader 学、练、训、赛、研、用 device = ......
BigDecimal(double)存在精度损失风险
public static void main(String[] args) { //错误代码 BigDecimal bigDecimal = new BigDecimal(0.11d); System.out.println(bigDecimal); //正确代码(下面两种都可以) BigDeci ......
pytorch保存模型及加载模型
```python Class TestModle(nn.Module): def __init__(self): self.conv = nn.Conv(3, 6, 5) self.pool = nn.MaxPool2d(2, 2) ... def forward(self, x): ... .. ......
机器学习洞察 | 分布式训练让机器学习更加快速准确 分布式 机器学习 PyTorch Amazon SageMaker
机器学习能够基于数据发现一般化规律的优势日益突显，我们看到有越来越多的开发者关注如何训练出更快速、更准确的机器学习模型，而分布式训练 (Distributed Training) 则能够大幅加速这一进程。 亚马逊云科技开发者社区为开发者们提供全球的开发技术资源。这里有技术文档、开发案例、技术专栏、培 ......
Windows使用PyTorch遇到RuntimeError: Unable to find a valid cuDNN algorithm to run convolution的解决方案
Windows使用PyTorch遇到RuntimeError: Unable to find a valid cuDNN algorithm to run convolution的解决方案 PyTorch在Windows上的cuDNN实现有问题才会导致这个错误，解决方法是禁用cuDNN滚回旧实现上 ......
PyTorch | torch.save()函数的使用
Pytorch保存模型等相关参数，利用`torch.save()`，以及读取保存之后的文件。 ### 函数信息 ```python torch.save(obj, f, pickle_module=pickle, pickle_protocol=DEFAULT_PROTOCOL,_use_new_z ......
在国产超算平台上（aarch64架构）安装pytorch-cuda失败，究其原因竟是官方未提供对应的cuda版本——pip方式和conda方式均无法获得相应cuda版本
最近在国产超算平台上安装pytorch，但是怎么弄都会报错： raise AssertionError("Torch not compiled with CUDA enabled")AssertionError: Torch not compiled with CUDA enabled 不论是使用p ......