精度pytorch
深度学习之PyTorch实战（4）——迁移学习
（这篇博客其实很早之前就写过了，就是自己对当前学习pytorch的一个教程学习做了一个学习笔记，一直未发现，今天整理一下，发出来与前面基础形成连载，方便初学者看，但是可能部分pytorch和torchvision的API接口已经更新了，导致部分代码会产生报错，但是其思想还是可以借鉴的。 因为其中内容 ......
pytorch gather b2 = a.gather(1, b.view(-1, 1))
import torch a = torch.randint(0, 100, (6,3)) b = torch.Tensor([0, 1, 1, 2, 0, 2]).long() b = b.unsqueeze(1) b0 = b.view(-1, 1) b2 = a.gather(1, b.vie ......
feature map-CAM 和 利用pytorch-hook注册实现CAM可视化
什么是CAM CAM的全称是Class Activation Mapping或Class Activation Map，即类激活映射或类激活图。 论文《Learning Deep Features for Discriminative Localization》发现了CNN分类模型的一个有趣的现象： ......
Pytorch构建超分辨率模型——常用模块
Import required libraries: import torch import torch.nn as nn import torch.optim as optim from torch.utils.data import DataLoader from torchvision imp ......
用Python和Pytorch使用softmax和cross-entropy
softmax激活函数 softmax激活函数将包含K个元素的向量转换到（0，1）之间，并且和为1，因此它们可以用来表示概率。 python: def softmax(x): return np.exp(x) / np.sum(np.exp(x), axis=0) x=np.array([0.1, ......
【音视频】一文搞懂音频视频中的采样率、采样精度、码率、分辨率
计算码率（bit rate） 音频： CD音质，一般2通道，原始音频数据1秒钟的数据量是44.1k（采样率）*16（位深度）*2（声道数）=1411.2kbits，可求得整个音频文件的大小=时长（300s）*码率(1411.2)/1024/8=51.67M。压缩成128kbps的MP3，1秒钟数据就 ......
Pytorch中DDP，端口冲突(Address already in use)解决方法
参考：端口冲突(Address already in use)解决方法 ......
如何修改CAD表格中部分数值精度？
在CAD绘图过程中如果想要修改CAD表格中部分数值精度该如何操作？本节CAD制图初学入门教程小编就以浩辰CAD给排水软件为例来给大家简单介绍一下修改CAD表格中部分数值精度的操作技巧吧！ 修改CAD表格中部分数值精度步骤： 步骤1：在浩辰CAD给排水软件中打开需要编辑的图纸后，可以单击CAD表格中需 ......
pyTorch 导入预训练词向量 2023
# 测试 Embedding import torch import gensim import torch.nn as nn wvmodel = gensim.models.KeyedVectors.load_word2vec_format("./data/vector.txt",binary=F ......
中国地质大学提出基于边的视觉里程计，不牺牲精度，显著提高效率
以下内容来自小六的机器人SLAM学习圈知识星球每日更新内容 点击领取学习资料 → 机器人SLAM学习资料大礼包 #论文# EdgeVO: An Efficient and Accurate Edge-based Visual Odometry 论文地址：https://arxiv.org/pdf/2 ......
怎么解决小数运算的精度问题？
1.将数字转成整数 这是最容易想到的方法，也相对简单 function add(num1, num2) { const num1Digits = (num1.toString().split('.')[1] || '').length; const num2Digits = (num2.toStri ......
js 中使用 decimal.js 进行不丢失精度的小数计算
npm install decimal.js import Decimal from "decimal.js" // 具体文件中引入 //加 let a = 1 let b = 6 // a 与 b 可以是 任何类型，Decimal 内部会自己处理兼容 // 下面两种都可以 可以带 new 也不可以 ......
使用Pytorch构建LSTM网络实现对时间序列的预测
使用Python构建LSTM网络实现对时间序列的预测 1. LSTM网络神经元结构 LSTM网络 神经元结构示意图 在任一时刻 $t$，LSTM网络神经元接收该时刻输入信息 $x_t$，输出此时刻的隐藏状态 $h_t$，而 $h_t$ 不仅取决于 $x_t$，还受到 $t-1$ 时刻细胞状态 (ce ......
高精度算法-高精度加法
为什么要用高精度 因为有的题目的数据很大，超出long long的范围，所以我们需要用高精度来计算： 首先是高精度加法： 高精度加法就是仿照我们竖式加法进行操作，逐位相加，注意进位！！！ 题目传送门 Tiling Time Limit: 1000MS Memory Limit: 65536K Tot ......
Json Long 类型精度丢失
1.现象 在 SpringBoot 项目中，使用 Jackson 将Java 对象转为 Json 传给前端，但 Java 对象有 Long 类型字段，传给前端后会出现精度丢失的现象。 比如发送的 Json 字符串如下所示： 但在前端显示时，却出现了精度丢失 2.原因 这是因为在JavaScript中 ......
DDPG强化学习的PyTorch代码实现和逐步讲解
深度确定性策略梯度(Deep Deterministic Policy Gradient, DDPG)是受Deep Q-Network启发的无模型、非策略深度强化算法，是基于使用策略梯度的Actor-Critic，本文将使用pytorch对其进行完整的实现和讲解 DDPG的关键组成部分是 Repla ......
Pytorch安装与基础知识
Pytorch安装与基础知识 安装环境：Win10专业版 显卡：Nviida Geforce GTX 1660 Ti 安装 Anacodna 官网下载安装 安装 Cuda Cuda 官网下载安装包。 进入 CMD，使用命令 nvcc -V 测试安装是否成功。 安装 cuDNN 虽然不知道为什么要安装 ......
Colab安装pytorch
如果不能更换pytorch版本需要先卸载。 因为平台是linux所以需要安装linux系统。 !pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118 import to ......
[嵌入式RTOS]记录一下因浮点数转为字符串导致精度损失所踩的坑
###1.起因： 工作中对接平台需要将设备的GPS数据传给平台，但是平台采用的不是回调函数将数据直接作为参数返回而是格式化的字符串命令，所以需要将double类型的gps数据格式化输出到字符串中，项目中之前采用的是sprintf进行格式化输出，但是通过打印对比发现有精度损失，所以改成先放大数据100 ......
人工智能,丹青圣手,全平台(原生/Docker)构建Stable-Diffusion-Webui的AI绘画库教程(Python3.10/Pytorch1.13.0)
世间无限丹青手，遇上AI画不成。最近一段时间，可能所有人类画师都得发出一句“既生瑜，何生亮”的感叹，因为AI 绘画通用算法Stable Diffusion已然超神，无需美术基础，也不用经年累月的刻苦练习，只需要一台电脑，人人都可以是丹青圣手。 本次我们全平台构建基于Stable-Diffusion算 ......
取出预训练模型中间层的输出(pytorch)
1 遍历子模块直接提取 对于简单的模型，可以采用直接遍历子模块的方法，取出相应name模块的输出，不对模型做任何改动。该方法的缺点在于，只能得到其子模块的输出，而对于使用nn.Sequensial()中包含很多层的模型，无法获得其指定层的输出。 示例 resnet18取出layer1的输出 from ......
登峰造极,师出造化,Pytorch人工智能AI图像增强框架ControlNet绘画实践,基于Python3.10
人工智能太疯狂，传统劳动力和内容创作平台被AI枪毙，弃尸尘埃。并非空穴来风，也不是危言耸听，人工智能AI图像增强框架ControlNet正在疯狂地改写绘画艺术的发展进程，你问我绘画行业未来的样子？我只好指着ControlNet的方向。本次我们在M1/M2芯片的Mac系统下，体验人工智能登峰造极的绘画... ......
图卷积神经网络分类的pytorch实现
图神经网络（GNN）目前的主流实现方式就是节点之间的信息汇聚，也就是类似于卷积网络的邻域加权和，比如图卷积网络（GCN）、图注意力网络（GAT）等。下面根据GCN的实现原理使用Pytorch张量，和调用torch_geometric包，分别对Cora数据集进行节点分类实验。 Cora是关于科学文献之 ......
分布式机器学习：异步SGD和Hogwild!算法（Pytorch）
同步算法的共性是所有的节点会以一定的频率进行全局同步。然而，当工作节点的计算性能存在差异，或者某些工作节点无法正常工作（比如死机）的时候，分布式系统的整体运行效率不好，甚至无法完成训练任务。为了解决此问题，人们提出了异步的并行算法。在异步的通信模式下，各个工作节点不需要互相等待，而是以一个或多个全局... ......
从 PyTorch DDP 到 Accelerate 到 Trainer，轻松掌握分布式训练
概述 本教程假定你已经对于 PyToch 训练一个简单模型有一定的基础理解。本教程将展示使用 3 种封装层级不同的方法调用 DDP (DistributedDataParallel) 进程，在多个 GPU 上训练同一个模型： 使用 pytorch.distributed 模块的原生 PyTorch ......
Pytorch之Embedding与Linear的爱恨纠葛
最近遇到的网络模型许多都已Embedding层作为第一层，但回想前几年的网络，多以Linear层作为第一层。两者有什么区别呢？ ......
基于pytorch实现模型剪枝
所谓模型剪枝，其实是一种从神经网络中移除"不必要"权重或偏差（weigths/bias）的模型压缩技术。本文深入描述了 pytorch 框架的几种剪枝 API，包括函数功能和参数定义，并给出示例代码。 ......
闻其声而知雅意,基于Pytorch(mps/cpu/cuda)的人工智能AI本地语音识别库Whisper(Python3.10)
前文回溯，之前一篇：含辞未吐,声若幽兰,史上最强免费人工智能AI语音合成TTS服务微软Azure(Python3.10接入)，利用AI技术将文本合成语音，现在反过来，利用开源库Whisper再将语音转回文字，所谓闻其声而知雅意。 Whisper 是一个开源的语音识别库，它是由Facebook AI ......
Pytorch：单卡多进程并行训练
在深度学习的项目中，我们进行单机多进程编程时一般不直接使用multiprocessing模块，而是使用其替代品torch.multiprocessing模块。它支持完全相同的操作，但对其进行了扩展。Python的multiprocessing模块可使用fork、spawn、forkserver三种方... ......
安装pytorch-gpu的经验与教训
首先说明 本文并不是安装教程，网上有很多，这里只是自己遇到的一些问题 我是以前安装的tensorflow-gpu的，但是发现现在的学术论文大部分都是用pytorch复现的，因此才去安装的pytorch-gpu 查看自己安装的CUDA nvcc -V 这里我提供一个安装tensorflow时所用的CU ......