anaconda pytorch gpu
Anaconda使用笔记
一、常用命令 1.1 查看当前conda所有环境 conda info --envs 1.2 创建新环境 conda create -n 环境名 python=x.x 1.3 进入你的环境 Conda activate 环境名 Source activate 环境名 activate + 环境名 1 ......
Pytorch中的交叉熵CE和均方误差MSE分别是如何计算的？
本文主要关注输入输出的形状，通过两种标签形式探索一下其计算机制。 交叉熵损失函数 实验设置：假设采用AutoEncoder+分类器。AE负责重构图像，计算MSE。分类器通过latent vector计算23个类别的概率向量。 import torch nn as nn net = AutoEncod ......
gpu
目前在网络中零知识证明生成速度较慢，从几十秒到几分钟，不适合一些带有隐私功能钱包和匿名身份平台的应用。为了防止隐私泄露，这些证明生成无法外包给第三方。 目前命令行程序可以访问GPUs, FPGAs, ASICs等硬件设备，但是浏览器的资源很受限。目前已经有一些团队采用硬件加速zk, 例如Scroll ......
Anaconda修改默认下载位置
1.找到./condarc文件。（默认存放位置 C:\User\XXX\XXX） 2.修改内容如下： 点击查看代码 channels: - defaults show_channel_urls: true default_channels: - https://mirrors.tuna.tsingh ......
NVIDA GPU-SXM和NVIDA GPU-PCIe 两种类型显卡到底哪个性能更高？
相关： 大模型时代该用什么样的显卡 —— 实验室新进两块A800显卡 浅析：NVIDA GPU卡SXM和PCIe之间的差异性 原来SXM类型的显卡比PCIex类型显卡性能要高。PCIE版本是通用接口，可以提供给所有电脑主板使用；而SXM类型的显卡是必须搭配nvidia公司的自家的主板来使用的。 SX ......
vscode使用anaconda虚拟环境
问题分析： 当我们第一次使用vscode+anaconda虚拟环境来运行项目时，一般会报错no module name 'torch'这样的错误，尽管我们已经切换vscode使用的环境为正确的环境也还是不行。这个问题是因为我们在vscode中运行项目是在终端运行的，但如果这个终端是powershel ......
PyTorch项目源码学习（2）——Tensor代码结构初步学习
PyTorch版本：1.10.0 Tensor Tensor是Pytorch项目较为重要的一部分，其中的主要功能如存储，运算由C++和CUDA实现，本文主要从前端开始探索学习Tensor的代码结构。 结构探索 PyTorch前端位于torch目录下，从_tensor.py可以找到Tensor的pyt ......
GPU环境搭建（TrWebOCR）
查看显卡信息 lspci | grep -i nvidia 查看系统是否受支持 uname -m http://docs.nvidia.com/cuda/cuda-installation-guide-linux/index.html#system-requirements 验证是否有编译环境 gc ......
Anaconda 修改环境默认位置，以及遇到将安全信息应用到以下对象时发生错误无法枚举容器中的对象访问被拒绝解决
默认虚拟环境会在C盘，anaconda环境默认安装在用户目录C:\Users\username.conda\envs下，想换到D盘 1. 首先，找到用户目录下的.condarc文件 2. 打开.condarc文件，添加或修改.condarc 中的 env_dirs 设置环境路径，按顺序第⼀个路径作为 ......
使用PyTorch实现混合专家(MoE)模型
Mixtral 8x7B 的推出在开放 AI 领域引发了广泛关注，特别是混合专家（Mixture-of-Experts：MoEs）这一概念被大家所认知。混合专家(MoE)概念是协作智能的象征，体现了“整体大于部分之和”的说法。MoE模型汇集了各种专家模型的优势，以提供更好的预测。它是围绕一个门控网络 ......
安装pytorch/安装jupyterlab并添加已创建环境的kernel
安装pytorch 先创建一个环境，去pytorch官网查找环境所用python版本对应的torch版本，并选择合适的下载命令，在已激活的环境中运行命令，即可安装成功。 安装jupyter jupyter可以按cell运行代码，并且可以边写代码边做笔记。运行conda install jupyter ......
Anaconda打不开
Traceback (most recent call last): File "F:\Anaconda\Scripts\conda-script.py", line 12, in <module> sys.exit(main()) ^^^^^^ File "F:\Anaconda\Lib\site ......
挑战Transformer的新架构Mamba解析以及Pytorch复现
今天我们来详细研究这篇论文“Mamba:具有选择性状态空间的线性时间序列建模” Mamba一直在人工智能界掀起波澜，被吹捧为Transformer的潜在竞争对手。到底是什么让Mamba在拥挤的序列建中脱颖而出? 在介绍之前先简要回顾一下现有的模型 Transformer:以其注意力机制而闻名，其中序 ......
Anaconda3的安装配置及使用教程(2024.1)
1 Anaconda3安装过程 1.1 下载 官方网址：Free Download | Anaconda下载 点击之后等待下载完成 1.2 安装 双击下载好的安装包，等待加载出以下页面后点击Next 同意协议 选择安装方式，仅个人还是全部 选择安装路径 默认即可 等待安装完成 添加环境变量 WIN+ ......
支持NVIDIA GPU —— 如何运行docker环境下的Jax环境
项目地址： https://github.com/NVIDIA/JAX-Toolbox 具体的安装命令： 地址： https://github.com/NVIDIA/JAX-Toolbox/pkgs/container/jax linux/amd64 docker pull ghcr.io/nvid ......
Jax框架 —— 如何在没有GPU和TPU的设备上debug代码 —— 在CPU上使用GPU仿真设置 —— Jax框架在多卡设备上的自动并行特性的仿真体验
Jax计算框架是Google用来取代Tensorflow的新一代计算框架，这个框架使用类似pytorch的技术，但是在pytorch技术之上加入了更加强大的技术，但是这也导致该框架使用起来要比pytorch难一些，但是该框架的计算性能又比较优秀，因此依旧具有较大的吸引力。 Jax框架的性能优势主要体 ......
PyTorch 的 BatchNorm 层
BatchNorm 层 为了实现输入特征标准化，batch norm 层会维护一个全局均值 running_mean 和全局方差 running_var。网络 train() 时进行统计，eval() 时使用统计值。 除此之外，可选 weight 权重和 bias 权重，这两个权重是会持续参与到网络 ......
SciTech-BigDataAIML-PyTorch: 安装PyTorch For Python3.12
安装PyTorch For Python3.12: Release Version: $ pip install torch torchvision torchaudio Pre-Release Version: $ pip install --pre torch torchvision torch ......
使用PyTorch实现去噪扩散模型
在深入研究去噪扩散概率模型(DDPM)如何工作的细节之前，让我们先看看生成式人工智能的一些发展，也就是DDPM的一些基础研究。 VAE VAE 采用了编码器、概率潜在空间和解码器。在训练过程中，编码器预测每个图像的均值和方差。然后从高斯分布中对这些值进行采样，并将其传递到解码器中，其中输入的图像预计 ......
环境配置问题一些注意的点（Pytorch+cudnn）
1、先安装好Pycharm以及Anaconda 我使用的是Python3.6版本，所以下载了与Python3.6对应的Anaconda，Pycharm下载的是社区版； 2、cudnn版本：首先查看自己电脑NVIDIA版本，从任务管理器中查看GPU型号，再从cudnn官网下载相关配件； 3、在note ......
Window10安装PyTorch
1、参考地址 https://blog.csdn.net/Mind_programmonkey/article/details/99688839 2、安装pytorch-gpu时，网络不好的话可以开手机热点，然后进行下载安装 activate conda activate python3.8 pip ......
pytorch反向传播错误解决：RuntimeError: Trying to backward through the graph a second time, but the buffers have already been freed. Specify retain_graph=True when calling backward the first time.
pytorch反向传播错误解决： 错误： RuntimeError: Trying to backward through the graph a second time, but the buffers have already been freed. Specify retain_graph=T ......
基于 FFmpeg 和 NVIDIA GPU 的视频硬件编解码实验
【官方文档地址】：使用 FFmpeg 和 NVIDIA GPU 硬件加速 ( PDF ) 从 Kepler 一代开始的所有 NVIDIA® GPU 都支持完全加速的硬件视频编码和解码。在本文档的其余部分中，硬件编码器和硬件解码器分别称为 NVENC 和 NVDEC。 NVENC和NVDEC的硬件能力 ......
anaconda的jupyter默认工作目录配置
D:\PromingCode\anaconda\python.exe D:\PromingCode\anaconda\cwp.py D:\PromingCode\anaconda D:\PromingCode\anaconda\python.exe D:\PromingCode\anaconda\S ......
为什么在使用onnxruntime-gpu下却没有成功调用GPU？
20240105，记。 最近在使用GPU对onnx模型进行加速过程中（仅针对N卡，毕竟也没有别的显卡了。。），遇到了点问题：就是明明在安装了合适版本的显卡驱动和CUDA后，onnx还是不能够成功调用GPU，并且还出现了先导入torch，再导入onnxruntime就可以成功调用的奇怪现象。 测试机器 ......
AI_GPU-硬件-驱动-cuda
硬件 GeForce 系列 是英伟达主打的消费级GPU产品线 Quadro 系列 是英伟达专业级GPU产品线,针对商业和专业应用领域进行了优化 NVIDIA Quadro P1000显卡 Jetson 系列 是面向边缘计算和人工智能应用的嵌入式开发平台,具备强大的计算和推理能力： Jetson Or ......
python(pytorch)学习中的法宝
1、dir():打开、查看 比方在Pycharm中输入dir(torch),就可以输出torch中所有的使用方法（函数） 2、help(函数名):对于新手来讲很有用，函数不知道怎么用的时候，可以用该函数调出函数的使用参考。 3、dataset：提供一种方式去获取数据及其label（如何获取每一个数据 ......
Pytorch distributed overview
torch.distributed 包 v1.6.0后包括三个主要的部分： 1.Distributed Data-Parallel Training(DDP):单程序多数据训练范式。模型被复制到每个进程中，每个模型副本被提供一组不同的输入数据，并将其梯度计算累加以加快训练速度。（collective ......
深度解析 PyTorch Autograd：从原理到实践
本文深入探讨了 PyTorch 中 Autograd 的核心原理和功能。从基本概念、Tensor 与 Autograd 的交互，到计算图的构建和管理，再到反向传播和梯度计算的细节，最后涵盖了 Autograd 的高级特性。 关注TechLead，分享AI全维度知识。作者拥有10+年互联网服务架构、A ......