Cuda
在国产超算平台上（aarch64架构）安装pytorch-cuda失败，究其原因竟是官方未提供对应的cuda版本——pip方式和conda方式均无法获得相应cuda版本
最近在国产超算平台上安装pytorch，但是怎么弄都会报错： raise AssertionError("Torch not compiled with CUDA enabled")AssertionError: Torch not compiled with CUDA enabled 不论是使用p ......
CUDA_LAUNCH_BLOCKING=1的作用
参考资料： [CUDA开发文档] 今天在调试Pytorch代码的时候遇到了下面的报错， RuntimeError: CUDA error: XXX [此处为各种cuda error] CUDA kernel errors might be asynchronously reported at som ......
一种基于DeltaE(CIE 1976)的找色算法Cuda实现
> 书接上文 [一种基于DeltaE(CIE 1976)的找色算法](https://www.cnblogs.com/Icys/p/DeltaE.html) Delta E 是评估色彩准确度的重要测量指标。摄影师、影片编辑和平面设计师等创意专业人士都应重视这项标准，因其是选择专业级显示器的重要考虑因 ......
cuda内核执行以及运行时和驱动程序 API 之间的互操作性
cuda内核执行以及运行时和驱动程序 API 之间的互操作性 cuda内核执行以及运行时和驱动程序 API 之间的互操作性 17.3. 内核执行 cuLaunchKernel()启动具有给定执行配置的内核。 参数作为指针数组（在 cuLaunchKernel()的最后一个参数旁边）传递，其中第 n ......
分析一下Cuda c编程指南
分析一下Cuda c编程指南 CUDA C++编程指南 CUDA 模型和接口的编程指南。 与 12.0 版相比的变化 在协作组中添加了invoke_one和invoke_one_broadcast API。 1. 简介 1.1. 使用 GPU 的好处 图形处理单元 （GPU）1在相似的价格和功率范围 ......
C\C++的CUDA编程
模型处理的数据比较大的时候比较耗时，是时候学习一些CUDA编程了，这里是C\C++语言下的，Python的话可以借助PyTorch。 # 1 环境搭建 Windows10 + VisualStudio 2022 + CUDA11.5 # 2 实例 # 3 参考 https://www.cnblogs ......
cuda开发环境
# windows 使用visual studio开发 [cuda-downloads](https://developer.nvidia.com/cuda-downloads) 安装cuda工具集。其中额外包含： 独立程序有： * nsight system是分析cpu+gpu系统性能的工具。 * ......
机器学习之pytorch环境配置以及cuda安装
关于conda环境下安装cuda配置和pytorch 安装cuda 查看显卡型号 （进入cmd环境下） nvidia-smi 下载对应的cuda CUDA Toolkit Archive | NVIDIA Developer） 选择与cuda相匹配的版本（版本尽量靠近些电脑的） 建议使用迅雷下载，网 ......
CUDA学习详细教程之指针篇
近期，我在写深度学习相关的C++部署时候，往往想更好的提速，将更多类似矩阵相关的运算交给CUDA处理，以此提高推理速度。然，cuda编程入门较为复杂，想简单对图像预处理，通过指针指向减少host到device时间，或模型预测后device上处理完后，数据在device到host输出结果等，这些将会涉 ......
浅析GPU架构与异构计算CUDA
下图有几个重点的元素，也是我们下文重点要阐述的概念，绿色代表的是computational units(可计算单元) 或者称之为 cores(核心)，橙色代表memories（内存） ，黄色代表的是control units（控制单元）。 因此想要理解GPU的底层核心构成，就必须明确这几个元素的作用 ......
安装NVIDIA cuda-toolkit
NVIDIA® CUDA®工具包为创建高性能 GPU 加速应用提供了发展环境。使用 CUDA 工具包，您可以在 GPU 加速嵌入式系统、桌面工作站、企业数据中心、基于云的平台和 HPC 超级计算机上开发、优化和部署您的应用程序。工具包包括 GPU 加速库、调试和优化工具、C/C++编译器以及一个运行 ......
【CUDA】SM对线程块的调度
sm流处理器簇对blocks的调度策略 在cuda中，GPU中的SM（GTX650M有2个sm处理器）被GPU调度器把线程块逐个分配到SM上，每个SM同时处理这个被分配的线程块，但是每次每个时刻都只能处理一个warp线程束，由于有时会存在内存读取等操作导致等待，那么SM会转而处理其他的warp来掩盖 ......
在RHEL8上安装Nvidia Driver(CUDA)
一般来说深度学习还是用Ubuntu比较好，安装的时候直接帮你把Nvidia驱动装好，非常方便。 但是国内大批公司还是RHEL(CentOS)的，至于我们公司那只能用RHEL了。 RHEL装CUDA较为麻烦，牵涉的知识较为广泛。我也卡了很久，百思不得其解。 过去如果遇到装不上CUDA的问题，那很可能是 ......
CUDA编译设置
CUDA版本和GPU卡的对应关系，以及编译设置： Fermi (CUDA 3.2 until CUDA 8) (deprecated from CUDA 9): SM20 or SM_20, compute_30 – Older cards such as GeForce 400, 500, 600 ......
pycharm编辑中遇到的tensorflow和cuda版本不匹配的问题
起因是报错 W tensorflow/stream_executor/platform/default/dso_loader.cc:64] Could not load dynamic library 'cudart64_110.dll'; dlerror: cudart64_110.dll not ......
踩坑CUDA和CUDNN安装，哭死
# 1 安装CUDA 博主在安装CUDA的时候安装了一个比自己显卡驱动高一个版本的CUDA，之后这个高版本的CUDA就把我的显卡驱动给更新了，电脑和显卡驱动不适配，然后电脑黑屏了，就是进入系统就黑屏了，最后还是进入安全模式之后卸载了显卡驱动之后解决了。所以我们再安装CUDA的时候一定要看清楚自己显卡 ......
cuda编程作业（stream & unified_mem）
## 步骤一 ```cpp // Todo 1 // Allocate host memory for pointers [*h_x, *h_y, *h_z] using cudaMallocHost CHECK(cudaMallocHost(&h_x,N*sizeof(DTYPE))); CHEC ......
cuda+cudann+tensorflow安装日记
1、确定自己电脑有GPU：设置 系统 系统信息 设备管理器 显示适配器，例如：我有，型号是"NVIDIA GeForce RTX3060 Laptop GPU" 2、（超级重要）确定自己CUDA、CUDANN、tensorflow的安装版本：先确定自己电脑最高能装的最高CUDA版本，然后上官网找其他 ......
yolov5项目cuda错误解决
## CUDA报错解决 ~~~bash # 报错详情 AssertionError: CUDA unavailable, invalid device 0 requested ~~~ ### 查看cuda版本 先看一下电脑是否支持`GPU`，打开任务管理器就能查看（`ctrl+shift+esc`） ......
AssertionError CUDA unavailable, invalid device 0 requested
## 报错信息 ~~~ UserWarning: User provided device_type of 'cuda', but CUDA is not available. Disabling warnings.warn('User provided device_type of \'cuda\ ......
【CUDA】GPU编程实现NTT算法
~~怎么有人选题迟了么得FFT啊。~~好久没更新博客了，来水一发！ 参考资料： NTT：https://oi-wiki.org/math/poly/ntt/ CUDA实现FFT并行计算：https://blog.csdn.net/Liadrinz/article/details/106695275 ......
Ubuntu安装CUDA工具包、cuDNN、TensorRT
简介一下这三个东西： CUDA：是一种针对支持 CUDA 功能的 GPU（图形处理器）的 C 语言开发环境。 cuDNN：是GPU加速的用于深度神经网络的原语库。cuDNN为标准例程提供了高度优化的实现，例如向前和向后卷积，池化，规范化和激活层。 TensorRT：是nvidia家的一款高性能深度学 ......
GPU高性能编程-CUDA
> - CUDA C只是对标准C进行了语言级的扩展，通过增加一些修饰符使编译器可以确定哪些代码在主机上运行，哪些代码在设备上运行 > - GPU计算的应用前景很大程度上取决于能否从问题中发掘出大规模并行性 # 核函数 1. CPU以及系统内存成为主机，GPU及其内存成为设备 2. GPU设备上执行的 ......
如何使用 Nvidia 显卡 (CUDA) 为机器学习/深度学习设置 Windows 机器
如果您正在学习机器学习/深度学习，您可能正在使用免费的Google Colab。但是您可能想知道免费版本是否足够。 如果您买得起优质的 Nvidia 显卡（具有相当数量的 CUDA 内核），那么您可以轻松地使用您的显卡来完成此类密集型工作。 许多开发人员为此使用 Linux。但是，我不喜欢 Linu ......
linux安装cuda11.3 多版本切换
1. https://developer.nvidia.com/cuda-toolkit-archive lsb_release查看ubuntu版本，选择对应版本后通过runfile安装： ``` wget https://developer.download.nvidia.com/compute/ ......
cuda版本和显卡计算能力
nvidia不同架构的显卡有不同的Compute Capability，不同版本的cuda支持的Compute Capability不同，所以安装cuda要支持该显卡对应的Compute Capability。 显卡的Compute Capability查看： https://developer.n ......
Pop!_OS 22.04（Ubuntu 22.04）安装Nvidia GPU 驱动、CUDA、cuDNN 以及Docker GPU支持（nvidia-docker2）
[toc] ## 1平台 - OS：Pop!_OS 22.04 LTS - 本文所有输入输出都是在Pop!_OS 22.04 LTS上的。 - Pop!_OS 22.04 LTS是一款基于Ubuntu 22.04 LTS的Linux发行版，由System76开发和维护。理论上本文也适用于Ubuntu ......
ubuntu中使用vscode进行cuda c代码debug出现 no such file or directory 的问题
{ "version": "0.2.0", "configurations": [ { "name": "CUDA C++: Launch", "type": "cuda-gdb", "request": "launch", "program": "${fileDirname}/test.err", ......
关于拉取nvidia官方镜像所有支持的镜像名称+cuda版本-官方定时更新
https://gitlab.com/nvidia/container-images/cuda/blob/master/doc/supported-tags.md 更新至cuda12.1 以12.1.1-base-ubuntu22.04为例，在拉取镜像时，镜像名称为nvidia/cuda:12.1. ......
nvidia显卡驱动和nvidia-cuda-toolkit组件的区别
nvidia-cuda-toolkit和NVIDIA显卡驱动是两个不同的组件，它们在使用NVIDIA GPU进行计算和图形处理时发挥不同的作用。 NVIDIA显卡驱动： NVIDIA显卡驱动是安装在计算机上的软件，它与NVIDIA的图形处理器（GPU）通信，控制GPU的功能和性能，并将计算机的图形输 ......