tensorflow-gpu tensorflow cudnn cuda

Ubuntu18.04离线安装cuda,docker和nvidia-docker

近来接手一个项目,服务器没有外网,还缺少一堆基础工具,离线安装相关依赖十分头疼。在此两篇博客记录一下此次经历。 各部件的依赖如下: **Nvida-docker 需要 CUDA驱动,安装CUDA需要GCC编译库,安装GCC需要用到make工具(make非必须)** 有关GCC依赖与make工具安装, ......
docker nvidia-docker Ubuntu nvidia 18.04

ubuntu22.04 cuda cudnn tensorRT安装

1:查看当前安装驱动版本信息 ![](https://img2023.cnblogs.com/blog/154630/202307/154630-20230726111445098-1687351516.png) driver version: 525.116.03 cuda version: 12 ......
tensorRT ubuntu 22.04 cudnn cuda

cuda/cudnn 环境安装及查询

引用出处:https://www.autodl.com/docs/cuda/ 注意:如果没有二次编译代码的需求,正常情况下不需要单独安装CUDA/cuDNN,因为框架都内置了编译好的CUDA,框架版本和CUDA版本是对应的,只需要关注框架版本即可,无需独立关注CUDA版本。 查询默认CUDA/cuD ......
环境 cudnn cuda

SAM推理时总是提示PYTORCH_CUDA_ALLOC_CONF相关错误

相关错误如下: RuntimeError: CUDA out of memory. Tried to allocate 6.18 GiB (GPU 0; 24.00 GiB total capacity; 11.39 GiB already allocated; 3.43 GiB free; 17. ......

记录windows、vs2019、c++、cuda环境配置

原文链接: (45条消息) CUDA+Windows+VS环境配置_cuda vs_哈哈哈哈哈嗝哈哈哈的博客-CSDN博客 VS2019--c++CUDA环境配置与编程实例 - 知乎 (zhihu.com) 测试代码: .cu文件中: #include "stdio.h" #include <cud ......
windows 环境 2019 cuda vs

win10+python3.8+Anaconda3+cuda10.2+cudnn7.6+pytorch安装教程

>版本问题很重要,为了这个版本,真的吐血版!!! ### 其他链接 1.cuda10.2+cudnn7.6安装和测试的方法 2.彻底卸载 Anaconda 3.新建的虚拟环境总是在c盘怎么解决 ### 1.安装Anaconda3 >在Anaconda安装的过程中,比较容易出错的环节是环境变量的配置, ......
Anaconda3 Anaconda python3 pytorch 教程

Ubuntu更换cuda版本,gcc,g++版本

# Ubuntu更换cuda版本,gcc,g++版本 ## 更换cuda版本 这个比较简单 ![image-20230721160040349](https://img2023.cnblogs.com/blog/1906082/202307/1906082-20230721161517756-114 ......
版本 Ubuntu cuda gcc

CUDA计算能力,线程调度及内存管理分析

CUDA计算能力,线程调度及内存管理分析 Compute Capability 6.x 1. 架构 SM 包括: 64(计算能力 6.0)或 128(6.1 和 6.2)CUDA 内核用于算术运算, 16(6.0)或32(6.1和6.2)用于单精度浮点超越函数的特殊功能单元, 2 (6.0) 或 4 ......
线程 内存 能力 CUDA

cuda冲突

### ubuntu下载nvidia-cuda-toolkit * 下载完可能会存在历史版本未删除,导致`nvidia-smi`能成功显示显卡信息,而`nvcc -V`却会报错 ### 解决方法 ``` $ nvidia-smi # 查看cuda版本,我这里是12.2 $ cd /usr/local ......
cuda

opencv编译加入cuda的命令

cmake -DCMAKE_BUILD_TYPE=RELEASE -DCMAKE_INSTALL_PREFIX=/usr/local/ -DOPENCV_EXTRA_MODULES_PATH=../opencv_contrib-4.1.1/modules -DWITH_CUDA=ON -DCUDA_ ......
命令 opencv cuda

CUDA

## 版本信息 NVIDIA Control Panel 查看 ![](https://img2023.cnblogs.com/blog/1865358/202307/1865358-20230719191106471-1043778035.png) 或者 cmd输入:nvidia-smi ![]( ......
CUDA

RuntimeError: /onnxruntime_src/onnxruntime/core/providers/cuda/cuda_call.cc:121

使用google colab 使用gpu的运行换脸程序报错了 原因是因为没有开启gpu的使用,如何开启可以参考 [https://www.tutorialspoint.com/google_colab/google_colab_using_free_gpu.htm](https://www.tuto ......

利用Anaconda3安装tensorflow/keras,并迁移虚拟环境至不能上网的电脑

# 利用Anaconda3安装tensorflow/keras,并迁移虚拟环境至不能上网的电脑 下面记录下利用Anaconda安装tensorflow和keras,前前后后也踩了不少坑。并分别在windows系统和linux系统下将能上网的电脑下安装的tensorflow虚拟环境迁移至不能上网的环境 ......
tensorflow Anaconda3 Anaconda 环境 电脑

ubuntu 22.04离线安装cuda 11.7.1、cudnn 8.9.3.28、nccl 2.18.3、tensorrt 8.6.1

最近在使用飞桨OCR,有几个特殊的符号需要进行识别,手上只有两台机器,一台1080TI单卡(windows 11),一台1080Ti双卡(linux 22.04),习惯性追新到飞桨最高支持的cuda11.7,其实1080Ti到cuda10就够用了,后面的新版本差没有明显的性能提升。 windows上 ......
tensorrt ubuntu 22.04 cudnn cuda

CUDA设备运行时的编程分析

CUDA设备运行时的编程分析 1. 基础知识 设备运行时是主机运行时的功能子集。API 级别的设备管理、内核启动、设备内存、流管理和事件管理从设备运行时公开。 已经有 CUDA 经验的人应该熟悉设备运行时的编程。设备运行时语法和语义与主机 API 的语法和语义大致相同,但本文档前面详述的任何例外情况 ......
设备 CUDA

cuda驱动程序入口点访问分析

cuda驱动程序入口点访问分析 1. 简介 Driver Entry Point Access APIs提供了一种检索 CUDA 驱动程序函数地址的方法。从 CUDA 11.3 开始,用户可以使用从这些 API 获取的函数指针调用可用的 CUDA 驱动程序 API。 这些 API 提供的功能类似于它 ......
驱动程序 入口 程序 cuda

CUDA虚拟内存管理分析

CUDA虚拟内存管理分析 10.1. 简介 虚拟内存管理 API 为应用程序提供了一种直接管理 CUDA 提供的统一虚拟地址空间的方法,用于将物理内存映射到 GPU 可访问的虚拟地址。在 CUDA 10.2 中引入的这些 API 还提供了一种与其他进程和图形 API (如 OpenGL 和 Vulk ......
内存 CUDA

鸟类识别系统python+TensorFlow+Django网页界面+卷积网络算法+深度学习模型

## 一、介绍 鸟类识别系统,使用Python作为主要开发语言,基于深度学习TensorFlow框架,搭建卷积神经网络算法。并通过对数据集进行训练,最后得到一个识别精度较高的模型。并基于Django框架,开发网页端操作平台,实现用户上传一张图片识别其名称。 ## 二、效果图片 ![img_07_14 ......
卷积 鸟类 算法 TensorFlow 深度

WSL2安装CUDA记录

❗建议直接Windows安装驱动,不要在子系统里装 官网安装,选择自己的版本即可 https://developer.nvidia.com/cuda-downloads?target_os=Linux&target_arch=x86_64&Distribution=Ubuntu&target_ver ......
WSL2 CUDA WSL

测试gpu_矩阵计算tensorflow2|pytorch

tensorflow import tensorflow as tf import timeit physical_gpus = tf.config.list_physical_devices("GPU") # 获得本地GPU列表 physical_cpus = tf.config.list_phy ......
矩阵 tensorflow2 tensorflow pytorch gpu

cuda纹理函数分析

cuda纹理函数分析 纹理对象在纹理对象 API 中描述 纹理提取在纹理提取中进行了描述。 1. 纹理对象接口 1.1. tex1Dfetch() template<class T> T tex1Dfetch(cudaTextureObject_t texObj, int x); 使用整数纹理x坐标 ......
纹理 函数 cuda

关于tensorflow2.x保存模型及加载模型的方法及对比

以下方法都是个人实际中测试和使用的方法,tf2版本在2.3~2.7之间 1、model.save() and model.load() 保存模型:这个方法可以直接将训练后的权重和训练的参数保存下来,一般我个人使用的.h5为后缀把模型整个保存下来。 步骤如下: (1)创建模型,像添加积木一样对模型添加 ......
模型 tensorflow2 tensorflow 方法

vscode编写第一个cuda程序及代码提示和补全

1.安装cuda 2.安装插件Nsight Visual Studio Code Edition 和c++ 3.给VSCode添加头文件的搜索路径 (55条消息) vscode中配置或添加头文件路径_vscode 配置头文件路径_Markus.Zhao的博客-CSDN博客 4.没有提示 blockD ......
代码 程序 vscode cuda

Windows使用PyTorch遇到RuntimeError: Unable to find a valid cuDNN algorithm to run convolution的解决方案

Windows使用PyTorch遇到RuntimeError: Unable to find a valid cuDNN algorithm to run convolution的解决方案 PyTorch在Windows上的cuDNN实现有问题才会导致这个错误,解决方法是禁用cuDNN滚回旧实现上 ......

C++与CUDA备忘录

CUDA中grid、block、thread、warp与SM、SP的关系 转载:CUDA中grid、block、thread、warp与SM、SP的关系_block sm_AplusX的博客-CSDN博客 首先概括一下这几个概念。其中SM(Streaming Multiprocessor)和SP(s ......
备忘录 CUDA

神奇的发现——所有的aarch64架构的CPU平台下的深度学习框架均不原生支持CUDA

一个记录: 神奇的发型——所有的aarch64架构的CPU平台下的深度学习框架均不原生支持CUDA 不论是mindspore、pytorch、TensorFlow框架只要是aarch64架构的CPU下的系统平台均是原生不支持CUDA版本的,如果你想要在aarch64架构下使用支持CUDA的深度学习框 ......
架构 框架 深度 aarch 平台

在国产超算平台上(aarch64架构)安装pytorch-cuda失败,究其原因竟是官方未提供对应的cuda版本——pip方式和conda方式均无法获得相应cuda版本

最近在国产超算平台上安装pytorch,但是怎么弄都会报错: raise AssertionError("Torch not compiled with CUDA enabled")AssertionError: Torch not compiled with CUDA enabled 不论是使用p ......
cuda 版本 方式 pytorch-cuda 架构

Qt+opencv dnn模块调用tensorflow模型

参考网址(1条消息) Qt+opencv dnn模块调用tensorflow模型_vs qt 调用 tensorflow_街道口扛把子的博客-CSDN博客代码地址:GitHub - Whu-wxy/Simple_Qt_opencv_dnn: Using deep learning model wit ......
tensorflow 模块 模型 opencv dnn

anconda配置tensorflow环境

# 一、anconda的安装 1.进入Anaconda官网并按照电脑配置选择合适的安装包 Anaconda官网:https://www.anaconda.com/ ![image](https://img2023.cnblogs.com/blog/3057528/202307/3057528-202 ......
tensorflow anconda 环境

CUDA_LAUNCH_BLOCKING=1的作用

参考资料: [CUDA开发文档] 今天在调试Pytorch代码的时候遇到了下面的报错, RuntimeError: CUDA error: XXX [此处为各种cuda error] CUDA kernel errors might be asynchronously reported at som ......