cuda gpu
gpu
目前在网络中零知识证明生成速度较慢，从几十秒到几分钟，不适合一些带有隐私功能钱包和匿名身份平台的应用。为了防止隐私泄露，这些证明生成无法外包给第三方。 目前命令行程序可以访问GPUs, FPGAs, ASICs等硬件设备，但是浏览器的资源很受限。目前已经有一些团队采用硬件加速zk, 例如Scroll ......
ubuntu20.04 opencv 4.2 + opencv_contrib 4.2.0 安装笔记 和 opencv 4.5.4 with cuda 安装笔记
参考： https://docs.opencv.org/4.x/d7/d9f/tutorial_linux_install.html Build with opencv_contrib # 1. Install minimal prerequisites， libgtk2.0-dev pkg-con ......
NVIDA GPU-SXM和NVIDA GPU-PCIe 两种类型显卡到底哪个性能更高？
相关： 大模型时代该用什么样的显卡 —— 实验室新进两块A800显卡 浅析：NVIDA GPU卡SXM和PCIe之间的差异性 原来SXM类型的显卡比PCIex类型显卡性能要高。PCIE版本是通用接口，可以提供给所有电脑主板使用；而SXM类型的显卡是必须搭配nvidia公司的自家的主板来使用的。 SX ......
GPU环境搭建（TrWebOCR）
查看显卡信息 lspci | grep -i nvidia 查看系统是否受支持 uname -m http://docs.nvidia.com/cuda/cuda-installation-guide-linux/index.html#system-requirements 验证是否有编译环境 gc ......
Windows10安装cuda失败
安装顺序 首先我们要清楚顺序： 1.NVIDIA Driver 2.CUDA 3.cuDNN 4.TensorFlow 安装注意 驱动和CUDA版本不是一一对应，而是可以兼容向下的，像我的电脑经常安装两三个版本的CUDA，而驱动只有一个最新版本。 由于下载local版本的CUDA安装包会带显卡驱动， ......
Cannot re-initialize CUDA in forked subprocess.
"Cannot re-initialize CUDA in forked subprocess. " + msg) RuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessi ......
CUDA驱动深度学习发展 - 技术全解与实战
全面介绍CUDA与pytorch cuda实战 关注TechLead，分享AI全维度知识。作者拥有10+年互联网服务架构、AI产品研发经验、团队管理经验，同济本复旦硕，复旦机器人智能实验室成员，阿里云认证的资深架构师，项目管理专业人士，上亿营收AI产品研发负责人 一、CUDA：定义与演进 CUDA（ ......
支持NVIDIA GPU —— 如何运行docker环境下的Jax环境
项目地址： https://github.com/NVIDIA/JAX-Toolbox 具体的安装命令： 地址： https://github.com/NVIDIA/JAX-Toolbox/pkgs/container/jax linux/amd64 docker pull ghcr.io/nvid ......
Jax框架 —— 如何在没有GPU和TPU的设备上debug代码 —— 在CPU上使用GPU仿真设置 —— Jax框架在多卡设备上的自动并行特性的仿真体验
Jax计算框架是Google用来取代Tensorflow的新一代计算框架，这个框架使用类似pytorch的技术，但是在pytorch技术之上加入了更加强大的技术，但是这也导致该框架使用起来要比pytorch难一些，但是该框架的计算性能又比较优秀，因此依旧具有较大的吸引力。 Jax框架的性能优势主要体 ......
slam相关-Sophus库cmake报错target "CUDA::cusolver" not found.
报错细节 用cmake编译Sophus库时，有类似如下报错 CMake Error at test/core/CMakeLists.txt:18 (ADD_EXECUTABLE): Target "test_sim3" links to target "CUDA::cublas" but the t ......
简易机器学习笔记（十）Windows下 PaddlePaddle配置CUDA加速环境
前言 大伙既然都来做这个了，那配个CUDA环境肯定是必不可少的了吧（笑） 最前面的最前面， 流程 确定当前设备支持的CUDA版本 安装CUDA Toolkit 和 GPU版的Paddlepaddle 下载cuDNN Archive 手动放置配套的cuDNN到指定文件夹 测试 1.确定当前设备支持的C ......
基于 FFmpeg 和 NVIDIA GPU 的视频硬件编解码实验
【官方文档地址】：使用 FFmpeg 和 NVIDIA GPU 硬件加速 ( PDF ) 从 Kepler 一代开始的所有 NVIDIA® GPU 都支持完全加速的硬件视频编码和解码。在本文档的其余部分中，硬件编码器和硬件解码器分别称为 NVENC 和 NVDEC。 NVENC和NVDEC的硬件能力 ......
为什么在使用onnxruntime-gpu下却没有成功调用GPU？
20240105，记。 最近在使用GPU对onnx模型进行加速过程中（仅针对N卡，毕竟也没有别的显卡了。。），遇到了点问题：就是明明在安装了合适版本的显卡驱动和CUDA后，onnx还是不能够成功调用GPU，并且还出现了先导入torch，再导入onnxruntime就可以成功调用的奇怪现象。 测试机器 ......
AI_GPU-硬件-驱动-cuda
硬件 GeForce 系列 是英伟达主打的消费级GPU产品线 Quadro 系列 是英伟达专业级GPU产品线,针对商业和专业应用领域进行了优化 NVIDIA Quadro P1000显卡 Jetson 系列 是面向边缘计算和人工智能应用的嵌入式开发平台,具备强大的计算和推理能力： Jetson Or ......
cuda流的使用
CUDA流表示一个GPU操作队列，该队列中的操作将以添加到流中的先后顺序而依次执行。可以将一个流看做是GPU上的一个任务，不同任务可以并行执行。使用CUDA流，首先要选择一个支持设备重叠（Device Overlap）功能的设备，支持设备重叠功能的GPU能够在执行一个CUDA核函数的同时，还能在主机 ......
cuda\cudnn\torch安装
cuda toolkits 是工具包包含cuda和显卡驱动，需要选择显卡合适的版本，到官网查看 cudnn是加速的 torch是需要支持cuda的版本 cuda安装 1、https://blog.csdn.net/RenZuoym/article/details/132211730 2、下载：cud ......
cuda版本切换
https://zhuanlan.zhihu.com/p/589442446 vi ~/switch-cuda.sh source switch-cuda.sh source switch-cuda.sh 10.1 #!/usr/bin/env bash # Copyright (c) 2018 P ......
转载：大模型所需 GPU 内存笔记
转载文章：大模型所需 GPU 内存笔记 引言 在运行大型模型时，不仅需要考虑计算能力，还需要关注所用内存和 GPU 的适配情况。这不仅影响 GPU 推理大型模型的能力，还决定了在训练集群中总可用的 GPU 内存，从而影响能够训练的模型规模。 大模型推理的内存计算只需考虑模型权重即可。 大模型训练的内 ......
【OpenCV】 OpenCV 源码编译并实现 CUDA 加速 (Windows)
OpenCV是一个基于Apache2.0许可（开源）发行的跨平台计算机视觉和机器学习软件库，可以运行在Linux、Windows、Android和Mac OS操作系统上。项目源码由一系列 C 函数和少量 C++ 类构成，同时提供了Python、Ruby、MATLAB等语言的接口，实现了图像处理和计算... ......
CUDA原子操作
这节主要涉及到一个多线程情况下存在的数据竞争问题 -- 多个线程同时访问共享数据时，由于没有正确的同步机制，导致数据出现不一致的情况。 C/C++ 多线程中，可以通过互斥锁(mutex)、原子操作(atomic，C++11 也提供了原子操作库，如std::atomic，用于实现原子加法、原子赋值等操 ......
国产深度学习框架吸引用户的一种免费手段——免费GPU时长
国产的深度学习框架基本成为了一个头部公司的标配了，不论是阿里、百度还是华为都推出了自己的深度学习框架，这几家公司为了吸引用户也都采取了免费使用GPU的活动，但是与阿里、百度的不同，华为是与固定的高校的实验室合作，为合作的大学实验室提供免费算力，并且这个算力的使用时限目前应该是没有限制的；而与华为不同 ......
GPU服务器常见问题汇总
Q1、从启动盘安装时黑屏/屏幕卡住？
Q2、1T固态硬盘Ubuntu系统磁盘分区策略：
Q3、安装Ubuntu需要选择更新吗？
Q4、安装Ubuntu后重启无法开机？
Q5、首次开机的配置代码？
Q6、CUDA及cuDNN安装指南：
A6、安装步骤如下：
Q7、Anaconda安装教程：
A7、安装... ......
摩尔线程S2000GPU环境配置
引子 书接上文，这边再来一个国产AI芯片的环境配置，OK，让我们开始吧。 一、安装系统Ubuntu20.04.1 1、USB光盘刻录系统 2、安装 3、系统主板BIOS开启Above4G及Resize BAR功能 4、命令lspci | grep 123 二、安装GPU环境 1、安装驱动程序（服务器 ......
Unity3D Shader在GPU上是如何执行的详解
Unity3D是一款广泛应用于游戏开发的跨平台开发引擎，它提供了丰富的功能和工具来帮助开发者创建高质量的游戏。其中一个重要的功能就是Shader，它可以用来控制对象的渲染效果。在Unity3D中，Shader是在GPU上执行的，那么它是如何工作的呢？本文将详细解释Unity3D Shader在GPU ......
Unity3D Shader Compute Shader基于GPU的并发计算详解
在游戏开发中，计算密集型的任务通常需要耗费大量的CPU资源，这可能导致游戏性能下降，影响玩家的游戏体验。为了解决这个问题，Unity3D引入了Shader Compute Shader技术，它使用GPU进行并发计算，将一些计算密集型任务从CPU转移到GPU上执行，以提高游戏的性能和效率。本文将详细介 ......
Unity3D Shader在GPU上是如何执行的详解
前言 Unity3D是一款广泛应用于游戏开发的跨平台开发引擎，它提供了丰富的功能和工具来帮助开发者创建高质量的游戏。其中一个重要的功能就是Shader，它可以用来控制对象的渲染效果。在Unity3D中，Shader是在GPU上执行的，那么它是如何工作的呢？本文将详细解释Unity3D Shader在 ......
Bert-vits2最终版Bert-vits2-2.3云端训练和推理(Colab免费GPU算力平台)
对于深度学习初学者来说，JupyterNoteBook的脚本运行形式显然更加友好，依托Python语言的跨平台特性，JupyterNoteBook既可以在本地线下环境运行，也可以在线上服务器上运行。GoogleColab作为免费GPU算力平台的执牛耳者，更是让JupyterNoteBook的脚本运行 ......
在linux中查看运行指定进程资源占用（cpu+gpu）
在运行程序时有时候会需要查看资源占用，以方便部署在其他服务器上时进行参考。以下是总结了我在linux上查找程序进程资源的两种方法（cpu和gpu都有）。 ......
Unity3D 中正确调用CUDA程序详解
Unity3D 是一款强大的游戏开发引擎，可以实现各种各样的游戏效果。然而，在某些情况下，使用CPU来处理游戏中的复杂计算任务可能会导致性能瓶颈。为了解决这个问题，我们可以利用CUDA来使用GPU进行并行计算，从而提高游戏的性能。 对啦！这里有个游戏开发交流小组里面聚集了一帮热爱学习游戏的零基础小白 ......
[已解决] KVM 显卡直通 (GPU-passthrough) 直通虚拟机关机后 显示屏黑屏
系统环境 ██████████████████ ████████ littleblacklb@lb-desktop ██████████████████ ████████ ██████████████████ ████████ OS: Manjaro Linux x86_64 ███████████ ......