nvida gpu显卡gpu-pcie
docker使用--gpus all报错: docker: Error response from daemon: could not select device driver "" with capabilities: [[gpu]].
报错信息： docker: Error response from daemon: could not select device driver "" with capabilities: [[gpu]]. 解决方法： 1，任意路径下创建nvidia-container-runtime-script ......
安装warp-transducer时cmake.. 出现 Building shared library with no GPU support的解决办法
warp-transducer A fast parallel implementation of RNN Transducer (Graves 2013 joint network), on both CPU and GPU. GPU implementation is now available ......
多屏 显卡 驱动 安装
驱动下载 - 旌宇显卡官网 (sparklevga.com.cn) AMD VER 15.7.1 系列适用于HD5450,HD7600,R5 220,R7 350,R7 360 等系列芯片机种VER15.7.1 Windows 7 64bit & win10 64bit https://jyxk-d ......
浅谈移动端GPU架构
【USparkle专栏】如果你深怀绝技，爱“搞点研究”，乐于分享也博采众长，我们期待你的加入，让智慧的火花碰撞交织，让知识的传递生生不息！ 一、前言 本文是关于TBR、TBDR和IMR三种不同的GPU架构的学习和总结，希望可以帮助到大家理解这些概念。 前置概念现有的GPU架构主要分为以下三类： Im ......
一个操作系统的设计与实现——第6章 显卡驱动
进入内核以后，应该做些什么呢？本章将实现一个最容易看到效果的模块：显卡驱动。 6.1 什么是驱动 驱动这个词听起来很高大上，但实际上很简单，就是硬件的接口函数。在软件工程中，可以使用接口封装和简化设计，硬件也是一样。例如：想要读硬盘，需要很多指令设定好几个端口，然后等待硬盘就绪，最后才能读硬盘。这一 ......
3 分钟看完 NVIDIA GPU 架构及演进
近期随着 AI 市场的爆发式增长，作为 AI 背后技术的核心之一 GPU（图形处理器）的价格也水涨船高。GPU 在人工智能中发挥着巨大的重要，特别是在计算和数据处理方面。目前生产 GPU 主流厂商其实并不多，主要就是 NVIDIA、AMD、Intel、高通等厂家。本文将主要聊聊 NVIDIA GPU ......
Jetson Mediapipe GPU/CUDA Python 包构建
使用 CPU 版本的 Mediapipe 延迟真的很高，所以试着构建了 GPU 版本的 Mediapipe。 GPU Support | MediaPipe | Google for Developers 然而 Google 官方的教程非常过时且并不是针对 Python 包的教程，参考价值非常非常小 ......
聊聊 GPU 产品选型那些事
随着人工智能的飞速崛起，随之而来的是算力需求的指数级增加，CPU 已经不足以满足深度学习、大模型计算等场景的海量数据处理需求。GPU 作为一种强大的计算工具，无论是高性能计算、图形渲染还是机器学习领域，在各个领域展现出了巨大的潜力和应用前景。 说起 GPU，绕不过的当然是 NVIDIA 这个公司了， ......
如何使用 GTX750 或 1050 显卡安装 CUDA11+
前言 由于兼容性问题，使得我们若想用较新版本的 PyTorch，通过 GPU 方式训练模型，也得更换较新版本得 CUDA 工具包。然而 CUDA 的版本又与电脑显卡的驱动程序版本关联，如果是低版本的显卡驱动程序安装 CUDA11 及以上肯定会失败。 比如 GTX750Ti 或 GTX1050Ti，出 ......
巅峰对决：英伟达 V100、A100/800、H100/800 GPU 对比
近期，不论是国外的 ChatGPT，还是国内诸多的大模型，让 AIGC 的市场一片爆火。而在 AIGC 的种种智能表现背后，均来自于堪称天文数字的算力支持。以 ChatGPT 为例，据微软高管透露，为 ChatGPT 提供算力支持的 AI 超级计算机，是微软在 2019 年投资 10 亿美元建造一台 ......
调用gpu/cuda常见问题
调用gpu/cuda常见问题 1 、cuda out of memory 1）先查询nvidia-smi 确保gpu未占用 2）调用.cuda()方法前，确保你的系统中有可用的GPU，并且已经安装了适当的GPU驱动和CUDA工具包。否则，将会引发错误。 3) 使用这种方法可以正常使用 util是 g ......
升级显卡驱动，下载cuda和cudann 12.0后，安装pytorch
1、重新创建虚拟环境 2、查找pytorch版本 安装Pytorch如何选择CUDA的版本，看这一篇就够了 - 知乎 (zhihu.com) Previous PyTorch Versions | PyTorch 安装支持CUDA 12的pytorch教程 - 知乎 (zhihu.com) 于是： ......
基础环境(python,gpu等)
anaconda： 清华镜像站中anaconda的所有版本的网址：Index of /anaconda/archive/ | 清华大学开源软件镜像站 | Tsinghua Open Source Mirror minianaconda：Index of / (anaconda.com) wget h ......
机器学习——GPU
张量与GPU 不同GPU之间操作 神经网络与GPU 总结 我们可以指定用于存储和计算的设备，例如CPU或GPU。默认情况下，数据在主内存中创建，然后使用CPU进行计算。 深度学习框架要求计算的所有输入数据都在同一设备上，无论是CPU还是GPU。 不经意地移动数据可能会显著降低性能。一个典型的错误如下 ......
GPU信息文档汇总
1、卸载现有的显卡命令：sudo /usr/bin/nvidia-uninstallsudo apt-get --purge remove nvidia-*sudo apt-get purge nvidia*sudo apt-get purge libnvidia*最后再查看一下 是否还有显示信息s ......
pytorch:1.12-gpu-py39-cu113-ubuntu20.04
docker-compose 安装 unbuntu 20.04 version: '3' services: ubuntu2004: image: ubuntu:20.04 ports: - '2256:22' - '3356:3306' - '8058:80' volumes: - my-volu ......
OpenCV4.1.0中的GPU版本的SURF特征点提取类的命名空间、所在头文件和类名
OpenCV4.1.0中的GPU版本的SURF特征点提取类的命名空间、所在头文件和类名情况如下： 类名：cv::cuda::SURF_CUDA 所在的命名空间：cv::cuda 所在头文件：$\build\install\include\opencv2\xfeatures2d。其中，$是编译Open ......
Chromium GPU资源共享
资源共享指的是在一个 Context 中的创建的 Texture 资源可以被其他 Context 所使用。一般来讲只有相同 share group Context 创建的 Texture 才可以被共享，而 Chromium 设计了一套允许不同 share group 并且跨进程的 Texture 共 ......
【GPU】cuda(伪)编程学习
一、编程模型 主机(host)-设备(device)模型：xxxx编程模型使开发人员能够在包含cpu和gpu的异构计算机系统上编写和执行程序； 核函数：从主机启动并在gpu设备上执行的函数成为核函数，是xxxx编程模型的关键组件，在设备内从空间中运行； 线程层次结构：xxxx采用Grid-Workg ......
vmware 显卡虚拟化 vmware gpu虚拟化
https://blog.51cto.com/u_12959/6296111?articleABtest=0 一、问题 由于需要玩一下OpenNebula，但是现在自己只有一台笔记本，如何玩？当然是VMVare了，于是装了几台Ubuntu的虚拟机，但是在看安装OpenNebula的前提要求是 安装的 ......
vmvare 17 gpu 虚拟化 vmware workstation gpu虚拟化
https://blog.51cto.com/u_12959/6296111?articleABtest=0 虚拟化（KVM） 虚拟化介绍：VMware Workstation就是虚拟化虚拟化简单讲，就是把一台物理计算机虚拟成多台逻辑计算机，每个逻辑计算机里面可以运行不同的操作系统，相互不受影响，这 ......
显卡虚拟化使用及配置技术
http://www.360doc.com/content/18/0814/21/9824753_778296481.shtml 将GPU技术与虚拟化技术融合，是近年来虚拟化行业中比较热门的技术课题，通过此种方式，将大大降低图形图像用户的使用成本以及提高数据的安全性。接下来我们将了解显卡虚拟化使用及 ......
GPU实现虚拟化
GPU 虚拟化 [一] 兰新宇 talk is cheap 关注他 对于 GPU 这样的高速 PCIe 设备，虽然也可以借助 virtio 的方式来实现 guest VM 对 GPU 资源的共享，但因为需要 hypervisor 参与 emulation，效率不高。性能更佳的方案是将物理 GPU ......
vm怎么开启GPU虚拟化
vm怎么开启GPU虚拟化 原创 mob64ca12ecf3b42023-08-16 16:26:00©著作权 文章标签虚拟化驱动程序加载文章分类虚拟化云计算阅读数453 在VM中开启GPU虚拟化方案 问题描述 虚拟机（VM）是一种常见的虚拟化技术，它允许在一台物理计算机上运行多个独立的操作系统实例。 ......
rapidocr_paddle[gpu]：GPU端推理库来了
简介 rapidocr_paddle系列包是基于PaddlePaddle框架作为推理引擎的，支持CPU和GPU上推理。值得说明的是，这个包和PaddleOCR相比，代码基本都是一样的，只不过这个库将里面核心推理代码抽了出来，更加精简而已。 推荐GPU上用这个，CPU端还是以rapidocr_onnx ......
服务器安装tensorflow-gpu=2.11.0教程
第一步：安装cudatoolkit 使用nvidia-smi确定适合自己显卡驱动的版本 使用conda search cudatoolkit获取可用版本 执行 conda install -c anaconda cudatoolkit=X.X.X 在~/.bashrc文件中添加 export LD_ ......
16GB显卡推理80G大模型
最近看到一篇推文是在不量化、不损失精度的情况下使用一张16G的显卡推理70B的大模型。方案来自于kaggle的一个方案，具体流程为： 1.创建一个空的（例如，没有权重的）模型 2.决定每一层将要去哪里（当有多个设备可用时） 3.在内存中加载其权重的一部分 4.在空模型中加载这些权重 5.将权重移动到 ......
查看显卡使用情况nvidia-smi报错：command not found
辗转查看了很多教程，踩了好多坑，最后终于解决了，参考的相关博客会在后文做引用。 我解决的办法：1、在root下重启机器，执行：reboot2、重启以后，执行：cd /usr/src/，然后ls,查看nvidia-xxx,xxx为支持的版本号；3、安装驱动，执行：sudo apt-get instal ......