GPU
配备四核应用处理器和GPU（XCZU1EG-2SFVA625I、XCZU1EG-2SFVA625E、XCZU1EG-1SFVA625I）Zynq UltraScale+ EG设备
详情 Zynq™ UltraScale+™ MPSoC 器件不仅提供 64 位处理器可扩展性，同时还将实时控制与软硬件引擎相结合，支持图形、视频、波形与数据包处理。置于包含通用实时处理器和可编程逻辑的平台上，三个不同变体包括双核应用处理器 (CG) 器件、四核应用处理器和 GPU (EG) 器件、以 ......
配备四核应用处理器和 GPU (EG) XCZU1EG-1SFVA625E、XCZU3EG-1SFVA625E、XCZU3EG-1SBVA484E面向新一代应用
产品详情： Zynq™ UltraScale+™ MPSoC 器件不仅提供 64 位处理器可扩展性，同时还将实时控制与软硬件引擎相结合，支持图形、视频、波形与数据包处理。置于包含通用实时处理器和可编程逻辑的平台上，三个不同变体包括（双核、四核和视频代码-c）。其中，配备四核应用处理器 (EG) 的器 ......
NVIDIA H100 GPU：GPU的机密计算
NVIDIA的官方说明： https://www.nvidia.cn/data-center/solutions/confidential-computing/ ......
gpu算力
colmapc如果自动 GPU 架构检测失败（如果安装了多个 GPU，则可能会发生这种情况），请TCNN_CUDA_ARCHITECTURES为您要使用的 GPU 设置环境变量。下表列出了常见 GPU 的值。如果您的 GPU 未列出，请查阅此详尽列表。 col ......
使用Accelerate库在多GPU上进行LLM推理
大型语言模型(llm)已经彻底改变了自然语言处理领域。随着这些模型在规模和复杂性上的增长，推理的计算需求也显著增加。为了应对这一挑战利用多个gpu变得至关重要。 所以本文将在多个gpu上并行执行推理，主要包括：Accelerate库介绍，简单的方法与工作代码示例和使用多个gpu的性能基准测试。 本文 ......
图形API和GPU光线追踪分析
图形API和GPU光线追踪分析 阐述目前市面上的几种流行图形API对光线追踪支持的现状和技术。 1 DirectX RayTracing（DXR） DirectX RayTracing（DXR）是DirectX 12引入的用以支持硬件光线追踪的图形API特性集。在最高级别，DXR为DirectX 1 ......
linux 查看GPU程序占用
nvidia-smi 查看gpu的具体占用情况。 ps -f -p PID 查看某个程序的详细信息。 参考: https://www.cnblogs.com/dyc99/p/14597853.html ......
xgboost使用GPU最佳实践
title: xgboost使用GPU最佳实践 banner_img: https://cdn.studyinglover.com/pic/2023/10/faf4c4a867b04fc7cc77110926bf2d43.png date: 2023-10-18 18:50:00 categorie ......
如何在较旧版本的docker中使用gpu
参考资料： 自己摸索 https://blog.csdn.net/qq_43684922/article/details/127024933 之前我写过一篇如何在docker中使用gpu的随笔（传送门），当时反响还不错（收获了三个推荐）。但是今天却遇到了坑爹的情况，当时的方法不管用了。 回顾一下当时 ......
GPU部署llama-cpp-python(llama.cpp通用)
title: GPU部署llama-cpp-python(llama.cpp通用) banner_img: https://cdn.studyinglover.com/pic/2023/08/a5e39db5abf0853e6c456728df8bd971.jpg date: 2023-8-6 23 ......
在终端绘制GPU显存使用曲线
title: 在终端绘制GPU显存使用曲线 banner_img: https://cdn.studyinglover.com/pic/2023/08/588d9420c9302f5e0d6c2e89fbddf200.png date: 2023-8-13 11:44:00 在终端绘制GPU显存使用 ......
无GPU环境中运行出错解决方法：AssertionError: Torch not compiled with CUDA enabled
在執行pytorch代碼的時候，突然看到報錯 AssertionError: Torch not compiled with CUDA enabled 這說明了 1. 你pytoch确实安装了 2. 你安装的是cpu版本 作为验证，你可以在python编辑器输入下列代码 如果要在无GPU环境中运行， ......
k8s集群节点配置GPU
默认已有以下前置条件 k8s 1.10+ 操作系统：麒麟v10 SP2（Centos，Ubuntu等见“安装NVIDIA Container Toolkit”中其他源配置） GPU驱动：已安装 官方文档：https://github.com/NVIDIA/k8s-device-plugin 一、验证 ......
docker使用--gpus all报错: docker: Error response from daemon: could not select device driver "" with capabilities: [[gpu]].
报错信息： docker: Error response from daemon: could not select device driver "" with capabilities: [[gpu]]. 解决方法： 1，任意路径下创建nvidia-container-runtime-script ......
安装warp-transducer时cmake.. 出现 Building shared library with no GPU support的解决办法
warp-transducer A fast parallel implementation of RNN Transducer (Graves 2013 joint network), on both CPU and GPU. GPU implementation is now available ......
浅谈移动端GPU架构
【USparkle专栏】如果你深怀绝技，爱“搞点研究”，乐于分享也博采众长，我们期待你的加入，让智慧的火花碰撞交织，让知识的传递生生不息！ 一、前言 本文是关于TBR、TBDR和IMR三种不同的GPU架构的学习和总结，希望可以帮助到大家理解这些概念。 前置概念现有的GPU架构主要分为以下三类： Im ......
3 分钟看完 NVIDIA GPU 架构及演进
近期随着 AI 市场的爆发式增长，作为 AI 背后技术的核心之一 GPU（图形处理器）的价格也水涨船高。GPU 在人工智能中发挥着巨大的重要，特别是在计算和数据处理方面。目前生产 GPU 主流厂商其实并不多，主要就是 NVIDIA、AMD、Intel、高通等厂家。本文将主要聊聊 NVIDIA GPU ......
Jetson Mediapipe GPU/CUDA Python 包构建
使用 CPU 版本的 Mediapipe 延迟真的很高，所以试着构建了 GPU 版本的 Mediapipe。 GPU Support | MediaPipe | Google for Developers 然而 Google 官方的教程非常过时且并不是针对 Python 包的教程，参考价值非常非常小 ......
聊聊 GPU 产品选型那些事
随着人工智能的飞速崛起，随之而来的是算力需求的指数级增加，CPU 已经不足以满足深度学习、大模型计算等场景的海量数据处理需求。GPU 作为一种强大的计算工具，无论是高性能计算、图形渲染还是机器学习领域，在各个领域展现出了巨大的潜力和应用前景。 说起 GPU，绕不过的当然是 NVIDIA 这个公司了， ......
巅峰对决：英伟达 V100、A100/800、H100/800 GPU 对比
近期，不论是国外的 ChatGPT，还是国内诸多的大模型，让 AIGC 的市场一片爆火。而在 AIGC 的种种智能表现背后，均来自于堪称天文数字的算力支持。以 ChatGPT 为例，据微软高管透露，为 ChatGPT 提供算力支持的 AI 超级计算机，是微软在 2019 年投资 10 亿美元建造一台 ......
调用gpu/cuda常见问题
调用gpu/cuda常见问题 1 、cuda out of memory 1）先查询nvidia-smi 确保gpu未占用 2）调用.cuda()方法前，确保你的系统中有可用的GPU，并且已经安装了适当的GPU驱动和CUDA工具包。否则，将会引发错误。 3) 使用这种方法可以正常使用 util是 g ......
基础环境(python,gpu等)
anaconda： 清华镜像站中anaconda的所有版本的网址：Index of /anaconda/archive/ | 清华大学开源软件镜像站 | Tsinghua Open Source Mirror minianaconda：Index of / (anaconda.com) wget h ......
机器学习——GPU
张量与GPU 不同GPU之间操作 神经网络与GPU 总结 我们可以指定用于存储和计算的设备，例如CPU或GPU。默认情况下，数据在主内存中创建，然后使用CPU进行计算。 深度学习框架要求计算的所有输入数据都在同一设备上，无论是CPU还是GPU。 不经意地移动数据可能会显著降低性能。一个典型的错误如下 ......
GPU信息文档汇总
1、卸载现有的显卡命令：sudo /usr/bin/nvidia-uninstallsudo apt-get --purge remove nvidia-*sudo apt-get purge nvidia*sudo apt-get purge libnvidia*最后再查看一下 是否还有显示信息s ......
pytorch:1.12-gpu-py39-cu113-ubuntu20.04
docker-compose 安装 unbuntu 20.04 version: '3' services: ubuntu2004: image: ubuntu:20.04 ports: - '2256:22' - '3356:3306' - '8058:80' volumes: - my-volu ......
OpenCV4.1.0中的GPU版本的SURF特征点提取类的命名空间、所在头文件和类名
OpenCV4.1.0中的GPU版本的SURF特征点提取类的命名空间、所在头文件和类名情况如下： 类名：cv::cuda::SURF_CUDA 所在的命名空间：cv::cuda 所在头文件：$\build\install\include\opencv2\xfeatures2d。其中，$是编译Open ......
Chromium GPU资源共享
资源共享指的是在一个 Context 中的创建的 Texture 资源可以被其他 Context 所使用。一般来讲只有相同 share group Context 创建的 Texture 才可以被共享，而 Chromium 设计了一套允许不同 share group 并且跨进程的 Texture 共 ......
【GPU】cuda(伪)编程学习
一、编程模型 主机(host)-设备(device)模型：xxxx编程模型使开发人员能够在包含cpu和gpu的异构计算机系统上编写和执行程序； 核函数：从主机启动并在gpu设备上执行的函数成为核函数，是xxxx编程模型的关键组件，在设备内从空间中运行； 线程层次结构：xxxx采用Grid-Workg ......
vmvare 17 gpu 虚拟化 vmware workstation gpu虚拟化
https://blog.51cto.com/u_12959/6296111?articleABtest=0 虚拟化（KVM） 虚拟化介绍：VMware Workstation就是虚拟化虚拟化简单讲，就是把一台物理计算机虚拟成多台逻辑计算机，每个逻辑计算机里面可以运行不同的操作系统，相互不受影响，这 ......
vmware 显卡虚拟化 vmware gpu虚拟化
https://blog.51cto.com/u_12959/6296111?articleABtest=0 一、问题 由于需要玩一下OpenNebula，但是现在自己只有一台笔记本，如何玩？当然是VMVare了，于是装了几台Ubuntu的虚拟机，但是在看安装OpenNebula的前提要求是 安装的 ......