tensorflow gpu
[已解决] KVM 显卡直通 (GPU-passthrough) 直通虚拟机关机后 显示屏黑屏
系统环境 ██████████████████ ████████ littleblacklb@lb-desktop ██████████████████ ████████ ██████████████████ ████████ OS: Manjaro Linux x86_64 ███████████ ......
GPU刷BIOS和超频
GPU刷BIOS 打开GPUZ，先备份GPU的BIOS文件 点击look up 打开GPU-Z的官网，下载BIOS 再去映众的官网，找到显卡超频的软件 安装这个的目的，就是为了刷BIOS 打开设置，带你BIOS更新。 [参考资料] https://www.bilibili.com/video/BV1 ......
从分布式计算的角度看pytorch和TensorFlow哪个更优？
背景： pytorch框架是一个从学术圈出来的框架，因此pytorch并不原生支持分布式计算，而且在大模型火爆的今年以外好像在深度学习领域使用分布式计算的场景确实不多，所以pytorch并不原生支持分布式计算的事情好像也并无大碍，而且pytorch可以通过安装第三方库的方式实现同步形式的分布式计算。 ......
基于Tensorflow技术开发的计算机毕业设计辅助生成器（使用AI大模型技术）
这是一个辅助生成计算机毕业设计的工具，可以自动完成毕业设计的源码。它基于几百个github上面开源的java和python项目，运用tensorflow技术，训练出了AI大模型。基本实现了计算机毕业设计生成器，能够初步生成Java或python基本源码。目前该项目处理实验阶段，还不成熟，成功率55% ......
指定代码使用的GPU设备号
当你的主机上有多张GPU卡，可以通过如下方式设置代码main.py使用哪几张GPU卡来运行程序 import os os.environ['CUDA_VISIBLE_DEVICES'] = "0,1,2" # 设定使用0,1,2号GPU卡 然后执行命令python main.py即可 注意，上述两行 ......
同样的程序，有时是gpu正常10%，有时gpu占用率到达或接近100%？提供一个解决方案
同样的程序，同样的代码，只在不同时间运行，有时是gpu正常10%，有时gpu占用率到达或接近100%？ 这里提供一个排错的解决方案 1、首先打开任务管理器，看看cpu的连续正常运行时间，如果超过了1天，请重启或按shift后关闭电脑再开机，这个方法可以把重复运行的程序的一些积累效应去掉 我通过这个方 ......
GPU监控终端部署（windows）
目的： 使用nvidia_gpu_expoter配合prometheus+grafana监控GPU性能 环境部署： Windows PowerShell ISE 管理员打开 # [Net.ServicepointManager]::SecurityProtocol 检查TLS是否支持1.2 #如果支 ......
unity广州站gpu resident drawer笔记
unity广州站gpu resident drawer笔记 什么是gpu resident drawer 将MeshRenderer数据转为BRG batch（BatchRendererGroup）数据的机制。 它优化的是CPU耗时，但也可能进而提高gpu的性能。因为需要提交给GPU的绘制调用更少。 ......
windows安装tensorflow-gpu / CUDA / cuDNN
最终安装内容：windows10 + 3060显卡 + tensorflow-gpu 2.10.0 + CUDA 11.2 + cuDNN 8.1 1. 命令行输入nvidia-smi，查看显卡对应的cuda版本。如下图，CUDA Version为12.1，则安装的CUDA版本不能高于12.1。 2 ......
TensorFlow GPU支持
Compute Capability > 3.5 NVIDIA 驱动版本 > 450.0.20 查看驱动版本 nvidia-smi ......
GPU图形渲染分析
GPU图形渲染分析 1 概述 高强度图形是当代计算机系统的标志。今天的计算机，从智能手机到高端台式机，都使用各种复杂的视觉效果来增强用户体验。此外，用户还可以使用计算机玩图形密集型游戏、观看高清视频，以及进行计算机辅助工程设计，所有这些应用程序都需要大量的图形处理。 在早期，计算机中的图形支持非常初 ......
人工智能学习二、tensorflow快速入门
一、项目流程 数据预处理-》模型训练-》模型保存-》模型预测 二、要点： 数据类型 运行机制 数据IO 模型训练 模型保存 模型调用 三、编写tensorflow的两个步骤： （1）构建计算图graph graph中包含tensor和operation tensor:类型化的多维数组 operati ......
8卡3090GPU云服务器上采用VLLM部署中文llama2-70b模型及OpenAI格式接口
TigerBot-70b-4k-v4 推理部署 模型本地部署（基于HuggingFace) 根据实际测试，加载模型需要约129G显存，最低需要6张3090显卡（流水线并行） 如果使用vllm进行加速推理（张量并行），考虑8张3090显卡或者4张A100-40G（模型分割要求） 模型下载 截至目前，模 ......
onnxruntime GPU 推理错误
错误 [E:onnxruntime:Default, provider_bridge_ort.cc:1480 TryGetProviderInfo_CUDA] /onnxruntime_src/onnxruntime/core/session/provider_bridge_ort.cc:1193 ......
人工智能学习一、使用miniconda安装tensorflow
1、conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/ conda config --set show_channel_urls yes 用户目录底下找到 .condarc 文件，打 ......
元宇宙解决方案——云端GPU在元宇宙中的作用
GPU算力可以说是我们现在信息化时代的基础设施，在某种程度上说我们已经进入了算力时代，手机、电脑、车载等算力已经渗透到各行各业了。 当然算力对元宇宙也很重要，尤其是在可视化方面，元宇宙需要很逼真的渲染，同时它的物理动作也要符合物理定律，人才能沉浸其中，所以要很强的图形渲染、物理模拟。因此GPU对元宇... ......
Installing the NVIDIA Container Toolkit 容器配置GPU
网上的帖子都比较旧了，这是最新官方地址： https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html 注意：除了安装，还有配置，不是说安装上就完事 都弄好之后，就可以docke ......
配备四核应用处理器和GPU（XCZU1EG-2SFVA625I、XCZU1EG-2SFVA625E、XCZU1EG-1SFVA625I）Zynq UltraScale+ EG设备
详情 Zynq™ UltraScale+™ MPSoC 器件不仅提供 64 位处理器可扩展性，同时还将实时控制与软硬件引擎相结合，支持图形、视频、波形与数据包处理。置于包含通用实时处理器和可编程逻辑的平台上，三个不同变体包括双核应用处理器 (CG) 器件、四核应用处理器和 GPU (EG) 器件、以 ......
Keras 3.0正式发布：可用于TensorFlow、JAX和PyTorch
前言 Keras 3.0正式发布：可用于TensorFlow、JAX和PyTorch 本文转载自机器之心 仅用于学术分享，若侵权请联系删除 欢迎关注公众号CV技术指南，专注于计算机视觉的技术总结、最新技术跟踪、经典论文解读、CV招聘信息。 CV各大方向专栏与各个部署框架最全教程整理 【CV技术指南】 ......
配备四核应用处理器和 GPU (EG) XCZU1EG-1SFVA625E、XCZU3EG-1SFVA625E、XCZU3EG-1SBVA484E面向新一代应用
产品详情： Zynq™ UltraScale+™ MPSoC 器件不仅提供 64 位处理器可扩展性，同时还将实时控制与软硬件引擎相结合，支持图形、视频、波形与数据包处理。置于包含通用实时处理器和可编程逻辑的平台上，三个不同变体包括（双核、四核和视频代码-c）。其中，配备四核应用处理器 (EG) 的器 ......
NVIDIA H100 GPU：GPU的机密计算
NVIDIA的官方说明： https://www.nvidia.cn/data-center/solutions/confidential-computing/ ......
TensorFlow-深度学习预训练模型的使用方法讲解（TensorFlow-Explanation on how to use deep learning pre-trained models）
在运用深度学习模型时，掌握运用预训练模型的方法是必不可少的一步。为什么要使用与训练的模型，原因归纳如下： （1）使用大量高质量的数据（如 ImageNet 是普林斯顿大学与斯坦福大学所主导的项目）又加上设计较复杂的模型结构（如ResNet模型高达150层）设计出来的模型，准确率会大大提高。 （2）可 ......
gpu算力
colmapc如果自动 GPU 架构检测失败（如果安装了多个 GPU，则可能会发生这种情况），请TCNN_CUDA_ARCHITECTURES为您要使用的 GPU 设置环境变量。下表列出了常见 GPU 的值。如果您的 GPU 未列出，请查阅此详尽列表。 col ......
使用Accelerate库在多GPU上进行LLM推理
大型语言模型(llm)已经彻底改变了自然语言处理领域。随着这些模型在规模和复杂性上的增长，推理的计算需求也显著增加。为了应对这一挑战利用多个gpu变得至关重要。 所以本文将在多个gpu上并行执行推理，主要包括：Accelerate库介绍，简单的方法与工作代码示例和使用多个gpu的性能基准测试。 本文 ......
图形API和GPU光线追踪分析
图形API和GPU光线追踪分析 阐述目前市面上的几种流行图形API对光线追踪支持的现状和技术。 1 DirectX RayTracing（DXR） DirectX RayTracing（DXR）是DirectX 12引入的用以支持硬件光线追踪的图形API特性集。在最高级别，DXR为DirectX 1 ......
linux 查看GPU程序占用
nvidia-smi 查看gpu的具体占用情况。 ps -f -p PID 查看某个程序的详细信息。 参考: https://www.cnblogs.com/dyc99/p/14597853.html ......
xgboost使用GPU最佳实践
title: xgboost使用GPU最佳实践 banner_img: https://cdn.studyinglover.com/pic/2023/10/faf4c4a867b04fc7cc77110926bf2d43.png date: 2023-10-18 18:50:00 categorie ......
如何在较旧版本的docker中使用gpu
参考资料： 自己摸索 https://blog.csdn.net/qq_43684922/article/details/127024933 之前我写过一篇如何在docker中使用gpu的随笔（传送门），当时反响还不错（收获了三个推荐）。但是今天却遇到了坑爹的情况，当时的方法不管用了。 回顾一下当时 ......
GPU部署llama-cpp-python(llama.cpp通用)
title: GPU部署llama-cpp-python(llama.cpp通用) banner_img: https://cdn.studyinglover.com/pic/2023/08/a5e39db5abf0853e6c456728df8bd971.jpg date: 2023-8-6 23 ......
在终端绘制GPU显存使用曲线
title: 在终端绘制GPU显存使用曲线 banner_img: https://cdn.studyinglover.com/pic/2023/08/588d9420c9302f5e0d6c2e89fbddf200.png date: 2023-8-13 11:44:00 在终端绘制GPU显存使用 ......