tensorflow gpu
利用显卡的SR-IOV虚拟GPU技术，实现一台电脑当七台用
背景 虚拟桌面基础设施（VDI）技术一般部署在服务器，可以实现多个用户连接到服务器上的虚拟桌面。随着桌面计算机性能的日益提升，桌面计算机在性能在很多场景下已经非常富余，足够同时满足多个用户同时使用的需求。实际项目中，VDI很少部署在桌面计算机的硬件架构上。主要原因包括几个方面： 1）桌面计算机的CP ......
【836】Cannot import tensorflow_text
Ref: Cannot import tensorflow_text Sometimes you need to reinstall and update tensorflow then install tensorflow_text. (Because you need your tensorfl ......
为什么 GPU 能够极大地提高仿真速度？
这里的提速主要是针对时域电磁算法的。因为时域算法的蛙跳推进模式仅对大量存放在固定 位置的数据进行完全相同的且是简单的操作（移位相加），这正是 GPU 这类众核 SIMD 架构所进行的运算，即 ALU 与内存的存取速度（又称带宽）直接决定了整个运算速度。 下表给出了 GPU 与高速 CPU 数据总线的 ......
关于同时运行多个tensorflow模型时线程创建失败
## OpenMP: "libgomp: Thread creation failed: Resource temporarily unavailable" when code run as regular user 这几天在跑代码的时候，因为模型需要调参，方便起见打算同时运行25个程序。但是在使用 ......
ISL学习——tensorflow部分指令
tf.keras.layers.Sequential() #用来描述神经网络的结构，其中Sequential()里面的参数是用来描述从输入层到输出层的网络结构。 modnn = tf.keras.Sequential( [ tf.keras.layers.Dense(units = 10, #参数为 ......
CST为什么要关闭 GPU 卡的 ECC 模式而开启 TCC 模式？操作使用【详解】
在使用CST软件之前，我们一般建议大家关闭 GPU 卡的 ECC 模式而开启 TCC 模式。那么，为什么要进行这样一个操作呢？在此之前，给大家科普一下什么是“ECC”和“TTC”。 “ECC” 其实是 Error Correction Code 的缩写，是 NVIDIA（英伟达） 内自带的错误纠正代 ......
Tensorflow环境搭建教程
前言 笔者在搭建tensorflow环境时遇到了很多问题，浪费了很多时间，为方便想学习机器学习的同学搭建tensorflow环境，笔者整理了一份教程供读者参考。 不能直接修改anaconda里的python版本了，另一种更简单的方法: Win10系统用anaconda新建一个tensorflow环境 ......
如何使用Java操作TensorFlow
https://blog.csdn.net/weixin_28906733/article/details/100528526 简介 机器学习在全球范围内越来越受欢迎和使用。 它已经彻底改变了某些应用程序的构建方式，并且可能会继续成为我们日常生活中一个巨大的（并且正在增加的）部分。 没有什么包装且机 ......
TensorFlow下利用MNIST训练模型识别手写数字
本文将参考TensorFlow中文社区官方文档使用mnist数据集训练一个多层卷积神经网络(LeNet5网络)，并利用所训练的模型识别自己手写数字。 训练MNIST数据集，并保存训练模型 # Python3 # 使用LeNet5的七层卷积神经网络用于MNIST手写数字识别 import tensor ......
tensorflow 输出权重的值
1. 确定权重名称： tvars1 = tf.get_collection(tf.GraphKeys.TRAINABLE_VARIABLES) for tmp in tvars1: print('all-->',tmp.name) 2. 根据网络结构从1中找到想要打印的权重名称 weight_nam ......
tensorflow 更新部分参数或参数分开更新
思路： 1.根据变量名称过滤要更新的权重： 2.如果参数分开更新，还需要设置多个优化器 代码示例： def Net_1(input): with tf.variable_scope('Net_1'): fmap_input = tf.layers.conv2d(input,32,32,(1,1),p ......
CentOS7编译dlib GPU版
1.安装CUDA和CudNN 略.. 2.更新cmake 1）下载cmake源码 wget https://cmake.org/files/v3.13/cmake-3.13.3-Linux-x86_64.tar.gz 2）解压 tar zxvf cmake-3.13.3-Linux-x86_64.t ......
gpu和cpu有什么区别
GPU：叫做图形处理器，又称显示核心、视觉处理器、显示芯片，是一种专门在个人电脑、工作站、游戏机和一些移动设备(如平板电脑、智能手机等)上做图像和图形相关运算工作的微处理器，可以形象的理解为90%的ALU(运算单元)，5%的Control(控制单元)、5%的Cache(缓存单元) GPU的设计原理： ......
python3.9（anaconda）+pytorch（GPU）
1.新建一个python环境 安装anaconda 5.0.1 安装名为TorchGPU的conda虚拟环境 conda create -n TorchGPU python==3.9 最终效果 conda env list 出错 在如下页面添加conda环境后，解释器列表里没反应 关于错误的链接 h ......
Python 利用 Pytorch 获取当前GPU信息
import torch def get_gpu_info(): device = torch.device("cuda" if torch.cuda.is_available() else "cpu") if device.type == "cuda": # 获取当前GPU名字 gpu_name ......
cublas runtime error : the GPU program failed to execute 报错
情景 在使用 pytorch 1.0 和 RTX 3060 Laptop 训练 GIN 的时候出现了这个错误 原因 pytorch 1.0 对应的 cuda 10.0 版本太低了，不支持新的 GPU 架构 解决 最终使用了更新版本的 pytorch ......
KDE Plasma 5.27.4改进了NVIDIA GPU上的Plasma Wayland，修复了许多错误
导读 KDE项目今天发布了KDE Plasma 5.27.4，作为最新的KDE Plasma 5.27 LTS桌面环境系列的第四次维护更新，以解决更多的错误和崩溃，同时也改进了现有的功能。 KDE Plasma 5.27.4是继KDE Plasma 5.27.3之后的第三个，它进一步改进了Plasm ......
GPU 编程第六次作业（实验七）
1 实验步骤一 1.1 运行结果： 1.2 绘制图像 1.3 分析原因 就和这个图表现出的是一样的 图一的访问尽管会有位移，但总归是顺序连续的访问，所以可以通过Coalesce 进行少量的 memory transactions，位移是多少没什么差别 图二表示说，访问的位置越稀疏速度就越慢，因为一次 ......
k8s DCGM GPU采集指标项说明
dcgm-exporter 采集指标项 | 指标 | 解释 | | | | dcgm_fan_speed_percent | GPU风扇转速占比（%） dcgm_sm_clock | GPU sm 时钟(MHz) dcgm_memory_clock | GPU 内存时钟(MHz) dcgm_gpu_ ......
论文阅读-sparse gpu kernels for deep learning
论文地址：https://ieeexplore.ieee.org/document/9355309 源码地址：https://github.com/google-research/sputnik 背景 深度神经网络由大量的矩阵乘法运算和卷积运算组成，这些运算中使用的矩阵可以转化成稀疏矩阵，同时不损失 ......
Pytorch2 如何通过算子融合和 CPU/GPU 代码生成加速深度学习
动动发财的小手，点个赞吧！ PyTorch 中用于图形捕获、中间表示、运算符融合以及优化的 C++ 和 GPU 代码生成的深度学习编译器技术入门 计算机编程是神奇的。我们用人类可读的语言编写代码，就像变魔术一样，它通过硅晶体管转化为电流，使它们像开关一样工作，并允许它们实现复杂的逻辑——这样我们就可 ......
【GPU基础问题】GPU内存占用率很高利用率很低
前言 问题描述 查看nvidia-smi，发现显存占比很高，但是GPU-Util(GPU利用率)很低，在3%、7%、11%等几个参数之间反复跳动。 watch -n 0.5 nvidia-smi 也就是显卡并没有完全利用起来，导致训练很慢。 原因分析 GPU内存占用率(memory usage) G ......
Python通过终端 cmd 获取GPU相关信息
# 获取GPU相关信息 def get_gpu_info(): try: cmd_out = subprocess.check_output('nvidia-smi --query-gpu=name,memory.used,memory.total --format=csv,noheader', s ......
【动手学深度学习】第五章笔记：层与块、参数管理、自定义层、读写文件、GPU
为了更好的阅读体验，请点击这里 由于本章内容比较少且以后很显然会经常回来翻，因此会写得比较详细。 5.1 层和块 事实证明，研究讨论“比单个层大”但“比整个模型小”的组件更有价值。例如，在计算机视觉中广泛流行的ResNet-152 架构就有数百层，这些层是由层组（groups of layers）的 ......
cpu，gpu的种类
 ![](https://img2023.cnblogs.com/blog/3161121/202304/3161... ......
VRAM和GPU的区别
vram和gpu区别，vram这个很多人还不知道, 1、VRAM就是广义上说的显存。 2、这不是什么品牌，是显卡上的随机存取存储器。 3、比如你显卡有4G显存，这个4G就是VRAM的大小。 4、VRAM不是品牌，VRAM的意思就是显存。 5、V代表Video Card（显卡），RAM代表就是内存，V ......
jupyter notebook导入tensorflow模块报错
安装TensorFlow 可以参考 https://tensorflow.google.cn/hub/installation?hl=zh_cn https://tensorflow.google.cn/install/pip?hl=zh-cn#windows 打开PowerShell 查看虚拟环境 ......
使用GPU加速TensorFlow-Keras
之前一直在用CPU训练TensorFlow模型，现在来尝试一下GPU训练。 【1】安装GPU必要的软件环境 显卡：MX450（支持CUDA 11.7以下版本） 软件1：Visual Studio 2019 Community 软件2：Cuda 10.1 update2 软件3：cuDNN 8.0.5 ......
GPU服务研究学习...
windows10 版本安装 CUDA ，首先需要下载两个安装包 CUDA toolkit（toolkit就是指工具包）cuDNN # 安装CUDA 教程 https://developer.nvidia.com/cuda-downloads # 安装cuDNN 教程 https://develop ......
清华ChatGLM-6B本地GPU推理部署
1 简介 ChatGLM-6B是一个开源的、支持中英双语的对话语言模型，基于General Language Model（GLM）架构，具有62亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4量化级别下最低只需6GB显存）。ChatGLM-6B使用了和ChatGPT相似的技 ......