nvidia-smi nvidia jax smi
如何在jax框架的jit中快速的实现循环结构 —— Jax框架的jit编译是否可以使用循环结构
相关： Jax框架的jit编译是否可以使用循环结构，如果使用循环结构需要注意什么 前文中给出了jit下使用python做循环结构的代码，下面再次给出这个代码，这个代码为jupyter-notebook环境，并且在jit编译时需要60秒，运行9.4秒左右： from jax import jit, r ......
Jax框架的static与Traced Operations —— Static vs Traced Operations
相关： Jax框架的jit编译是否可以使用循环结构，如果使用循环结构需要注意什么 Jax的static和Traced都是指jit编译的函数内的对象的属性的，jit装饰的函数其输入参数和输出参数都是Traced类型的（除了使用@partial装饰符提前指定为static的），而jit装饰的函数内的所有 ......
Jax框架的jit编译是否可以使用循环结构，如果使用循环结构需要注意什么
相关： Jax计算框架的JIT编译的static特性 给出一个jax的jit的循环结构代码： from jax import jit, random import jax.numpy as jnp from functools import partial @partial(jit, static_ ......
Jax计算框架的JIT编译的static特性
官方： https://jax.readthedocs.io/en/latest/notebooks/thinking_in_jax.html#jit-mechanics-tracing-and-static-variables ......
Jax的加速层的伪代码/中间层代码的生成和查看
地址： https://jax.readthedocs.io/en/latest/notebooks/thinking_in_jax.html#jit-mechanics-tracing-and-static-variables from jax import make_jaxpr def f(x, ......
jax中对单步操作的缓存对性能造成的影响
代码： import jax.numpy as jnp from jax import grad, jit, vmap from jax import random def selu(x, alpha=1.65, lmbda=1.05): return lmbda * jnp.where(x > 0 ......
Jax报错：Windows系统环境下WSL中运行Jax会导致nvidia-smi报错退出，无法使用nvidia-smi和gpustat
环境： Window11下的WSL： 运行jax，导致nvidia-smi无法使用，不过经过测试发现虽然nvidia-smi报错无法使用，但是GPU已经可以正常使用，调用jax的GPU运行也保持正常，只不过无法使用nvidia-smi对GPU状态进行查询。 ......
如何安装废弃版本的Jax —— pypi服务器上不保存的python包应该如何安装
python的公开扩展包的存储是在网站： http://pypi.org/ 一般情况下，这是没有问题的，但是对于一些更新版本比较多的扩展包就出现了问题，因为pypi的服务器对每个项目（扩展包）都是由存储限额的，因此每个项目只能在pypi服务器上存储一定数量的版本，这样也就必然导致旧版本的删除，这种情 ......
支持NVIDIA GPU —— 如何运行docker环境下的Jax环境
项目地址： https://github.com/NVIDIA/JAX-Toolbox 具体的安装命令： 地址： https://github.com/NVIDIA/JAX-Toolbox/pkgs/container/jax linux/amd64 docker pull ghcr.io/nvid ......
Jax框架 —— 如何在没有GPU和TPU的设备上debug代码 —— 在CPU上使用GPU仿真设置 —— Jax框架在多卡设备上的自动并行特性的仿真体验
Jax计算框架是Google用来取代Tensorflow的新一代计算框架，这个框架使用类似pytorch的技术，但是在pytorch技术之上加入了更加强大的技术，但是这也导致该框架使用起来要比pytorch难一些，但是该框架的计算性能又比较优秀，因此依旧具有较大的吸引力。 Jax框架的性能优势主要体 ......
Jax计算框架的MPI通讯的扩展库 —— mpi4jax
地址： https://github.com/mpi4jax/mpi4jax PS. 关于这个library的性能表现并不是很清楚，没有亲自手动安装并测试过。这里只作为链接收藏之用，毕竟这个属于比较小众的python的Jax框架的扩展library。 ......
Jax计算框架的NamedSharding的reshape —— namedsharding-gives-a-way-to-express-shardings-with-names
官方文档参考： https://jax.readthedocs.io/en/latest/notebooks/Distributed_arrays_and_automatic_parallelization.html#namedsharding-gives-a-way-to-express-shar ......
Jax框架支持的python和numpy版本
官方： https://jax.readthedocs.io/en/latest/deprecation.html 每个推出的JAX版本都会支持45个月内推出的python，对此具体解释一下： 比如Jax_1.0.0为2024年1月1号release，2020年3月到2024年1月1号之间发行的py ......
Jax框架在不同版本间的随机数生成并不一致 —— jax.random
官方： https://jax.readthedocs.io/en/latest/api_compatibility.html#numerics-and-randomness 具体的解释就是在不同的Jax版本之间，即使设置相同随机种子也不能保证生成的随机数一致，比如： ` jax.random.gu ......
基于 FFmpeg 和 NVIDIA GPU 的视频硬件编解码实验
【官方文档地址】：使用 FFmpeg 和 NVIDIA GPU 硬件加速 ( PDF ) 从 Kepler 一代开始的所有 NVIDIA® GPU 都支持完全加速的硬件视频编码和解码。在本文档的其余部分中，硬件编码器和硬件解码器分别称为 NVENC 和 NVDEC。 NVENC和NVDEC的硬件能力 ......
NVIDIA-Driver in Linux Ubuntu
NVIDIA-Driver in Linux Ubuntu Before all DKMS stands for Dynamic Kernel Module Support. It is a framework that allows third-party kernel modules, such ......
NVIDIA-Driver in Linux Ubuntu
NVIDIA-Driver in Linux Ubuntu Before all DKMS stands for Dynamic Kernel Module Support. It is a framework that allows third-party kernel modules, such ......
Google主打的机器学习计算框架——jax的升级包
相关： 机器学习洞察 | 一文带你“讲透” JAX Jax的主要应用场景： 深度学习 (Deep Learning)：JAX 在深度学习场景下应用很广泛，很多团队基于 JAX 开发了更加高级的 API 支持不同的场景，方便开发者使用。 科学模拟 (Scientific Simulation)：JAX ......
清华镜像源、阿里镜像源全部失效后怎么办 —— conda 服务器代理配置 —— Jax框架的安装
相关： conda 服务器代理配置 最近在用anaconda安装Jax框架，发现直接使用官方源下载的速度十分的慢，估计要需20个小时才能下载完成，对于这种情况第一个感觉就是使用镜像源来进行下载。 但是十分悲催的发现，清华镜像源、阿里镜像源全部失效，可以说突然发现对于一些python包，国内的常用的c ......
一个简单的例子测试numpy和Jax的性能对比 （续）
相关： 一个简单的例子测试numpy和Jax的性能对比 numpy代码： import numpy as np import time x = np.random.random([10000, 10000]).astype(np.float32) try: st = time.time() y = ......
一个简单的例子测试numpy和Jax的性能对比
参考： https://baijiahao.baidu.com/s?id=1725356123619612187&wfr=spider&for=pc 个人认为如果把Jax作为一款深度学习框架来学习，那么就没有多大的必要性，因为pytorch就够了。可以说，Jax可以做到的，pytorch也可以做到， ......
NVIDIA显卡驱动相关
cuda driver install 准备阶段 首先确认 cuda xserver 版本，保证和自己电脑显卡、cuda toolkit 版本适配，相关信息： https://docs.nvidia.com/cuda/cuda-toolkit-release-notes/index.html 然后下 ......
winget install cuda （Nvidia.CUDA）
PS C:\Users\Administrator> winget search cuda 名称 ID 版本 匹配 源 CudaLaunch 9NBLGGH40FCJ Unknown msstore MCX Studio coti.mcxstudio v2023 Tag: cuda winget N ......
NVIDIA RTX4090，你能用它做什么？
都说男生是世界上最简单的动物，为什么呢？举个例子，你要给女朋友送礼，你可以选择包、口红、护肤品、化妆品等，而包的品牌和样式、口红的色号等足以让你挑得眼花缭乱。而男生不一样，如果女生选择给男生送礼，我相信一块 RTX4090 就足以让他高兴得死去活来。 RTX4090 到底是何方神圣？它凭什么赢得所有 ......
linux卸载nvidia驱动
1. 查看驱动版本 ls /usr/src | grep nvidia 2. 进入安装目录 cd /usr/bin ls nvidia-* 3. 执行卸载命令 ./nvidia-uninstall 4. 重启 reboot ......
Installing the NVIDIA Container Toolkit 容器配置GPU
网上的帖子都比较旧了，这是最新官方地址： https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html 注意：除了安装，还有配置，不是说安装上就完事 都弄好之后，就可以docke ......
如何在不破坏docker容器的情况下更新nvidia驱动
参考资料： [驱动-CUDA对照表] [驱动下载页] [重装驱动的一个教程] [整体的一个方法指导] 由于项目结题，需要在一个较旧的8卡V100服务器上运行机器学习代码，但是这个服务器上面的docker驱动却旧到爆炸，请看VCR： 2023年了居然显卡驱动还停留在418，这下不得不升级了。请示完导师 ......
nvidia-smi修改ECC状态重启后不生效
最近跑大模型发现显卡少了几个G显存，网上一查得知开启ecc会少一部分显存，但ecc对大模型计算准确性几乎没有影响，因此打算关闭ECC校验。 在bash里面用sudo nvidia-smi -e 0禁用了ECC之后，nvidia-smi -q -d ecc显示Pending为Disable，但是重 ......
Nvidia 驱动 Ubuntu 安装
Nvidia 驱动 Ubuntu 安装 预防针：基本都要装一次以上，因为坑真的很多，双系统不费事，但是显卡驱动真的很麻烦。 失败记录 遇到过装错了源，升级之后直接没有蓝牙wifi驱动。 驱动版本不对，直接黑屏。 驱动版本不对，不黑屏但是接不上外接显示器。 不黑屏正常运行，但是蓝牙驱动和网卡直接无了。 ......