pagelocked memory cuda
linux系统内存溢出Out of memory
有一台服务器的内存是32g，我在上面跑了一个mysql数据库，后面经常发现mysql隔三差五的就down了，通过查看系统日志发现操作系统OOM了 grep "Out of memory" /var/log/messages 一、OOM是什么？OOM:out of memory，字面意思当然是系统内存 ......
CALL_AND_RETRY_LAST Allocation failed - JavaScript heap out of memory
网上查应该是node导致的内存溢出，64位电脑默认1.4G，32位电脑默认0.7G 在package.json 中的 Scripts 中添加 node 的参数 "scripts": { "serve": "node --max_old_space_size=10240 node_modules/@v ......
win11+CUDA-11.7.1+cudnn-8.8.0
CUDA安装+vsstdio2022配置 先进行CUDA-11.7.1安装 https://developer.nvidia.com/cuda-11-7-1-download-archive 在NVIDIA-CUDA下载地址下载win.exe安装包 完成后，进行安装(注意：需要记住自定义安装目录，后 ......
cuda、cudnn、zlib 深度学习必配三件套（Windows）
无论用tensorrt，还是onnxruntime部署。这三个都得下载配置，推荐都放到相应的cuda路径里（含dll的文件夹、含lib的文件夹）。 推荐先下载tensorrt或者onnxruntime，这样可以知道所需的cuda、cudnn版本。 1、cuda（以11.8为例） 下载地址：CUDA ......
Red Hat CUDA安装
参考： https://docs.nvidia.com/cuda/cuda-installation-guide-linux/index.html ......
6.Java HotSpot(TM) 64-Bit Server VM warning: INFO: os::commit_memory(0x0000000794500000, 576716800, 0)
这个问题引起的原因是：服务器上物理内存太小，大部分都是应为程序太多，内存吃紧，而给jvm分配的内存太大(java程序启动需要的内存，linux不能给)，最好调整java程序jvm内存吧(测试环境下) 如果使用命令行执行job.json 可以在后面加上限制，如： pyhon /home/workspa ......
CUDA中的pagelocked memory
背景：在异步传输内存中，需要在HOST 端分配 pagelocked memory ， 达到的效果一 CPU不会 将该内存分配到低速的虚拟内存当中，是提高传输速率， 二是异步传输需要Host端始终将该内存放在物理端，可以理解为内存地址双方约定俗成，不会再变了。 自己遇到的问题： cudaHostAl ......
闻其声而知雅意,基于Pytorch(mps/cpu/cuda)的人工智能AI本地语音识别库Whisper(Python3.10)
前文回溯，之前一篇：含辞未吐,声若幽兰,史上最强免费人工智能AI语音合成TTS服务微软Azure(Python3.10接入)，利用AI技术将文本合成语音，现在反过来，利用开源库Whisper再将语音转回文字，所谓闻其声而知雅意。 Whisper 是一个开源的语音识别库，它是由Facebook AI ......
【Java难点攻克】「NIO和内存映射性能提升系列」彻底透析NIO底层的内存映射机制原理与Direct Memory的关系
Java类库中的NIO包相对于IO包来说有一个新功能就是 【内存映射文件】，在业务层面的日常开发过程中并不是经常会使用，但是一旦在处理大文件时是比较理想的提高效率的手段，之前已经在基于API和开发实战角度介绍了相关的大文件读取以及NIO操作的实现，而本文主要想结合操作系统(OS)底层中相关方面的内容... ......
windows上用vs2017静态编译onnxruntime-gpu CUDA cuDNN TensorRT的坎坷之路
因为工作业务需求的关系，需编译onnxruntime引入项目中使用，主项目exe是使用的vs2017+qt5.12。 onnxruntime就不用介绍是啥了撒，在优化和加速AI机器学习推理和训练这块赫赫有名就是了。 有现成的别人编译好的只有dll动态库，当然我们显然是不可能使用的，因为BOSS首先就 ......