奥秘 缓存 磁盘 内存
转载：大模型所需 GPU 内存笔记
转载文章：大模型所需 GPU 内存笔记 引言 在运行大型模型时，不仅需要考虑计算能力，还需要关注所用内存和 GPU 的适配情况。这不仅影响 GPU 推理大型模型的能力，还决定了在训练集群中总可用的 GPU 内存，从而影响能够训练的模型规模。 大模型推理的内存计算只需考虑模型权重即可。 大模型训练的内 ......
测试环境node节点内存满造成node节点的kubelet自动关闭无法创建pod
#生产pod创建为pending状态 [root@redis ~]# kubectl get pod -n cms-v2NAME READY STATUS RESTARTS AGEbase-auth-deploy-58c87b544-m2sc8 1/1 Running 0 65dcms-admin- ......
ASR项目实战-交付过程中遇到的疑似内存泄漏问题
基于Kaldi实现语音识别时，需要引入一款名为OpenFST的开源软件，本文中提到的内存问题，即和这款软件相关。 考虑到过程比较曲折，内容相对比较长，因此先说结论。 在做长时间的语音识别时，集成了Kaldi和OpenFST的进程将会占用远超出预期的内存，这个现象可能和OpenFST、glibc的实现 ......
linux磁盘管理、网络
一 磁盘管理 1 查看磁盘空间的占用 df -h 显示人类易读的方式 linux下磁盘命名格式 /dev/sd[a-z] 2 查看目录的占用空间 du -s 查看目录 -h 显示人类易读的方式 du -sh /* 3 dd dd if=/dev/zero of=file bs=size count= ......
C#测试内存溢出时使用的可实时释放资源的GC方法
WPF测试某控件内存溢出问题,代码如下 for (int j = 0; j < 1000; j++) { for (int i = 0; i < 100; i++) { UserControl1 AdvancedMMenuCtrl = new UserControl1(); } Console.Wr ......
KVM虚拟机怎么扩容磁盘
当KVM虚拟机磁盘不够用则可以扩容磁盘 扩容虚拟磁盘 在宿主机操作扩容 # 需满足以下条件才能执行扩容 # 1. 虚拟机已关机 # 2. 虚拟机无快照 qemu-img resize /kvm/CentOS7K8SHarbor061.qcow2 +100G 主机格式化磁盘 磁盘扩容后需要格式化才能使 ......
openstack共享组件——Memcache 缓存系统（4）
一、缓存系统 一、静态web页面： 1、在静态Web程序中，客户端使用Web浏览器（IE、FireFox等）经过网络(Network)连接到服务器上，使用HTTP协议发起一个请求（Request），告诉服务器我现在需要得到哪个页面，所有的请求交给Web服务器，之后WEB服务器根据用户的需要，从文件系 ......
Java缓存技术综合总结报告
摘要 缓存是提高系统性能的重要手段之一，Java作为一种流行的编程语言，拥有丰富的缓存实现和框架。本报告将深入探讨Java中缓存的相关知识，包括缓存的定义、常见的缓存使用场景、Java中的缓存实现方式、以及一些流行的Java缓存框架。 本报告总结了Java中缓存的关键概念、应用场景和多种实现 ......
linux下以lvm的方式挂载磁盘到指定目录
1.创建PV pvcreate /dev/vdb 2.创建VG分组 vgcreate vg_data /dev/vdb 3.创建逻辑卷 lvcreate -l 100%VG -n lv_data vg_data 4、mkfs(格式化) mkfs.xfs /dev/vg_data/lv_data 5. ......
面试官：说说JVM内存整体结构？
Java JVM内存结构的面试常问知识 说说JVM内存整体的结构？线程私有还是共享的？ JVM 整体架构，中间部分就是 Java 虚拟机定义的各种运行时数据区域。 Java 虚拟机定义了若干种程序运行期间会使用到的运行时数据区，其中有一些会随着虚拟机启动而创建，随着虚拟机退出而销毁。另外一些则是与线 ......
JVM大页内存的学习与使用
JVM大页内存的学习与使用 原理和背景 操作系统是计算机的重要组成部分. 现代的操作系统一般都采用 段页式内存管理. 段一般是为了管理和权限 页主要是为了虚拟内存和物理内存的映射. 分页管理可以让物理上不连续的内存在程序看来是逻辑地址连续的. 但是这也意味着分页分页内存管理需要有一个虚拟内存和物理内 ......
高性能内存消息队列 Disruptor
01 什么是 Disruptor disruptor 是 lmax 开源的一个高性能并发内存队列，和日常使用的 ArrayBlockingQueue 的性能对比如下图 02 高性能的原因 2.1 避免伪共享内存 什么是 CPU 高速缓存？ 首先介绍一下 CPU 缓存的定义： 在计算机系统中，CPU高 ......
浅谈sql执行流程、innodb架构设计、buffer pool缓存池
一.从服务端到数据库sql执行流程： 1.SQL接口：负责处理接收到sql的语句 2.查询解析器：负责将sql变成数据库可以看懂的语言 3.查询优化器：选择最优的查询路径（针对你编写的复杂sql语句生成查询路径树，然后从中选择一条最优的查询路径） 4.执行器：根据执行计划调用存储引擎接口（执行器会根 ......
c语言结构体成员内存对齐
在一个结构体或联合体中，编译器会根据具体成员变量的类型选择边界对齐字节，其选择依据是处理器的ABI规范。 c语言处了对结构体或联合体内的变量进行对齐处理外（从结构体内部），还需要将整个数据结构分配在以4字节为边界的地方才有意义。 结构体成员变量对齐规则有三条（参考来自网上）https://blog. ......
内存分析利器之UMDH
近两周投入分析产品的内存泄漏问题。 测试团队反馈产品在安卓平台运行时，随用户操作，应用占用的内存出现上涨的趋势，停止操作并等待一段时间之后，应用占用的内存没有下降，怀疑存在内存泄漏问题。 结合复现的情况，以及一些统计数据，初步确实存在内存泄漏的现象，每次操作都会出现20MB左右的内存无法回收。 在W ......
Spring如何利用三级缓存解决单例Bean的循环依赖
循环依赖：就是N个类循环(嵌套)引用。 通俗的讲就是N个Bean互相引用对方，最终形成闭环。用一幅经典的图示可以表示成这样（A、B、C都代表对象，虚线代表引用关系）： 注意：其实可以N=1，也就是极限情况的循环依赖：自己依赖自己 可以设想一下这个场景：如果在日常开发中我们用new对象的方式，若构造函 ......
使用 JVM 进程缓存 Caffeine
使用 JVM 进程缓存的优点就是没有网络开销，性能速度最快；缺点就是容量有限，无法共享；比较适合性能要求高，缓存数据量小的场景。如果我们自己实现 JVM 进程缓存的话，会使用到 Map 数据类型，相关的过期移除策略以及容量控制都得自己实现，比较麻烦。Caffeine 是一个基于 Java8 开发的提 ......
磁盘的访问问题
1、例题一 某磁盘有100个磁道，磁头从一个磁道移至另一个磁道需要6ms。文件在磁盘上非连续存放，逻辑上相邻数据块的平均距离为10个磁道，每块的旋转延迟时间及传输时间分别为100ms和20ms，则读取一个100块的文件需要（ ）ms。 相关公式：读取时间=（寻道时间+旋转延迟时间+传输时间）*文件数 ......
07PCIE数据卡BRAM缓存中断采集
软件版本：vitis2021.1(vivado2021.1) 操作系统：WIN10 64bit 硬件平台：适用XILINX A7/K7/Z7/ZU/KU系列FPGA 登录"米联客"FPGA社区-www.uisrc.com视频课程、答疑解惑！ 7.1概述 在方案中，使用基于AXI4实现的FDMA来实现 ......
08PCIE数据卡DDR缓存中断采集
软件版本：vitis2021.1(vivado2021.1) 操作系统：WIN10 64bit 硬件平台：适用XILINX A7/K7/Z7/ZU/KU系列FPGA 登录"米联客"FPGA社区-www.uisrc.com视频课程、答疑解惑！ 8.1概述 上一个例子演示了用BRAM作为数据缓存，显然板 ......
05 QT上位机读写FPGA内存
软件版本：vitis2021.1(vivado2021.1) 操作系统：WIN10 64bit 硬件平台：适用XILINX A7/K7/Z7/ZU/KU系列FPGA 登录"米联客"FPGA社区-www.uisrc.com视频课程、答疑解惑！ 5.1概述 如果读者对于前面demo还有一些疑惑，那么本节 ......
.Net Core WebAPI 缓存
Asp.Net Core WebAPI 缓存 一、缓存 缓存指在中间层中存储数据的行为，该行为可使后续数据检索更快。 从概念上讲，缓存是一种性能优化策略和设计考虑因素。 缓存可以显著提高应用性能，方法是提高不常更改（或检索成本高）的数据的就绪性。 二、RFC9111 在最新的缓存控制规范文件RFC9 ......
2023年度评奖：内存篇
2023年内存市场的主旋律就是高频。 仅仅在2年前，主流DDR5内存才还只有4800~5600MHz，而如今6800MHz 16GBx2套条已经降到了699元，千元以下的7200MHz也有不少，8000MHz可选型号也不下十数款。 回想起酷睿12代发布时DDR5-4800 8GB高达千元的售价，只能 ......
JVM-实战篇-内存调优
1 内存溢出和内存泄漏 概念：内存泄漏：在Java中如果不在使用一个对象，但是该对象依然在GC ROOT的引用链上，这个对象就不会被垃圾回收器回收，这种情况就称之为内存泄漏。 内存泄漏绝大多数情况都是由堆内存泄漏引起的，所以后续没特殊说明讨论的均为堆内存泄漏。 若持续发生内存泄漏，不管有多大的内存迟 ......
.net中数据的缓存问题，操作的是引用类型的地址，是同一个对象
使用缓存后，不断的写操作，需注意引用的是地址问题，避免产生数据越写越多。一个表写入10亿数据问题. 总结： 1.缓存的中的对象如果是“引用类型”，数据取出后，如果对该值进行修改，实际上是修改了缓存里面的值。 2.对从缓存取出的数据，如果需要修改，要确认修改后会引起的结果是否符合自己的预期。 //Ht ......
Java虚拟机内存模型概念
Java虚拟机内存模型概念 Java虚拟机的内存可以分为三个区域：栈stack、堆heap、方法区method area 一、栈stack 1. 栈描述的是方法执行的内存模型，每个方法被调用都会创建一个栈帧（存储局部变量、操作数、方法出口等） 2. JVM为每个线程创建一个栈，用于存放该线程执行方法 ......
用sizeof来求数据类型所占内存大小
include<stdio.h> int main() { int a; char b; double c; printf("%d\n",sizeof a); printf("%d\n",sizeof b); printf("%d\n",sizeof c); printf("%d\n",sizeof ......
[转发] Go pprof内存指标含义备忘录
原文链接 Go pprof内存指标含义备忘录 最近组内一些Go服务碰到内存相关的问题，所以今天抽时间看了下Go pprof内存指标的含义，为后续查问题做准备。 内容主要来自于Go代码中对这些字段的注释，加自己的理解。理解不对的地方欢迎指正。 // https://github.com/golang/ ......
vue前端node内存溢出问题解决
前端项目运行时，如果经常运行慢，崩溃停止服务，报如下错误： FATAL ERROR: CALL_AND_RETRY_LAST Allocation failed - JavaScript heap out of memory （JavaScript堆内存不足） 原因： 因为在 Node 中，通过Ja ......
Nacos修改内存大小
一、存在的问题部署好的nacos老是挂掉，查看内存发现，所剩内存不多，而nacos运行时内存可以达到1G多，怎么能够设置nacos的内存呢。 nacos的启动文件，startup.sh中有如下参数配置 standalone：表示单机模式运行，非集群模式-Xms: 设定程序启动时占用内存大小-Xmx: ......