底层 磁盘 模型redis
nginx+lua+redis实现灰度发布
授人以鱼不如授人以渔.先学会用，在学原理，在学创造，可能一辈子用不到这种能力，但是不能不具备这种能力。这篇文章主要是沉淀使用nginx+lua+redis实现灰度，当我们具备了这种能力，随时可以基于这种能力和思想调整实现方案：比如nginx+lua+(其他数据源)、nginx+(其他脚本语言) ......
Bert-vits2-v2.2新版本本地训练推理整合包(原神八重神子英文模型miko)
近日，Bert-vits2-v2.2如约更新，该新版本v2.2主要把Emotion 模型换用CLAP多模态模型，推理支持输入text prompt提示词和audio prompt提示语音来进行引导风格化合成，让推理音色更具情感特色，并且推出了新的预处理webuI，操作上更加亲民和接地气。 更多情报请 ......
IO模型
IO模型 BIO模型 在BIO模式下，数据的写入和读取都必须阻塞在一个线程中执行，在写入完成或读取完成前，线程阻塞。 在传统的BIO中，一个客户端请求服务器后，服务器会经过Sokcet启动一条链路将其连接并且处理，该链路的IO操作的同步阻塞的，所以该客户端和服务器的连接不可被其他客户端所使用，只能够 ......
Redis-缓存一致性问题
要想保证缓存和数据库「实时」一致 当数据发生更新时，我们不仅要操作数据库，还要一并操作缓存，数据库和缓存都更新，又存在先后问题，那对应的方案就有 2 个： 先更新缓存，后更新数据库 先更新数据库，后更新缓存 先不考虑并发问题，正常情况下，无论谁先谁后，都可以让两者保持一致，但现在我们需要重点考虑「异 ......
87 GB 模型种子，GPT-4 缩小版，超越ChatGPT3.5，多平台在线体验
瞬间爆火的Mixtral 8x7B 大家好，我是老章 最近风头最盛的大模型当属Mistral AI 发布的Mixtral 8x7B了，火爆程度压过Google的Gemini。 缘起是MistralAI二话不说，直接在其推特账号上甩出了一个87GB的种子 随后Mixtral公布了模型的一些细节： 具有 ......
linux 挂载共享磁盘
linux 挂载共享磁盘 A系统,IP为10.11.48.134 磁盘/data 有500G， B系统 IP为10.11.48.130 C系统IP为10.11.48.131 现要将A系统的磁盘挂载到B系统和C系统 A系统 安装nfs和rpcbind # 安装 yum install -y nfs-u ......
redis系列--redis单机
Redis是单线程吗？ Redis的单线程主要是指Redis的网络IO和键值对读写都是由一个线程来完成的，这也是Redis对外提供键值存储服务的主要流程。但redis的其他功能，比如持久化，异步删除，集群数据同步等，其实是由额外的线程执行的。 Redis单线程为什么还能这么快？ 因为它所有的数据都在 ......
一句话解决加载模型时的CUDA out of memory
在加载模型一行后加上max_memory即可，超出显存后会自动移到内存。 model = AutoModel.from_pretrained('your_model', trust_remote_code=True, max_memory={0: "6GiB", "cpu": "10GiB"}) 记 ......
Docker Compose 快速搭建 Redis 单机版
Redis 是非常流行的缓存中间件，其具有功能强大和部署简单的优势，我们在 CentOS 上使用 yum 就能够在线安装 Redis。之所以要介绍使用 Docker 进行容器化部署 Redis ，主要原因是当前容器化部署是主流，而且能够保障服务器文件系统的整洁。 本篇博客主要介绍如何使用 docke ......
推荐一款Redis可视化工具：ARDM
还是那句话：出众的软件有很多，适合自己的才是最好的。 Another Redis Desktop Manager 🚀🚀🚀 更快、更好、更稳定的Redis桌面(GUI)管理客户端，兼容Windows、Mac、Linux，性能出众，轻松加载海量键值 🇨🇳Windows •可以在github 或 ......
Redis不同版本,内存分配,硬件的性能研究
Redis不同版本,内存分配,硬件的性能研究 前言 Konw more ! Do more ! Gain more ! 骨折之后开始减肥. 前段时间跳绳导致膝盖不舒服,现在改骑车和走路. 在有限的没人有烦的时间里,还是想能够多学习一些东西. 之前了解了 isolcpus 现在突然想内存分配可能也有性 ......
五种网络IO模型详解
一 IO操作本质 数据复制的过程中不会消耗CPU # 1 内存分为内核缓冲区和用户缓冲区 # 2 用户的应用程序不能直接操作内核缓冲区，需要将数据从内核拷贝到用户才能使用 # 3 而IO操作、网络请求加载到内存的数据一开始是放在内核缓冲区的 文章相关视频讲解： C/C++ Linux服务器开发高级架 ......
如何在Windows本地运行一个大语言模型
ChatGLM3 是智谱AI和清华大学 KEG 实验室联合发布的新一代对话预训练模型，可以在消费级显卡上轻松运行一个离线的对话机器人。 它功能强大，配置过程简单，对初学者比较友好。 本文记录了ChatGLM3的环境配置过程，希望能对跟我一样的新手朋友起到帮助。 准备工作： 准备一台装有Nvidia显 ......
Redis集群
集群 由于数据量过大，单个Master复制集难以承担，因此需要对多个复制集进行集群，形成水平扩展每个复制集只负责存储整个数据集 的一部分，这就是Redis的集群，其作用是提供在多个Redis节点间共享数据的程序集。 Redis集群是一个提供在多个Redis节点间共享数据的数据集 Redis集群可以支 ......
Docker部署Redis
1、拉取redis镜像 docker pull redis 2、创建redis配置文件 mkdir -p /mydata/redis/conf touch /mydata/redis/conf/redis.conf 3、启动redis镜像 docker run -p 6379:6379 --name ......
值迭代与策略迭代（有模型）
先说一下我初始理解，就是图片上面有三部曲，然后他是一个有模型的算法，然后假如说我让他训练100次就是，用python来表达就是 for episode in (100),这个就是最外面的那一层循环，然后每次episode，就是上面三部曲，但是第一步初始化环境是会根据上一个episode来变化的，从第 ......
聊聊GLM基座模型的理论知识
概述 大模型有两个流程：预训练和推理。 预训练是在某种神经网络模型架构上，导入大规模语料数据，通过一系列的神经网络隐藏层的矩阵计算、微分计算等，输出权重，学习率，模型参数等超参数信息。 推理是在预训练的成果上，应用超参数文件，基于预训练结果，根据用户的输入信息，推理预测其行为。 GLM模型原理的理解 ......
实现高光反射光照模型
\(C_{specular}=(C_{light} \cdot M_{specular})max(0,\hat{V} \cdot \hat{R})^{M_{gloss}}\) 其中，\(C_{light}\) 是光源的颜色，\(M_{specular}\) 是材质的高光反射颜色，\(\hat{V}\ ......
Redis集群
1.描述 集群，即是Redis Cluster。其由多个redis节点组成，redis数据保存在这些节点中。这些节点分为主节点和从节点：只有主节点负责读写请求和集群信息的维护，从节点只负责主节点数据和状态的复制。 2.作用 数据分区：redis集群是将数据分散存到多个节点中的。具体存到哪个节点是根绝 ......
Redis基础命令操作
一、基础命令 1.ping（心跳检查） ping //输入ping 命令，看到PONG响应，说明客户端与Redis的连接正常。 2.get/set（读写键值） set name xiaoHong //set key value 会将指定 key-value写入到DB。 get name //get ......
docker部署redis主从集群
1、创建数据目录（logs目录要给权限，要不然会报错） mkdir -pv /data/redis/(data,logs} chmod 777 /data/redis/logs 2、redis.conf 配置文件 -—-主从配置 master 节点配置 cd /data/redis vim redi ......
Redis相关漏洞
默认端口：6379 Redis是一套开源的使用ANSI C编写、支持网络、可基于内存亦可持久化的日志型、键值存储数据库，并提供多种语言的API。Redis如果在没有开启认证的情况下，可以导致任意用户在可以访问目标服务器的情况下未授权访问Redis以及读取Redis的数据。 RCE-CVE-2022- ......
Redis分布式锁的扩展方法
分布式锁代码 #region 秒杀业务测试 private static readonly string redisConnectionStr = "127.0.0.1:6379,connectTimeout=5000,allowAdmin=false,defaultDatabase=1"; /// ......
redis
redis对字符串的常用命令 set 设置 get 获取 del 删除 mset mget设置获取多个key/val incr incrby decr decrby 加/减 setnx msetnx 设置新的key/val key必须是原来不存在的 setex 对一个key设置有效时间 和val a ......
机器学习的里程碑：从基础理论到大语言模型的进步
在人工智能的迅猛发展中，大语言模型和传统机器学习是不同发展阶段下的产物。大语言模型，如广为人知的GPT系列和BERT，主要依赖于复杂的神经网络结构，它们能够处理和生成人类语言，为自然语言处理带来了革命性的变化。这些模型的发展标志着从简单的任务特定模型向更通用、更灵活的解决方案的转变。相比之下，传统机 ......
Linux 清理磁盘空间
Linux 清理磁盘空间 1、确定磁盘占用 df -h 参数说明： -a：列出所有的文件系统，包括系统特有的/proc等文件系统 -k：以KB的容器显示各文件系统 -m：以MB的容量显示各文件系统 -h：以人们较易阅读的GB，MB，KB等格式自行显示 -H：以 M=1000K代替M=1024K的进位 ......
将Transformer用于扩散模型，AI 生成视频达到照片级真实感
前言 在视频生成场景中，用 Transformer 做扩散模型的去噪骨干已经被李飞飞等研究者证明行得通。这可算得上是 Transformer 在视频生成领域取得的一项重大成功。 本文转载自机器之心 仅用于学术分享，若侵权请联系删除 欢迎关注公众号CV技术指南，专注于计算机视觉的技术总结、最新技术跟踪 ......
Helm Chart 部署 Redis 的完美指南
目录一、Helm介绍二、安装Helm三、配置Helm的repository四、部署chart（以部署redis为例）1. 搜索chart2. 拉取chart3. 修改values.yaml的一些配置（简单演示一下基本的配置）4. 启动chart5. 升级和回滚a. 升级b. 回滚 一、Helm介绍 ......