postgresql redis lamp

PostgreSQL 使用SQL

## 发布主题 ### 设置发布为true 这个语句是针对 PostgreSQL 数据库中的逻辑复制功能中的逻辑发布(Logical Publication)进行设置的。 PostgreSQL 中,逻辑复制是一种基于逻辑日志的复制方法,允许将数据更改从一个数据库实例复制到另一个数据库实例,而不是通过 ......
PostgreSQL SQL

postgresql执行计划

SQL优化主要从三个角度进行:(1)扫描方式;(2)连接方式;(3)连接顺序。 如果解决好这三方面的问题,那么这条SQL的执行效率就基本上是靠谱的。看懂SQL的执行计划的关键也是要首先了解这三方面的基本概念,只有搞清楚了这些基本概念,才能够更好的看懂SQL的执行计划,下面我们分别来学习这些预备知识。 ......
postgresql

java.sql.SQLFeatureNotSupportedException: 这个 org.postgresql.jdbc4.Jdbc4Statement.setQueryTimeout(int) 方法尚未被实作。

java jdbc连接pg库报错: 八月 04, 2023 4:32:08 下午 com.alibaba.druid.pool.DruidDataSource error 严重: init datasource error, url: jdbc:postgresql://xxxx/xxxxjava. ......

图解PostgreSQL-buffer管理(一)

图解PostgreSQL-buffer管理(一) 闫宗帅2020-01-04 2518 一、数据结构 1、Buffer由数组BufferDescriptor[]数组进行管理。该数组由函数InitBufferPool创建,大小为NBuffers个成员即BufferDesc。该数组创建后由Strateg ......
PostgreSQL-buffer PostgreSQL buffer

redis 缓存穿透,击穿,雪崩

缓存雪崩:很多商品缓存集中时间失效,或者宕机了,直接打到数据库。解决:随机过期时间(不让集中失效),redis灾备(防止宕机),请求加锁排队处理。 缓存穿透:redis和数据库都没有数据,直接打到数据库。大量都没有就是恶意攻击(少量没有是正常的)。解决:请求参数校验(防止恶意攻击),布隆过滤器,提前 ......
雪崩 缓存 redis

windows redis集群搭建

一、安装5.0以后版本的 链接:https://pan.baidu.com/s/1uXj_46ausPASNjDMxbNAQQ 提取码:egpf 二、准备多个redis环境 1、新建一个父文件夹(例如:redis-cluster) 2、将 redis 安装目录拷贝多份,放到二级目录,并分别以端口号命 ......
集群 windows redis

Redis从入门到放弃(8):哨兵模式

在前面的文章中介绍了Redis的主从复制,但主从复制存在一定的缺陷。如果Master节点宕机,因为不具备自动恢复功能,需要人工干预,那么在这个干预过程中Redis将不可用。 为了解决这一问题,Redis官方推荐一种高可用方案:哨兵模式(Sentinel)。 ## 1、什么是哨兵模式? 哨兵模式是Re ......
哨兵 模式 Redis

pyspark 环境搭建和相关操作redis ,es

一.环境搭建 1. 创建虚拟环境, 指定python包 2. 切换到虚拟环境,安装你所需要的python相关模块包 3. 把整个虚拟环境打成.zip 4. 将 zip上传的hadfs 5. spark-submit 指定python包的路径 可以参考 https://dandelioncloud.c ......
pyspark 环境 redis es

A07、redis

#review #Spring全家桶 #Spring #中间件 回顾 ```markdown 1. springboot特性 版本锁定 继承官方的parent 起步依赖 完成某个功能的坐标集合体 自动装配 可以通过默认规则创建对象 2. yml配置文件 简单 对象/map 集合 3. 整合junit ......
redis A07 07

Redis持久化

RDB 持久化 Redis 可以通过创建快照来获得存储在内存里面的数据在 某个时间点 上的副本。Redis 创建快照之后,可以对快照进行备份,可以将快照复制到其他服务器从而创建具有相同数据的服务器副本(Redis 主从结构,主要用来提高 Redis 性能),还可以将快照留在原地以便重启服务器的时候使 ......
Redis

怎么设置centos限定redis使用的内存

1、Redis-Cluster集群 2、怎么设置centos限定redis使用的内存 3、高性能高并发网站架构,教你搭建Redis5缓存集群 4、Redis-Cluster 5、「实用教程」在配备持久内存的实例上部署Redis应用 Redis-Cluster集群 1、连接如下https://redi ......
内存 centos redis

SpringBoot 整合 redis-阿里云发送短信

### pom ```pom.xml com.aliyun aliyun-java-sdk-core 4.5.16 com.aliyun aliyun-java-sdk-dysmsapi 1.1.0 cn.hutool hutool-all 5.8.4 com.alibaba fastjson 2. ......
SpringBoot 短信 redis

springboot + redis stream做轻量级消息队列

### 背景 前面我们探讨了使用redis stream做消息中间件的可行性,结论是在保证数据并发量不大, 数据敏感性不高, 且不方便使用重量级MQ,kafka的情况下可以使用. 探讨过程:https://www.cnblogs.com/qds1401744017/p/17598613.html # ......
轻量 轻量级 队列 springboot 消息

Redis从入门到放弃(7):主从复制

## 1、概念 主从复制是Redis的一项重要特性,用于将一个Redis服务器(Master主节点)的数据复制到其他Redis服务器(Slave从节点),以实现数据的高可用性和读写分离。数据的复制是单向的,只能由主节点到从节点。 ![](https://img2023.cnblogs.com/blo ......
主从 Redis

redis stream做轻量级消息队列的可行性

#### 背景 对于消息数量很少的场景, 尝试使用redis stream来做消息队列. #### 为什么要用redis的stream, redis的其他数据结构可以吗? 参考文章1:https://www.zhihu.com/question/43688764?sort=created 参考文章2 ......
轻量 轻量级 队列 可行性 消息

redis 集群重启问题

redis出现链接不稳定或者链接不上的时候,需要重新启动 1.找到集群的位置上 下面的两个启动和停止命令进行停止和启动 但停止时候启动的时候可能会出现下面的问题 这是要删除 appendonly.aof 和dump.rdb文件,也可以选先将这两个先备份一下,然后启动后重新恢复,才能启动成功 end. ......
集群 问题 redis

redis远程代码执行CVE-2016-8339

Redis 3.2.x < 3.2.4 版本存在缓冲区溢出漏洞,可导致任意代码执行。Redis 数据结构存储 的 CONFIG SET 命令中 client-output-buffer-limit 选项处理存在越界写漏洞。构造的 CONFIG SET 命令可导致越界写,代码执行。 漏洞利用: 修改配 ......
代码 redis 2016 8339 CVE

postgresql 常用的删除重复数据方法

一、 最高效方法 测试环境验证,6600万行大表,删除2200万重复数据仅需3分钟 delete from deltest a where a.ctid = any(array (select ctid from (select row_number() over (partition by id) ......
postgresql 常用 方法 数据

postgresql database basis

postgresql basis the system catalog tables of psotgresql include the following tables: pg_databases:contains information about all databases, such as ......
postgresql database basis

Redis基础

Redis是一个基于内存的key-value结构数据库。Redis 是互联网技术领域使用最为广泛的存储中间件,它是【Remote Dictionary Service】的首字母缩写,也就是【远程字典服务】。 基于内存存储,读写性能高 适合存储热点数据(热点商品、资讯、新闻) 企业应用广泛 Redis ......
基础 Redis

Redis宕机 快速恢复数据

学习记录下 Redis中如何实现无畏宕机快速恢复和持久化-Redis-PHP中文网 ......
数据 Redis

运维——CentOS7 安装redis

转自:https://www.cnblogs.com/Mr-xy/p/17055453.html 1.检查是否有redis yum 源 yum install redis 2.下载fedora的epel仓库 yum install epel-release 3.安装redis yum install ......
CentOS7 CentOS redis

postgresql 配置相关

### 配置含义 32 -> 192.168.1.1/32 表示必须是来自这个IP地址的访问才合法; 24 -> 192.168.1.0/24 表示只要来自192.168.1.0 ~ 192.168.1.255的都合法; 16 -> 192.168.0.0/16 表示只要来自192.168.0.0 ......
postgresql

Redis中Key中为什么要使用{}

Redis集群介绍 Redis 集群是一个提供在多个Redis间节点间共享数据的程序集。 Redis集群并不支持处理多个keys的命令,因为这需要在不同的节点间移动数据,从而达不到像Redis那样的性能,在高负载的情况下可能会导致不可预料的错误. Redis 集群通过分区来提供一定程度的可用性,在实 ......
Redis Key

软件测试|redis的穿透、击穿、雪崩有什么不同点

**前言** 作为一种非关系型数据库,redis也总是免不了有各种各样的问题。如何有效的理解并且区分 Reids 穿透、击穿和雪崩之间的区别,一直以来都挺困扰我的一个难题,下面将一一举例。 **(一)缓存穿透** **关键词:穿过 Redis 和数据库** 当 Redis 和数据库中都没有我们想要的 ......
不同点 雪崩 软件测试 redis 软件

scrapy源码分析:redis分布式爬虫队列中,priority值越大,优先级越高

# scrapy源码分析:redis分布式爬虫队列中,priority值越大,优先级越高 # 一、背景 scrapy爬虫项目中,遇到scrapy的priority属性,搞不懂priority的值越大优先级越高,还是值越小优先级越高 ```python # 通过priority修改优先级 return ......
爬虫 优先级 队列 分布式 源码

Redis 发生高延迟时

Redis 是一种内存数据库,将数据保存在内存中,读写效率要比传统的将数据保存在磁盘上的数据库要快很多。但是 Redis 也会发生延迟时,这是就需要我们对其产生原因有深刻的了解,以便于快速排查问题,解决 Redis的延迟问题 一条命令执行过程 在本文场景下,延迟 (latency) 是指从客户端发送 ......
Redis

Redis 内存管理机制和实现

Redis是一个基于内存的键值数据库,其内存管理是非常重要的。本文内存管理的内容包括:过期键的懒性删除和过期删除以及内存溢出控制策略。 最大内存限制 Redis使用 maxmemory 参数限制最大可用内存,默认值为0,表示无限制。限制内存的目的主要 有: 用于缓存场景,当超出内存上限 maxmem ......
机制 内存 Redis

Redis从入门到放弃(6):持久化

## 1、引言 Redis作为一种高性能的内存数据存储系统,常被用作缓存、会话存储、消息队列等多种应用场景。然而,由于其数据存储在内存中,一旦发生意外或服务器重启,数据就会丢失。为了保障数据的持久性和安全性。 Redis提供了多种持久化方案: * RDB(Redis DataBase):按指定的时间 ......
Redis

redis 如何保证数据一致性

## 引言 日常开发中常会使用redis作为项目中的缓存,只要我们使用 Redis 缓存,就必然会面对缓存和数据库间的一致性保证问题。而且如果数据不一致,那么应用从缓存中读取的数据就不是最新数据,可能会导致严重的业务问题。 ## 为什么会数据不一致 >**数据一致性**:指的是redis缓存跟数据库 ......
一致性 数据 redis