NOSQL redis配置与优化

发布时间 2024-01-07 01:17:41作者: citywalk

NOSQL与NOSQL

关系型数据库

 

关系型数据库是一个结构化的数据库,创建在关系模型(二维表格模型)基础上,一般面向于记录。
SQL 语句(标准数据查询语言)就是一种基于关系型数据库的语言,用于执行对关系型数据库中数据的检索和操作。
主流的关系型数据库包括 Oracle、MySQL、SQL Server、Microsoft Access、DB2、PostgreSQL 等。
以上数据库在使用的时候必须先建库建表设计表结构,然后存储数据的时候按表结构去存,如果数据与表结构不匹配就会存储失败。

 

 

非关系型数据库

NoSQL(NoSQL = Not Only SQL ),意思是“不仅仅是 SQL”,是非关系型数据库的总称。
除了主流的关系型数据库外的数据库,都认为是非关系型。
不需要预先建库建表定义数据存储表结构,每条记录可以有不同的数据类型和字段个数(比如微信群聊里的文字、图片、视频、音乐等)。
主流的 NoSQL 数据库有 Redis、MongBD、Hbase、Memcached、ElasticSearch、TSDB 等。

 

 

关系型数据库和非关系型数据库区别

1)数据存储方式不同
关系型和非关系型数据库的主要差异是数据存储的方式。关系型数据天然就是表格式的,因此存储在数据表的行和列中。数据表可以彼此关联协作存储,也很容易提取数据。
与其相反,非关系型数据不适合存储在数据表的行和列中,而是大块组合在一起。非关系型数据通常存储在数据集中,就像文档、键值对或者图结构。你的数据及其特性是选择数据存储和提取方式的首要影响因素。

(2)扩展方式不同
SQL和NoSQL数据库最大的差别可能是在扩展方式上,要支持日益增长的需求当然要扩展。
要支持更多并发量,SQL数据库是纵向扩展,也就是说提高处理能力,使用速度更快速的计算机,这样处理相同的数据集就更快了。因为数据存储在关系表中,操作的性能瓶颈可能涉及很多个表,这都需要通过提高计算机性能来克服。虽然SQL数据库有很大扩展空间,但最终肯定会达到纵向扩展的上限。
而NoSQL数据库是横向扩展的。因为非关系型数据存储天然就是分布式的,NoSQL数据库的扩展可以通过给资源池添加更多普通的数据库服务器(节点)来分担负载。

对事务性的支持不同

 

如果数据操作需要高事务性或者复杂数据查询需要控制执行计划,
那么传统的SQL数据库从性能和稳定性方面考虑是你的最佳选择。
SQL数据库支持对事务原子性细粒度控制,并且易于回滚事务。 虽然NoSQL数据库也可以使用事务操作,
但稳定性方面没法和关系型数据库比较,所以它们真正闪亮的价值是在操作的扩展性和大数据量处理方面。

 

 

非关系型数据库产生背景

 

可用于应对 Web2.0 纯动态网站类型的三高问题(高并发、高性能、高可用)。
(1)High performance——对数据库高并发读写需求
(2)Huge Storage——对海量数据高效存储与访问需求
(3)High Scalability && High Availability——对数据库高可扩展性与高可用性需求

关系型数据库和非关系型数据库都有各自的特点与应用场景,两者的紧密结合将会给Web2.0的数据库发展带来新的思路。让关系型数据库关注在关系上和对数据的一致性保障,非关系型数据库关注在存储和高效率上。例如,在读写分离的MySQL数据库环境中,可以把经常访问的数据存储在非关系型数据库中,提升访问速度。

总结:
关系型数据库:
实例-->数据库-->表(table)-->记录行(row)、数据字段(column)

非关系型数据库:
实例-->数据库-->集合(collection)-->键值对(key-value)
非关系型数据库不需要手动建数据库和集合(表)。

SQL与NOSQL区别

 

#存储结构
SQL(二维表格结构)
NOSQL(不固定,键值对,文档,索引,图形结构,时间序列等)

#扩展方式
SQL(纵向扩展[提升单机硬件性能])
NOSQL(横向扩展[增加服务器节点数量])

#事务支持
SQL(基于ACID原则,事务控控制更稳定,细粒度更高)
NOSQL(基于BASE原则,稳定性和细粒度控制方面不如SQL)

#典型代表
SQL(MySQL,Oracle,SQL-SERVER,POSTGRESQL)
NOSQL(REDIS,MEMCACHED,MONGDB,ELASTICSEARCH,PROMETHEUS)

 

 

 

 

 

 

 

REDIS

介绍

Redis(远程字典服务器) 是一个开源的、使用 C 语言编写的 NoSQL 数据库。
Redis 基于内存运行并支持持久化,采用key-value(键值对)的存储形式,
是目前分布式架构中不可或缺的一环。


Redis服务器程序是单进程模型,也就是在一台服务器上可以同时启动多个Redis进程,
Redis的实际处理速度则是完全依靠于主进程的执行效率。若在服务器上只运行一个Redis进程,
当多个客户端同时访问时,服务器的处理能力是会有一定程度的下降;若在同一台服务器上开启多个Redis进程,
Redis在提高并发处理能力的同时会给服务器的CPU造成很大压力。
即:在实际生产环境中,需要根据实际的需求来决定开启多少个Redis进程。若对高并发要求更高一些,
可能会考虑在同一台服务器上开启多个进程。若CPU资源比较紧张,采用单进程即可。

Redis优点

1)具有极高的数据读写速度:数据读取的速度最高可达到 110000 次/s,数据写入速度最高可达到 81000 次/s。
(2)支持丰富的数据类型:支持 key-value、Strings、Lists、Hashes、Sets 及 Sorted Sets 等数据类型操作。
(3)支持数据的持久化:可以将内存中的数据保存在磁盘中,重启的时候可以再次加载进行使用。
(4)原子性:Redis 所有操作都是原子性的。
(5)支持数据备份:即 master-salve 模式的数据备份。

#5种基础数据类型:String、List、Set、Zset、Hash。 #String(字符串) 底层数据结构:SDS即动态字符串,最大容量512M,每次最多扩容1M,是二进制安全的。意思是redis的string可以包含任何数据。比如jpg图片或序列化的对象 应用场景:分布式锁、计数器(如访问次数、点赞转发数量) 常用方法:
setget、strlen 、incr 、 decr 、setnx、setex、exists #list(双向列表): 特点:单值多键,用来存储多个有序的字符串,一个列表最多可以存储2^32-1个元素。可以实现队列和栈 底层数据结构:快表 应用场景:消息队列 、文章列表 常用方法:lpush 、lrang 、rpush 、lpop 、rpop 、llen、lindex、rpoplpush、linsert #Hash(哈希): 底层数据结构:压缩列表、哈希表。 特点:指v(值)本身又是一个键值对(k-v)结构 应用场景:缓存用户信息、购物车等。 常用方法:hset 、hget 、hkeys 、hvals 、hmset 、hmget 、hgetAll 、hlen 、hdel 、hsetnx 、hexists #set(集合): 特点:用来保存多个的字符串元素,但是不允许重复元素,元素是无序的。可以实现并集、交集、差集的操作 底层数据结构:哈希表、整数集 应用场景:抽奖、共同关注、QQ内推等。 常用方法:sadd 、smembers 、sismember 、scard 、srem 、srandmember、spop、smove、sdiff、sinter、sunion #zset(有序集合): 特点:有序不重复的集合。和 set 相⽐sorted set 增加了⼀个权重参数 score,可以根据score进行排序,但score是可以重复的,value是不可以重复的。 底层数据结构:压缩列表、跳表 应用场景:排行榜、抖音热搜 常用方法:zadd 、zrange 、zrangebyscore(按score从小到大) 、zrem 、zcard 、zcount 、zrevrange(按score从大到小) #Redis端口号6379 #三种特殊的数据类型: HyperLogLogs(基数统计), Bitmaps (位图) , geospatial (地理位置)

使用场景

Redis作为基于内存运行的数据库,是一个高性能的缓存,一般应用在Session缓存、队列、排行榜、计数器、最近最热文章、最近最热评论、发布订阅等。
Redis 适用于数据实时性要求高、数据存储有过期和淘汰特征的、不需要持久化或者只需要保证弱一致性、逻辑简单的场景。

我们通常会将部分数据放入缓存中,来提高访问速度,然后数据库承担存储的工作。

 

哪些数据适合放入缓存中

即时性。例如查询最新的物流状态信息。
数据一致性要求不高。例如门店信息,修改后,数据库中已经改了,
五分钟后缓存中才是最新的,但不影响功能使用。 访问量大且更新频率不高,例如网站首页的广告信息,访问量大,但是不会经常变化。

 

 

Redis快的原因

1、Redis是一款纯内存结构,避免了磁盘I/O等耗时操作。
2、Redis命令处理的核心模块为单线程,不存在多线程切换而消耗CPU,不用考虑各种锁的问题,不存在加锁、释放锁的操作,没有因为可能出现死锁而导致性能消耗。
3、采用了 I/O 多路复用机制,大大提升了并发效率。

#注:在 Redis 6.0 中新增加的多线程也只是针对处理网络请求过程采用了多线性,而数据的读写命令,仍然是单线程处理的。

 

 

redis部署

 

 

 

#由于Redis源码包中直接提供了 Makefile 文件,所以在解压完软件包后,不用先执行 ./configure 进行配置,可直接执行 make 与 make install 命令进行安装。

 

 #创建redis工作目录

 

 #创建用户

 #将redis的属主属组改成redis

 #设置环境变量

 #添加全局变量

 #修改配置文件

 #启动

 #加上本地地址,监听的主机地址

 #改为no,将本机访问保护模式设置no。如果开启了,那么在没有设定bind ip且没有设密码的情况下,Redis只允许接受本机的响应

 #端口号6379,默认

 #设置为守护进程,后台启动

 #指定 PID 文件

 #指定日志文件

 #指定持久化文件所在目录

 #增加一行,设置redis密码

 #定义systemd服务管理

 

 #启动redis服务

 

REDIS命令工具

redis-server:Redis 服务器启动命令
redis-benchmark:性能测试工具,用于检测 Redis 在本机的运行效率
redis-check-aof:修复有问题的 AOF 持久化文件
redis-check-rdb:修复有问题的 RDB 持久化文件
redis-cli:Redis 客户端命令行工具
redis-sentinel:Redis 哨兵集群使用

-----redis-cli 命令行工具-----
语法:redis-cli -h host -p port [-a password]
-h :指定远程主机
-p :指定 Redis 服务的端口号
-a :指定密码,未设置数据库密码可以省略-a 选项
若不添加任何选项表示,则使用 127.0.0.1:6379 连接本机上的 Redis 数据库

redis-cli -h 192.168.19.20 -p 6379 -a '123'  

 #登录redis

redis-benchmark测试工具

redis-benchmark 是官方自带的 Redis 性能测试工具,可以有效的测试 Redis 服务的性能。
基本的测试语法:redis-benchmark [选项] [选项值]。
-h :指定服务器主机名。
-p :指定服务器端口。
-s :指定服务器 socket
-c :指定并发连接数。 
-n :指定请求数。
-d :以字节的形式指定 SET/GET 值的数据大小。
-k :1=keep alive 0=reconnect 。
-r :SET/GET/INCR 使用随机 key, SADD 使用随机值。
-P :通过管道传输<numreq>请求。
-q :强制退出 redis。仅显示 query/sec 值。
--csv :以 CSV 格式输出。
-l :生成循环,永久执行测试。
-t :仅运行以逗号分隔的测试命令列表。
-I :Idle 模式。仅打开 N 个 idle 连接并等待。

#向 IP 地址为 192.168.80.10、端口为 6379 的 Redis 服务器发送 100 个并发连接与 100000 个请求测试性能
redis-benchmark -h 192.168.80.10 -p 6379 -c 100 -n 100000

#测试存取大小为 100 字节的数据包的性能
redis-benchmark -h 192.168.80.10 -p 6379 -q -d 100

#测试本机上 Redis 服务在进行 set 与 lpush 操作时的性能
redis-benchmark -t set,lpush -n 100000 -q

 

 

 #测试本机上 Redis 服务在进行 set 与 lpush 操作时的性能

 

 #向 IP 地址为 192.168.19.20、端口为 6379 的 Redis 服务器发送 100 个并发连接与 100000 个请求测试性能

 

Redis数据库常用命令

set:存放数据,命令格式为 set key value
get:获取数据,命令格式为 get key

127.0.0.1:6379> set teacher zhangsan
OK
127.0.0.1:6379> get teacher
"zhangsan"

# keys 命令可以取符合规则的键值列表,通常情况可以结合*、?等选项来使用。
127.0.0.1:6379> set k1 1
127.0.0.1:6379> set k2 2
127.0.0.1:6379> set k3 3
127.0.0.1:6379> set v1 4
127.0.0.1:6379> set v5 5
127.0.0.1:6379> set v22 5

127.0.0.1:6379> KEYS *                #查看当前数据库中所有键

127.0.0.1:6379> KEYS v*                #查看当前数据库中以 v 开头的数据

127.0.0.1:6379> KEYS v?                #查看当前数据库中以 v 开头后面包含任意一位的数据

127.0.0.1:6379> KEYS v??                #查看当前数据库中以 v 开头 v 开头后面包含任意两位的数据

# exists 命令可以判断键值是否存在。
127.0.0.1:6379> exists teacher        #判断 teacher 键是否存在
(integer) 1                            # 1 表示 teacher 键是存在
127.0.0.1:6379> exists tea
(integer) 0                            # 0 表示 tea 键不存在

# del 命令可以删除当前数据库的指定 key。
127.0.0.1:6379> keys *
127.0.0.1:6379> del v5
127.0.0.1:6379> get v5

# type 命令可以获取 key 对应的 value 值类型。
127.0.0.1:6379> type k1
string

#expire 命令可以为给定的 key 设置过期时间
127.0.0.1:6379> expire k1 10        #设置 k1 键的过期时间为 10 秒

#ttl 命令可以查看 key 还有多少秒过期,-1表示永不过期,-2表示已过期
127.0.0.1:6379> ttl k1

# rename 命令是对已有 key 进行重命名。(覆盖)
命令格式:rename 源key 目标key
使用rename命令进行重命名时,无论目标key是否存在都进行重命名,且源key的值会覆盖目标key的值。在实际使用过程中,建议先用 exists 命令查看目标 key 是否存在,然后再决定是否执行 rename 命令,以避免覆盖重要数据。

127.0.0.1:6379> keys v*
1) "v1"
2) "v22"
127.0.0.1:6379> rename v22 v2
OK
127.0.0.1:6379> keys v*
1) "v1"
2) "v2"
127.0.0.1:6379> get v1
"4"
127.0.0.1:6379> get v2
"5"
127.0.0.1:6379> rename v1 v2
OK
127.0.0.1:6379> get v1
(nil)
127.0.0.1:6379> get v2
"4"

# renamenx 命令的作用是对已有 key 进行重命名,并检测新名是否存在,如果目标 key 存在则不进行重命名。(不覆盖)
命令格式:renamenx 源key 目标key
127.0.0.1:6379> keys *
127.0.0.1:6379> get teacher
"zhangsan"
127.0.0.1:6379> get v2
"4"
127.0.0.1:6379> renamenx v2 teacher
(integer) 0
127.0.0.1:6379> keys *
127.0.0.1:6379> get teacher
"zhangsan"
127.0.0.1:6379> get v2
"4"

# dbsize 命令的作用是查看当前数据库中 key 的数目。
127.0.0.1:6379> dbsize


#使用config set requirepass yourpassword命令设置密码
127.0.0.1:6379> config set requirepass 123456

#使用config get requirepass命令查看密码(一旦设置密码,必须先验证通过密码,否则所有操作不可用)
127.0.0.1:6379> auth 123456
127.0.0.1:6379> config get requirepass


---- Redis 多数据库常用命令 ----
Redis 支持多数据库,Redis 默认情况下包含 16 个数据库,数据库名称是用数字 0-15 来依次命名的。
多数据库相互独立,互不干扰。

#多数据库间切换
命令格式:select 序号
使用 redis-cli 连接 Redis 数据库后,默认使用的是序号为 0 的数据库。

127.0.0.1:6379> select 10            #切换至序号为 10 的数据库

127.0.0.1:6379[10]> select 15        #切换至序号为 15 的数据库

127.0.0.1:6379[15]> select 0            #切换至序号为 0 的数据库

#多数据库间移动数据
格式:move 键值 序号

127.0.0.1:6379> set k1 100
OK
127.0.0.1:6379> get k1
"100"
127.0.0.1:6379> select 1
OK
127.0.0.1:6379[1]> get k1
(nil)
127.0.0.1:6379[1]> select 0            #切换至目标数据库 0
OK
127.0.0.1:6379> get k1                #查看目标数据是否存在
"100"
127.0.0.1:6379> move k1 1            #将数据库 0 中 k1 移动到数据库 1 中
(integer) 1
127.0.0.1:6379> select 1                #切换至目标数据库 1
OK
127.0.0.1:6379[1]> get k1            #查看被移动数据
"100"
127.0.0.1:6379[1]> select 0
OK
127.0.0.1:6379> get k1                #在数据库 0 中无法查看到 k1 的值
(nil)

#清除数据库内数据
FLUSHDB :清空当前数据库数据
FLUSHALL :清空所有数据库的数据,慎用!

 

 

set:存放数据,命令格式为 set key value
get:获取数据,命令格式为 get key

 

 

 

 

 #type获取对应的value值

 

 

 

 

 

 

 

 

 

 #redis有0~15号库

 

 

 

 #flushall #清空所有库  (慎用)

 

基础5中数据类型

string

 

 

 

 

 

 

 

 

 

 

 

LIST

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 #看一下mykey中链表的元素有哪些

 

 

 

 

 

HASH数据类型

 

 

 

 

 

 

 

 

 

 

 HINCRBY

 

 

 

 

 

HGETALL/HKEYS/HVALS/HMGET/HMSET

 

 

 

 

 

Set数据类型(无序集合)

 

 

 

 

 

 SPOP/SREM/SRANDMEMBER/SMOVE:

 

 

 

 

 

 

 

 

 

Sorted Set数据类型(zset、有序集合)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

ZRANGEBYSCORE/ZREMRANGEBYRANK/ZREMRANGEBYSCORE

 

 

 

 

 

 

 

 

ZREVRANGE/ZREVRANGEBYSCORE/ZREVRANK