NOSQL与NOSQL
关系型数据库是一个结构化的数据库,创建在关系模型(二维表格模型)基础上,一般面向于记录。
SQL 语句(标准数据查询语言)就是一种基于关系型数据库的语言,用于执行对关系型数据库中数据的检索和操作。
主流的关系型数据库包括 Oracle、MySQL、SQL Server、Microsoft Access、DB2、PostgreSQL 等。
以上数据库在使用的时候必须先建库建表设计表结构,然后存储数据的时候按表结构去存,如果数据与表结构不匹配就会存储失败。
NoSQL(NoSQL = Not Only SQL ),意思是“不仅仅是 SQL”,是非关系型数据库的总称。
除了主流的关系型数据库外的数据库,都认为是非关系型。
不需要预先建库建表定义数据存储表结构,每条记录可以有不同的数据类型和字段个数(比如微信群聊里的文字、图片、视频、音乐等)。
主流的 NoSQL 数据库有 Redis、MongBD、Hbase、Memcached、ElasticSearch、TSDB 等。
(1)数据存储方式不同 关系型和非关系型数据库的主要差异是数据存储的方式。关系型数据天然就是表格式的,因此存储在数据表的行和列中。数据表可以彼此关联协作存储,也很容易提取数据。 与其相反,非关系型数据不适合存储在数据表的行和列中,而是大块组合在一起。非关系型数据通常存储在数据集中,就像文档、键值对或者图结构。你的数据及其特性是选择数据存储和提取方式的首要影响因素。 (2)扩展方式不同 SQL和NoSQL数据库最大的差别可能是在扩展方式上,要支持日益增长的需求当然要扩展。 要支持更多并发量,SQL数据库是纵向扩展,也就是说提高处理能力,使用速度更快速的计算机,这样处理相同的数据集就更快了。因为数据存储在关系表中,操作的性能瓶颈可能涉及很多个表,这都需要通过提高计算机性能来克服。虽然SQL数据库有很大扩展空间,但最终肯定会达到纵向扩展的上限。 而NoSQL数据库是横向扩展的。因为非关系型数据存储天然就是分布式的,NoSQL数据库的扩展可以通过给资源池添加更多普通的数据库服务器(节点)来分担负载。
如果数据操作需要高事务性或者复杂数据查询需要控制执行计划,
那么传统的SQL数据库从性能和稳定性方面考虑是你的最佳选择。
SQL数据库支持对事务原子性细粒度控制,并且易于回滚事务。
虽然NoSQL数据库也可以使用事务操作,
但稳定性方面没法和关系型数据库比较,所以它们真正闪亮的价值是在操作的扩展性和大数据量处理方面。
可用于应对 Web2.0 纯动态网站类型的三高问题(高并发、高性能、高可用)。 (1)High performance——对数据库高并发读写需求 (2)Huge Storage——对海量数据高效存储与访问需求 (3)High Scalability && High Availability——对数据库高可扩展性与高可用性需求 关系型数据库和非关系型数据库都有各自的特点与应用场景,两者的紧密结合将会给Web2.0的数据库发展带来新的思路。让关系型数据库关注在关系上和对数据的一致性保障,非关系型数据库关注在存储和高效率上。例如,在读写分离的MySQL数据库环境中,可以把经常访问的数据存储在非关系型数据库中,提升访问速度。 总结: 关系型数据库: 实例-->数据库-->表(table)-->记录行(row)、数据字段(column) 非关系型数据库: 实例-->数据库-->集合(collection)-->键值对(key-value) 非关系型数据库不需要手动建数据库和集合(表)。
#存储结构 SQL(二维表格结构) NOSQL(不固定,键值对,文档,索引,图形结构,时间序列等) #扩展方式 SQL(纵向扩展[提升单机硬件性能]) NOSQL(横向扩展[增加服务器节点数量]) #事务支持 SQL(基于ACID原则,事务控控制更稳定,细粒度更高) NOSQL(基于BASE原则,稳定性和细粒度控制方面不如SQL) #典型代表 SQL(MySQL,Oracle,SQL-SERVER,POSTGRESQL) NOSQL(REDIS,MEMCACHED,MONGDB,ELASTICSEARCH,PROMETHEUS)
REDIS
介绍
Redis(远程字典服务器) 是一个开源的、使用 C 语言编写的 NoSQL 数据库。 Redis 基于内存运行并支持持久化,采用key-value(键值对)的存储形式,
是目前分布式架构中不可或缺的一环。
Redis服务器程序是单进程模型,也就是在一台服务器上可以同时启动多个Redis进程,
Redis的实际处理速度则是完全依靠于主进程的执行效率。若在服务器上只运行一个Redis进程,
当多个客户端同时访问时,服务器的处理能力是会有一定程度的下降;若在同一台服务器上开启多个Redis进程,
Redis在提高并发处理能力的同时会给服务器的CPU造成很大压力。
即:在实际生产环境中,需要根据实际的需求来决定开启多少个Redis进程。若对高并发要求更高一些,
可能会考虑在同一台服务器上开启多个进程。若CPU资源比较紧张,采用单进程即可。
(1)具有极高的数据读写速度:数据读取的速度最高可达到 110000 次/s,数据写入速度最高可达到 81000 次/s。 (2)支持丰富的数据类型:支持 key-value、Strings、Lists、Hashes、Sets 及 Sorted Sets 等数据类型操作。 (3)支持数据的持久化:可以将内存中的数据保存在磁盘中,重启的时候可以再次加载进行使用。 (4)原子性:Redis 所有操作都是原子性的。 (5)支持数据备份:即 master-salve 模式的数据备份。
#5种基础数据类型:String、List、Set、Zset、Hash。 #String(字符串) 底层数据结构:SDS即动态字符串,最大容量512M,每次最多扩容1M,是二进制安全的。意思是redis的string可以包含任何数据。比如jpg图片或序列化的对象 应用场景:分布式锁、计数器(如访问次数、点赞转发数量) 常用方法:set 、get、strlen 、incr 、 decr 、setnx、setex、exists #list(双向列表): 特点:单值多键,用来存储多个有序的字符串,一个列表最多可以存储2^32-1个元素。可以实现队列和栈 底层数据结构:快表 应用场景:消息队列 、文章列表 常用方法:lpush 、lrang 、rpush 、lpop 、rpop 、llen、lindex、rpoplpush、linsert #Hash(哈希): 底层数据结构:压缩列表、哈希表。 特点:指v(值)本身又是一个键值对(k-v)结构 应用场景:缓存用户信息、购物车等。 常用方法:hset 、hget 、hkeys 、hvals 、hmset 、hmget 、hgetAll 、hlen 、hdel 、hsetnx 、hexists #set(集合): 特点:用来保存多个的字符串元素,但是不允许重复元素,元素是无序的。可以实现并集、交集、差集的操作 底层数据结构:哈希表、整数集 应用场景:抽奖、共同关注、QQ内推等。 常用方法:sadd 、smembers 、sismember 、scard 、srem 、srandmember、spop、smove、sdiff、sinter、sunion #zset(有序集合): 特点:有序不重复的集合。和 set 相⽐sorted set 增加了⼀个权重参数 score,可以根据score进行排序,但score是可以重复的,value是不可以重复的。 底层数据结构:压缩列表、跳表 应用场景:排行榜、抖音热搜 常用方法:zadd 、zrange 、zrangebyscore(按score从小到大) 、zrem 、zcard 、zcount 、zrevrange(按score从大到小) #Redis端口号6379 #三种特殊的数据类型: HyperLogLogs(基数统计), Bitmaps (位图) , geospatial (地理位置)
Redis作为基于内存运行的数据库,是一个高性能的缓存,一般应用在Session缓存、队列、排行榜、计数器、最近最热文章、最近最热评论、发布订阅等。
Redis 适用于数据实时性要求高、数据存储有过期和淘汰特征的、不需要持久化或者只需要保证弱一致性、逻辑简单的场景。
我们通常会将部分数据放入缓存中,来提高访问速度,然后数据库承担存储的工作。
即时性。例如查询最新的物流状态信息。
数据一致性要求不高。例如门店信息,修改后,数据库中已经改了,
五分钟后缓存中才是最新的,但不影响功能使用。
访问量大且更新频率不高,例如网站首页的广告信息,访问量大,但是不会经常变化。
1、Redis是一款纯内存结构,避免了磁盘I/O等耗时操作。 2、Redis命令处理的核心模块为单线程,不存在多线程切换而消耗CPU,不用考虑各种锁的问题,不存在加锁、释放锁的操作,没有因为可能出现死锁而导致性能消耗。 3、采用了 I/O 多路复用机制,大大提升了并发效率。 #注:在 Redis 6.0 中新增加的多线程也只是针对处理网络请求过程采用了多线性,而数据的读写命令,仍然是单线程处理的。
redis部署
#由于Redis源码包中直接提供了 Makefile 文件,所以在解压完软件包后,不用先执行 ./configure 进行配置,可直接执行 make 与 make install 命令进行安装。
#创建redis工作目录
#创建用户
#将redis的属主属组改成redis
#设置环境变量
#添加全局变量
#修改配置文件
#启动
#加上本地地址,监听的主机地址
#改为no,将本机访问保护模式设置no。如果开启了,那么在没有设定bind ip且没有设密码的情况下,Redis只允许接受本机的响应
#端口号6379,默认
#设置为守护进程,后台启动
#指定 PID 文件
#指定日志文件
#指定持久化文件所在目录
#增加一行,设置redis密码
#定义systemd服务管理
#启动redis服务
REDIS命令工具
redis-server:Redis 服务器启动命令 redis-benchmark:性能测试工具,用于检测 Redis 在本机的运行效率 redis-check-aof:修复有问题的 AOF 持久化文件 redis-check-rdb:修复有问题的 RDB 持久化文件 redis-cli:Redis 客户端命令行工具 redis-sentinel:Redis 哨兵集群使用 -----redis-cli 命令行工具----- 语法:redis-cli -h host -p port [-a password] -h :指定远程主机 -p :指定 Redis 服务的端口号 -a :指定密码,未设置数据库密码可以省略-a 选项 若不添加任何选项表示,则使用 127.0.0.1:6379 连接本机上的 Redis 数据库 redis-cli -h 192.168.19.20 -p 6379 -a '123'
#登录redis
redis-benchmark测试工具
redis-benchmark 是官方自带的 Redis 性能测试工具,可以有效的测试 Redis 服务的性能。 基本的测试语法:redis-benchmark [选项] [选项值]。 -h :指定服务器主机名。 -p :指定服务器端口。 -s :指定服务器 socket -c :指定并发连接数。 -n :指定请求数。 -d :以字节的形式指定 SET/GET 值的数据大小。 -k :1=keep alive 0=reconnect 。 -r :SET/GET/INCR 使用随机 key, SADD 使用随机值。 -P :通过管道传输<numreq>请求。 -q :强制退出 redis。仅显示 query/sec 值。 --csv :以 CSV 格式输出。 -l :生成循环,永久执行测试。 -t :仅运行以逗号分隔的测试命令列表。 -I :Idle 模式。仅打开 N 个 idle 连接并等待。 #向 IP 地址为 192.168.80.10、端口为 6379 的 Redis 服务器发送 100 个并发连接与 100000 个请求测试性能 redis-benchmark -h 192.168.80.10 -p 6379 -c 100 -n 100000 #测试存取大小为 100 字节的数据包的性能 redis-benchmark -h 192.168.80.10 -p 6379 -q -d 100 #测试本机上 Redis 服务在进行 set 与 lpush 操作时的性能 redis-benchmark -t set,lpush -n 100000 -q
#测试本机上 Redis 服务在进行 set 与 lpush 操作时的性能
#向 IP 地址为 192.168.19.20、端口为 6379 的 Redis 服务器发送 100 个并发连接与 100000 个请求测试性能
Redis数据库常用命令
set:存放数据,命令格式为 set key value get:获取数据,命令格式为 get key 127.0.0.1:6379> set teacher zhangsan OK 127.0.0.1:6379> get teacher "zhangsan" # keys 命令可以取符合规则的键值列表,通常情况可以结合*、?等选项来使用。 127.0.0.1:6379> set k1 1 127.0.0.1:6379> set k2 2 127.0.0.1:6379> set k3 3 127.0.0.1:6379> set v1 4 127.0.0.1:6379> set v5 5 127.0.0.1:6379> set v22 5 127.0.0.1:6379> KEYS * #查看当前数据库中所有键 127.0.0.1:6379> KEYS v* #查看当前数据库中以 v 开头的数据 127.0.0.1:6379> KEYS v? #查看当前数据库中以 v 开头后面包含任意一位的数据 127.0.0.1:6379> KEYS v?? #查看当前数据库中以 v 开头 v 开头后面包含任意两位的数据 # exists 命令可以判断键值是否存在。 127.0.0.1:6379> exists teacher #判断 teacher 键是否存在 (integer) 1 # 1 表示 teacher 键是存在 127.0.0.1:6379> exists tea (integer) 0 # 0 表示 tea 键不存在 # del 命令可以删除当前数据库的指定 key。 127.0.0.1:6379> keys * 127.0.0.1:6379> del v5 127.0.0.1:6379> get v5 # type 命令可以获取 key 对应的 value 值类型。 127.0.0.1:6379> type k1 string #expire 命令可以为给定的 key 设置过期时间 127.0.0.1:6379> expire k1 10 #设置 k1 键的过期时间为 10 秒 #ttl 命令可以查看 key 还有多少秒过期,-1表示永不过期,-2表示已过期 127.0.0.1:6379> ttl k1 # rename 命令是对已有 key 进行重命名。(覆盖) 命令格式:rename 源key 目标key 使用rename命令进行重命名时,无论目标key是否存在都进行重命名,且源key的值会覆盖目标key的值。在实际使用过程中,建议先用 exists 命令查看目标 key 是否存在,然后再决定是否执行 rename 命令,以避免覆盖重要数据。 127.0.0.1:6379> keys v* 1) "v1" 2) "v22" 127.0.0.1:6379> rename v22 v2 OK 127.0.0.1:6379> keys v* 1) "v1" 2) "v2" 127.0.0.1:6379> get v1 "4" 127.0.0.1:6379> get v2 "5" 127.0.0.1:6379> rename v1 v2 OK 127.0.0.1:6379> get v1 (nil) 127.0.0.1:6379> get v2 "4" # renamenx 命令的作用是对已有 key 进行重命名,并检测新名是否存在,如果目标 key 存在则不进行重命名。(不覆盖) 命令格式:renamenx 源key 目标key 127.0.0.1:6379> keys * 127.0.0.1:6379> get teacher "zhangsan" 127.0.0.1:6379> get v2 "4" 127.0.0.1:6379> renamenx v2 teacher (integer) 0 127.0.0.1:6379> keys * 127.0.0.1:6379> get teacher "zhangsan" 127.0.0.1:6379> get v2 "4" # dbsize 命令的作用是查看当前数据库中 key 的数目。 127.0.0.1:6379> dbsize #使用config set requirepass yourpassword命令设置密码 127.0.0.1:6379> config set requirepass 123456 #使用config get requirepass命令查看密码(一旦设置密码,必须先验证通过密码,否则所有操作不可用) 127.0.0.1:6379> auth 123456 127.0.0.1:6379> config get requirepass ---- Redis 多数据库常用命令 ---- Redis 支持多数据库,Redis 默认情况下包含 16 个数据库,数据库名称是用数字 0-15 来依次命名的。 多数据库相互独立,互不干扰。 #多数据库间切换 命令格式:select 序号 使用 redis-cli 连接 Redis 数据库后,默认使用的是序号为 0 的数据库。 127.0.0.1:6379> select 10 #切换至序号为 10 的数据库 127.0.0.1:6379[10]> select 15 #切换至序号为 15 的数据库 127.0.0.1:6379[15]> select 0 #切换至序号为 0 的数据库 #多数据库间移动数据 格式:move 键值 序号 127.0.0.1:6379> set k1 100 OK 127.0.0.1:6379> get k1 "100" 127.0.0.1:6379> select 1 OK 127.0.0.1:6379[1]> get k1 (nil) 127.0.0.1:6379[1]> select 0 #切换至目标数据库 0 OK 127.0.0.1:6379> get k1 #查看目标数据是否存在 "100" 127.0.0.1:6379> move k1 1 #将数据库 0 中 k1 移动到数据库 1 中 (integer) 1 127.0.0.1:6379> select 1 #切换至目标数据库 1 OK 127.0.0.1:6379[1]> get k1 #查看被移动数据 "100" 127.0.0.1:6379[1]> select 0 OK 127.0.0.1:6379> get k1 #在数据库 0 中无法查看到 k1 的值 (nil) #清除数据库内数据 FLUSHDB :清空当前数据库数据 FLUSHALL :清空所有数据库的数据,慎用!
set:存放数据,命令格式为 set key value
get:获取数据,命令格式为 get key
#type获取对应的value值
#redis有0~15号库
#flushall #清空所有库 (慎用)
基础5中数据类型
string
LIST
#看一下mykey中链表的元素有哪些
HASH数据类型
HINCRBY
HGETALL/HKEYS/HVALS/HMGET/HMSET
Set数据类型(无序集合)
SPOP/SREM/SRANDMEMBER/SMOVE:
Sorted Set数据类型(zset、有序集合)
ZRANGEBYSCORE/ZREMRANGEBYRANK/ZREMRANGEBYSCORE
ZREVRANGE/ZREVRANGEBYSCORE/ZREVRANK