NoSQL概述

发布时间 2023-07-22 15:25:04作者: YxinHaaa

架构演进

单机Mysql

一个网站的访问量一般都不大,用单个数据库完全可以轻松应付

问题:随着用户数的增长,Tomcat和数据库之间竞争资源,单机性能不足以支撑业务。

Tomcat与数据库分开部署

Tomcat和数据库分别独占服务器资源,显著提高两者各自性能。

问题:随着用户数的增长,并发读写数据库成为瓶颈。

引入本地缓存和分布式缓存

通过缓存能把绝大多数请求在读写数据库前拦截掉,大大降低数据库压力。其中涉及的技术包括:使用memcached作为本地缓存,使用Redis作为分布式缓存。

问题:
缓存抗住了大部分的访问请求,随着用户数的增长,并发压力主要落在单机的Tomcat上,响应逐渐变慢。

引入反向代理实现负载均衡

在多台服务器上分别部署Tomcat,使用反向代理软件(Nginx)把请求均匀分发到每个Tomcat中。

问题:
反向代理使应用服务器可支持的并发量大大增加,但并发量的增长也意味着更多请求穿透到数据库,单机的数据库最终成为瓶颈。

数据库读写分离

由于数据库的写入压力增加,Memcached只能缓解数据库的读取压力。读写集中在一个数据库上让数
据库不堪重负,大部分网站开始使用主从复制技术来达到读写分离,以提高读写性能和读库的可扩展
性。Mysql的master-slave模式成为这个时候的网站标配了

问题:
业务逐渐变多,不同业务之间的访问量差距较大,不同业务直接竞争数据库,相互影响性能。

数据库按业务分库

把不同业务的数据保存到不同的数据库中,使业务之间的资源竞争降低,对于访问量大的业务,可以部署更多的服务器来支撑。

为什么用NoSQL

用户的个人信息,社交网络,地理位置,用户生成的数据和用户操作日志已经成倍的增加。我们如果要
对这些用户数据进行挖掘,那SQL数据库已经不适合这些应用了, NoSQL数据库的发展也却能很好的处理
这些大的数据。

什么是NoSQL

NoSQL(NoSQL = Not Only SQL),意即“不仅仅是SQL”,泛指非关系型的数据库。随着互联网web2.0
网站的兴起,传统的关系数据库在应付特别是超大规模和高并发类型纯动态网站已经显得力不从心,暴
露了很多难以克服的问题

结构化数据和非结构化数据

结构化数据指的是由二维表结构来逻辑表达和实现的数据,严格遵循数据格式与长度规范,也称作为行数据。

非结构化数据,指的是数据结构不规则或不完整,没有任何预定义的数据模型,不方便用二维逻辑表来表现的数据,例如办公文档(Word)、文本、图片、HTML、各类报表、视频音频等。

NoSQL的四大分类

KV型NoSql

代表----Redis

KV型NoSql顾名思义就是以键值对形式存储的非关系型数据库,是最简单、最容易理解也是最熟悉的一种NoSql,因此比较快地带过。

特点:
数据基于内存,读写效率高
KV型数据,时间复杂度为O(1),查询速度快

注意:
KV型NoSql最大的优点就是高性能,利用Redis自带的BenchMark做基准测试,TPS可达到10万的级别,性能非常强劲。

列式NoSql

代表----HBase

列式NoSql,大数据时代最具代表性的技术之一了,以HBase为代表。

关系行数据库数据

注意:
看到每行有name、phone、address三个字段,这是行式存储的方式,且可以观察id = 2的这条数据,即使phone字段没有,它也是占空间的。

image-20230722105603847

列式数据库数据

image-20230722105700154

注意:
查询时只有指定的列会被读取,不会读取所有列
列数据被组织到一起,一次磁盘IO可以将一列数据一次性读取到内存中

文档型NoSql

代表----MongoDB

什么是文档型NoSql呢,文档型NoSql指的是将半结构化数据存储为文档的一种NoSql,文档型NoSql通常以JSON或者XML格式存储数据。

image-20230722105744854

image-20230722105752249

关系型数据库是按部就班地每个字段一列存,在MongDB里面就是一个JSON字符串存储。

搜索型NoSql

代表----ElasticSearch

传统关系型数据库主要通过索引来达到快速查询的目的,但是在全文搜索的场景下,索引是无能为力的,like查询一来无法满足所有模糊匹配需求,二来使用限制太大且使用不当容易造成慢查询,搜索型NoSql的诞生正是为了解决关系型数据库全文搜索能力较弱的问题,ElasticSearch是搜索型NoSql的代表产品

image-20230722105913407

关系型数据库和非关系型数据及其区别

关系型数据库

关系型数据库最典型的数据结构是表,由二维表及其之间的联系所组成的一个数据组织

优点:
    易于维护:都是使用表结构,格式一致;
    使用方便:SQL语言通用,可用于复杂查询;
    复杂操作:支持SQL,可用于一个表以及多个表之间非常复杂的查询。

缺点:
    读写性能比较差,尤其是海量数据的高效率读写;
    固定的表结构,灵活度稍欠;

非关系型数据库

优点:
    格式灵活:存储数据的格式可以是key,value形式、文档形式、图片形式等等,文档形式、图片形
    式等等,使用灵活,应用场景广泛,而关系型数据库则只支持基础类型。
    速度快:nosql可以使用硬盘或者随机存储器作为载体,而关系型数据库只能使用硬盘;
    高扩展性;
    成本低:nosql数据库部署简单,基本都是开源软件。
    
缺点:
    不提供sql支持,学习和使用成本较高;
    无事务处理;
    数据结构相对复杂,复杂查询方面稍欠。

NoSQL应用案例

当下应用是SQL和NoSQL一起使用

淘宝商品信息如何存放

商品基本信息
名称、价格、出厂信息、生产厂商,商家信息等, 关系型数据库就可以解决。
注意:
注意,淘宝内部用的Mysql是里面的大牛自己改造过的。
商品描述、详情、评论
多文件信息描述类,IO读写性能变差不能使用Mysql数据库,使用MongDB。
商品的图片
分布式文件系统:
1. 淘宝自己的TFS
2. Google的GFS
3. Hadoop的HDFS
4. 阿里云的OSS
商品关键字
搜索引擎 elasticsearch 或者 ISerach
商品热门的波段信息
内存数据库 Redis Tair Memache

遇到的问题

1. 数据类型太多
2. 数据源繁多
3. 数据要改造
    
发现问题
难点:
    数据类型多样性
    数据源多样性和变化重构
    数据源改造而数据服务平台不需要大面积重构

解决问题

​ UDSL统一数据服务平台