分布式
jmeter 分布式压测出现 ：java.io.FileNotFoundException: rmi_keystore.jks (系统找不到指定的文件。)
分布式执行压测时报错： Exception creating connection to: 10.22.133.117; nested exception is: java.io.FileNotFoundException: rmi_keystore.jks (系统找不到指定的文件。) 解决方案：( ......
分布式服务雪崩
分布式服务雪崩 简介 公司分布式服务链路，底层强依赖数美第三方风控，校验用户是否黑产，随着并发量上升，数美接口返回时间逐渐增加，导致风控服务很多线程等待中，其他调用风控服务的上游服务线程也等待，然后上游的上游。。。，一层层全阻塞。 模拟： 新建springboot服务 tomcat配置： serve ......
聊聊分布式 SQL 数据库Doris(九)
优化器的作用是优化查询语句的执行效率，它通过评估不同的执行计划并选择最优的执行计划来实现这一目标。 CBO: 一种基于成本的优化器，它通过评估不同查询执行计划的成本来选择最优的执行计划。CBO会根据数据库系统定义的统计信息以及其他因素，对不同的执行计划进行评估，并选择成本最低的执行计划。CBO的目标 ......
分布式系统HDFS
1、完全分布式搭建 hadoop102[namenode,datanode],hadoop103[datanode], hadoop104[secondarynamenode,datanode] 缺少104,配置104 选择完全克隆103 机器的名称 hadoop104 配置机器的IP 192.16 ......
聊聊分布式 SQL 数据库Doris(八)
稀疏索引 密集索引：文件中的每个搜索码值都对应一个索引值，就是叶子节点保存了整行. 稀疏索引：文件只为索引码的某些值建立索引项. 稀疏索引的创建过程包括将集合中的元素分段，并给每个分段中的最小元素创建索引。在搜索时，先定位到第一个大于搜索值的索引的前一个索引，然后从该索引所在的分段中从前向后顺序遍历 ......
hive+mysql的伪分布式数据仓库搭建
1.前言 1.1所使用的配置 VMware 16pro #虚拟机 unbuntu22.04 #操作系统 jdk-8u202 hadoop-3.3.6 hive-3.1.1 mysql-8.054 mysql-connect-j-8.1.0 2.mysql和navicat的安装和使用 2.1mysql ......
聊聊分布式 SQL 数据库Doris(七)
LSM-Tree Doris的存储结构是类似LSM-Tree设计的，因此很多方面都是通用的，先阅读了解LSM相关的知识，再看Doris的底层存储与读取流程会清晰透彻很多，如下是几个关键的设计: SSTable: Sorted Strings Table; 一般由一组数据block和一组元数据bloc ......
对Laxcus分布式操作系统的认知、价值、痛点解决的回答
下面是一位网友的提问，回答贴出来供大家参考，欢迎在下方留言评论。 问： Laxcus分布式操作系统有哪些与众不同的地方？它的价值在哪里？解决了哪些市场痛点？我公司现在已经使用Linux操作系统部署了一堆服务器，你如何说服我弃用Linux使用Laxcus？ 回答： Laxcus分布式操作系统是操作系统 ......
聊聊分布式 SQL 数据库Doris(六)
负载均衡 此处的负载均衡指的是FE层的负载均衡. 当部署多个 FE 节点时，用户可以在多个 FE 之上部署负载均衡层来实现 Doris 的高可用。官方文档描述: 负载均衡 。 实现方式 实现方式有多种，如下列举。 开发者在应用层自己进行重试与负载均衡。 JDBC Connector 发现一个连接挂掉 ......
Hadoop-3.3.6分布式集群搭建步骤
1.下载JDK8 Linux 安装Openjdk 2.下载Hadoop3.3.6 Hadoop 安装及环境变量配置 3.创建hadoop数据存储的目录 mkdir -p /opt/hadoop/tmp /opt/hadoop/hdfs/data /opt/hadoop/hdfs/name 4.配置h ......
聊聊分布式 SQL 数据库Doris(五)
阅读 Doris SQL 原理解析，总结下Doris中SQL解析流程： 词法识别：解析原始SQL文本，拆分token 语法识别：将token转换成AST 单机逻辑查询计划：将AST经过一系列的优化（比如，谓词下推等）成查询计划，提高执行性能与效率。 分布式逻辑查询计划：根据分布式环境（数据分布信息、 ......
科普：多领域分布式协同仿真
分布式协同仿真是一种在分布式计算环境中进行协同工作的仿真方法。使用该方法进行协同仿真时，仿真任务将被分发到多个计算节点上，并且这些节点可以同时工作以模拟完整的系统行为。分布式协同仿真已被广泛应用于工程、科学和军事领域，以便更好地模拟和理解大规模和复杂系统的行为。 分布式协同仿真有以下特点： 1.集成 ......
Kafka分布式消息队列
一、Kafka的的介绍 （一）、概述 1、Kafka是由LinkedIn开发的一个分布式的消息系统，底层使用Scala编写，它以可水平扩展和高吞吐率而被广泛使用。目前越来越多的开源分布式处理系统如Cloudera、Apache Storm、Spark都支持与Kafka集成。 2、Kafka是一个分布 ......
3高级篇--商城业务--压测--缓存--分布式锁
高级篇--商城业务 部分 本笔记从谷粒商城的P141（性能测试）开始记录 一、性能与压力测试 压力测试考察当前软硬件环境下系统所能承受的最大负荷并帮助找出系统瓶颈所在。压测都是为了系统在线上的处理能力和稳定性维持在一个标准范围内，做到心中有数。 使用压力测试，我们有希望找到很多种用其他测试方 ......
分布式通讯方式比较（RPC、RMI、JMS、WebService、TIBCO）
在分布式服务框架中，最基本的问题就是网络服务间的远程通讯。根据计算机网络通讯的基本原理，网络服务间的通讯就是将数据流从一台PC传输到另一台PC，这一切都是基于网络传输协议与网络IO实现的。网络传输技术发展至今，我们常用的协议都是基于Socket而扩展出的传输协议，主要有HTTP、TCP、UDP，网络 ......
利用 docker 实现JMeter分布式压测
在工作中经常需要对一些关键接口做高QPS的压测，JMeter是由Java 语言开发，没创建一个线程（虚拟用户），JVM默认会为每个线程分配1M的堆栈内存空间。受限于单台试压机的配置很难实现太高的并发。所以，通过JMeter实现分布式，可以整合多台主机的硬件资源，实现同时对被测试接口进行压力测试。 ......
聊聊分布式 SQL 数据库Doris(四)
FE层的架构都能在网上找到说明. 但BE层的架构模式、一致性保障、与FE层之间的请求逻辑，数据传输逻辑等，我个人暂时没有找到相应的博客说明这些的。当然这些是我个人在学习与使用Doris过程中，对内部交互逻辑与实现感兴趣才有这些疑问. 还好现在有GPT这类大模型，有了疑问，只要问题描述得当，大多可以解 ......
Welcome to YARP - 8.分布式跟踪
Welcome to YARP - 1.认识YARP并搭建反向代理服务 Welcome to YARP - 2.配置功能 2.1 - 配置文件（Configuration Files） 2.2 - 配置提供者（Configuration Providers） 2.3 - 配置过滤器（Configur ......
keycloak~分布式缓存的使用
keycloak目前提供了几种分布式缓存，我们自己的缓存，如果希望是分布式的，可以将缓存添加到以下几个缓存里即可 actionTokens clientSessions loginFailures offlineClientSessions offlineSessions sessions work ......
聊聊分布式 SQL 数据库Doris(三)
详细内容阅读: Apache Doris 分区分桶新功能 与 数据划分. 在此基础上做总结与延伸. 在 Doris 的存储引擎规则: 表的数据是以分区为单位存储的，不指定分区创建时，默认就一个分区. 用户数据首先被划分成若干个分区（Partition），划分的规则通常是按照用户指定的分区列进行范围划 ......
为Oracle链接服务器使用分布式事务
1 现象 在SQL Server中创建指向Oracle的链接服务器，SQL语句在事务中向链接服务器插入数据。返回链接服务器无法启动分布式事务的报错。 2 解决 在Windows平台下，SQL Server依赖分布式事务协调器（MSDTC）来使用分布式事务，Oracle Client使用Oracle ......
分布式锁笔记
分布式锁 基于上课和教材（分布式中间件技术实战-java版-钟林森）的笔记 1 概述 因为集群、分布式部署的服务实例一般是部署在不同机器上的，在分布式系统架构下，此种资源共享将不再是传统的线程共享，而是跨JVM进程之间资源的共享了。因此，为了解决这种问题，我们引入了“分布式锁”。 1.1 锁机制 在 ......
码-分布式存储的研究现状及研究理论
1. 分布式存储的研究过程 分布式存储系统中最基本的两个性能要求是数据的可靠性和可用性。可靠性是指不会因为节点的失效而失效，可用性是指用户能从存储系统中获得所需的数据。分布式系统主要是依靠冗余来实现的。 冗余策略主要分为复制策略和纠删策略两种，只是相比于复制策略，纠删策略在存储上面的开销更小。 20 ......
聊聊分布式 SQL 数据库Doris(二)
Doris中，Leader节点与非Leader节点和Observer节点之间的元数据高可用和一致性，是通过bdbje(全称:Oracle Berkeley DB Java Edition)的一致性和高可用实现的。 元数据与同步流程 元数据主要存储四类数据： 用户数据信息. 包括数据库, 表的sche ......
分布式事务 Seata 集群搭建
Seata 是蚂蚁金服和阿里巴巴共同开源的一款分布式事务项目，致力于在微服务架构下提供高性能和简单易用的分布式事务解决方案。自诞生以来就备受国内开发人员推崇，在实际工作中使用者甚多。Seata 提供了四种不同的分布式事务解决方案： XA模式：强一致性分阶段事务模式，牺牲了一定的可用性，无业务侵入 T ......
聊聊分布式 SQL 数据库Doris(一)
MPP MPP:Massively Parallel Processing, 即大规模并行处理. 一般用来指多个SQL数据库节点搭建的数据仓库系统. 执行查询的时候, 查询可以分散到多个SQL数据库节点上执行, 然后汇总返回给用户. Doris Doris 作为一款开源的 MPP 架构 OLAP 高 ......
分布式追踪的核心概念是 Trace 和 Span
使用 OpenTelemetry 构建 .NET 应用可观测性（1）：什么是可观测性 目录 什么是系统的可观测性（Observability） 为什么软件系统需要可观测性 可观测性的三大支柱 日志（Logging） 指标（Metrics） 分布式追踪（Distributed Tracing） Tra ......
分布式锁
上一篇文章简单的介绍了单机的情况下如何进行加锁，防止高并发带来的问题。然而现实中，一般会高并发的应用，很少会单机部署。当用户量达到一定的程度，分布式、集群部署是必然的选择。在分布式部署的情况下，之前的单机锁还会有效吗？代码还是之前的代码： private static object lck = ne ......
记录代码审查发现的一处分布式锁错误用法
今天测试反应在商品入库存的时候会出现一个偶现的问题，多次入库后，突然发现商品的库存量是乱的，但是专门针对这个功能去测试的时候，却发现功能又是正常的，无法稳定复现问题，测试希望开发审查下代码看下是哪里的原因。 于是开发我们立马定位到商品入库存的那段代码，大致代码如下： 1 @Transactional ......
Redis之分布式锁
前言 日常开发中，秒杀下单、抢红包等等业务场景，都需要用到分布式锁。而Redis非常适合作为分布式锁使用。 什么是分布式锁 方案一：SETNX + EXPIRE 方案二：SETNX + value值是（系统时间+过期时间） 方案三：使用Lua脚本(包含SETNX + EXPIRE两条指令) 方案四： ......