集群zookeeper clickhouse架构
TDSQL集群扩容DB节点
具体步骤见百度云盘:https://pan.baidu.com/s/1zMrjhckI2I4O1G1RzC09uQ 提取码:h5mm。本文档适用于TDSQL(MYSQL版)和TDSQL(PG版)。内容如下: 一、以下步骤在新增机器上面执行:1、检查audit服务(Mysql版本特有):systemc ......
ClickHouse(19)ClickHouse集成Hive表引擎详细解析
目录Hive集成表引擎创建表使用示例如何使用HDFS文件系统的本地缓存查询 ORC 输入格式的Hive 表在 Hive 中建表在 ClickHouse 中建表查询 Parquest 输入格式的Hive 表在 Hive 中建表在 ClickHouse 中建表查询文本输入格式的Hive表在Hive 中建 ......
短视频app开发,集群容错策略的代码分析
短视频app开发,集群容错策略的代码分析 1 Failover Failover故障转移策略作为默认策略,当短视频app开发中的消费发生异常时通过负载均衡策略再选择一个生产者节点进行调用,直到达到重试次数。即使业务代码没有显示重试,也有可能多次执行消费逻辑从而造成重复数据: public class ......
25.自动化测试架构优化
打造测试框架的需求与价值 领域模型适配:封装业务实现,实现业务管理 提高效率:降低用例维护成本,提高执行效率 增强功能:解决已有框架不满足的情况 自动化框架应具备的功能 支持管理用例,运行用例 支持查找元素/定位元素,对元素/页面 进行各种操作(点击,滑动,输入等等) 支持生成测试报告 能够实现功能 ......
YARN集群中应用程序的执行流程
Hello,各位“极客”好,上一篇文章中介绍了YARN集群架构的基本内容,那么,在YARN集群中应用程序的执行流程是怎样的呢?这个问题很重要,就要好好说道说道了...... 客户端提交应用程序(可以是MapReduce程序、Spark程序等)到ResourceManager。 ResourceMan ......
k8s集群搭建-2
一、前面做过k8s的集群搭建主要是1.24版本一下的,1.24版本后"弃用docker"改用CRI了。所以这里就之前的集群安装做一下补充。 老版集群地址:https://www.cnblogs.com/ll409546297/p/16718681.html 二、k8s版本选择:docker-ce:2 ......
SAP-DB-服务器组-003-pacemaker集群-在AWS平台里-创建及配置-SAPHanaTopology资源及SAPHana及VIP
关于基础环境的安装,还是可以参考笔者另一篇文章,APP的部分 《SAP-APP-服务器组-001-pacemaker集群的基础环境的安装部署》 https://www.cnblogs.com/5201351/p/17899446.html 1、DB需要多安装 resource-agents-sap- ......
Zookeeper-快速入门、服务搭建、集群搭建教程
官网:https://zookeeper.apache.org/ zookeeper常用用途: 集群管理,zookeeper作为注册中心,管理服务提供方的ip地址端口号url信息,并在服务消费方请求需要时发送给服务消费方。 配置中心(不过一般用阿波罗apollo或者阿里的Nacos来做) 多个app ......
ceph集群搭建详细教程(ceph-deploy)
ceph-deploy比较适合生产环境,不是用cephadm搭建。相对麻烦一些,但是并不难,细节把握好就行,只是命令多一些而已。 实验环境 服务器主机 public网段IP(对外服务) cluster网段IP(集群通信) 角色 deploy 192.168.2.120 用于部署集群、管理集群 cep ......
搭建ceph集群
本文完全拷贝出处:https://www.cnblogs.com/qiuhom-1874/ 前文我们了解了Ceph的基础架构和相关组件的介绍,回顾请参考https://www.cnblogs.com/qiuhom-1874/p/16720234.html;今天我们来部署一个ceph集群; 部署工具介 ......
DataSophon更换zookeeper版本
DataSophon更换zookeeper版本 平台默认集成的zookeeper版本为:zookeeper-3.5.10.tar.gz 更换为:zookeeper-3.8.0.tar.gz 下载地址:https://archive.apache.org/dist/zookeeper/zookeepe ......
风控系统架构设计
作者:铁原 链接:https://www.zhihu.com/question/20860347/answer/33446734 来源:知乎 著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。 曾任某公司风控架构师。设计风控系统能力单机TPS200~2000(接入实时统计系统)响应 ......
首批!天翼云大数据平台率先通过信通院无服务器架构大数据平台测试
近日,天翼云大数据平台顺利完成中国信通院无服务器(Serverless) 架构大数据平台测试,成为首批通过该测试的单位之一 ......
吉特日化MES & 日化制药工厂信息化系统架构图
作者:情缘 出处:http://www.cnblogs.com/qingyuan/ 关于作者:从事仓库,生产软件方面的开发,在项目管理以及企业经营方面寻求发展之路 版权声明:本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文链接。 联系方式: 个人QQ ......
YARN集群架构
玩Hadoop的不知道YARN?这简直是天大的笑话!之前介绍Hadoop核心组件的时候(详见《Hadoop的“前世今生”》那篇博文)就曾提到过“YARN是实现了集群资源管理以及作业调度的框架”,那么本文就对YARN集群架构做进一步的介绍。 YARN集群总体上是经典的Master/Slave架构,主要 ......
读程序员的README笔记17_构建可演进的架构(下)
1. 可演进的API 1.1. 随着需求的变化,你需要改变你的API,即代码之间的共享接口 1.2. 改变API很容易,但很难做到正确 1.3. 保持API小巧 1.3.1. 小巧的API更易于理解和演进 1.3.2. 只添加即刻需要的API方法或字段 1.3.3. 带有许多字段的API方法应该有合 ......
kafka启动闪退(zookeeper timeout)的解决办法
1.情景展示 在关闭kafka后,再次运行经常会出现闪退的情况。 2.具体分析 经过截屏发现:原来是kafka连接zookeeper超时,导致kafka启动失败。 kafka.zookeeper.ZooKeeperClientTimeoutException: Timed out waiting f ......
Hive和Spark生产集群搭建
1.环境准备 1.1 版本选择 序号 bigdata-001 bigdata-002 bigdata-003 bigdata-004 bigdata-005 MySQL-8.0.31 mysql Datax Datax Datax Datax Datax Datax Spark-3.3.1 Spar ......
Hadoop生产集群搭建
1.环境准备 1.1 集群规划 序号 bigdata-001 bigdata-002 bigdata-003 bigdata-004 bigdata-005 IP x x x x x x xxx xxx xxx 组件 hadoop1 hadoop2 hadoop3 hadoop4 hadoop5 节 ......
《Java架构师的第一性原理》38分布式计算之微服务SpingCloud
1 微服务简介 1.1 什么是微服务 微服务是最近的一两年的时间里是很火的一个概念。感觉不学习一下都快跟不上时代的步伐了,下边做一下简单的总结和介绍。 何为微服务?简而言之,微服务架构风格这种开发方法,是以开发一组小型服务的方式来开发一个独立的应用系统的。其中每个小型服务都运行在自己的进程中,并经常 ......
《Java架构师的第一性原理》35分布式计算之分布式事务(TCC、最终一致性、Seata)
1 常见分布式实现方案介绍 1.1 XA方案 有一个事务管理器的概念,负责协调多个数据库(资源管理器)的事务 不适合高并发场景,严重依赖数据库层面,同步阻塞问题;协调者故障则所有参与者会阻塞 1.2 TCC方案 严重依赖代码补偿和回滚,一般银行用,和钱相关的支付、交易等相关的场景,我们会用TCC T ......
《Java架构师的第一性原理》36分布式计算之分布式监控分布式链路跟踪(CAT、SkyWalking、Zipkin)
分布式链路跟踪 99 直接读这些牛人的原文 大众点评CAT开源监控系统剖析 一文带你看懂,SkyWalking分布式追踪系统原理及实践 SkyWalking —— 分布式应用监控与链路追踪 全面解析微服务系统监控分层,啃透服务治理核心! ......
《Java架构师的第一性原理》32分布式计算之分布式锁(Redis、Zookeeper)
1 这才是真正的分布式锁 技术领域,我觉得了解来龙去脉,了解本质原理,比用什么工具实现更重要: (1)进程多线程如何互斥? (2)一个手机上两个APP访问一个文件如何互斥? (3)分布式环境下多个服务访问一个资源如何互斥? 归根结底,是利用一个互斥才能访问的公共资源来实现分布式锁,具体这个公共资源是 ......
《Java架构师的第一性原理》30分布式计算之分布式算法
极客时间 韩健 121.分布式协议与算法实战 00 开篇词 | 想成为分布式高手?那就先把协议和算法烂熟于心吧 为什么要单独讲分布式协议和算法呢? 在我看来,它其实就是决定分布式系统如何运行的核心规则和关键步骤。 如果一个人想真正搞懂分布式技术,开发出一个分布式系统,最先需要掌握的就是这部分知识。 ......
《Java架构师的第一性原理》31分布式计算之微服务RPC(Dubbo)
1 互联网架构,究竟为啥要做服务化 互联网架构,究竟为啥要做服务化? 2 微服务架构,多“微”才合适? 微服务架构,多“微”才合适? 3 离不开的微服务架构,脱不开的RPC细节 离不开的微服务架构,脱不开的RPC细节 3.1 服务化解决的问题 1)服务化需要解决的问题: 一套序列化、反序列化、网络框 ......
《Java架构师的第一性原理》32分布式计算之分布式缓存第3篇LevelDB
互联网业务,绝大部分场景,会使用缓存服务。 但有时候,确实会使用到进程内存缓存/数据库,这个时候,LevelDB就能派上用场了。啥是LevelDB?LevelDB是Google开发的,一个速度非常块的KV存储库(storage library),它支持字符串的key与字符串的value,并且这种映射 ......
《Java架构师的第一性原理》33分布式计算之分布式注册中心、分布式配置中心
待补充 1 分布式注册中心 2 分布式配置中心 2.1 Apollo 2.1.1 Apollo是怎样注入到SpringBean的容器里的 99 直接读这些牛人的原文 apollo不使用 MQ 如何实现 pub/sub 场景? 13张图彻底搞懂分布式系统服务注册与发现原理 为什么 @Value 可以获 ......
《Java架构师的第一性原理》32分布式计算之分布式缓存第1篇如何使用Redis搭建玩家排行榜
今天我们用 Redis 搭建一个玩家的排行榜,假设一个服务器存储了 10 万名玩家的数据,我们想给这个区(这台服务器)上的玩家做个全区的排名,该如何用 Redis 实现呢? 不妨一起来思考下面几个问题: MySQL 是如何实现玩家排行榜的?有哪些难题需要解决? 如何用 Redis 模拟 10 万名玩 ......
《Java架构师的第一性原理》27Java基础之Tomcat
待补充 99 直接读这些牛人的原文 Tomcat 架构原理解析到架构设计借鉴 Tomcat 高并发之道原理拆解与性能调优 ......