集群hadoop hive

kafka集群监控EFAK搭建

源码包准备 1.上传包 export KE_HOME=/home/secure/prom/kafka-eagle-bin-3.0.1/efak-web-3.0.1 export PATH=$PATH:$KE_HOME/bin source /etc/profile 2.安装mysql EFAK配置修 ......
集群 kafka EFAK

集群的水平扩展和垂直扩展有什么区别?

水平扩展(Horizontal Scaling)和垂直扩展(Vertical Scaling)是两种常见的扩展方法,用于提高系统的性能和容量。 它们在集群中用于增加计算资源,但采用不同的方式实现。 1. 水平扩展(Horizontal Scaling) 水平扩展是通过增加集群中的节点数量来增加系统的 ......
集群 水平

Windows11使用docker desktop安装kafka&zookeeper集群

# docker-compose安装zookeeper集群 参考文章:http://t.csdn.cn/TtTYI https://blog.csdn.net/u010416101/article/details/122803105?spm=1001.2014.3001.5501 准备工作: ​ 在 ......
集群 zookeeper Windows desktop docker

Zookeeper 集群 + Kafka 集群

[toc] ## 一、Zookeeper 概述 ### 1. Zookeeper 定义 Zookeeper是一个开源的分布式的,为分布式框架提供协调服务的Apache项目 ### 2. Zookeeper 工作机制 Zookeeper从设计模式角度来理解: 是一个基于观察者模式设计的分布式服务管理框 ......
集群 Zookeeper Kafka

Hive--map类型

......
类型 Hive map

数仓 Hive HA 介绍与实战操作

[TOC] ## 一、概述 在数据仓库中,`Hive HA(High Availability)` 是指为 `Apache Hive` 这个数据仓库查询和分析工具提供高可用性的架构和解决方案。Hive是建立在Hadoop生态系统之上的一种数据仓库解决方案,用于处理大规模数据的查询和分析。为了确保Hi ......
实战 Hive HA

Kafka集群

Kafka集群使用消息队列,通过异步处理请求,从而缓解系统的压力。消息队列常应用于异步处理,流量削峰,应用解耦,消息通讯等场景。 目录 1.Kafka 概述 2.消息队列好处 3.消息队列的模式 4.Kafka 的特性 5.Kafka 系统架构 6.部署 kafka 集群 7.总结 1.Kafka ......
集群 Kafka

Zookeeper集群

Zookeeper就将负责通知已经在Zookeeper上注册的那些观察者做出相应的反应。也就是说 Zookeeper = 文件系统 + 通知机制。 目录 一、Zookeeper 概述 二、Zookeeper 工作机制 三、Zookeeper 特点 四、Zookeeper 数据结构 五、Zookeep ......
集群 Zookeeper

Hadoop完全分布式集群安装

# Hadoop完全分布式集群安装 >使用版本: hadoop-3.2.0 ## 安装VMware 看一下这张图,图里面表示是三个节点,左边这一个是主节点,右边的两个是从节点,hadoop集群是支持主从架构的。 不同节点上面启动的进程默认是不一样的。 ![](https://img2023.cnbl ......
分布式 集群 Hadoop

centos7.9 部署mongodb-4.4.18 分片集群

### 准备基本环境 名称|ip地址|cpu|内存|es监听端口 --|:--:|:--|:--|:-- redis-651|10.0.2.1|8c|64G|9200 redis-652|10.0.2.2|8c|64G|9200 redis-653|10.0.2.3|8c|64G|9200 ......
集群 centos7 mongodb centos 18

拷贝完集群需要做什么

>流年似飞雪: 结论:拷贝集群后不用重新配置网络 >知识: ip由四位组成,前三位是网络标识 最后一个是端口ip 你原先用的主机网络标识符是192.168.10,拷过来的集群的网络标识符为192.168.111,就把第三位的10改成111,网络标识得和拷过来的主机一致,都是192.168.111 > ......
集群 拷贝

Mongodb主从复制/ 副本集/分片集群介绍

来源: https://cloud.tencent.com/developer/article/1026185 前面的文章介绍了Mongodb的安装使用,在 MongoDB 中,有两种数据冗余方式,一种 是 Master-Slave 模式(主从复制),一种是 Replica Sets 模式(副本集) ......
主从 副本 集群 Mongodb

Kubeasz 安装Kubernetes高可用集群

[TOC] # Kubeasz 安装Kubernetes高可用集群 ## 一、集群规划和基础参数设定 > 官网: https://github.com/easzlab/kubeasz/blob/v3.6/docs/setup/00-planning_and_overall_intro.md ### ......
集群 Kubernetes Kubeasz

vsan集群缓存盘故障问题处理

1、缓存盘故障会导致整个磁盘组不可用; 2、正常情况下,虚拟机会切换到其他位置的副本对象访问;但在这个期间,对读写时延要求高的业务,会出现异常; 3、缓存盘更换后,无法直接添加进磁盘组,磁盘组也无法移除; 按照下述方式,逐个删除容量盘,容量盘删除完之后,磁盘组就没有了 4、稍后重建磁盘组,声明缓存盘 ......
集群 缓存 故障 问题 vsan

windows redis集群搭建

一、安装5.0以后版本的 链接:https://pan.baidu.com/s/1uXj_46ausPASNjDMxbNAQQ 提取码:egpf 二、准备多个redis环境 1、新建一个父文件夹(例如:redis-cluster) 2、将 redis 安装目录拷贝多份,放到二级目录,并分别以端口号命 ......
集群 windows redis

Hive Merge详解

说明Hive在2.2版本之后开始支持Merge操作,并且Merge只能在支持ACID的表上执行 语法MERGE INTO <target table> AS T USING <source expression/table> AS SON <boolean expression1>WHEN MATC ......
Merge Hive

mysql集群高可用搭建

mysql galera 集群模式 mysql节点多主模式 对任意一个节点的mysql操作都会实时同步到集群中的所有节点mysql上 使mysql集群像是无状态对外提供服务 首节点安装 rpm -e postfix-2:2.10.1-9.el7.x86_64 rpm -e mariadb-libs- ......
集群 mysql

vCenter集群中已孤立虚拟机解决办法

vCenter集群中已孤立虚拟机解决办法问题描述 在一次意外断电后,vCenter中的部分机器出现 已孤立 状态。 解决办法1.选中已孤立虚拟机名字,右键选择“从清单中删除”,如图。 2.打开数据存储,找到对应虚拟机名字的文件夹,进入目录后,找到.vmx后缀的文件,选中,然后点击注册虚拟机重新注册即 ......
集群 vCenter 办法

Hive执行过程中出现 ArrayIndexOutOfBoundsException: -128

记一次Hive的运行过程中的错误 `Error: java.lang.RuntimeException: Hive Runtime Error while closing operators at org.apache.hadoop.hive.ql.exec.mr.ExecMapper.close( ......

【Azure K8S | AKS】在AKS集群中创建 PVC(PersistentVolumeClaim)和 PV(PersistentVolume) 示例

问题描述 在AKS集群中创建 PVC(PersistentVolumeClaim)和 PV(PersistentVolume) 示例 问题解答 在Azure Kubernetes Service(AKS)的官方网站中,关于存储的选项介绍中,并没有具体的yaml实例来创建PV, PVC。特别是使用自定 ......

Mongodb主从复制/ 副本集/分片集群介绍

来源: https://cloud.tencent.com/developer/article/1026185 前面的文章介绍了Mongodb的安装使用,在 MongoDB 中,有两种数据冗余方式,一种 是 Master-Slave 模式(主从复制),一种是 Replica Sets 模式(副本集) ......
主从 副本 集群 Mongodb

集群与分布式

集群:多个人干同样一件事情 分布式:多个人干不同的事情,合起来时一件事情 两个人都是做饭,洗菜,切菜 所以他两个是一个集群 雇人洗菜,切菜,自己做饭,三个人共同干做饭一件事,这就是分布式 集群分布式系统的有点: ......
分布式 集群

kubeadm集群添加新节点

###1.生成添加node节点token `kubeadm token create --print-join-command` ####结果示例 ``` kubeadm join 10.10.10.10:6443 --token xxxxxx.xxx...xxx --discovery-token ......
节点 集群 kubeadm

hive建表以\t分割,直接put文件到表目录下进行查询

建表语句 ``` CREATE external TABLE `login_number`( serial_number string) ROW FORMAT SERDE 'org.apache.hadoop.hive.serde2.lazy.LazySimpleSerDe' WITH SERDEP ......
文件 目录 hive put

rabbitmq添加集群高可用

10.20.4.176机器sudo docker run -d --hostname rabbitmq1 --add-host=rabbitmq2:10.20.4.177 --add-host=rabbitmq3:10.20.4.178 --restart=unless-stopped --name ......
集群 rabbitmq

redis 集群重启问题

redis出现链接不稳定或者链接不上的时候,需要重新启动 1.找到集群的位置上 下面的两个启动和停止命令进行停止和启动 但停止时候启动的时候可能会出现下面的问题 这是要删除 appendonly.aof 和dump.rdb文件,也可以选先将这两个先备份一下,然后启动后重新恢复,才能启动成功 end. ......
集群 问题 redis

调用链完整方案(zipkin 集群)

一、首先摆一张基于 zipkin 的调用链数据架构图 1.1 应用程序把搜集到 span 信息发送到 kafka 1.2 zipkin 消费 kafka 中消息 1.3 zipkin 将数据写入到 mysql 1.4 为 zipkin 集群配置反向代理,路由 web ui 请求 二、接下来描述每个步 ......
集群 方案 zipkin

FineBI连接hive出现中文乱码问题(已解决)

出现下列情况 解决方法: hive 的注释(comment) 中文乱码的解决方法 解决后 ......
乱码 FineBI 问题 hive

nginx1.20-tomcat9-redisson集群,好像不怎么完善

配置信息 在同一台服务器上使用nginx做反向代理与两个tomcat组成简易tomcat集群 使用 nginx端口80 tomcat1端口21005,21080,21009 tomcat2端口22005,22080,22009 配置过程 1. 先下载apache-tomcat-9.0.78,解压到两 ......

hive同时使用where,group by,having,order by的执行顺序

###hive中分组排序过滤使用顺序。 ``` where,group by,having,order by同时使用,执行顺序为 (1)where过滤数据 (2)对筛选结果集group by分组 (3)对每个分组进行select查询,提取对应的列,有几组就执行几次 (4)再进行having筛选每组数 ......
顺序 同时 having group where