hadoop apache org rpcnosuchprotocolexception
hadoop大数据安装
一、hadoop的安装1、hadoop的安装wget https://archive.apache.org/dist/hadoop/common/hadoop-3.1.3/hadoop-3.1.3.tar.gz2、解压tar -zxvf hadoop-3.1.3.tar.gz -C /opt/mod ......
hadoop优化之yarn调优
yarn.nodemanager.resource.memory-mb表示该节点上YARN可使用的物理内存总量,默认是8192(MB),注意,如果你的节点内存资源不够8GB,则需要调减小这个值,而YARN不会智能的探测节点的物理内存总量。 yarn.nodemanager.vmem-pmem-rat ......
start-dfs.sh启动hadoop,jps没显示
查看当前系统的名称 [root@master dfs]# cat /etc/hosts 192.168.128.78 hadoop01 查看core-site.xml <property> <name>fs.defaultFS</name> <value>hdfs://hadoop01:9000</ ......
关于hadoop hive中使用hive分区功能
很多人习惯了使用第三方的工具 去连接hive或者hbase数据库,并且 使用其中的sql编辑器进行失去了语句 的使用来进行数据的分析等一系列的 操作,但是一些shell命令也可以在其中 运行例如: 1. set hive.exec.dynamic.partition=true; 2. set hiv ......
七、Hadoop优化
优化1:Combiner 使用之前 使用之后 减少的了reduce 从map拉取数据的过程,提高计算效率。 hadoop 的计算特点:将计算任务向数据靠拢,而不是将数据向计算靠拢。 特点:数据本地化,减少网络io。 首先需要知道,hadoop数据本地化是指的map任务,reduce任务并不具备数据本 ......
apache集合工具类ListUtils
<dependency> <groupId>org.apache.commons</groupId> <artifactId>commons-collections4</artifactId> <version>4.4</version> </dependency> 判断两集合是否相等 List<S ......
apache的序列化工具类SerializationUtils
Java中序列化是指,将Java对象转换为可存储传输的字节序列的过程。 序列化作用: 网络传输:网络可以传输字节化的java对象 数据安全:字节数据,方便在磁盘上存储 便于存储:可以将其存储在磁盘上,以供以后使用 <dependency> <groupId>org.apache.commons</g ......
centos7.5 hadoop NAT 静态IP网络环境搭建
1 设置 VMware 网络环境 1. 选择VMNet8 并将子网IP 修改为 192.168.10.0,保证集群ip都在这个网段下 2. 选择NAT 设置,配置NAT的网关为 192.168.10.2 2 设置 windows11 网络环境 1. 打开 控制面板\网络和 Internet\网络连接 ......
Apache加密
配置TLS加密的虚拟主机(443/TLS) SSl提供了3中服务,保证数据的安全传输 认证用户和服务器,确保数据发送到正确的客户机和服务器; 加密数据以防止数据中途被窃取; 维护数据的完整性,确保数据在传输过程中不被改变 客户使用https的URL访问Web服务器,要求与Web服务器建立SSL连接。 ......
Hadoop集群部署后相关WEB界面打不开大概原因
集群部署完毕后,查看相关WEB界面,打不开的原因可能如下: 1、可以先去检查LINUX(CentOS7)机器的防火墙是否关闭,命令如下: systemctl status firewalld.service (查看防火墙状态) (如果显示为关闭状态,则进行下一步; 如果显示尚未关闭,则进行关闭并设定 ......
安装hadoop
hadoop:https://blog.csdn.net/weixin_44898710/article/details/109832031 将压缩包上传到服务器 # 上传到/home/software路径 # 设置权限 chmod 755 hadoop-3.2.1.tar.gz # 解压 tar ......
Hadoop 一些脚本总结
1.各个模板分开启动/停止 1.整体启动/停止 HDFS start-dfs.sh / stop-dfs.sh 2.整体启动/停止 YARN start-yarn.sh / stop-yarn.sh 2.各个服务组件逐一启动/停止 1.分别启动/停止 HDFS组件 hdfs --daemon sta ......
Hadoop 配置日志聚集
本文章的前置Hadoop-3.3.6分布式集群搭建步骤 概念: 集群中的每台Hadoop节点的运行都会产生日志,开启日志聚集后,将所有运行日志信息上传到Hadoop HDFS系统上,可以更好的查看运行详情,方便开发及调试。 注意:需要重启NodeManage、ResourceManager和Hist ......
Apache 服务搭建
Apache 一.了解apache Apache(或httpd)是Internet上使用最多的Web服务器技术之一,使用的传输协议是http(Hypertext Transfer Protocol),超文本传输协议,这是一个基于超文本的协议,用于通过网络连接来发送和接受对象。【还有一个是httpds ......
hadoop高可用集群集成hive
hive和hadoop的关系 从上图可以看出实际上外界是通过thrift server这个节点和hadoop的hdfs以及rm进行交互的,中间为driver 因此当我修改完hadoop集群为高可用的时候,hive也需要重新配置环境以下是我hive的全新配置 <configuration> <!-- ......
junit启动异常:org.junit.vintage.engine.descriptor.RunnerTestDescriptor warnAboutUnfilterableRunner
解决方案: 把@Test导包:import org.junit.jupiter.api.Test; 改为:import org.junit.Test; 参考原文链接:https://blog.csdn.net/weixin_44896406/article/details/129020206 ......
Apache Paimon流式湖仓学习交流群成立
Apache Paimon是一个流式数据湖平台。致力于构建一个实时、高效的流式数据湖平台。这个项目采用了先进的流式计算技术,使企业能够实时处理和分析大量数据。Apache Paimon 的核心优势在于它对于大数据生态系统中流式处理的支持,尤其是在高并发和低延迟方面表现出色。 目前业界主流数据湖存储格 ......
java使用hive-jdbc查询超时:java.sql.SQLException: org.apache.thrift.transport.TTransportException: java.net.SocketTimeoutException: Read timed out
java.sql.SQLException: org.apache.thrift.transport.TTransportException: java.net.SocketTimeoutException: Read timed out at org.apache.hive.jdbc.HiveSt ......
Hadoop API 通过租户代理访问 Kerberos 安全 Hadoop 集群
这里记录一些方法,具备下面的特征:
* 通过租户代理访问 Kerberos 认证的 HADOOP 资源
* 获取 FileSystem 对象的技巧:FileSystem.get(URI, configuration)
* 通用 doAs模板
* 通用 hdfsCommand模板,使用 try-wit... ......
SpringBoot Resolved [org.springframework.web.multipart.support.MissingServletRequestPartException: Required request part 'file' is not present]
Resolved [org.springframework.web.multipart.support.MissingServletRequestPartException: Required request part 'file' is not present] ......
centos7-MQTT Server搭建(apache-apollo)搭建和配置
#############################安装apache-apollo############################################### ####官方的安装文档:http://activemq.apache.org/apollo/documentatio ......
Apache SkyWalking 告警配置指南 Apache SkyWalking
来源:https://www.cnblogs.com/heihaozi/p/apache-skywalking-alarm.html Apache SkyWalking Apache SkyWalking是分布式系统的应用程序性能监视工具(Application Performance Manage ......
四、Hadoop-HA 与 Hadoop-federation
一、Hadoop-HA 1.1 Hadoop1.x带来的问题 1、单点故障 a. 每个群集同一时刻只能有一个NameNode,NameNode存在单点故障(SPOF)。 b. 如果该计算机或进程不可用,则整个群集在整个NameNode重新启动或在另一台计算机上启动之前将不可用 c. 如果发生 ......
apache的系统工具类SystemUtils
根据Apache SystemUtils源码中介绍,SystemUtils是java.lang.System的帮助程序。当因安全限制无法读取系统属性时,则会返回null。 <dependency> <groupId>org.apache.commons</groupId> <artifactId>c ......
apache的对象工具类ObjectUtils
org.apache.commons.lang3.ObjectUtils主要是Apache提供的对对象进行操作的工具类。它会使代码变得更加优雅。 判断对象是否为空 boolean isEmpty = ObjectUtils.isEmpty(new Person()); //输出:false bool ......
二、Hadoop集群搭建与学习
Hadoop集群搭建(完全分布式版本) 一、准备工作 三台虚拟机:master、node1、node2 时间同步(3.x版本不用做) ntpdate ntp.aliyun.com 调整时区 3.x版本不用做) cp /usr/share/zoneinfo/Asia/Shanghai /etc/loc ......
apache类工具类ClassUtils
org.apache.commons.lang3.ClassUtils主要是用来获取类的相关信息。 <dependency> <groupId>org.apache.commons</groupId> <artifactId>commons-lang3</artifactId> <version>3 ......
apache时间区间工具类DurationFormatUtils
<dependency> <groupId>org.apache.commons</groupId> <artifactId>commons-lang3</artifactId> <version>3.10</version> </dependency> 计算两个日期相差天数/月数/年数 Date ......
apache的转义工具类StringEscapeUtils
java中转义是指:将某些特殊字符转换为它在特定场景中原来的意义。 转义字符是指无法直接显示的字符。 常见的场景是: 同一字符在不同编码中表达形式不一样。 某些特定的字符在不同环境、不同语言中表达形式不一样。 其中org.apache.commons.lang.StringEscapeUtils已废 ......
idea报错,java: 程序包org.apache.ibatis.annotations不存在
这个错误表明在你的项目中,IDEA 找不到 MyBatis 的注解包 org.apache.ibatis.annotations。这个包通常包含了一些 MyBatis 的注解,比如 @Select、@Insert 等,用于在接口中定义 SQL 查询或操作。解决这个问题的方法有几个: 1.检查 MyB ......