hadoop apache org rpcnosuchprotocolexception

hadoop大数据安装

一、hadoop的安装1、hadoop的安装wget https://archive.apache.org/dist/hadoop/common/hadoop-3.1.3/hadoop-3.1.3.tar.gz2、解压tar -zxvf hadoop-3.1.3.tar.gz -C /opt/mod ......
数据 hadoop

hadoop优化之yarn调优

yarn.nodemanager.resource.memory-mb表示该节点上YARN可使用的物理内存总量,默认是8192(MB),注意,如果你的节点内存资源不够8GB,则需要调减小这个值,而YARN不会智能的探测节点的物理内存总量。 yarn.nodemanager.vmem-pmem-rat ......
hadoop yarn

start-dfs.sh启动hadoop,jps没显示

查看当前系统的名称 [root@master dfs]# cat /etc/hosts 192.168.128.78 hadoop01 查看core-site.xml <property> <name>fs.defaultFS</name> <value>hdfs://hadoop01:9000</ ......
start-dfs hadoop start dfs jps

关于hadoop hive中使用hive分区功能

很多人习惯了使用第三方的工具 去连接hive或者hbase数据库,并且 使用其中的sql编辑器进行失去了语句 的使用来进行数据的分析等一系列的 操作,但是一些shell命令也可以在其中 运行例如: 1. set hive.exec.dynamic.partition=true; 2. set hiv ......
hive 功能 hadoop

七、Hadoop优化

优化1:Combiner 使用之前 使用之后 减少的了reduce 从map拉取数据的过程,提高计算效率。 hadoop 的计算特点:将计算任务向数据靠拢,而不是将数据向计算靠拢。 特点:数据本地化,减少网络io。 首先需要知道,hadoop数据本地化是指的map任务,reduce任务并不具备数据本 ......
Hadoop

apache集合工具类ListUtils

<dependency> <groupId>org.apache.commons</groupId> <artifactId>commons-collections4</artifactId> <version>4.4</version> </dependency> 判断两集合是否相等 List<S ......
ListUtils 工具 apache

apache的序列化工具类SerializationUtils

Java中序列化是指,将Java对象转换为可存储传输的字节序列的过程。 序列化作用: 网络传输:网络可以传输字节化的java对象 数据安全:字节数据,方便在磁盘上存储 便于存储:可以将其存储在磁盘上,以供以后使用 <dependency> <groupId>org.apache.commons</g ......
SerializationUtils 序列 工具 apache

centos7.5 hadoop NAT 静态IP网络环境搭建

1 设置 VMware 网络环境 1. 选择VMNet8 并将子网IP 修改为 192.168.10.0,保证集群ip都在这个网段下 2. 选择NAT 设置,配置NAT的网关为 192.168.10.2 2 设置 windows11 网络环境 1. 打开 控制面板\网络和 Internet\网络连接 ......
静态 centos7 环境 centos hadoop

Apache加密

配置TLS加密的虚拟主机(443/TLS) SSl提供了3中服务,保证数据的安全传输 认证用户和服务器,确保数据发送到正确的客户机和服务器; 加密数据以防止数据中途被窃取; 维护数据的完整性,确保数据在传输过程中不被改变 客户使用https的URL访问Web服务器,要求与Web服务器建立SSL连接。 ......
Apache

Hadoop集群部署后相关WEB界面打不开大概原因

集群部署完毕后,查看相关WEB界面,打不开的原因可能如下: 1、可以先去检查LINUX(CentOS7)机器的防火墙是否关闭,命令如下: systemctl status firewalld.service (查看防火墙状态) (如果显示为关闭状态,则进行下一步; 如果显示尚未关闭,则进行关闭并设定 ......
集群 界面 原因 Hadoop WEB

安装hadoop

hadoop:https://blog.csdn.net/weixin_44898710/article/details/109832031 将压缩包上传到服务器 # 上传到/home/software路径 # 设置权限 chmod 755 hadoop-3.2.1.tar.gz # 解压 tar ......
hadoop

Hadoop 一些脚本总结

1.各个模板分开启动/停止 1.整体启动/停止 HDFS start-dfs.sh / stop-dfs.sh 2.整体启动/停止 YARN start-yarn.sh / stop-yarn.sh 2.各个服务组件逐一启动/停止 1.分别启动/停止 HDFS组件 hdfs --daemon sta ......
脚本 Hadoop

Hadoop 配置日志聚集

本文章的前置Hadoop-3.3.6分布式集群搭建步骤 概念: 集群中的每台Hadoop节点的运行都会产生日志,开启日志聚集后,将所有运行日志信息上传到Hadoop HDFS系统上,可以更好的查看运行详情,方便开发及调试。 注意:需要重启NodeManage、ResourceManager和Hist ......
Hadoop 日志

Apache 服务搭建

Apache 一.了解apache Apache(或httpd)是Internet上使用最多的Web服务器技术之一,使用的传输协议是http(Hypertext Transfer Protocol),超文本传输协议,这是一个基于超文本的协议,用于通过网络连接来发送和接受对象。【还有一个是httpds ......
Apache

hadoop高可用集群集成hive

hive和hadoop的关系 从上图可以看出实际上外界是通过thrift server这个节点和hadoop的hdfs以及rm进行交互的,中间为driver 因此当我修改完hadoop集群为高可用的时候,hive也需要重新配置环境以下是我hive的全新配置 <configuration> <!-- ......
集群 hadoop hive

junit启动异常:org.junit.vintage.engine.descriptor.RunnerTestDescriptor warnAboutUnfilterableRunner

解决方案: 把@Test导包:import org.junit.jupiter.api.Test; 改为:import org.junit.Test; 参考原文链接:https://blog.csdn.net/weixin_44896406/article/details/129020206 ......

Apache Paimon流式湖仓学习交流群成立

Apache Paimon是一个流式数据湖平台。致力于构建一个实时、高效的流式数据湖平台。这个项目采用了先进的流式计算技术,使企业能够实时处理和分析大量数据。Apache Paimon 的核心优势在于它对于大数据生态系统中流式处理的支持,尤其是在高并发和低延迟方面表现出色。 目前业界主流数据湖存储格 ......
学习交流 Apache Paimon

java使用hive-jdbc查询超时:java.sql.SQLException: org.apache.thrift.transport.TTransportException: java.net.SocketTimeoutException: Read timed out

java.sql.SQLException: org.apache.thrift.transport.TTransportException: java.net.SocketTimeoutException: Read timed out at org.apache.hive.jdbc.HiveSt ......

Hadoop API 通过租户代理访问 Kerberos 安全 Hadoop 集群

这里记录一些方法,具备下面的特征: * 通过租户代理访问 Kerberos 认证的 HADOOP 资源 * 获取 FileSystem 对象的技巧:FileSystem.get(URI, configuration) * 通用 doAs模板 * 通用 hdfsCommand模板,使用 try-wit... ......
Hadoop 租户 集群 Kerberos API

SpringBoot Resolved [org.springframework.web.multipart.support.MissingServletRequestPartException: Required request part 'file' is not present]

Resolved [org.springframework.web.multipart.support.MissingServletRequestPartException: Required request part 'file' is not present] ......

centos7-MQTT Server搭建(apache-apollo)搭建和配置

#############################安装apache-apollo############################################### ####官方的安装文档:http://activemq.apache.org/apollo/documentatio ......

Apache SkyWalking 告警配置指南 Apache SkyWalking

来源:https://www.cnblogs.com/heihaozi/p/apache-skywalking-alarm.html Apache SkyWalking Apache SkyWalking是分布式系统的应用程序性能监视工具(Application Performance Manage ......
SkyWalking Apache 指南

四、Hadoop-HA 与 Hadoop-federation

一、Hadoop-HA 1.1 Hadoop1.x带来的问题 1、单点故障 a. 每个群集同一时刻只能有一个NameNode,NameNode存在单点故障(SPOF)。 ​ b. 如果该计算机或进程不可用,则整个群集在整个NameNode重新启动或在另一台计算机上启动之前将不可用 ​ c. 如果发生 ......

apache的系统工具类SystemUtils

根据Apache SystemUtils源码中介绍,SystemUtils是java.lang.System的帮助程序。当因安全限制无法读取系统属性时,则会返回null。 <dependency> <groupId>org.apache.commons</groupId> <artifactId>c ......
SystemUtils 工具 apache 系统

apache的对象工具类ObjectUtils

org.apache.commons.lang3.ObjectUtils主要是Apache提供的对对象进行操作的工具类。它会使代码变得更加优雅。 判断对象是否为空 boolean isEmpty = ObjectUtils.isEmpty(new Person()); //输出:false bool ......
ObjectUtils 对象 工具 apache

二、Hadoop集群搭建与学习

Hadoop集群搭建(完全分布式版本) 一、准备工作 三台虚拟机:master、node1、node2 时间同步(3.x版本不用做) ntpdate ntp.aliyun.com 调整时区 3.x版本不用做) cp /usr/share/zoneinfo/Asia/Shanghai /etc/loc ......
集群 Hadoop

apache类工具类ClassUtils

org.apache.commons.lang3.ClassUtils主要是用来获取类的相关信息。 <dependency> <groupId>org.apache.commons</groupId> <artifactId>commons-lang3</artifactId> <version>3 ......
ClassUtils 工具 apache

apache时间区间工具类DurationFormatUtils

<dependency> <groupId>org.apache.commons</groupId> <artifactId>commons-lang3</artifactId> <version>3.10</version> </dependency> 计算两个日期相差天数/月数/年数 Date ......

apache的转义工具类StringEscapeUtils

java中转义是指:将某些特殊字符转换为它在特定场景中原来的意义。 转义字符是指无法直接显示的字符。 常见的场景是: 同一字符在不同编码中表达形式不一样。 某些特定的字符在不同环境、不同语言中表达形式不一样。 其中org.apache.commons.lang.StringEscapeUtils已废 ......
转义 StringEscapeUtils 工具 apache

idea报错,java: 程序包org.apache.ibatis.annotations不存在

这个错误表明在你的项目中,IDEA 找不到 MyBatis 的注解包 org.apache.ibatis.annotations。这个包通常包含了一些 MyBatis 的注解,比如 @Select、@Insert 等,用于在接口中定义 SQL 查询或操作。解决这个问题的方法有几个: 1.检查 MyB ......
annotations 程序 apache ibatis idea
共1090篇  :5/37页 首页上一页5下一页尾页