hadoop apache org rpcnosuchprotocolexception
Hadoop on k8s 快速部署进阶精简篇
[TOC] ## 一、概述 前面一篇文章已经很详细的介绍了Hadoop on k8s部署了,这里主要针对部署时可能会调整的地方和注意事项进行讲解,想详细了解详细部署过程可参考我上一篇文章:[Hadoop on k8s 编排部署进阶篇](https://www.cnblogs.com/liugp/p/ ......
大数据面试题集锦-Hadoop面试题(四)-YARN
> 你准备好面试了吗?这里有一些面试中可能会问到的问题以及相对应的答案。如果你需要更多的面试经验和面试题,关注一下"**张飞的猪大数据分享**"吧,公众号会不定时的分享相关的知识和资料。 [TOC] ## 1、为什么会产生 yarn,它解决了什么问题,有什么优势? 1)Yarn最主要的功能就是解决运 ......
Hadoop中YARN集群启停命令
一键启停脚本 # 一键启动yarn集群 start-yarn.sh # 一键关闭yarn集群 stop-yarn.sh 单进程启停 start和stop决定启动和停止可控制resourcemanager、nodemanager、proxyserver三种进程 yarn --daemon start| ......
【问题解决】docker login报错 org.freedesktop.Secret.Error.IsLocked: Cannot create an item in a locked collection
## 问题场景 **环境** ``` docker 24.0.2 社区版 Ubuntu Server 18.04LTS ``` 刚刚执行 `docker login` 登录仓库报错: ```bash hellxz@bigdata:~/dockerTest$ docker login harbor.x ......
hadoop3.3.5完全分布式搭建live nodes只有一个的情况
在我配置完所有结点启动后发现存活的结点只有一个,一开始我以为是主机或者配置的问题,但是都没有用 后来终于找到了问题所在,问题的关键就是xsync脚本分发后再使得三台主机的datanode id一样 修改这个使得三个主机的uuid不同即可 ......
Hadoop3.3.5完全分布式搭建
首先在之前的伪分布基础上克隆两台机器 这样一共三台虚拟机 为这三台虚拟机设置三个不同的静态ip地址和主机名 我的是 billsaifu 192.168.15.130 hadoop1 192.168.15.131 hadoop2 192.168.15.132 静态IP设置 #先进入root vim / ......
Apache POI根据Excel模板填充数据
pom.xml导入依赖 (choose version) 参考 https://mvnrepository.com/ ``` org.apache.poi poi 5.2.3 org.apache.poi poi-ooxml 5.2.3 ``` 点击查看代码 ``` // templateFileP ......
麒麟V10设置Apache对PHP项目路径大小写不敏感,路径报错No such file or directory
参考:https://www.a2hosting.com/kb/developer-corner/apache-web-server/using-the-mod-speling-apache-module/ ......
hadoop2.7. 序列化对象
1.在hadoop中必须序列化对象后,才能进行网络传输,不使用java序列化的原因是:java序列化对象会添加很多信息,造成对象的字节数变大,hadoop序列化为一种高效的序列化 如果在实际生产中,BooleanWrite、IntWrite,Text,FloatWrite等数据类型无法满足要求,就需 ......
Hadoop on k8s 编排部署进阶篇
[TOC] ## 一、概述 `Hadoop` 是一个开源的分布式计算框架,用于处理大规模数据集的存储和处理。它使用了 `Hadoop` 分布式文件系统`(Hadoop Distributed File System,HDFS)`来存储数据,并通过 `MapReduce` 编程模型进行数据处理。 ![ ......
hadoop2.7.2 wordcount案例
1.配置pom.xml <!--依赖--> <dependencies> <dependency> <groupId>junit</groupId> <artifactId>junit</artifactId> <version>4.12</version> </dependency> <depen ......
如何不加锁地将数据并发写入Apache Hudi?
最近一位 Hudi 用户询问他们是否可以在不需要任何锁的情况下同时从多个写入端写入单个 Hudi 表。 他们场景是一个不可变的工作负载。 一般来说对于任何多写入端功能,Hudi 建议启用锁定配置。 但这是一个有趣的问题,我们进行探索并找到了解决方案,因此与更广泛的社区分享。 # 需要并发写入的锁提供 ......
添加SpringBoot应用打包插件时出现Plugin 'org.springframework.boot:spring-boot-maven-plugin:1.0-SNAPSHOT' not found,在控制台出现Cannot reconnect
当时我在练习时添加的springBoot项目的版本为: <parent> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-parent</artifactId> <version>3.1.1</v ......
Hadoop 伪分布模式配置
etc/hadoop/core-site.xml <configuration> <!-- 指定HDFS中namenode地址--> <property> <name>fs.defaultFS</name> <value>hdfs://hadoop01:9000</value> </property ......
hadoop2.7.2上安装hive
hive版本1.21 mysql版本5.6.24 1.解压hive tar -zxf apache-hive-1.2.1-bin.tar.gz -C ../app/ cd ../app/ ln -s apache-hive-1.2.1-bin hive 2.安装mysql 注:参考Linux安装My ......
Debian 12安装配置Apache2.4 + PHP8.0 + MySQL5.7常见问题记录
#### 1. Apache2.4 安装 #### 1.1 浏览器访问提示502错误 > 正常通过`sudo apt install apache2`安装,安装完成通过`systemctl status apache2`查看运行状态正常,但浏览器访问IP地址提示502错误 **解决:**问题大概率出 ......
浅谈Apache与CVE-2023-20860
一、前言 一般情况下,开发者配置鉴权时,可能都会遵循一个原则,就是"优先使用/**认证兜底,明确哪些接口无需认证,而不是明确哪些接口需要认证。 在Spring Controller中,以下两个路由访问是等价的(熟悉spring framework源码的话,会知道其实都是在解析pattern前做了补全 ......
vue项目使用vue2-org-tree (避免重复踩坑踩坑)
1.效果图 ![](https://upload-images.jianshu.io/upload_images/23226621-e60dfc533585b729.png?imageMogr2/auto-orient/strip|imageView2/2/w/808/format/webp) ## ......
Ubuntu 22.04(阿里云服务器)安装配置Apache2.4 + PHP8.0 + MySQL5.7
#### 1 安装Apache2.4 ```shell # Apache在Ubuntu中的名称为Apache2 # 更新apt sudo apt update # 安装apache2 sudo apt install apache2 ``` ![](https://img2023.cnblogs.c ......
vue组织结构插件vue2-org-tree 功能交互
先上效果 可以切换节点颜色,展开与否,坚排或者横排都可以配置。 安装 安装vue2-org-tree, 然后再安装样式 less-loade ``` cnpm install --save-dev less less-loader cnpm install --save-dev vue2-org-t ......
盘点2021年Apache年报中出现的国产项目
**盘点2021年Apache年报中出现的国产项目:ShardingSphere, IoTDB, Carbon Data, Eagle, Kylin, Apisix, DolphinScheduler and Echarts** ### 1、引言 ![image](https://img2023.c ......
Failed to instantiate [org.apache.tomcat.jdbc.pool.DataSource]
问题:项目中没有使用db相关的东西,但是在应用启动时报错:Failed to instantiate [org.apache.tomcat.jdbc.pool.DataSource] 原因: pom.xml 中配置了和数据库相关的,Spring Boot启动默认会加载org.springframew ......
java.lang.ClassNotFoundException: org.springframework.web.context.ContextLoaderListener
java.lang.ClassNotFoundException: org.springframework.web.context.ContextLoaderListener 类没有找到 解决:file -- properties -- 选择Deployment Assembly -- 再点击右边的 ......
Apache Pulsar 分布式部署
#1.Pulsar 简介 Pulsar 是一个支持多租户的、高性能的消息中间件;最初是由 Yahoo 研发的开源,分布式pub-sub系统,现在是Apache的一个顶级开源项目 Pulsar 提供了四种订阅类型,它们可以共存在同一个主题上,以订阅名进行区分: - 独享(exclusive)订阅——一 ......
Hadoop启动报错:org.apache.hadoop.fs.UnsupportedFileSystemException: No FileSystem for scheme "hdfs"
Hadoop启动报错:org.apache.hadoop.fs.UnsupportedFileSystemException: No FileSystem for scheme "hdfs"解决思路以及方法。 ......
mac spark+hive+hadoop 数据分析环境搭建(单机简版)
apache产品下载地址: http://archive.apache.org/dist/ mysql5.6 brew方式安装配置: Icon mysql做为元数据存储使用。 brew search mysql brew install mysql@5.6 配置mysqlhome: export M ......
org.apache.log4j.Logger
Log4j 简介 Log4j 是 Apache 的一个开放源代码项目,通过使用 Log4j ,我们可以控制日志信息输送的目的地是控制台、文件、 GUI 组件、甚至是套接口服 务器、 NT 的事件记录 器、 UNIX Syslog 守护进程等;我们也可以控制每一条日志的输出格式;通过定义每一条日志信息 ......
hadoop集群配置 CentOS7 JDK安装 卸载
1 JDK下载 下载JDK8 下载地址 2 SSH访问需要安装JDK的服务器 3 检查是否有默认安装的JDK java-version 4 卸载自带JDK 4.1 检查系统安装的OpenJDK rpm -qa|grep openjdk -i 4.2 删除以上四项openjdk的安装包并且检查后显示删 ......
Apache Commons IO
Commons IO是Apache Commons的子项目,提供了对IO操作的封装和扩展,包括文件操作、流操作、文件拷贝等,简化了Java IO的使用。 Commons IO 是一个用于处理输入输出的常用 Java 库。它提供了一些常见且有用的实用方法,简化了文件操作、流操作和其它与输入输出相关 ......
Apache Commons IO
Commons IO是Apache Commons的子项目,提供了对IO操作的封装和扩展,包括文件操作、流操作、文件拷贝等,简化了Java IO的使用。 Commons IO 是一个用于处理输入输出的常用 Java 库。它提供了一些常见且有用的实用方法,简化了文件操作、流操作和其它与输入输出相关 ......