hdfs
关于hdfs删除数据之后9870报错进入safe mode
1.运行 fsck 命令：首先，运行 Hadoop 的 fsck 命令来检查文件系统的完整性并标记出已删除的文件。在终端或命令提示符中执行以下命令： hdfs fsck / -files -blocks -locations -delete 上述命令会运行 fsck 并删除标记为已删除的文件。这将清 ......
每日总结(hdfs文件导入到hive表)
1 CREATE TABLE employees ( 2 id INT, 3 name STRING, 4 age INT, 5 salary FLOAT 6 ) 7 ROW FORMAT DELIMITED 8 FIELDS TERMINATED BY ',' 9 STORED AS TEXTFI ......
Windows访问Kerberos认证HDFS web
我们可以通过Window访问keberos安全认证的HDFS WebUI，如果Windows客户端没有进行kerberos主体认证会导致在HDFS WebUI中看不到HDFS目录，这时需要我们在Window客户端进行Kerberos主体认证，在Window中进行Kerberos认证时可以使用Kerb ......
HDFS高可用架构
1 HDFS高可用架构原理1.1 HDFS的基本架构NameNode负责响应客户端的请求，负责管理整个文件系统的元数据HDFS 的读、写操作都必须向 NameNode 申请，元数据非常关键负责维持文件副本的数据SecondNameNode是为了帮助 NameNode 合并编辑日志，减少 NameNo ......
hdfs副本数设置
1.调整HDFS副本数 ##该命令只会设置当前已有的文件副本数，不会改默认副本数参数 hadoop fs -setrep -R -w 5 /corelogs 2.查看HDFS当前文件副本数 hadoop fs -ls /corelogs ##显示的第二个参数即为当前副本数 ......
HDFS入门
HDFS的块大小设计原则 HDFS常用shell命令 HDFS的读写流程 第一章 HDFS概述 1.1 HDFS产生背景和定义 1.1.1 产生背景 大数据时代，需要一种系统来管理多台机器上的文件，这就是分布式文件管理系统，HDFS就是分布式文件管理系统的一种 1.1.2 HDFS定义 HDFS(H ......
使用Python调用Hadoop Hdfs的API
一、Java调用hdfs的api import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.FileSystem; import org.apache.hadoop.fs.Path; import org.jun ......
【Flink系列十八】HDFS_DELEGATION_TOKEN过期的问题解决汇总
排查HDFS_DELEGATION_TOKEN过期问题，以及问题汇总。排查分为三种情况，Spark框架自身的问题，Hadoop全家桶的问题，开发者通过Hive,HDFS,HBASE访问HDFS的问题。 ......
FAILED: SemanticException Unable to determine if hdfs://localhost.localdomain:9000/root/software/apache-hive-3.1.2-bin问题的解决
# 问题描述 在hive数据库里面，使用select语句对表的数据进行查找，就出现了这个错误:  # 问题解决 这 ......
HDFS读流程
步骤1：FileSystem通过rpc调用open()方法 步骤2：NameNode校验请求文件的路径，权限等问题，校验成功后返回FSDateInputsteam 步骤3：用户向NameNode请求文件与block的关系，通过映射获取文件block块位置 步骤4：通过机架感知策略就近原则，获取最近b ......
HDFS写流程(微观层面)
解释: 步骤1：客户端首先将数据加载到内存中，变成很多的package大小默认为64K，package由两个部分组成，header里面包含了很多的位置信息， 例如属于哪个block，在block什么位置，data部分是存储数据 步骤2：通过FSDateOutputStream将block运输到数据管 ......
flume采集文件到HDFS案例
（1）：采集需求：比如业务系统使用log4j生成的日志，日志内容不断增加，需要把追加到日志文件中的数据实时采集到hdfs （2）：根据需求，首先定义以下3大要素 采集源，即source——监控文件内容更新 : exec ‘tail -F file’ 下沉目标，即sink——HDFS文件系统 : hd ......
flume采集目录到HDFS案例：
（1）采集需求：某服务器的某特定目录下，会不断产生新的文件，每当有新文件出现，就需要把文件采集到HDFS中去 （2）根据需求，首先定义以下3大要素 a）：采集源，即source——监控文件目录 : spooldir b）：下沉目标，即sink——HDFS文件系统 : hdfs sink c）：sou ......
HDFS的shell命令（Hadoop fs [参数]）
hadoop fs -ls file:/// 操作linux本地文件系统 hadoop fs -ls hdfs://node1:8020/ 操作HDFS分布式文件系统 hadoop fs -ls / 直接根目录，没有指定协议 将加载读取fs.defaultFS值 标准的hadoop上传文件命令： h ......
hdfs常用命令
## 显示文件目录 hadoop fs -ls -R /user/hadoop hadoop fs -lsr /user/hadoop hadoop fs -ls /user/hadoop ## 创建目录 hadoop fs -mkdir -p /user/nima/nima hadoop fs - ......
HDFS 读写
参考链接：http://www.cnblogs.com/laov/p/3434917.html ## 写流程： ``` 比如你有一个100M的文件。则写的流程大致如下。 a,Client 将File 分块，分别为block1,和block2 （64M，和36M） b,Client 向NameNode ......
hdfs和yarn访问web UI界面
# HDFS（9870或者50070） 总算是访问成功啦！  /爆哭中....../ # YARN  本来应该是这样的：  (namenode|sec ......
在VMware虚拟机集群上部署HDFS集群
本篇博客跟大家分享一下如何在VMware虚拟机集群上部署HDFS集群 一·、下载hadoop安装包 进入官网：https://hadoop.apache.org 下载hadoop安装包 由于Apache Hadoop是国外网址，下载安装包对于网络要求较高 二、上传压缩包，进行解压 在进行解压之前，保 ......
Hadoop部署HDFS集群 启动后只有node1有进程，node2和node3没有反应
最近有人向我询问说：为什么他的HDEF集群一键启动时只有node1进程有反应，node2和node3没有反应 我看完他的问题之后，想到了自己在部署时也遇到了同样的问题，现在来分享一下自己的解决方案 出现这种情况的主要原因是：workers文件没有配置好 解决方法： 输入：vim /export/se ......
大数据之HDFS组件
HDFS是Hadoop三大组件(HDFS、MapReduce、YARN)之一 全称是：Hadoop Distributed File System（Hadoop分布式文件系统） 是Hadoop技术栈内提供的分布式数据存储解决方案 可以在多台服务器上构建存储集群，存储海量的数据 ......
HDFS shell 常用命令
创建多级目录（-p）： hadoop fs -mkdir -p /test/a/b 展示目录： hadoop fs -ls / 递归展示： hadoop fs -ls -R / 从HDFS上下载文件到本地： hadoop fs -get /test/a/b/h.txt hadoop fs -copy ......
WARNING: Use of this script to execute namenode is deprecated. WARNING: Attempting to execute replacement "hdfs namenode" instead.问题的解决
# 问题描述 在我使用这个命令进行hdfs初始化时： ``` hadoop-daemon.sh start namenode ``` 爆出了这样的警告 # 问题解决 发现是这个命令现在已经有一点过时，需要换成这个命令才行： ``` hdfs namenode ``` ......
HDFS工作流程与机制
# 1、各个角色的职责  主角色：NameNode  # HDFS应用场景 ![](https://img2023 ......