526互联

hdfs开启回收站(废纸篓)

发布时间 2023-05-25 20:10:03作者: huan1993

1、背景

我们知道，在mac系统上删除文件，一般情况下是可以进入 废纸篓里的，如果此时我们误删除了，还可以从 废纸篓中恢复过来。那么在hdfs中是否存在类似mac上的废纸篓这个功能呢？答案是存在的。

废纸篓

2、开启hdfs trash功能

  • 当我们启用 Trash 功能后，从HDFS中删除某些内容时， 文件或目录不会立即被清除，而是会被移动到回收站目录中(/user/${username}/.Trash/current)。

小知识点： 在 Trash 中还存在一个检查点，目录路径大概为/user/${username}/.Trash/current/{检查点创建的时间戳}，检查点用于存储该检查点创建之前删除的所有文件或目录。

2.1 core-site 配置

修改 core-site.xml文件

<!-- 文件垃圾桶保存时间，单位秒 -->
<property>
    <name>fs.trash.interval</name>
    <value>1440</value>
</property>
<!-- 前后2次检查点创建的时间间隔，单位分钟，该值需要<=fs.trash.interval的值，新的检查点被创建后，旧的检查点就会被系统删除  -->
<property>
    <name>fs.trash.checkpoint.interval</name>
    <value>1440</value>
</property>

每个节点的 core-site.xml文件都需要修改。

2.2 启动hdfs

[hadoopdeploy@hadoop01 sbin]$ start-dfs.sh
Starting namenodes on [hadoop01]
Starting datanodes
Starting secondary namenodes [hadoop03]
[hadoopdeploy@hadoop01 sbin]$

2.3 删除操作-进入.Trash目录

[hadoopdeploy@hadoop01 sbin]$ hadoop fs -ls /
[hadoopdeploy@hadoop01 sbin]$ hadoop fs -put start-dfs.sh /start-dfs.sh
[hadoopdeploy@hadoop01 sbin]$ hadoop fs -ls /
Found 1 items
-rw-r--r--   2 hadoopdeploy supergroup       5170 2023-05-22 22:36 /start-dfs.sh
[hadoopdeploy@hadoop01 sbin]$ hadoop fs -rm /start-dfs.sh
2023-05-22 22:36:42,612 INFO fs.TrashPolicyDefault: Moved: 'hdfs://hadoop01:8020/start-dfs.sh' to trash at: hdfs://hadoop01:8020/user/hadoopdeploy/.Trash/Current/start-dfs.sh
[hadoopdeploy@hadoop01 sbin]$ hadoop fs -ls /
Found 1 items
drwx------   - hadoopdeploy supergroup          0 2023-05-22 22:36 /user
[hadoopdeploy@hadoop01 sbin]$

删除操作-进入.Trash目录

2.4 直接删除-不进入.Trash目录

[hadoopdeploy@hadoop01 sbin]$ hadoop fs -ls /
Found 1 items
drwx------   - hadoopdeploy supergroup          0 2023-05-22 22:36 /user
[hadoopdeploy@hadoop01 sbin]$ hadoop fs -put start-dfs.sh /start-dfs.sh
[hadoopdeploy@hadoop01 sbin]$ hadoop fs -ls /
Found 2 items
-rw-r--r--   2 hadoopdeploy supergroup       5170 2023-05-22 22:41 /start-dfs.sh
drwx------   - hadoopdeploy supergroup          0 2023-05-22 22:36 /user
[hadoopdeploy@hadoop01 sbin]$ hadoop fs -rm -skipTrash /start-dfs.sh
Deleted /start-dfs.sh
[hadoopdeploy@hadoop01 sbin]$ hadoop fs -ls /
Found 1 items
drwx------   - hadoopdeploy supergroup          0 2023-05-22 22:36 /user
[hadoopdeploy@hadoop01 sbin]$

直接删除-不进入.Trash目录