HDFS系列(3) | HDFS的Shell常用命令大全

此次更新的的博文是關於HDFS的shell的常用命令，希望大家能夠喜歡

---

一. 基本語法

bin/hadoop fs 具體命令 or bin/hdfs dfs 具體命令 都是可以的。

二. 命令大全

在虛擬機內輸入：bin/hdfs dfs

[root@hadoop001 hadoop-2.7.2]# bin/hdfs dfs

下面爲顯示的內容：

Usage: hadoop fs [generic options]
	[-appendToFile <localsrc> ... <dst>]
	[-cat [-ignoreCrc] <src> ...]
	[-checksum <src> ...]
	[-chgrp [-R] GROUP PATH...]
	[-chmod [-R] <MODE[,MODE]... | OCTALMODE> PATH...]
	[-chown [-R] [OWNER][:[GROUP]] PATH...]
	[-copyFromLocal [-f] [-p] [-l] <localsrc> ... <dst>]
	[-copyToLocal [-p] [-ignoreCrc] [-crc] <src> ... <localdst>]
	[-count [-q] [-h] <path> ...]
	[-cp [-f] [-p | -p[topax]] <src> ... <dst>]
	[-createSnapshot <snapshotDir> [<snapshotName>]]
	[-deleteSnapshot <snapshotDir> <snapshotName>]
	[-df [-h] [<path> ...]]
	[-du [-s] [-h] <path> ...]
	[-expunge]
	[-find <path> ... <expression> ...]
	[-get [-p] [-ignoreCrc] [-crc] <src> ... <localdst>]
	[-getfacl [-R] <path>]
	[-getfattr [-R] {-n name | -d} [-e en] <path>]
	[-getmerge [-nl] <src> <localdst>]
	[-help [cmd ...]]
	[-ls [-d] [-h] [-R] [<path> ...]]
	[-mkdir [-p] <path> ...]
	[-moveFromLocal <localsrc> ... <dst>]
	[-moveToLocal <src> <localdst>]
	[-mv <src> ... <dst>]
	[-put [-f] [-p] [-l] <localsrc> ... <dst>]
	[-renameSnapshot <snapshotDir> <oldName> <newName>]
	[-rm [-f] [-r|-R] [-skipTrash] <src> ...]
	[-rmdir [--ignore-fail-on-non-empty] <dir> ...]
	[-setfacl [-R] [{-b|-k} {-m|-x <acl_spec>} <path>]|[--set <acl_spec> <path>]]
	[-setfattr {-n name [-v value] | -x name} <path>]
	[-setrep [-R] [-w] <rep> <path> ...]
	[-stat [format] <path> ...]
	[-tail [-f] <file>]
	[-test -[defsz] <path>]
	[-text [-ignoreCrc] <src> ...]
	[-touchz <path> ...]
	[-truncate [-w] <length> <path> ...]
	[-usage [cmd ...]]

三. 常用命令實操

1. 常用命令及其作用對比表

序號	命令	作用
1	-help	輸出這個命令參數
2	-ls	顯示目錄信息
3	-mkdir	在HDFS上創建目錄
4	-moveFromLocal	從本地剪切粘貼到HDFS
5	-appendToFile	追加一個文件到已經存在的文件末尾
6	-cat	顯示文件內容
7	-chgrp 、-chmod、-chown	Linux文件系統中的用法一樣，修改文件所屬權限
8	-copyFromLocal	從本地文件系統中拷貝文件到HDFS路徑去
9	-copyToLocal	從HDFS拷貝到本地
10	-cp	從HDFS的一個路徑拷貝到HDFS的另一個路徑
11	-mv	在HDFS目錄中移動文件
12	-get	等同於copyToLocal，就是從HDFS下載文件到本地
13	-getmerge	合併下載多個文件
14	-put	等同於copyFromLocal
15	-tail	顯示一個文件的末尾
16	-rm	刪除文件或文件夾
17	-rmdir	刪除空目錄
18	-du	統計文件夾的大小信息
19	-setrep	設置HDFS中文件的副本數量
20	- expunge	清空HDFS垃圾桶

2. 常用命令的實際操作

• 1. -help：輸出這個命令參數

[bigdata@hadoop001 hadoop-2.7.2]$ hadoop fs -help rm

• 2.-ls: 顯示目錄信息

[bigdata@hadoop001 hadoop-2.7.2]$ hadoop fs -ls /

• 3. -mkdir：在HDFS上創建目錄

[bigdata@hadoop001 hadoop-2.7.2]$ hadoop fs -mkdir -p /sanguo/shuguo

• 4.-moveFromLocal：從本地剪切粘貼到HDFS

[bigdata@hadoop001 hadoop-2.7.2]$ touch kongming.txt

[bigdata@hadoop001 hadoop-2.7.2]$ hadoop fs  -moveFromLocal  ./kongming.txt  /sanguo/shuguo

• 5.-appendToFile：追加一個文件到已經存在的文件末尾

[bigdata@hadoop001 hadoop-2.7.2]$ vim liubei.txt
輸入
bu wen bu huo
[bigdata@hadoop001 hadoop-2.7.2]$ hadoop fs -appendToFile liubei.txt /sanguo/shuguo/kongming.txt

• 6.-cat：顯示文件內容

[bigdata@hadoop001 hadoop-2.7.2]$ hadoop fs -cat /sanguo/shuguo/kongming.txt

• 7. -chgrp 、-chmod、-chown：Linux文件系統中的用法一樣，修改文件所屬權限

hadoop fs  -chmod  666  /sanguo/shuguo/kongming.txt

hadoop fs  -chown  bigdata:bigdata   /sanguo/shuguo/kongming.txt

• 8. -copyFromLocal：從本地文件系統中拷貝文件到HDFS路徑去

hadoop fs -copyFromLocal README.txt /

• 9.-copyToLocal：從HDFS拷貝到本地

hadoop fs -copyToLocal /sanguo/shuguo/kongming.txt ./

• 10. -cp ：從HDFS的一個路徑拷貝到HDFS的另一個路徑

hadoop fs -cp /sanguo/shuguo/kongming.txt /zhuge.txt

• 11.-mv：在HDFS目錄中移動文件

hadoop fs -mv /zhuge.txt /sanguo/shuguo/

• 12.-get：等同於copyToLocal，就是從HDFS下載文件到本地

hadoop fs -get /sanguo/shuguo/kongming.txt ./

• 13.-getmerge：合併下載多個文件，比如HDFS的目錄 /user/bigdata/test下有多個文件:log.1, log.2,log.3,.

hadoop fs -getmerge /user/bigdata/test/*  ./zaiyiqi.txt

• 14. -put：等同於copyFromLocal

hadoop fs -put ./zaiyiqi.txt /user/bigdata/test/

• 15. -tail：顯示一個文件的末尾

hadoop fs -tail /sanguo/shuguo/kongming.txt

• 16.-rm：刪除文件或文件夾

hadoop fs -rm /user/bigdata/test/jinlian2.txt

• 17. -rmdir：刪除空目錄

hadoop fs -mkdir /test

hadoop fs -rmdir /test

• 18. -du 統計文件夾的大小信息

[bigdata@hadoop001 hadoop-2.7.2]$ hadoop fs -du -s -h /user/bigdata/test
2.7 K  /user/atguigu/test

[bigdata@hadoop001 hadoop-2.7.2]$ hadoop fs -du  -h /user/bigdata/test
1.3 K  /user/bigdata/test/README.txt
15     /user/bigdata/test/jinlian.txt
1.4 K  /user/bigdata/test/zaiyiqi.txt

• 19. -setrep：設置HDFS中文件的副本數量

hadoop fs -setrep 10 /sanguo/shuguo/kongming.txt

這裏設置的副本數只是記錄在NameNode的元數據中，是否真的會有這麼多副本，還得看DataNode的數量。因爲目前只有3臺設備，最多也就3個副本，只有節點數的增加到10臺時，副本數才能達到10。

• 20. - expunge ：清空hdfs垃圾桶

hdfs dfs  -expunge

---

本次HDFS的常用shell命令使用就分享到這裏了,後續博主還會爲大家帶來HDFS的其他相關知識點。小夥伴們記得持續關注博主呀！！！