awk、grep、sed是linux操作文本的三大利器,合稱文本三劍客,也是必須掌握的linux命令之一。三者的功能都是處理文本,但側重點各不相同,其中屬awk功能最強大,但也最複雜。grep更適合單純的查找或匹配文本,sed更適合編輯匹配到的文本,awk更適合格式化文本,對文本進行較複雜格式處理。
1、grep
1.1 什麼是grep和egrep
Linux系統中grep命令是一種強大的文本搜索工具,它能使用正則表達式搜索文本,並把匹配的行打印出來(匹配到的標紅)。grep全稱是Global Regular Expression Print,表示全局正則表達式版本,它的使用權限是所有用戶。
1.2 使用grep
1.2.1 命令格式
grep
[option] pattern
file
1.2.2 命令功能
用於過濾/搜索的特定字符。可使用正則表達式能多種命令配合使用,使用上十分靈活。
1.2.3 命令參數
常用參數已加粗
- -A<顯示行數>:除了顯示符合範本樣式的那一列之外,並顯示該行之後的內容。
- -B<顯示行數>:除了顯示符合樣式的那一行之外,並顯示該行之前的內容。
- -C<顯示行數>:除了顯示符合樣式的那一行之外,並顯示該行之前後的內容。
- -c:統計匹配的行數
- -e :實現多個選項間的邏輯or 關係
- -E:擴展的正則表達式
- -f FILE:從FILE獲取PATTERN匹配
- -F :相當於fgrep
- -i --ignore-case #忽略字符大小寫的差別。
- -n:顯示匹配的行號
- -o:僅顯示匹配到的字符串
- -q: 靜默模式,不輸出任何信息
- -s:不顯示錯誤信息。
- -v:顯示不被pattern 匹配到的行,相當於[^] 反向匹配
- -w :匹配 整個單詞
1.3 grep實戰演示
對於本次示例的test
cat test
aaa
bbbb
aaabbbb
AAAAaaaa
BBBBAASDADDSAaabb
cat test | grep -A2 b
bbbb
aaabbbb
AAAAaaaa
BBBBAASDADDSAaabb
查找匹配"AAA"或者"bbb"的字段
$ cat test | grep -e AAA -e bbb
bbbb
aaabbbb
AAAAaaaa
反向匹配,查找非這段匹配的字符
$ cat test | grep -v BA
aaa
bbbb
aaabbbb
AAAAaaaa
顯示匹配到的行數
$ cat test | grep -c aa
4
2、正則表達式
2.1 認識正則
(1)介紹
正則表達式應用廣泛,在絕大多數的編程語言都可以完美應用,在Linux中,也有着極大的用處。
使用正則表達式,可以有效的篩選出需要的文本,然後結合相應的支持的工具或語言,完成任務需求。
在本篇博客中,我們使用grep/egrep來完成對正則表達式的調用
(2)正則表達式類型
正則表達式可以使用正則表達式引擎實現,正則表達式引擎是解釋正則表達式模式並使用這些模式匹配文本的基礎軟件。
在Linux中,常用的正則表達式有:
- POSIX 基本正則表達式(BRE)引擎
- POSIX 擴展正則表達式(BRE)引擎
2.2 基本正則表達式
2.2.1 匹配字符
(1)格式
- . 匹配任意單個字符,不能匹配空行
- [] 匹配指定範圍內的任意單個字符
- [^] 取反
- [:alnum:] 或 [0-9a-zA-Z]
- [:alpha:] 或 [a-zA-Z]
- [:upper:] 或 [A-Z]
- [:lower:] 或 [a-z]
- [:blank:] 空白字符(空格和製表符)
- [:space:] 水平和垂直的空白字符(比[:blank:]包含的範圍廣)
- [:cntrl:] 不可打印的控制字符(退格、刪除、警鈴...)
- [:digit:] 十進制數字 或[0-9]
- [:xdigit:]十六進制數字
- [:graph:] 可打印的非空白字符
- [:print:] 可打印字符
- [:punct:] 標點符號
(2)演示
$ cat test
aaa
bbbb
aaabbbb
AAAAaaaa
BBBBAASDADDSAaabb
abc
123
//[
.
匹配任意單個字符,不能匹配空行
$ grep . test
aaa
bbbb
aaabbbb
AAAAaaaa
BBBBAASDADDSAaabb
abc
123
//[
[]
匹配指定範圍內的任意單個字符
$ grep [a/] test
aaa
aaabbbb
AAAAaaaa
BBBBAASDADDSAaabb
abc
//[
[^]
取反
$ grep [^abc] test
AAAAaaaa
BBBBAASDADDSAaabb
123
//[
2.2.2 配置次數
(1)格式
- 匹配前面的字符任意次,包括0次*,貪婪模式:儘可能長的匹配
- .* 任意長度的任意字符,不包括0次
- ? 匹配其前面的字符0 或 1次
- + 匹配其前面的字符至少1次
- {n} 匹配前面的字符n次
- {m,n} 匹配前面的字符至少m 次,至多n次
- {,n} 匹配前面的字符至多n次
- {n,} 匹配前面的字符至少n次
(2) 演示
$ cat test
aaa
bbbb
aaabbbb
AAAAaaaa
BBBBAASDADDSAaabb
abc
123
//[
ggle
google
ggole
google
gooooooooooooooooooooooogle
匹配前面的字符任意次,包括0次
grep "g[o]*gle" test
ggle
google
google
gooooooooooooooooooooooogle
.* 任意長度的任意字符,不包括0次
grep "g[o].*gle" test
google
google
gooooooooooooooooooooooogle
? 匹配其前面的字符0 或 1次
grep "g[o]\?gle" test
ggle
2.2.3 位置錨定:定位出現的位置
(1)格式
- ^ 行首錨定,用於模式的最左側
- $ 行尾錨定,用於模式的最右側
- ^PATTERN$,用於模式匹配整行
- ^$ 空行
- ^[[:space:]].*$ 空白行
- < 或 \b 詞首錨定,用於單詞模式的左側
- > 或 \b 詞尾錨定;用於單詞模式的右側
- <PATTERN>
(2)演示
$ cat test
aaa
bbbb
aaabbbb
AAAAaaaa
BBBBAASDADDSAaabb
abc
123
//[
ggle
google
ggole
google
gooooooooooooooooooooooogle
^
行首錨定,匹配最左邊的字符
grep ^a test
aaa
aaabbbb
abc
$
行尾錨定,匹配最右邊的字符
grep b$ test
bbbb
aaabbbb
BBBBAASDADDSAaabb
匹配以a爲首,b爲結尾的語段
$ grep "^a.*b$" test
aaabbbb