linux文件合併，去重

原文轉自：

http://www.2cto.com/os/201108/100617.html

 

(1)兩個文件的交集，並集
前提條件：每個文件中不得有重複行
1. 取出兩個文件的並集(重複的行只保留一份)
cat file1 file2 | sort | uniq > file3
2. 取出兩個文件的交集(只留下同時存在於兩個文件中的文件)
cat file1 file2 | sort | uniq -d > file3
3. 刪除交集，留下其他的行
cat file1 file2 | sort | uniq -u > file3
(2)兩個文件合併
一個文件在上，一個文件在下
cat file1 file2 > file3
一個文件在左，一個文件在右
paste file1 file2 > file3
(3)一個文件去掉重複的行
sort file |uniq
注意：重複的多行記爲一行，也就是說這些重複的行還在，只是全部省略爲一行！
sort file |uniq –u
上面的命令可以把重複的行全部去掉，也就是文件中的非重複行！