linux 文件去重
来源:互联网 发布:ai cc2017 mac 中文包 编辑:程序博客网 时间:2024/05/01 12:49
两个文件的交集,并集
前提条件:每个文件中不得有重复行
1. 取出两个文件的并集(重复的行只保留一份)
cat file1 file2 | sort | uniq > file3
2. 取出两个文件的交集(只留下同时存在于两个文件中的文件)
cat file1 file2 | sort | uniq -d > file3
3. 删除交集,留下其他的行
cat file1 file2 | sort | uniq -u > file3
(2)两个文件合并
一个文件在上,一个文件在下
cat file1 file2 > file3
一个文件在左,一个文件在右
paste file1 file2 > file3
(3)一个文件去掉重复的行
sort file |uniq
注意:重复的多行记为一行,也就是说这些重复的行还在,只是全部省略为一行!
sort file |uniq –u
上面的命令可以把重复的行全部去掉,也就是文件中的非重复行!
前提条件:每个文件中不得有重复行
1. 取出两个文件的并集(重复的行只保留一份)
cat file1 file2 | sort | uniq > file3
2. 取出两个文件的交集(只留下同时存在于两个文件中的文件)
cat file1 file2 | sort | uniq -d > file3
3. 删除交集,留下其他的行
cat file1 file2 | sort | uniq -u > file3
(2)两个文件合并
一个文件在上,一个文件在下
cat file1 file2 > file3
一个文件在左,一个文件在右
paste file1 file2 > file3
(3)一个文件去掉重复的行
sort file |uniq
注意:重复的多行记为一行,也就是说这些重复的行还在,只是全部省略为一行!
sort file |uniq –u
上面的命令可以把重复的行全部去掉,也就是文件中的非重复行!
0 0
- linux 文件去重
- linux文件去重
- Linux 文件合并去重
- linux文件合并去重
- linux文件合并、去重
- Linux文件内容去重
- linux文件合并,去重
- <转>linux文件合并,去重
- linux文件合并,去重,分割
- Linux文件合并,去重,分割
- linux文件合并,去重,分割
- linux文件合并、去重、拆分
- linux shell进行文件去重
- Linux文件合并,去重,分割
- linux文件合并、去重、拆分
- 大型文件去重
- lINUX 去重输出
- Linux awk去重
- hadoop相关
- C001:Linux工具-cheat命令:用例子来解释命令
- MFC单文档绘图(一)——窗体分割
- iis7使用ProcDump工具抓取dump
- 使用backbone后jquery mobile中popup不能弹出问题解析
- linux 文件去重
- UIView中frame, bounds, center三个属性的关系
- Java endorsed
- 学习iOS 编程的一些建议:
- strcat函数实现
- log4j.properties
- LeetCode 64 Merge Sorted Array
- linux内核机制之等待队列
- linux网络编程复习