Linux下删除大量小文件

来源:互联网 发布:现在的淘宝店好做吗 编辑:程序博客网 时间:2024/06/06 02:06

转自:http://blog.sina.com.cn/s/blog_704836f40100rr1c.html 

在Linux下使用 "rm -rf *" 试图删除非常大量的小文件时,可能会报类似下边的错误:

 

/bin/rm: Argument list too long.

   

    这是因为通配符"*"在执行时会被每个匹配的文件名来替换,例如“rm -rf file1 file2 file3 file4″。

系统只分配了一个比较小的缓冲区用来对这个列表进行排序,如果这个缓冲区满了,则shell不能执行这个命令。

 

    为了解决这个问题,很多人使用find命令来操作。即用find查找每一个文件,然后把文件名一个接一个的传递个rm命令,形式如下:

 

find . -type f -exec rm -v {} \;

 

    我也使用过这种方法,详见本人博文 <<直接使用inode号来删除文件>>

 

    但是这个方法对于数量巨大的文件时非常缓慢,比如我曾经删除过一个目录下的200W+个小文件。经过google找到了这份blog文章: Deleting tons of files in Linux (Argument list too long),参考文中的方法解决了我的问题。

 

    办法就是使用find命令内置的 "-delete" 参数 ,使用这种方法删除文件,速度大概是 2000个文件/秒,速度比之前方法得到极大提高。当然也可以加上 "-print"参数来显示每个删除的文件。

 

find . -type f -delete

find . -type d -print -delete  

   但是我不建议加这个参数,如果你要观察删除文件的速度,我建议使用df -i 命令来查看indoe节点的变化情况。

原创粉丝点击