sed grep awk之间比较整理

来源：互联网发布：淘宝申请售后能退钱吗编辑：程序博客网时间：2024/06/06 03:15

正则表达式基础

在最简单的情况下，一个正则表达式看上去就是一个普通的查找串。例如，正则表达式"testing"中没有包含任何元字符，，它可以匹配"testing"和"123testing"等字符串，但是不能匹配"Testing"。

要想真正的用好正则表达式，正确的理解元字符是最重要的事情。下表列出了所有的元字符和对它们的一个简短的描述。

元字符
描述

.
匹配任何单个字符。例如正则表达式r.t匹配这些字符串：rat、rut、r t，但是不匹配root。 $
匹配行结束符。例如正则表达式weasel$ 能够匹配字符串"He's a weasel"的末尾，但是不能匹配字符串"They are a bunch of weasels."。 ^
匹配一行的开始。例如正则表达式^When in能够匹配字符串"When in the course of human events"的开始，但是不能匹配"What and When in the"。*
匹配0或多个正好在它之前的那个字符。例如正则表达式.*意味着能够匹配任意数量的任何字符。\
这是引用府，用来将这里列出的这些元字符当作普通的字符来进行匹配。例如正则表达式\$被用来匹配美元符号，而不是行尾，类似的，正则表达式\.用来匹配点字符，而不是任何字符的通配符。[ ]
[c1-c2]
[^c1-c2]
匹配括号中的任何一个字符。例如正则表达式r[aou]t匹配rat、rot和rut，但是不匹配ret。可以在括号中使用连字符-来指定字符的区间，例如正则表达式[0-9]可以匹配任何数字字符；还可以制定多个区间，例如正则表达式[A-Za-z]可以匹配任何大小写字母。另一个重要的用法是“排除”，要想匹配除了指定区间之外的字符——也就是所谓的补集——在左边的括号和第一个字符之间使用^字符，例如正则表达式[^269A-Z] 将匹配除了2、6、9和所有大写字母之外的任何字符。\< \>
匹配词（word）的开始（\<）和结束（\>）。例如正则表达式\<the能够匹配字符串"for the wise"中的"the"，但是不能匹配字符串"otherwise"中的"the"。注意：这个元字符不是所有的软件都支持的。
将

和之间的表达式定义为“组”（group），并且将匹配这个表达式的字符保存到一个临时区域（一个正则表达式中最多可以保存9个），它们可以用\1 到\9 的符号来引用。|
将两个匹配条件进行逻辑“或”（Or）运算。例如正则表达式(him|her) 匹配"it belongs to him"和"it belongs to her"，但是不能匹配"it belongs to them."。注意：这个元字符不是所有的软件都支持的。+
匹配1或多个正好在它之前的那个字符。例如正则表达式9+匹配9、99、999等。注意：这个元字符不是所有的软件都支持的。?
匹配0或1个正好在它之前的那个字符。注意：这个元字符不是所有的软件都支持的。\{i\}
\{i,j\}
匹配指定数目的字符，这些字符是在它之前的表达式定义的。例如正则表达式A[0-9]\{3\} 能够匹配字符"A"后面跟着正好3个数字字符的串，例如A123、A348等，但是不匹配A1234。而正则表达式[0-9]\{4,6\} 匹配连续的任意4个、5个或者6个数字字符。注意：这个元字符不是所有的软件都支持的。

正则表达式语法支持情况

命令或环境.[ ]^$\{ \}?+|( )vi X X X X X Visual C++ X X X X X awk X X X X X X X X sed X X X X X X Tcl X X X X X X X X X ex X X X X X X grep X X X X X X egrep X X X X X X X X X fgrep X X X X X perl X X X X X X X X X

个人比较喜欢用awk，但是awk是不支持的

\{\} 的。不能强求。(可以用sed配合）

说明下 | 的用法，匹配多个正则式或者的关系。

awk '{if ($1 ~ /abc|123/)print $1}'

如果$1是abc或者是123就打印出来。

节选：http://blog.chinaunix.net/space.php?uid=9078996&do=blog&id=2010308

linux下写shell脚本基本上都会或多或少的处理一些琐碎的文本处理，这其中就会使用到不同的文本处理工具或命令，与windows下的batch脚本相比，linux的shell本身也是有一些字符处理的能力的，但是比较难记和使用，而且功能不够强大，使用起来不是很舒服。下面来介绍一下linux中常用的几个文本处理工具：

1 grep 命令

grep [-acivn] "searchstr" 【filename】

参数：

-a 在二进制文件中以文本形式搜索

-c 计算并返回查到到的此数【c代表count】

-i 忽略大小写匹配【i代表ignore case】

-v 反向输出，仅输出与搜索字符不匹配的内容

-n 输出结果的时候同时输出在原文件内的行号

-e 使用扩展正则模式【e代表expand】

"searchstr"

可以是具体的字符串，也可以是正则表达式，当使用正则时可以配合-e参数

filename

指定搜索的原内容，是可选项，不选时默认以当前目录为参数，还可以通过管道命令来传输

◎语法: grep [options]
PATTERN [FILE...]
grep用以在file内文中比对相对应的部分，或是当没有指定档案时，
由标准输入中去比对。在预设的情况下，grep会将符合样式的那一行列出。

         此外，还有两个程式是grep的变化型，egrep及fgrep。
         其中egrep就等同於grep -E ，fgrep等同於grep -F 。

◎参数
    1. -A NUM，--after-context=NUM
               除了列出符合行之外，并且列出後NUM行。

         ex:   $ grep -A 1 panda file
               (从file中搜寻有panda样式的行，并显示该行的後1行)

    2. -a或--text
               grep原本是搜寻文字档，若拿二进位的档案作为搜寻的目标，
               则会显示如下的讯息: Binary file 二进位档名 matches 然後结束。

               若加上-a参数则可将二进位档案视为文字档案搜寻，
               相当於--binary-files=text这个参数。

         ex:   (从二进位档案mv中去搜寻panda样式)
               (错误!!!)
               $ grep panda mv
               Binary file mv matches
               (这表示此档案有match之处，详见--binary-files=TYPE )
               $
               (正确!!!)
               $ grep -a panda mv

    3. -B NUM，--before-context=NUM
               与 -A NUM 相对，但这此参数是显示除符合行之外
               并显示在它之前的NUM行。

         ex:   (从file中搜寻有panda样式的行，并显示该行的前1行)
               $ grep -B 1 panda file

    4. -C [NUM], -NUM, --context[=NUM]
               列出符合行之外并列出上下各NUM行，预设值是2。

         ex:   (列出file中除包含panda样式的行外并列出其上下2行)
               (若要改变预设值，直接改变NUM即可)
               $ grep -C[NUM]  panda file

    5. -b, --byte-offset
               列出样式之前的内文总共有多少byte ..

          ex:  $ grep -b  panda file
       显示结果类似於:
         0:panda
        66:pandahuang
       123:panda03

    6. --binary-files=TYPE
               此参数TYPE预设为binary(二进位)，若以普通方式搜寻，只有2种结果:
                 1.若有符合的地方：显示Binary file 二进位档名 matches
                 2.若没有符合的地方：什麽都没有显示。

               若TYPE为without-match，遇到此参数，
               grep会认为此二进位档案没有包含任何搜寻样式，与-I 参数相同。

               若TPYE为text, grep会将此二进位档视为text档案，与-a 参数相同。

     Warning: --binary-files=text 若输出为终端机，可能会产生一些不必要的输出。

    7. -c, --count
       不显示符合样式行，只显示符合的总行数。
       若再加上-v,--invert-match，参数显示不符合的总行数。

    8. -d ACTION, --directories=ACTION
               若输入的档案是一个资料夹，使用ACTION去处理这个资料夹。
       预设ACTION是read(读取)，也就是说此资料夹会被视为一般的档案；
       若ACTION是skip(略过)，资料夹会被grep略过：
       若ACTION是recurse(递)，grep会去读取资料夹下所有的档案，
       此相当於-r 参数。

    9.  -E, --extended-regexp
       采用规则表示式去解释样式。

   10.  -e PATTERN, --regexp=PATTERN
       把样式做为一个partern，通常用在避免partern用-开始。

   11.  -f FILE, --file=FILE
       事先将要搜寻的样式写入到一个档案，一行一个样式。
       然後采用档案搜寻。
       空的档案表示没有要搜寻的样式，因此也就不会有任何符合。

   ex: (newfile为搜寻样式档)
       $grep -f newfile file

   12.  -G, --basic-regexp
       将样式视为基本的规则表示式解释。(此为预设)

   13.  -H, --with-filename
       在每个符合样式行前加上符合的档案名称，若有路径会显示路径。

   ex: (在file与testfile中搜寻panda样式)
       $grep -H panda file ./testfile
                file:panda
                ./testfile:panda
                $

   14.  -h, --no-filename
               与-H参数相类似，但在输出时不显示路径。

   15.  --help
               产生简短的help讯息。

   16.  -I
               grep会强制认为此二进位档案没有包含任何搜寻样式，
               与--binary-files=without-match参数相同。

           ex:  $ grep -I  panda mv

   17.  -i, --ignore-case
               忽略大小写，包含要搜寻的样式及被搜寻的档案。

           ex:  $ grep -i panda mv

   18.  -L, --files-without-match
               不显示平常一般的输出结果，反而显示出没有符合的档案名称。

   19.  -l, --files-with-matches
               不显示平常一般的输出结果，只显示符合的档案名称。

   20.  --mmap
               如果可能，使用mmap系统呼叫去读取输入，而不是预设的read系统呼叫。
               在某些状况，--mmap 能产生较好的效能。然而，--mmap
               如果运作中档案缩短，或I/O 错误发生时，
               可能造成未定义的行为(包含core dump)，。

   21.  -n, --line-number
               在显示行前，标上行号。

            ex:  $ grep -n  panda file
                显示结果相似於下:
                行号:符合行的内容

   22.  -q, --quiet, --silent
               不显示任何的一般输出。请参阅-s或--no-messages

   23.  -r, --recursive
       递地，读取每个资料夹下的所有档案，此相当於 -d recsuse 参数。

   24.  -s, --no-messages
       不显示关於不存在或无法读取的错误讯息。

小: 不像GNU grep，传统的grep不符合POSIX.2协定，
       因为缺乏-q参数，且他的-s 参数表现像GNU grep的 -q 参数。
       Shell Script倾向将传统的grep移植，避开-q及-s参数，
       且将输出限制到/dev/null。

POSIX: 定义UNIX及UNIX-like系统需要提供的功能。

   25.  -V, --version
  显示出grep的版本号到标准错误。
  当您在回报有关grep的bugs时，grep版本号是必须要包含在内的。

   26.  -v, --invert-match
  显示除搜寻样式行之外的全部。

   27.  -w, --word-regexp
          将搜寻样式视为一个字去搜寻，完全符合该"字"的行才会被列出。

   28.  -x, --line-regexp

http://hi.baidu.com/yuanzelin8/blog/item/b918010627c78665020881e6.html
linux安全网

2 sed 工具[该工具用于行间的内容操作，如增删改，查找替换]

sed [-nefr] [操作行为] filename

参数：

-n 安静模式，仅显示被处理的行【n代表silent】

-e 在命令行上进行sed操作编辑【e代表edit】

-f 将sed命令写入一个文件内，-f filename 则执行该文件下的sed命令

-r 设置支持扩展的正则表达式

操作行为：

格式1：[n1[,n2]动作]

n1，n2代表操作的范围的起始和终了的行数值，都是可选的。

格式2：/pattern/ 动作

pattern 是字符内容，然后sed会匹配包含该内容的行，可以使用正则匹配

动作的内容有：

a 当前行的下一行新增一行内容【a代表append】

c 替换操作范围内的内容【c代表change】

d 删除操作范围内的内容【d代表delete】

i 当前行的上一行插入一行内容【i代表insert】

p 打印某行行的内容【p代表print】 sed '3p' 打印

s 搜索及替换所搜索的内容，可以使用正则【s代表search】，使用方式类似于vi中的替换句法

格式：s/search/replace/flag

flag: 为数字时代表对第几次匹配的项操作

为g是代表全局范围内适用，global

为p时表示应打印替换后的内容

为w file时表示替换结果写入到指定文件内，而不改变原文件内容

y 转换命令，将指定的字符换为期望的字符，是但字符处理和转换。如sed '2,4y/1234/abcd/'

所有1都转换成a，2->b，3->c, 4->d。若指定了重复的转换则以第一次指定的为准。比如1指定了2个转换符，则第一次指定的生效

w filename 将选项的内容写入到指定文件中。如：sed '2,4w test.txt' inputfile 将inputfile中的2-4行的内容写入到test文件里

r filename 将从filename文件中读取内容写入到指定的行中。如：sed '2r test.txt' inputfile 是将test文件中的内容读出来写入到inptufile文件的第二行后面，即插入到第三行前面。等价于cat test.txt | sed '2a' inputfile

此外在对操作对象需要进行多种操作行为时可以使用组合命令：

如：

sed '2{s/1234/abcd/g s/abcd/1234/g}'

举例：

last | sed '2,5d' 将删除第二和第五行之间的内容

last | sed '1,20s/^$/test/g' 全局范围内搜索空行并替换为test字符

3 awk 工具【该工具用于处理有字段规则的行内内容，并支持格式化输出】

awk [options] '条件类型1{语句1; 语句2} 条件类型2{语句1；语句2}....' filename

options"

-F fs 指定FS变量的初始值

-f filename 指定读取程序的文件【即存放awk脚本操作的文件】

-v var=value 定义awk的临时变量及值，而后可以在awk中使用变量

-mf N 指定最大的字段数【max field】

-mr N 指定最大的记录数【max record】

-W keyword 指定兼容模式

内置变量：

NF 当前行的字段总数 [number of field]

NR 当前为止已处理的行数，即当前行号 [number of row]

$0,$1,....$n $0代表当前行的内容，$1代表当前行被分割后的第一个字段的内容

FS 当前的字段分割符。默认为空格 [file splitter]

RS 当前的行分割符。默认为回车

FIELDWIDTHS 定义数字字段显示的宽度

OFS 输出字段分割符，默认空格

ORS 输出行分割符，默认回车

条件比较操作符：

用于条件类型的的条件比较运算，通常是用行内变量的比较结果来判断是否执行相应的动作

如：

NF==10

$1>3

条件选项的正则运用：

条件选项可以是任何的表达式，但主要还是利用awk自身的变量值进行判断，当条件为空时默认为无条件执行动作，有条件但为假时则不执行其后的动作；此外条件还可以是正则匹配表达时

如：awk '/^a/ {print $1}' ##当前行匹配以a开头成功时则执行后面的打印

上面正则匹配的范围是整行的内容，如果只想匹配指定字段的内容，则可以这样使用：

awk '$n ~ /^1/ {print $1}' ##通过～符号规定了正则的匹配操作范围【这里是字段n】，～叫做匹配操作符

动作内容：

内容必须放{}大扩弧中，其内就是具体的执行的语句，可以是一句，多句，使用；逗号分割

如：

{print $1 "\t" $2} ##普通输出

{printf "%s \t %s", $1,$2} ##格式化输出

此外awk的语句还可以使用结构化命令，如分支，循环等

如：

if (condition)

{

stat1;

}

else if (condition)

{

stat2;

}

else

{

stat3;

}

while (condition)

{

stat1;

stat2;

}

for (i=1;i<3;i++)

{

stat1;

stat2;

}

注：

awk的执行是按行号依次循环内容的，如果想在所有行执行对awk进行设置并生效的话，那么就需要使用关键字BEGIN

在所有行处理完之后还要做后期处理操作，则可以使用END关键字

如：

awk 'BEGIN { FS=“:”} $1 > 3 {print $1} END {print "END"}' ##在执行第一行之前设置分割符为：冒号。

节选：http://blog.csdn.net/beyondlpf/article/details/6925897

-----------------------------------------------------

Grep的常用命令语法

1. 双引号引用和单引号引用
在g r e p命令中输入字符串参数时，最好将其用双引号括起来。例如：“m y s t r i n g”。这样做有两个原因，一是以防被误解为 s h e l l命令，二是可以用来查找多个单词组成的字符串，例如：“jet plane”，如果不用双引号将其括起来，那么单词 p l a n e将被误认为是一个文件，查询结果将返回“文件不存在”的错误信息。
在调用变量时，也应该使用双引号，诸如： g r e p“$ M Y VA R”文件名，如果不这样，将
没有返回结果。
在调用模式匹配时，应使用单引号.[root@mypc ]# echo `grep 123 111.txt`  (#注意是反单引号)

2. 常用的g r e p选项有：
-c   只输出匹配行的计数。
-i   不区分大小写（只适用于单字符）。
-h   查询多文件时不显示文件名。
-l   查询多文件时只输出包含匹配字符的文件名。
-n   显示匹配行及行号。
-s   不显示不存在或无匹配文本的错误信息。
-v   显示不包含匹配文本的所有行。

3. 特殊的——在多个文件中进行查询
$ grep "sort"*.doc     ( #在当前目录下所有. d o c文件中查找字符串“s o r t”)

$ grep "sort it" *      (#或在所有文件中查询单词“sort it”)

接下来的所有示例是指在单个文件中进行查询
4. 行匹配
$ grep -c "48" data.f
$ 4                      (#g r e p返回数字4，意义是有4行包含字符串“4 8”。)
$ grep "48" data.f          (#显示包含“4 8”字符串的4行文本)

5. 显示满足匹配模式的所有行行数：
[root@mypc oid2000]# grep -n 1234 111.txt
1:1234
3:1234ab

6. 精确匹配
[root@mypc oid2000]# grep "1234\>" 111.txt
1234

7. 查询空行，查询以某个条件开头或者结尾的行。
结合使用^和$可查询空行。使用- n参数显示实际行数
[root@mypc oid2000]# grep -n "^$" 111.txt    (返回结果 2:   #说明第二行是空行)
[root@mypc oid2000]# grep -n "^abc" 111.txt （#查询以abc开头的行）
[root@mypc oid2000]# grep -n "abc$" 111.txt  (#查询以abc结尾的行)

8. 匹配特殊字符,查询有特殊含义的字符，诸如$ . ' " * [] ^ | \ + ? ,必须在特定字符前加\。
[root@mypc oid2000]# grep  "\." 111.txt  (#在111.txt中查询包含“.”的所有行)
[root@mypc oid2000]# grep  "my\.conf"  111.txt (#查询有文件名my. c o n f的行)

9. 目录的查询
[root@mypc oid2000]# ls –l |grep “^d”      (#如果要查询目录列表中的目录)
[root@mypc oid2000]# ls –l |grep “^d[d]”    (#在一个目录中查询不包含目录的所有文件)
[root@mypc]# ls –l |grpe “^d…..x..x” (#查询其他用户和用户组成员有可执行权限的目录集合)

Awk的常用命令语法

awk命令擅长格式化报文或从一个大的文本文件中抽取数据包,下面是该命令的基本语法
awk [-F filed-separator] “commands” input-file(s)
[ - F域分隔符]是可选的,a w k使用空格作为缺省的域分隔符，如果在要处理的文件中是以冒号作为分割域的(如passwd文件),则在处理的时候要这样指明 awk –F: command input-file(s)

1.1域和记录
a w k执行时，其浏览域标记为$ 1，$ 2 . . . $ n。这种方法称为域标识。使用$ 1 , $ 3表示参照第1和第3域，注意这里用逗号做域分隔。如果希望打印一个有 5个域的记录的所有域，不必指明 $ 1 , $ 2 , $ 3 , $ 4 , $ 5，可使用$ 0，意即所有域。

1.2保存a w k输出
$ awk ‘{print $0}’ input-files > out-files    (#重定向保存输出)
$ awk ‘{print $0}’ input-files | tee out-files  (#使用t e e命令，输出到文件的同时输出到屏幕)

1.3 常用的awk命令举例
[root@mypc /]# awk '$0 ~ /user/' /etc/passwd  (#如果某域含有user就将该行打印出来)
rpc:x:32:32:Portmapper RPC user:/:/sbin/nologin
rpcuser:x:29:29:RPC Service User:/var/lib/nfs:/sbin/nologin
[root@mypc /]# awk '/user/' /etc/passwd      (#同上)
[root@mypc /]# awk -F: '{if ($5 ~ /user/) print $0}' /etc/passwd (#如第五域有user则输出该行)
rpc:x:32:32:Portmapper RPC user:/:/sbin/nologin
[root@mypc /]# ifconfig | awk '/inet/{print $2}'  (#从ifconfig的输出中抽取含inet的行并打印第二域)
[root@mypc /]# ifconfig | awk '/inet/{print $2}' | awk -F: '{print $2}' (#在上面的基础上再抽取，这个命令可以让你直接得到本机的ip地址)

Sed的常用命令语法
Sed是一个非交互性文本流编辑器。它编辑文件或标准输入导出的文本拷贝。

1．行的匹配
[root@mypc /]# sed -n '2p' /etc/passwd  打印出第2行
[root@mypc /]# sed -n '1,3p' /etc/passwd 打印出第1到第3行
[root@mypc /]# sed -n '$p' /etc/passwd   打印出最后一行
[root@mypc /]# sed -n '/user/'p /etc/passwd 打印出含有user的行
rpc:x:32:32:Portmapper RPC user:/:/sbin/nologin
rpcuser:x:29:29:RPC Service User:/var/lib/nfs:/sbin/nologin
[root@mypc /]# sed -n '/\$/'p /etc/passwd  打印出含有$元字符的行，$意为最后一行

2．插入文本和附加文本(插入新行)
[root@mypc /]# sed -n '/FTP/p' /etc/passwd  打印出有FTP的行
ftp:x:14:50:FTP User:/var/ftp:/sbin/nologin
[root@mypc /]# sed '/FTP/ a\ 456' /etc/passwd 在含有FTP的行后面新插入一行，内容为456
[root@mypc /]# sed '/FTP/ i\ 123' /etc/passwd在含有FTP的行前面新插入一行，内容为123
[root@mypc /]# sed '/FTP/ i\ "123"' /etc/passwd在含有FTP的行前面新插入一行，内容为"123"
[root@mypc /]# sed '5 a\ 123' /etc/passwd         在第5行后插入一新行，内容为123
[root@mypc /]# sed '5 i\ “12345”' /etc/passwd   在第5行前插入一新行，内容为“12345”

3．删除文本
[root@mypc /]# sed '1d' /etc/passwd  删除第1行
[root@mypc /]# sed '1,3d' /etc/passwd  删除第1至3行
[root@mypc /]# sed '/user/d' /etc/passwd  删除带有user的行

4．替换文本,替换命令用替换模式替换指定模式，格式为：
[ a d d r e s s [，address]] s/ pattern-to-find /replacement-pattern/[g p w n]
[root@mypc /]# sed 's/user/USER/' /etc/passwd     将第1个user替换成USER,g表明全局替换
[root@mypc /]# sed 's/user/USER/g' /etc/passwd    将所有user替换成USER
[root@mypc /]# sed 's/user/#user/' /etc/passwd    将第1个user替换成#user,如用于屏蔽作用
[root@mypc /]# sed 's/user//' /etc/passwd         将第1个user替换成空
[root@mypc /]# sed 's/user/&11111111111111/' /etc/passwd  如果要附加或修改一个很长的字符串，可以使用（ &）命令，&命令保存发现模式以便重新调用它，然后把它放在替换字符串里面，这里是把&放前面
[root@mypc /]# sed 's/user/11111111111111&/' /etc/passwd  这里是将&放后面

5. 快速一行命令
下面是一些一行命令集。（[ ]表示空格，[ ]表示t a b键）
‘s / \ . $ / / g’ 删除以句点结尾行
‘-e /abcd/d’ 删除包含a b c d的行
‘s / [ ] [ ] [ ] * / [ ] / g’ 删除一个以上空格，用一个空格代替
‘s / ^ [ ] [ ] * / / g’ 删除行首空格
‘s / \ . [ ] [ ] * / [ ] / g’ 删除句点后跟两个或更多空格，代之以一个空格
‘/ ^ $ / d’ 删除空行
‘s / ^ . / / g’ 删除第一个字符
‘s /COL \ ( . . . \ ) / / g’ 删除紧跟C O L的后三个字母
‘s / ^ \ / / / g’ 从路径中删除第一个\
‘s / [ ] / [ ] / / g’ 删除所有空格并用t a b键替代
‘S / ^ [ ] / / g’ 删除行首所有t a b键
‘s / [ ] * / / g’ 删除所有t a b键
如果使用s e d对文件进行过滤，最好将问题分成几步，分步执行，且边执行边测试结果。

-----------------------------------------------------

sed 与 awk 专题( 鸟哥 )

sed 与 awk 这两个家伙相当有用 !

gerp 查找, sed 编辑, awk 根据内容分析.

sed ( 处理以行为单位 )

sed 本身也是一个管线命令, 可以分析 standard input, 而且 sed 开可以将数据进行取代, 删除, 新增, 截取特定行等等功能,

sed [-nefr][动作]

选项与参数:

-n : 使用安静模式, 一般sed用法中, 所有来自 stdin 的数据一般都会被列出到屏幕上, 但是如果加上 –n 参数后, 则之后经过 sed 特殊处理的那一行(或者动作) 才会被列出来.

-e : 直接在指令列模式上进行 sed 的动作编辑

-f ：直接将sed 的动作卸载一个档案内, –f filename 则可以执行 filename 内的 sed 动作;

-r : sed 的动作支持的是延伸型的正则表达式语法, (默认的是基础正则表达式语法)

-i : 直接修改读取档案的内容, 而不是由屏幕输出.

动作说明: [n1,[n2]] function

n1, n2 不见得会存在, 一般代表[选择进行动作的行数], 例如, 需要再10-20行之间进行的, 则 10,20 动作行为.

function : 动作如下

a : 新增, a 后面可以接字符串, 而这些字符串会在新一行会粗线(目前的下一行)

c : 取代, c 后面可以接字符串, 这些字符串可以取代 n1, n2 之间的行

d : 删除, 因为是删除, 所以 d 后面通常不接任何东西

i ：插入, i 后面可以接字符串, 而这些字符串会在新的一行出现(目前的上一个行)

p : 打印, 即将某个选择的数据打印, 通常 p 会与参数 sed –n 一起运作

s : 取代, 可以直接进行取代的工作, 通常这个 s 的动作可以搭配正则表达式, 例如: 1,20s/old/new/g

例如 :

1. 将 /etc/passwd 内容打印出来, 并显示行号, 并删除第2-5行

nl /etc/passwd | sed ‘2,5d’ // 注意, sed 后一定要接两个单引号括起来

nl /etc/passwd | sed –n ‘2,5d’ // 注意, 这时什么也打印不出来, 因为 –n 的意思是只是将特殊处理行打印出来, 但是我们的特殊处理是删除, 所以就没有任何显示.

nl /etc/passwd | sed '2,$d’ // 从第二行删除到最后一行

2. 插入一行数据 , 插入2行数据

nl /etc/passwd | sed ‘2i hello’ // 在第2行前插入 hello

nl /etc/passwd | sed ‘2a hello’ // 在第2行后插入 hello

nl /etc/passwd | sed ‘2a hello\ 然后再下一行输入 world!’ // 这样就插入2行, 前面1行为 hello, 后面一行为 world!', 这样就可以增加好几行, 不过每行结尾到要有 \

3. 以行为单位取代或显示

nl /etc/passwd | sed ‘2,3c hello,world’ // 这样就将2-3行取代为 hello, world

nl /etc/passwd | sed -n‘2,3p’ // 这样就只打印, 2-3行, 也可以使用 head –n 3 | tail –n 1 (但是这个没有 sed 用起来好 )

4. 部分数据的搜索与替代功能

nl /etc/passwd | sed ‘2,3s/aaa/xxx/g’ // 其中 2,3 为行数, 可以省略, 如果省略则是替换全文, s 表示替换 aaa 表示旧值, xxx表示新值, g 是一个格式

另外注意, 因为 sed 处理是以行为单位, 所以以上的替换会替换行内所有的 aaa, 比如一行内有 3个 aaa, 那么这3个aaa都会被替换.

5. 直接修改档案内容 ( 危险 )

例如 sed –i ‘s/\.$/\!/g’ regular_express.txt

sed –i ‘s/aaa/xxx/g’ regular_express.txt // 直接修改档案文件, 替换的办法跟前面一样, 所不同的是, 这样就直接修改了档案文件.

awk (数据处理工具, 可以将行按照指定分隔符分成很多个区域 )

相对于 sed 常常用于一整行的处理, awk 则比较倾向于一行当中分成数个”字段”(即区域)来处理, awk 通常运作模式为:

awk ‘条件类型1{动作1}条件类型2{动作2}…’ filename

awk 后面接两个单引号并加上大括号{}来设定想要对数据进行处理的动作. awk 可以处理后续接的档案即 filename, 也可以读取来自前一个指令的 standard output, 例如香港系统中的命令, 但如前面说, awk主要是处理每一行字段内的数据, 而默认的字段分隔符为”空格键”或tab键.

例如:

last –n 5 | awk ‘{print $1 “\t” $3}’ // 打印第 1 个和第3个区域, 用 “\t” 即 tab 来分隔显示

$0 代表整行, $1 代表第1个区域, $2 代表第2个区域, 依此类推

awk 的处理流程是:

1. 读入第一行, 并将第一行的资料填入 $0, $1, $2, … 等变量当中;

2. 依据”条件类型”的限制, 判断是否需要进行后面的”动作”;

3. 作完所有动作和条件类型;

4. 若还有后续的行的数据, 则重复上面的 1-3步骤, 直至所有的数据都读完为止.

所以, awk 是以行为一次处理单位, 而已区域为最小处理单位

另外, 还有3个变量, 分别是:

NF : 每一行($0) 拥有的字段数

NR : 目前 awk 所处理的是第几行

FS : 目前的分隔符, 默认是空格键

注意: 因为 awk 后面必须接单引号, 所以在两个单引号之内, 例如需要使用 “\t” 时, 必须使用双引号, 因为引号要成对出现

last –n 5 | awk ‘{print $1 “\t” $2 “\t” NF “\t” NR “\t” FS}’

awk 的逻辑运算字符

> < >= <= == !==

cat /etc/passwd | awk ‘{FS=”:”} $3 < 10 {print $1 “\t” “$3”}’ // 这里的条件判断后边接{}, 这个大括号表示动作, 注意这里不是 if, else, 而是类似只有if, 就是说有一个条件, 后面跟一个动作, 这样

注意, 这里第一行显示有问题, 这是因为, 读取第1行是, FS = “:” 这条命令没有生效, 而默认的分隔符是空格, 所以这个文件的第一行就全部作为了第一个字段, 所以第1行就都显示出来了, 但是读取第2行时, 由于分隔符已经变成了：所以, 第2 行以后就能正确显示, 那么怎么解决呢 ? 我们可以预先设定 awk 的变量, 利用 BEGIN 关键词：

cat /etc/passwd | awk ‘BEGIN {FS = “:”} $3 < 10 {print $1 “\t” $3}’

例如, 输出一个计算工资总和的例子: 数据的格式是这样的 :

Name Jan Feb Mar

张三 1000 1000 1000

李四 2000 2000 2000

王五 3000 3000 3000

因为我们要计算工资总和, 所以我们就要计算, 但是我们并不想计算第一行, 所以命令为

cat salary | awk ‘NR == 1 {printf “%5s %5s %5s %5s %5s\n”, $1, $2, $3, $4, “Total”} NR >= 2 {total = $2 + $3 + $4 ; printf “%5s %5d %5d %5d %5d\n”, $1, $2, $3, $4, total}’ // 看来打印的格式, 跟 c 语言相通, 另外, 所有的动作都在 {} 这个大括号内, 如果大括号内有多个命令可以使用; 分号来分隔, 与bash 不同的是, awk 中的变量可以直接使用, 而不用变量符号 $.

香港系统编译时, 也可以使用如下命令来进行修改, 编译的文件中, 主要的目的就是去掉空白行和前面注释的行. 那么可以这么进行

cat compileFile | sed ‘/^$/d’| grep ‘^[^#]’| awk ‘{}’ 其中 sed 是去掉空白行, grep 是去掉前边带注释的. awk 是直接编译文件, 注意这里的 sed 使用正则表达式时要加上 // 两个双斜线, 而grep 可以直接使用正则表达式

另外, 关于 awk 'begin{动作} end{动作}' begin 的动作表示的是读取文档之前的动作, end的动作表示的是读取文档之后的动作.

0 0