鸟哥私房菜---正则表达式
来源:互联网 发布:ios wkwebview js oc 编辑:程序博客网 时间:2024/05/16 07:44
回去写一个获取ip的shell script,这个应该很好写。
有一点要向大家报告的,那就是:『正规表示法与万用字节是完全不一样的东西!』这很重要喔!因为『万用字节 (wildcard)代表的是 bash 操作介面的一个功能』,但正规表示法则是一种字串处理的表示方式!这两者要分的很清楚才行喔!所以,学习本章,请将前一章 bash的万用字节意义先忘掉吧!
老实说,鸟哥以前刚接触正规表示法时,老想著要将这两者归纳在一起,结果就是...错误认知一大堆~所以才会建议您学习本章先忘记万用字节再来学习吧。
特殊符号
代表意义
[:alnum:]
代表英文大小写字节及数字,亦即 0-9, A-Z, a-z
[:alpha:]
代表任何英文大小写字节,亦即 A-Z, a-z
[:blank:]
代表空白键与 [Tab] 按键两者
[:cntrl:]
代表键盘上面的控制按键,亦即包括 CR, LF, Tab, Del.. 等等
[:digit:]
代表数字而已,亦即 0-9
[:graph:]
除了空白字节 (空白键与 [Tab] 按键) 外的其他所有按键
[:lower:]
代表小写字节,亦即 a-z
[:print:]
代表任何可以被列印出来的字节
[:punct:]
代表标点符号 (punctuation symbol),亦即:" ' ? ! ; : # $...
[:upper:]
代表大写字节,亦即 A-Z
[:space:]
任何会产生空白的字节,包括空白键, [Tab], CR 等等
[:xdigit:]
代表 16 进位的数字类型,因此包括: 0-9, A-F, a-f 的数字与字节
尤其上表中的[:alnum:], [:alpha:], [:upper:], [:lower:], [:digit:] 这几个一定要知道代表什么意思,因为他要比 a-z 或 A-Z 的用途要确定的很!好了,底下就让我们开始来玩玩进阶版的 grep吧!
grep 的一些进阶选项
我们在第十一章 BASH里面的 grep 谈论过一些基础用法,但其实 grep还有不少的进阶用法喔!底下我们仅列出较进阶的 grep选项与参数给大家参考, 基础的 grep 用法请参考前一章的说明罗!
[root@www ~]# grep [-A] [-B] [--color=auto] '搜寻字串' filename
选项与参数:
-A :后面可加数字,为 after的意思,除了列出该行外,后续的 n 行也列出来;
-B :后面可加数字,为 befer的意思,除了列出该行外,前面的 n 行也列出来;
--color=auto 可将正确的那个撷取数据列出颜色
范例一:用 dmesg 列出核心信息,再以 grep 找出内含 eth 那行
[root@www ~]# dmesg | grep 'eth'
eth0: RealTek RTL8139 at 0xee846000, 00:90:cc:a6:34:84, IRQ 10
eth0: Identified 8139 chip type 'RTL-8139C'
eth0: link up, 100Mbps, full-duplex, lpa 0xC5E1
eth0: no IPv6 routers present
# dmesg 可列出核心产生的信息!透过 grep来撷取网络卡相关资讯 (eth) ,
# 就可发现如上资讯。不过没有行号与特殊颜色显示!看看下个范例吧!
范例二:承上题,要将捉到的关键字显色,且加上行号来表示:
[root@www ~]# dmesg | grep -n --color=auto 'eth'
247:eth0: RealTek RTL8139 at 0xee846000, 00:90:cc:a6:34:84, IRQ 10
248:eth0: Identified 8139 chip type 'RTL-8139C'
294:eth0: link up, 100Mbps, full-duplex, lpa 0xC5E1
305:eth0: no IPv6 routers present
# 你会发现除了 eth会有特殊颜色来表示之外,最前面还有行号喔!
范例三:承上题,在关键字所在行的前两行与后三行也一起捉出来显示
[root@www ~]# dmesg | grep -n -A3 -B2 --color=auto 'eth'
245-PCI: setting IRQ 10 as level-triggered
246-ACPI: PCI Interrupt 0000:00:0e.0[A] -> Link [LNKB] ...
247:eth0: RealTek RTL8139 at 0xee846000, 00:90:cc:a6:34:84, IRQ 10
248:eth0: Identified 8139 chip type 'RTL-8139C'
249-input: PC Speaker as /class/input/input2
250-ACPI: PCI Interrupt 0000:00:01.4[B] -> Link [LNKB] ...
251-hdb: ATAPI 48X DVD-ROM DVD-R-RAM CD-R/RW drive, 2048kB Cache, UDMA(66)
# 如上所示,你会发现关键字 247所在的前两行及 248 后三行也都被显示出来!
# 这样可以让你将关键字前后数据捉出来进行分析啦!
grep 是一个很常见也很常用的命令,他最重要的功能就是进行字串数据的比对,然后将符合使用者需求的字串列印出来。需要说明的是『grep在数据中查寻一个字串时,是以 "整行"为单位来进行数据的撷取的!』也就是说,假如一个文件内有 10行,其中有两行具有你所搜寻的字串,则将那两行显示在萤幕上,其他的就丢弃了!
在关键字的显示方面,grep可以使用 --color=auto来将关键字部分使用颜色显示。这可是个很不错的功能啊!但是如果每次使用 grep都得要自行加上 --color=auto又显的很麻烦~此时那个好用的 alias就得来处理一下啦!你可以在 ~/.bashrc内加上这行:『alias grep='grep --color=auto'』再以『 source ~/.bashrc』来立即生效即可喔!这样每次运行 grep他都会自动帮你加上颜色显示啦!这句话不错…..
- 例题一、搜寻特定字串
搜寻特定字串很简单吧?假设我们要从刚刚的文件当中取得 the这个特定字串,最简单的方式就是这样:
[root@www ~]# grep -n 'the' regular_express.txt
8:I can't finish the test.
12:the symbol '*' is represented as start.
15:You are the best is mean you arethe no. 1.
16:The world <Happy> is the same with "glad".
18:google is the best tools for search keyword.
那如果想要『反向选择』呢?也就是说,当该行没有 'the'这个字串时才显示在萤幕上,那就直接使用:
[root@www ~]# grep -vn 'the' regular_express.txt
你会发现,萤幕上出现的行列为除了 8,12,15,16,18五行之外的其他行列!接下来,如果你想要取得不论大小写的 the这个字串,则:
[root@www ~]# grep -in 'the' regular_express.txt
8:I can't finish the test.
9:Oh! The soup taste good.
12:the symbol '*' is represented as start.
14:The gd software is a library for drafting programs.
15:You are the best is mean you arethe no. 1.
16:The world <Happy> isthe same with "glad".
18:google is the best tools for search keyword.
除了多两行 (9, 14行)之外,第 16 行也多了一个 The 的关键字被撷取到喔!
- 例题二、利用中括号 [] 来搜寻集合字节
如果我想要搜寻 test或 taste 这两个单字时,可以发现到,其实她们有共通的 't?st'存在~这个时候,我可以这样来搜寻:
[root@www ~]# grep -n 't[ae]st' regular_express.txt
8:I can't finish the test.
9:Oh! The soup taste good.
了解了吧?其实 []里面不论有几个字节,他都谨代表某『一个』字节,所以,上面的例子说明了,我需要的字串是『tast』或『test』两个字串而已!而如果想要搜寻到有 oo 的字节时,则使用:
[root@www ~]# grep -n 'oo' regular_express.txt
1:"Open Source" is a good mechanism to develop programs.
2:apple is my favorite food.
3:Football game is not use feet only.
9:Oh! The soup taste good.
18:google is the best tools for search keyword.
19:goooooogle yes!
但是,如果我不想要 oo前面有 g 的话呢?此时,可以利用在集合字节的反向选择 [^]来达成:
[root@www ~]# grep -n '[^g]oo' regular_express.txt
2:apple is my favorite food.
3:Football game is not use feet only.
18:google is the best tools for search keyword.
19:goooooogle yes!
意思就是说,我需要的是 oo,但是 oo 前面不能是 g就是了!仔细比较上面两个表格,你会发现,第 1,9行不见了,因为 oo 前面出现了 g 所致!第 2,3行没有疑问,因为 foo 与 Foo 均可被接受!但是第 18行明明有 google 的 goo 啊~别忘记了,因为该行后面出现了 tool的 too 啊!所以该行也被列出来~也就是说, 18行里面虽然出现了我们所不要的项目 (goo)但是由於有需要的项目 (too),因此,是符合字串搜寻的喔!
至於第 19行,同样的,因为 goooooogle里面的 oo 前面可能是 o,例如: go(ooo)oogle,所以,这一行也是符合需求的!
再来,假设我 oo前面不想要有小写字节,所以,我可以这样写 [^abcd....z]oo,但是这样似乎不怎么方便,由於小写字节的 ASCII上编码的顺序是连续的,因此,我们可以将之简化为底下这样:
[root@www ~]# grep -n '[^a-z]oo' regular_express.txt
3:Football game is not use feet only.
也就是说,当我们在一组集合字节中,如果该字节组是连续的,例如大写英文/小写英文/数字等等,就可以使用[a-z],[A-Z],[0-9]等方式来书写,那么如果我们的要求字串是数字与英文呢?呵呵!就将他全部写在一起,变成:[a-zA-Z0-9]。例如,我们要取得有数字的那一行,就这样:
[root@www ~]# grep -n '[0-9]' regular_express.txt
5:However, this dress is about $ 3183 dollars.
15:You are the best is mean you are the no.1.
但由於考虑到语系对於编码顺序的影响,因此除了连续编码使用减号『 -』之外,你也可以使用如下的方法来取得前面两个测试的结果:
[root@www ~]# grep -n '[^[:lower:]]oo' regular_express.txt
# 那个 [:lower:]代表的就是 a-z 的意思!请参考前两小节的说明表格
[root@www ~]# grep -n '[[:digit:]]' regular_express.txt
这样对於 []以及 [^] 以及 []当中的 - ,还有关於前面表格提到的特殊关键字有了解了吗?^_^!
- 例题三、行首与行尾字节 ^ $
我们在例题一当中,可以查询到一行字串里面有 the的,那如果我想要让 the 只在行首列出呢?这个时候就得要使用定位字节了!我们可以这样做:
[root@www ~]# grep -n '^the' regular_express.txt
12:the symbol '*' is represented as start.
此时,就只剩下第 12行,因为只有第 12 行的行首是 the 开头啊~此外,如果我想要开头是小写字节的那一行就列出呢?可以这样:
[root@www ~]# grep -n '^[a-z]' regular_express.txt
2:apple is my favorite food.
4:this dress doesn't fit me.
10:motorcycle is cheap than car.
12:the symbol '*' is represented as start.
18:google is the best tools for search keyword.
19:goooooogle yes!
20:go! go! Let's go.
你可以发现我们可以捉到第一个字节都不是大写的!只不过 grep列出的关键字部分不只有第一个字节, grep是列出一整个字 (word) 说!同样的,上面的命令也可以用如下的方式来取代的:
[root@www ~]# grep -n '^[[:lower:]]' regular_express.txt
好!那如果我不想要开头是英文字母,则可以是这样:
[root@www ~]# grep -n '^[^a-zA-Z]' regular_express.txt
1:"Open Source" is a good mechanism to develop programs.
21:# I am VBird
# 命令也可以是: grep -n '^[^[:alpha:]]' regular_express.txt
注意到了吧?那个 ^符号,在字节集合符号(括号[])之内与之外是不同的!在 [] 内代表『反向选择』,在 []之外则代表定位在行首的意义!要分清楚喔!反过来思考,那如果我想要找出来,行尾结束为小数点 (.)的那一行,该如何处理:
[root@www ~]# grep -n '\.$' regular_express.txt
1:"Open Source" is a good mechanism to develop programs.
2:apple is my favorite food.
3:Football game is not use feet only.
4:this dress doesn't fit me.
10:motorcycle is cheap than car.
11:This window is clear.
12:the symbol '*' is represented as start.
15:You are the best is mean you are the no. 1.
16:The world <Happy> is the same with "glad".
17:I like dog.
18:google is the best tools for search keyword.
20:go! go! Let's go.
特别注意到,因为小数点具有其他意义(底下会介绍),所以必须要使用跳脱字节(\)来加以解除其特殊意义!不过,你或许会觉得奇怪,但是第 5~9 行最后面也是 . 啊~怎么无法列印出来?这里就牵涉到 Windows平台的软件对於断行字节的判断问题了!我们使用 cat -A将第五行拿出来看,你会发现:
[root@www ~]# cat -An regular_express.txt | head -n 10 | tail -n 6
5 However, this dress is about $ 3183 dollars.^M$
6 GNU is free air not free beer.^M$
7 Her hair is very beauty.^M$
8 I can't finish the test.^M$
9 Oh! The soup taste good.^M$
10 motorcycle is cheap than car.$
我们在第十章内谈到过断行字节在 Linux 与 Windows上的差异,在上面的表格中我们可以发现 5~9行为 Windows 的断行字节 (^M$) ,而正常的 Linux应该仅有第 10 行显示的那样 ($) 。所以罗,那个 .自然就不是紧接在 $ 之前喔!也就捉不到 5~9 行了!这样可以了解 ^与 $ 的意义吗?好了,先不要看底下的解答,自己想一想,那么如果我想要找出来,哪一行是『空白行』,也就是说,该行并没有输入任何数据,该如何搜寻?
[root@www ~]# grep -n '^$' regular_express.txt
22:
因为只有行首跟行尾 (^$),所以,这样就可以找出空白行啦!再来,假设你已经知道在一个程序脚本 (shell script)或者是配置档当中,空白行与开头为 #的那一行是注解,因此如果你要将数据列出给别人参考时,可以将这些数据省略掉以节省保贵的纸张,那么你可以怎么作呢?我们以 /etc/syslog.conf这个文件来作范例,你可以自行参考一下输出的结果:
[root@www ~]#cat -n /etc/syslog.conf
# 在 CentOS中,结果可以发现有 33 行的输出,很多空白行与 # 开头
[root@www ~]# grep -v '^$' /etc/syslog.conf | grep -v '^#'
# 结果仅有 10行,其中第一个『 -v '^$' 』代表『不要空白行』,
# 第二个『 -v '^#'』代表『不要开头是 # 的那行』喔!
是否节省很多版面啊?
- 例题四、任意一个字节 . 与重复字节 *
在第十一章 bash 当中,我们知道万用字节 * 可以用来代表任意(0或多个)字节,但是正规表示法并不是万用字节,两者之间是不相同的!至於正规表示法当中的『 . 』则代表『绝对有一个任意字节』的意思!这两个符号在正规表示法的意义如下:
- . (小数点):代表『一定有一个任意字节』的意思;
- * (星星号):代表『重复前一个字节, 0 到无穷多次』的意思,为组合形态
这样讲不好懂,我们直接做个练习吧!假设我需要找出 g??d的字串,亦即共有四个字节,起头是 g而结束是 d ,我可以这样做:
[root@www ~]# grep -n 'g..d' regular_express.txt
1:"Open Source" is a good mechanism to develop programs.
9:Oh! The soup taste good.
16:The world <Happy> is the same with "glad".
因为强调 g与 d 之间一定要存在两个字节,因此,第 13行的 god 与第 14行的 gd 就不会被列出来啦!再来,如果我想要列出有 oo, ooo, oooo等等的数据,也就是说,至少要有两个(含) o以上,该如何是好?是 o* 还是 oo* 还是 ooo*呢?虽然你可以试看看结果,不过结果太占版面了 @_@,所以,我这里就直接说明。
因为 * 代表的是『重复 0个或多个前面的 RE 字符』的意义,因此,『o*』代表的是:『拥有空字节或一个 o 以上的字节』,特别注意,因为允许空字节(就是有没有字节都可以的意思),因此,『 grep -n 'o*' regular_express.txt』将会把所有的数据都列印出来萤幕上!
那如果是『oo*』呢?则第一个 o肯定必须要存在,第二个 o 则是可有可无的多个 o ,所以,凡是含有 o, oo, ooo, oooo等等,都可以被列出来~
同理,当我们需要『至少两个 o以上的字串』时,就需要 ooo*,亦即是:
[root@www ~]# grep -n 'ooo*' regular_express.txt
1:"Open Source" is a good mechanism to develop programs.
2:apple is my favorite food.
3:Football game is not use feet only.
9:Oh! The soup taste good.
18:google is the best tools for search keyword.
19:goooooogle yes!
这样理解 *的意义了吗?好了,现在出个练习,如果我想要字串开头与结尾都是 g,但是两个 g之间仅能存在至少一个 o ,亦即是 gog, goog, gooog....等等,那该如何?
[root@www ~]# grep -n 'goo*g' regular_express.txt
18:google is the best tools for search keyword.
19:goooooogle yes!
如此了解了吗?再来一题,如果我想要找出 g开头与 g 结尾的字串,当中的字节可有可无,那该如何是好?是『g*g』吗?
[root@www ~]# grep -n 'g*g' regular_express.txt
1:"Open Source" is a good mechanism to develop programs.
3:Football game is not use feet only.
9:Oh! The soup taste good.
13:Oh! My god!
14:The gd software is a library for drafting programs.
16:The world <Happy> is the same with "glad".
17:I like dog.
18:google is the best tools for search keyword.
19:goooooogle yes!
20:go!go! Let's go.
但测试的结果竟然出现这么多行?太诡异了吧?其实一点也不诡异,因为 g*g里面的 g* 代表『空字节或一个以上的 g』在加上后面的 g ,因此,整个 RE 的内容就是 g, gg, ggg, gggg,因此,只要该行当中拥有一个以上的 g就符合所需了!
那该如何得到我们的 g....g的需求呢?呵呵!就利用任意一个字节『.』啊!亦即是:『g.*g』的作法,因为 * 可以是 0 或多个重复前面的字符,而 . 是任意字节,所以:『.*就代表零个或多个任意字节』的意思啦!
[root@www ~]# grep -n 'g.*g' regular_express.txt
1:"Open Source" is a good mechanism to develop programs.
14:The gd software is a library for drafting programs.
18:google is the best tools for search keyword.
19:goooooogle yes!
20:go! go! Let's go.
因为是代表 g开头与 g 结尾,中间任意字节均可接受,所以,第 1, 14, 20行是可接受的喔!这个 .*的 RE 表示任意字节是很常见的,希望大家能够理解并且熟悉!再出一题,如果我想要找出『任意数字』的行列呢?因为仅有数字,所以就成为:
[root@www ~]# grep -n '[0-9][0-9]*' regular_express.txt
5:However, this dress is about $ 3183 dollars.
15:You are the best is mean you are the no.1.
虽然使用 grep -n '[0-9]' regular_express.txt也可以得到相同的结果,但鸟哥希望大家能够理解上面命令当中 RE表示法的意义才好!
- 例题五、限定连续 RE 字符范围 {}
在上个例题当中,我们可以利用 .与 RE 字符及 *来配置 0 个到无限多个重复字节,那如果我想要限制一个范围区间内的重复字节数呢?举例来说,我想要找出两个到五个 o的连续字串,该如何作?这时候就得要使用到限定范围的字符 {}了。但因为 {与 } 的符号在 shell 是有特殊意义的,因此,我们必须要使用跳脱字符 \来让他失去特殊意义才行。 至於 {}的语法是这样的,假设我要找到两个 o的字串,可以是:
[root@www ~]# grep -n 'o\{2\}' regular_express.txt
1:"Open Source" is a good mechanism to develop programs.
2:apple is my favorite food.
3:Football game is not use feet only.
9:Oh! The soup taste good.
18:google is the best tools for search keyword.
19:goooooogle yes!
这样看似乎与 ooo*的字符没有什么差异啊?因为第 19行有多个 o 依旧也出现了!好,那么换个搜寻的字串,假设我们要找出 g后面接 2 到 5个 o ,然后再接一个 g的字串,他会是这样:
[root@www ~]# grep -n 'go\{2,5\}g' regular_express.txt
18:google is the best tools for search keyword.
嗯!很好!第 19行终於没有被取用了(因为 19行有 6 个 o啊!)。那么,如果我想要的是 2个 o 以上的 goooo....g呢?除了可以是 gooo*g ,也可以是:
[root@www ~]# grep -n 'go\{2,\}g' regular_express.txt
18:google is the best tools for search keyword.
19:goooooogle yes!
呵呵!就可以找出来啦~也就是说不填。
基础正规表示法字符汇整 (characters)
经过了上面的几个简单的范例,我们可以将基础的正规表示法特殊字符汇整如下:
RE 字符
意义与范例
^word
意义:待搜寻的字串(word)在行首!
范例:搜寻行首为 # 开始的那一行,并列出行号
grep -n '^#' regular_express.txt
word$
意义:待搜寻的字串(word)在行尾!
范例:将行尾为 ! 的那一行列印出来,并列出行号
grep -n '!$' regular_express.txt
.
意义:代表『一定有一个任意字节』的字符!
范例:搜寻的字串可以是 (eve) (eae) (eee) (e e), 但不能仅有 (ee) !亦即 e 与 e 中间『一定』仅有一个字节,而空白字节也是字节!
grep -n 'e.e' regular_express.txt
\
意义:跳脱字符,将特殊符号的特殊意义去除!
范例:搜寻含有单引号 ' 的那一行!
grep -n \' regular_express.txt
*
意义:重复零个到无穷多个的前一个 RE 字符
范例:找出含有 (es) (ess) (esss) 等等的字串,注意,因为 * 可以是 0 个,所以 es 也是符合带搜寻字串。另外,因为 * 为重复『前一个 RE 字符』的符号, 因此,在 * 之前必须要紧接著一个 RE 字符喔!例如任意字节则为 『.*』 !
grep -n 'ess*' regular_express.txt
[list]
意义:字节集合的 RE 字符,里面列出想要撷取的字节!
范例:搜寻含有 (gl) 或 (gd) 的那一行,需要特别留意的是,在 [] 当中『谨代表一个待搜寻的字节』, 例如『 a[afl]y 』代表搜寻的字串可以是 aay, afy, aly 即 [afl] 代表 a 或 f 或 l 的意思!
grep -n 'g[ld]' regular_express.txt
[n1-n2]
意义:字节集合的 RE 字符,里面列出想要撷取的字节范围!
范例:搜寻含有任意数字的那一行!需特别留意,在字节集合 [] 中的减号 - 是有特殊意义的,他代表两个字节之间的所有连续字节!但这个连续与否与 ASCII 编码有关,因此,你的编码需要配置正确(在 bash 当中,需要确定 LANG 与 LANGUAGE 的变量是否正确!) 例如所有大写字节则为 [A-Z]
grep -n '[A-Z]' regular_express.txt
[^list]
意义:字节集合的 RE 字符,里面列出不要的字串或范围!
范例:搜寻的字串可以是 (oog) (ood) 但不能是 (oot) ,那个 ^ 在 [] 内时,代表的意义是『反向选择』的意思。 例如,我不要大写字节,则为 [^A-Z]。但是,需要特别注意的是,如果以 grep -n [^A-Z] regular_express.txt 来搜寻,却发现该文件内的所有行都被列出,为什么?因为这个 [^A-Z] 是『非大写字节』的意思, 因为每一行均有非大写字节,例如第一行的 "Open Source" 就有 p,e,n,o.... 等等的小写字
grep -n 'oo[^t]' regular_express.txt
\{n,m\}
意义:连续 n 到 m 个的『前一个 RE 字符』
意义:若为 \{n\} 则是连续 n 个的前一个 RE 字符,
意义:若是 \{n,\} 则是连续 n 个以上的前一个 RE 字符! 范例:在 g 与 g 之间有 2 个到 3 个的 o 存在的字串,亦即 (goog)(gooog)
grep -n 'go\{2,3\}g' regular_express.txt
再次强调:『正规表示法的特殊字节』与一般在命令列输入命令的『万用字节』并不相同,例如,在万用字节当中的 *代表的是『 0 ~ 无限多个字节』的意思,但是在正规表示法当中, *则是『重复 0 到无穷多个的前一个 RE 字符』的意思~使用的意义并不相同,不要搞混了!
举例来说,不支持正规表示法的 ls这个工具中,若我们使用『ls -l *』代表的是任意档名的文件,而『ls -l a*』代表的是以 a 为开头的任何档名的文件,但在正规表示法中,我们要找到含有以 a为开头的文件,则必须要这样:(需搭配支持正规表示法的工具)
ls | grep -n '^a.*'
例题:
以 ls -l 配合 grep 找出 /etc/ 底下文件类型为连结档属性的档名
答:
由於 ls -l 列出连结档时标头会是『 lrwxrwxrwx 』,因此使用如下的命令即可找出结果:
ls -l /etc | grep '^l'
若仅想要列出几个文件,再以『 |wc -l 』 来累加处理即可。
我们先来谈一谈 sed好了, sed 本身也是一个管线命令,可以分析 standard input的啦!而且 sed还可以将数据进行取代、删除、新增、撷取特定行等等的功能呢!很不错吧~我们先来了解一下 sed的用法,再来聊他的用途好了!
[root@www ~]# sed [-nefr] [动作]
选项与参数:
-n :使用安静(silent)模式。在一般 sed 的用法中,所有来自 STDIN
的数据一般都会被列出到萤幕上。但如果加上 -n参数后,则只有经过
sed 特殊处理的那一行(或者动作)才会被列出来。
-e :直接在命令列模式上进行 sed的动作编辑;
-f :直接将 sed的动作写在一个文件内, -f filename 则可以运行 filename 内的
sed 动作;
-r :sed的动作支持的是延伸型正规表示法的语法。(默认是基础正规表示法语法)
-i :直接修改读取的文件内容,而不是由萤幕输出。
动作说明: [n1[,n2]]function
n1, n2 :不见得会存在,一般代表『选择进行动作的行数』,举例来说,如果我的动作
是需要在 10到 20 行之间进行的,则『 10,20[动作行为] 』
function 有底下这些咚咚:
a :新增, a的后面可以接字串,而这些字串会在新的一行出现(目前的下一行)~
c :取代, c的后面可以接字串,这些字串可以取代 n1,n2 之间的行!
d :删除,因为是删除啊,所以 d后面通常不接任何咚咚;
i :插入, i的后面可以接字串,而这些字串会在新的一行出现(目前的上一行);
p :列印,亦即将某个选择的数据印出。通常 p会与参数 sed -n 一起运行~
s :取代,可以直接进行取代的工作哩!通常这个 s的动作可以搭配
正规表示法!例如 1,20s/old/new/g就是啦!
- 以行为单位的新增/删除功能
sed 光是用看的是看不懂的啦!所以又要来练习了!先来玩玩删除与新增的功能吧!
范例一:将 /etc/passwd 的内容列出并且列印行号,同时,请将第 2~5 行删除!
[root@www ~]# nl /etc/passwd | sed '2,5d'
1 root:x:0:0:root:/root:/bin/bash
6 sync:x:5:0:sync:/sbin:/bin/sync
7 shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
.....(后面省略).....
看到了吧?sed的动作为 '2,5d' ,那个 d 就是删除!因为 2-5行给他删除了,所以显示的数据就没有 2-5行罗~另外,注意一下,原本应该是要下达 sed -e才对,没有 -e 也行啦!同时也要注意的是, sed 后面接的动作,请务必以 '' 两个单引号括住喔!
如果题型变化一下,举例来说,如果只要删除第 2行,可以使用『 nl /etc/passwd | sed '2d'』来达成,至於若是要删除第 3到最后一行,则是『 nl /etc/passwd | sed '3,$d'』的啦,那个钱字号『 $』代表最后一行!
范例二:承上题,在第二行后(亦即是加在第三行)加上『drink tea?』字样!
[root@www ~]# nl /etc/passwd | sed '2a drink tea'
1 root:x:0:0:root:/root:/bin/bash
2 bin:x:1:1:bin:/bin:/sbin/nologin
drink tea
3 daemon:x:2:2:daemon:/sbin:/sbin/nologin
.....(后面省略).....
嘿嘿!在 a后面加上的字串就已将出现在第二行后面罗!那如果是要在第二行前呢?『 nl /etc/passwd | sed '2i drink tea'』就对啦!就是将『 a 』变成『 i 』即可。添加一行很简单,那如果是要增将两行以上呢?
范例三:在第二行后面加入两行字,例如『Drink tea or .....』与『drink beer?』
[root@www ~]# nl /etc/passwd | sed '2a Drink tea or ......\
> drink beer ?'
1 root:x:0:0:root:/root:/bin/bash
2 bin:x:1:1:bin:/bin:/sbin/nologin
Drink tea or ......
drink beer ?
3 daemon:x:2:2:daemon:/sbin:/sbin/nologin
.....(后面省略).....
这个范例的重点是『我们可以新增不只一行喔!可以新增好几行』但是每一行之间都必须要以反斜线『 \』来进行新行的添加喔!所以,上面的例子中,我们可以发现在第一行的最后面就有 \存在啦!那是一定要的喔!
- 以行为单位的取代与显示功能
刚刚是介绍如何新增与删除,那么如果要整行取代呢?看看底下的范例吧:
范例四:我想将第2-5行的内容取代成为『No 2-5 number』呢?
[root@www ~]# nl /etc/passwd | sed '2,5c No 2-5 number'
1 root:x:0:0:root:/root:/bin/bash
No 2-5 number
6 sync:x:5:0:sync:/sbin:/bin/sync
.....(后面省略).....
透过这个方法我们就能够将数据整行取代了!非常容易吧!sed还有更好用的东东!我们以前想要列出第 11~20行,得要透过『head -n 20 | tail -n 10』之类的方法来处理,很麻烦啦~ sed则可以简单的直接取出你想要的那几行!是透过行号来捉的喔!看看底下的范例先:
范例五:仅列出 /etc/passwd 文件内的第 5-7 行
[root@www ~]# nl /etc/passwd | sed -n '5,7p'
5 lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
6 sync:x:5:0:sync:/sbin:/bin/sync
7 shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
上述的命令中有个重要的选项『 -n』,按照说明文件,这个 -n 代表的是『安静模式』!那么为什么要使用安静模式呢?你可以自行下达 sed '5,7p'就知道了 (5-7 行会重复输出)!有没有加上 -n的参数时,输出的数据可是差很多的喔!你可以透过这个 sed的以行为单位的显示功能,就能够将某一个文件内的某些行号捉出来查阅!很棒的功能!不是吗?
- 部分数据的搜寻并取代的功能
除了整行的处理模式之外, sed还可以用行为单位进行部分数据的搜寻并取代的功能喔!基本上 sed的搜寻与取代的与 vi 相当的类似!他有点像这样:
sed 's/要被取代的字串/新的字串/g'
上表中特殊字体的部分为关键字,请记下来!至於三个斜线分成两栏就是新旧字串的替换啦!我们使用底下这个取得 IP数据的范例,一段一段的来处理给您瞧瞧,让你了解一下什么是咱们所谓的搜寻并取代吧!
步骤一:先观察原始信息,利用 /sbin/ifconfig 查询 IP 为何?
[root@www ~]# /sbin/ifconfig eth0
eth0 Link encap:Ethernet HWaddr 00:90:CC:A6:34:84
inet addr:192.168.1.100 Bcast:192.168.1.255 Mask:255.255.255.0
inet6 addr: fe80::290:ccff:fea6:3484/64 Scope:Link
UP BROADCAST RUNNING MULTICAST MTU:1500 Metric:1
.....(以下省略).....
# 因为我们还没有讲到 IP,这里你先有个概念即可啊!我们的重点在第二行,
# 也就是 192.168.1.100那一行而已!先利用关键字捉出那一行!
步骤二:利用关键字配合 grep 撷取出关键的一行数据
[root@www ~]# /sbin/ifconfig eth0 | grep 'inet addr'
inet addr:192.168.1.100 Bcast:192.168.1.255 Mask:255.255.255.0
# 当场仅剩下一行!接下来,我们要将开始到 addr:通通删除,就是像底下这样:
# inet addr:192.168.1.100 Bcast:192.168.1.255 Mask:255.255.255.0
# 上面的删除关键在於『 ^.*inet addr:』啦!正规表示法出现! ^_^
步骤三:将 IP 前面的部分予以删除
[root@www ~]# /sbin/ifconfig eth0 | grep 'inet addr' | \
> sed 's/^.*addr://g'
192.168.1.100 Bcast:192.168.1.255 Mask:255.255.255.0
# 仔细与上个步骤比较一下,前面的部分不见了!接下来则是删除后续的部分,亦即:
# 192.168.1.100 Bcast:192.168.1.255 Mask:255.255.255.0
# 此时所需的正规表示法为:『 Bcast.*$』就是啦!
步骤四:将 IP 后面的部分予以删除
[root@www ~]# /sbin/ifconfig eth0 | grep 'inet addr' | \
> sed 's/^.*addr://g' | sed 's/Bcast.*$//g'
192.168.1.100
透过这个范例的练习也建议您依据此一步骤来研究你的命令!就是先观察,然后再一层一层的试做,如果有做不对的地方,就先予以修改,改完之后测试,成功后再往下继续测试。以鸟哥上面的介绍中,那一大串命令就做了四个步骤!对吧! ^_^
让我们再来继续研究 sed与正规表示法的配合练习!假设我只要 MAN存在的那几行数据,但是含有 #在内的注解我不想要,而且空白行我也不要!此时该如何处理呢?可以透过这几个步骤来实作看看:
步骤一:先使用 grep 将关键字 MAN 所在行取出来
[root@www ~]# cat /etc/man.config | grep 'MAN'
# when MANPATH contains an empty substring), to find out where the cat
# MANBIN pathname
# MANPATH manpath_element [corresponding_catdir]
# MANPATH_MAP path_element manpath_element
# MANBIN /usr/local/bin/man
# Every automatically generated MANPATH includes these fields
MANPATH /usr/man
....(后面省略)....
步骤二:删除掉注解之后的数据!
[root@www ~]# cat /etc/man.config | grep 'MAN'| sed 's/#.*$//g'
MANPATH /usr/man
....(后面省略)....
# 从上面可以看出来,原本注解的数据都变成空白行啦!所以,接下来要删除掉空白行
[root@www ~]# cat /etc/man.config | grep 'MAN'| sed 's/#.*$//g' | \
> sed '/^$/d'
MANPATH /usr/man
MANPATH /usr/share/man
MANPATH /usr/local/man
....(后面省略)....
- 直接修改文件内容(危险动作)
你以为 sed只有这样的能耐吗?那可不! sed甚至可以直接修改文件的内容呢!而不必使用管线命令或数据流重导向!不过,由於这个动作会直接修改到原始的文件,所以请你千万不要随便拿系统配置档来测试喔!我们还是使用你下载的 regular_express.txt文件来测试看看吧!
范例六:利用 sed 将 regular_express.txt 内每一行结尾若为 . 则换成 !
[root@www ~]# sed -i 's/\.$/\!/g' regular_express.txt
# 上头的 -i选项可以让你的 sed 直接去修改后面接的文件内容而不是由萤幕输出喔!
# 这个范例是用在取代!请您自行 cat该文件去查阅结果罗!
范例七:利用 sed 直接在 regular_express.txt 最后一行加入『# This is a test』
[root@www ~]# sed -i '$a # This is a test' regular_express.txt
# 由於 $代表的是最后一行,而 a 的动作是新增,因此该文件最后新增罗!
sed 的『 -i』选项可以直接修改文件内容,这功能非常有帮助!举例来说,如果你有一个 100万行的文件,你要在第 100 行加某些文字,此时使用 vim 可能会疯掉!因为文件太大了!那怎办?就利用 sed啊!透过 sed 直接修改/取代的功能,你甚至不需要使用 vim去修订!很棒吧!
总之,这个 sed不错用啦!而且很多的 shell script都会使用到这个命令的功能~ sed可以帮助系统管理员管理好日常的工作喔!要仔细的学习呢!
延伸正规表示法
事实上,一般读者只要了解基础型的正规表示法大概就已经相当足够了,不过,某些时刻为了要简化整个命令操作,了解一下使用范围更广的延伸型正规表示法的表示式会更方便呢!举个简单的例子好了,在上节的例题三的最后一个例子中,我们要去除空白行与行首为 # 的行列,使用的是
grep -v '^$' regular_express.txt | grep -v '^#'
需要使用到管线命令来搜寻两次!那么如果使用延伸型的正规表示法,我们可以简化为:
egrep -v '^$|^#' regular_express.txt
延伸型正规表示法可以透过群组功能『 |』来进行一次搜寻!那个在单引号内的管线意义为『或 or』啦!是否变的更简单呢?此外,grep默认仅支持基础正规表示法,如果要使用延伸型正规表示法,你可以使用 grep -E,不过更建议直接使用 egrep!直接区分命令比较好记忆!其实 egrep与 grep -E 是类似命令别名的关系啦!
熟悉了正规表示法之后,到这个延伸型的正规表示法,你应该也会想到,不就是多几个重要的特殊符号吗? ^_^y是的~所以,我们就直接来说明一下,延伸型正规表示法有哪几个特殊符号?由於底下的范例还是有使用到 regular_express.txt,不巧的是刚刚我们可能将该文件修改过了 @_@,所以,请重新下载该文件来练习喔!
RE 字符
意义与范例
+
意义:重复『一个或一个以上』的前一个 RE 字符
范例:搜寻 (god) (good) (goood)... 等等的字串。 那个 o+ 代表『一个以上的 o 』所以,底下的运行成果会将第 1, 9, 13 行列出来。
egrep -n 'go+d' regular_express.txt
?
意义:『零个或一个』的前一个 RE 字符
范例:搜寻 (gd) (god) 这两个字串。 那个 o? 代表『空的或 1 个 o 』所以,上面的运行成果会将第 13, 14 行列出来。 有没有发现到,这两个案例( 'go+d' 与 'go?d' )的结果集合与 'go*d' 相同? 想想看,这是为什么喔! ^_^
egrep -n 'go?d' regular_express.txt
|
意义:用或( or )的方式找出数个字串
范例:搜寻 gd 或 good 这两个字串,注意,是『或』! 所以,第 1,9,14 这三行都可以被列印出来喔!那如果还想要找出 dog 呢?
egrep -n 'gd|good' regular_express.txt
egrep -n 'gd|good|dog' regular_express.txt
()
意义:找出『群组』字串
范例:搜寻 (glad) 或 (good) 这两个字串,因为 g 与 d 是重复的,所以, 我就可以将 la 与 oo 列於 ( ) 当中,并以 | 来分隔开来,就可以啦!
egrep -n 'g(la|oo)d' regular_express.txt
()+
意义:多个重复群组的判别
范例:将『AxyzxyzxyzxyzC』用 echo 叫出,然后再使用如下的方法搜寻一下!
echo 'AxyzxyzxyzxyzC' | egrep 'A(xyz)+C'
上面的例子意思是说,我要找开头是 A 结尾是 C ,中间有一个以上的 "xyz" 字串的意思~
以上这些就是延伸型的正规表示法的特殊字节。另外,要特别强调的是,那个 !在正规表示法当中并不是特殊字节,所以,如果你想要查出来文件中含有 !与 > 的字行时,可以这样:
grep -n '[!>]' regular_express.txt
下面是grep的参数设置:
-v 是反向选择的意思
[root@www ~]# grep [-acinv] [--color=auto] '搜寻字符串' filename
选项与参数:
-a :将 binary文件以 text 文件的方式搜寻数据
-c :计算找到 '搜寻字符串' 的次数
-i :忽略大小写的不同,所以大小写视为相同
-n :顺便输出行号
-v :反向选择,亦即显示出没有 '搜寻字符串' 内容的那一行!
--color=auto :可以将找到的关键词部分加上颜色的显示喔!
范例一:将 last 当中,有出现 root 的那一行就取出来;
[root@www ~]# last | grep 'root'
范例二:与范例一相反,只要没有 root 的就取出!
[root@www ~]# last | grep -v 'root'
范例三:在 last 的输出信息中,只要有 root 就取出,并且仅取第一栏
[root@www ~]# last | grep 'root' |cut -d ' ' -f1
# 在取出 root之后,利用上个命令 cut 的处理,就能够仅取得第一栏啰!
范例四:取出 /etc/man.config 内含 MANPATH 的那几行
[root@www ~]# grep --color=auto 'MANPATH' /etc/man.config
....(前面省略)....
MANPATH_MAP /usr/X11R6/bin /usr/X11R6/man
MANPATH_MAP /usr/bin/X11 /usr/X11R6/man
MANPATH_MAP /usr/bin/mh /usr/share/man
# 神奇的是,如果加上 --color=auto的选项,找到的关键词部分会用特殊颜色显示喔!
- 鸟哥私房菜---正则表达式
- 基础正则表达式(鸟哥的私房菜基础版第三版)
- 鸟哥的私房菜学习笔记十三 关于正则表达式
- 鸟哥的linux私房菜学习笔记《二十四》正则表达式
- 鸟哥私房菜 第十二章 正则表达式与文件格式化处理
- 鸟哥私房菜
- 鸟哥私房菜
- 鸟哥私房菜
- 鸟哥的Linux私房菜-----11、压缩指令与正则表示法
- 鸟哥的私房菜
- 鸟哥私房菜 笔记
- 鸟哥的私房菜
- 鸟哥私房菜2
- 鸟哥私房菜1
- 鸟哥私房菜网址
- 【九】鸟哥私房菜
- 鸟哥的私房菜
- 鸟哥私房菜总结
- 快速安装ruby
- 在PHP语言中使用JSON
- NVIDIA Tegra3,高通S4 MSM8960,三星Exynos4【新一代手机处理器大比拼】
- LINUX常用命令
- Windows下Git使用帮助
- 鸟哥私房菜---正则表达式
- IOS后台不必关闭!ios系统后台揭秘!请看原理在此
- 解决D7下TStringList.Delimiter分离空格问题
- android动画 对fillBefore 和 fillAfter的理解
- 一个函数实现网络故障诊断
- STL Pair
- esri/tasks/GeneralizeParameters类
- ffmpeg分析系列之四(探测输入的格式)
- APEX 捕捉页面或者应用程序异常并进行处理