Linux下正规表示法的简单理解

      简单的说，正规表示法就是处理字符串的方法，他是以行为单位来进行字符串的处理行为， 正规表示法透过一些特殊符号的辅助，可以让使用者轻易的达到『搜寻/删除/取代』某特定字符串的处理程序！

      正规表示法的字符串表示方式依照不同的严谨度而分为：基础正规表示法与延伸正规表示法。延伸型正规表示法除了简单的一组字符串处理之外，还可以作群组的字符串处理。

基础正规表示法

      正规表示法是处理字符串的一种表示方式，那么对字符排序有影响的语系数据就会对正规表示法的结果有影响！所以，语系最好做一下统一规范,如“LANG=POSIX”或“LANG=C”等。 此外，正规表示法也需要支持工具程序来辅助才行！所以，这里就先介绍一个最简单的字符串撷取功能的工具程序，那就是 grep ！ 这里看看grep 选项说明和特殊符号：

(基础) 
[root@www ~]# grep [-acinv] [--color=auto] '搜寻字符串' filename 
选项与参数： -a ：将 binary 档案以 text 档案的方式搜寻数据 
-c ：计算找到 '搜寻字符串' 的次数 
-i ：忽略大小写的不同，所以大小写规为相同 
-n ：顺便输出行号 
-v ：反向选择，亦即显示出没有 '搜寻字符串' 内容的那一行！
--color=auto ：可以将找到的关键词部分加上颜色的显示喔！ 

（进阶）
[root@www ~]# grep [-A] [-B] [--color=auto] '搜寻字符串' filename 
选项与参数： 
-A ：后面可加数字，为 after 的意思，除了列出该行外，后续的 n 行也列出来； 
-B ：后面可加数字，为 befer 的意思，除了列出该行外，前面的 n 行也列出来；
--color=auto 可将正确的那个撷取数据列出颜色

特殊符号         代表意义 
-----------------------------------------------------------------------------
[:alnum:]         代表英文大小写字符及数字，亦即 0-9, A-Z, a-z 
[:alpha:]          代表任何英文大小写字符，亦即 A-Z, a-z 
[:blank:]           代表空格键与 [Tab] 按键两者 
[:cntrl:]             代表键盘上面的控制按键，亦即包括 CR, LF, Tab, Del.. 等等 
[:digit:]             代表数字而已，亦即 0-9 
[:graph:]           除了空格符 (空格键与 [Tab] 按键) 外的其他所有按键 
[:lower:]           代表小写字符，亦即 a-z 
[:print:]             代表任何可以被打印出来的字符 
[:punct:]           代表标点符号 (punctuation symbol)，亦即：" ' ? ! ; : # $... 
[:upper:]          代表大写字符，亦即 A-Z 
[:space:]         任何会产生空白的字符，包括空格键, [Tab], CR 等等 
[:xdigit:]          代表 16 进位的数字类型，因此包括： 0-9, A-F, a-f 的数字与字符

尤其上表中的[:alnum:], [:alpha:], [:upper:], [:lower:], [:digit:] 这几个一定要知道代表什么意思，因为他要比 a-z 或 A-Z 的用途要确定的很！

以下举几个例子：

范例一：用 dmesg 列出核心讯息，再以 grep 找出内含 eth 那行 
[root@www ~]# dmesg | grep 'eth' 

Parsing all Control Methods:
Table [DSDT](id 0001) - 3886 Objects with 382 Devices 1625 Methods 277 Regions
Initializing Device/Processor/Thermal objects by executing _INI methods:<5>ACPI: BIOS _OSI(Linux) query ignored
Executed 2 _INI methods requiring 1 _STA executions (examined 448 objects)
e1000: eth0: e1000_probe: Intel(R) PRO/1000 Network Connection
e1000: eth0: e1000_watchdog: NIC Link is Up 1000 Mbps Full Duplex, Flow Control: None
eth0: no IPv6 routers present
e1000: eth0: e1000_watchdog: NIC Link is Down
e1000: eth0: e1000_watchdog: NIC Link is Up 1000 Mbps Full Duplex, Flow Control: None
# dmesg 可列出核心产生的讯息！透过 grep 来撷取网络卡相关信息 (eth) ，不过这样没有行号与特殊颜色显示！

范例二：承上题，要将捉到的关键词显色，且加上行号来表示：
[root@www ~]# dmesg | grep -n --color=auto 'eth' 

325:Parsing all Control Methods:
326:Table [DSDT](id 0001) - 3886 Objects with 382 Devices 1625 Methods 277 Regions
353:Initializing Device/Processor/Thermal objects by executing _INI methods:<5>ACPI: BIOS _OSI(Linux) query ignored
356:Executed 2 _INI methods requiring 1 _STA executions (examined 448 objects)
1248:e1000: eth0: e1000_probe: Intel(R) PRO/1000 Network Connection
1285:e1000: eth0: e1000_watchdog: NIC Link is Up 1000 Mbps Full Duplex, Flow Control: None
1289:eth0: no IPv6 routers present
1290:e1000: eth0: e1000_watchdog: NIC Link is Down
1291:e1000: eth0: e1000_watchdog: NIC Link is Up 1000 Mbps Full Duplex, Flow Control: None
# 你会发现除了 eth 会有特殊颜色来表示之外，最前面还有行号喔！

范例三：承上题，在关键词所在行的前两行与后三行也一起捉出来显示
[root@www ~]# dmesg | grep -n -A3 -B2 --color=auto 'eth' 
......内容忽略......
# 如上所示，你会发现关键词所在的前两行及后三行也都被显示出来！这样可以让你将关键词前后数据捉出来进行分析啦！

      grep 是一个很常见也很常用的指令，他最重要的功能就是进行字符串数据的比对，然后将符合用户需求的字符串打印出来。 需要说明的是『grep 在数据中查寻一个字符串时，是以 "整行" 为单位来进行数据的撷取的！』也就是说，假如一个档案内有 10 行，其中有两行具有你所搜寻的字符串，则将那两行显示在屏幕上，其他的就丢弃了！ 在关键词的显示方面，grep 可以使用 --color=auto 来将关键词部分使用颜色显示。 这可是个很不错的功能啊！但是如果每次使用 grep 都得要自行加上 --color=auto 又显的很麻烦～ 此时那个好用的 alias 就得来处理一下啦！你可以在 ~/.bashrc 内加上这行：
『alias grep='grep --color=auto'』再以『 source ~/.bashrc 』来立即生效即可喔！ 这样每次执行 grep 他都会自动帮你加上颜色显示啦！

基础正规表示法练习

要了解正规表示法最简单的方法就是由实际练习去感受啦！正所谓熟能生巧。以下的这个档案：regular_express.txt是练习用档案，该档案可以放在自己喜欢的目录中。

[root@www ~]# vi regular_express.txt 
"Open Source" is a good mechanism to develop programs.
apple is my favorite food.
Football game is not use feet only.
this dress doesn't fit me.
However, this dress is about $ 3183 dollars.
GNU is free air not free beer.
Her hair is very beauty.
I can't finish the test.
Oh! The soup taste good.
motorcycle is cheap than car.
This window is clear.
the symbol '*' is represented as start.
Oh! My god!
The gd software is a library for drafting programs.
You are the best is mean you are the no. 1.
The world <Happy> is the same with "glad".
I like dog.
google is the best tools for search keyword.
goooooogle yes!
go! go! Let's go.
# I am VBird

这档案共有 22 行，最底下一行为空白行！现在开始我们一个案例一个案例的来介绍！

例题一、搜寻特定字符串
搜寻特定字符串很简单吧？假设我们要从刚刚的档案当中取得 the 这个特定字符串，最简单的方式就是这样： 
[root@www ~]# grep -n 'the' regular_express.txt 
8:I can't finish the test.
12:the symbol '*' is represented as start.
15:You are the best is mean you are the no. 1.
16:The world <Happy> is the same with "glad".
18:google is the best tools for search keyword.

那如果想要『反向选择』呢？也就是说，当该行没有 'the' 这个字符串时才显示在屏幕上，那就直接使用：
[root@www ~]# grep -vn 'the' regular_express.txt
你会发现，屏幕上出现的行列为除了 8,12,15,16,18 五行之外的其他行列！ 

接下来，如果你想要取得不论大小写的 the 这个字符串，则： 
[root@www ~]# grep -in 'the' regular_express.txt 

例题二、利用中括号 [] 来搜寻集合字符
如果我想要搜寻 test 或 taste 这两个单字时，可以发现到，其实她们有共通的 't?st' 存在～这个时候，我可以这样来搜寻： 
[root@www ~]# grep -n 't[ae]st' regular_express.txt        
8:I can't finish the test. 
9:Oh! The soup taste good.
了解了吧？其实 [] 里面不论有几个字符，他都仅代表某『一个』字符， 所以，上面的例子说明了，我需要的字符串是『tast』或『test』两个字符串而已！ 
-->个人理解，即只要[]中含有的，就可以被搜索到，如：grep -n 't[rturtjfghje]st' regular_express.txt，结果是只有8:I can't finish the test. ，因为[]里只有e，没有a。

而如果想要搜寻到有 oo 的字符时，则使用： 
[root@www ~]# grep -n 'oo' regular_express.txt 

但是，如果我不想要 oo 前面有 g 的话呢？此时，可以利用在集合字符的反向选择 [^] 来达成：（注意“行首 ^ ”和“反向选择 [^] ”的区别）这里可以参照我转载的另一篇博文《Linux下的22个特殊符号》，里面概括介绍，连接为：http://blog.csdn.net/qiuwanxiao/article/details/47277769
[root@www ~]# grep -n '[^g]oo' regular_express.txt 
意思就是说，我需要的是 oo ，但是 oo 前面不能是 g 就是了！仔细比较上面两个表格，妳会发现，第 1,9 行不见了，因为 oo 前面出现了 g 所致！第 2,3 行没有疑问，因为 foo 与 Foo 均可被接受！但是第 18 行明明有 google 的 goo ，别忘记了，因为该行后面出现了 tool 的 too 啊！所以该行也被列出来～ 也就是说， 18 行里面虽然出现了我们所不要的项目 (goo) 但是由于有需要的项目 (too) ， 因此，是符合字符串搜寻的！ 至于第 19 行，同样的，因为 goooooogle 里面的 oo 前面可能是 o ，例如： go(ooo)oogle ，所以，这一行也是符合需求的！ 再来，假设我 oo 前面不想要有小写字符，所以，我可以这样写 [^abcd....z]oo ， 但是这样似乎不怎么方便，由于小写字符的 ASCII 上编码的顺序是连续的， 因此，我们可以将之简化为底下这样： [root@www ~]# grep -n '[^a-z]oo' regular_express.txt 
也就是说，当我们在一组集合字符中，如果该字符组是连续的，例如大写英文/小写英文/数字等等， 就可以使用[a-z],[A-Z],[0-9]等方式来书写。

那么如果我们的要求字符串是数字与英文呢？就将他全部写在一起，写成：[a-zA-Z0-9]。例如，我们要取得有数字的那一行，就这样： 
[root@www ~]# grep -n '[0-9]' regular_express.txt 
但由于考虑到语系对于编码顺序的影响，因此除了连续编码使用减号『 - 』之外， 你也可以使用如下的方法来取得前面两个测试的结果： 
[root@www ~]# grep -n '[^[:lower:]]oo' regular_express.txt                   -->代表oo 前面不想要有小写字符
# 那个 [:lower:] 代表的就是 a-z 的意思！请参考前两小节的说明表格 
[root@www ~]# grep -n '[[:digit:]]' regular_express.txt                      -->我们要取得有数字的那一行

例题三、行首与行尾字符 ^ $   （注意“行首 ^ ”和“反向选择 [^] ”的区别）
我们在例题一当中，可以查询到一行字符串里面有 the 的，那如果我想要让 the 只在行首列出呢？ 这个时候就得要使用制表符了！我们可以这样做： 
[root@www ~]# grep -n '^the' regular_express.txt 
12:the symbol '*' is represented as start.
此时，就只剩下第 12 行，因为只有第 12 行的行首是 the 开头。

如果我想要开头是小写字符的那一行就列出呢？可以这样： 
[root@www ~]# grep -n '^[a-z]' regular_express.txt
你可以发现我们可以捉到第一个字符都不是大写的！只不过 grep 列出的关键词部分不只有第一个字符， grep 是列出一整个字 (word) 说！同样的，上面的指令也可以用如下的方式来取代的：
[root@www ~]# grep -n '^[[:lower:]]' regular_express.txt

好！那如果我不想要开头是英文字母，则可以是这样： 
[root@www ~]# grep -n '^[^a-zA-Z]' regular_express.txt
指令也可以是： grep -n '^[^[:alpha:]]' regular_express.txt
注意到了吧？那个 ^ 符号，在字符集合符号(括号[])之内与之外是不同的！ 在 [] 内代表『反向选择』，在 [] 之外则代表定位在行首的意义！

那如果想要找出来，行尾结束为小数点 (.) 的那一行，该如何处理：
[root@www ~]# grep -n '\.$' regular_express.txt
特别注意到，因为小数点具有其他意义(底下会介绍)，所以必须要使用跳脱字符(\)来加以解除其特殊意义！

假设你已经知道在一个程序脚本 (shell script) 或者是配置文件当中，空白行与开头为 # 的那一行是批注，因此如果你要将资料列出给别人参考时， 可以将这些数据省略掉以节省保贵的纸张，那么你可以怎么作呢？ 我们以 /etc/syslog.conf 这个档案来作范例，你可以自行参考一下输出的结果： 
[root@www ~]# cat -n /etc/syslog.conf              --> 输出行号
# 在 CentOS 中，结果可以发现有 33 行的输出，很多空白行与 # 开头
[root@www ~]# grep -v '^$' /etc/syslog.conf | grep -v '^#' 
# 结果仅有 10 行，其中第一个『 -v '^$' 』代表『不要空白行』， # 第二个『 -v '^#' 』代表『不要开头是 # 的那行』

例题四、任意一个字符 . 与重复字符 *
我们知道通配符 * 可以用来代表任意(0或多个)字符， 但是正规表示法并不是通配符，两者之间是不相同的！ 至于正规表示法当中的『 . 』则代表『绝对有一个任意字符』的意思！这两个符号在正规表示法的意义如下：
 . (小数点)：代表『一定有一个任意字符』的意思；
 * (星星号)：代表『重复前一个 0 到无穷多次』的意思，为组合形态 -->我的理解是：.（小数点）：一定有一个，    *（星星号）：不一定有，也可以是空字符

看看这个练习！假设我需要找出 g??d 的字符串，亦即共有四个字符， 起头是 g 而结束是 d ，我可以这样做： 
[root@www ~]# grep -n 'g..d' regular_express.txt 
因为强调 g 与 d 之间一定要存在两个字符，因此，第 13 行的 god 与第 14 行的 gd 就不会被列出来啦！

      如果我想要列出有 oo, ooo, oooo 等等的数据， 也就是说，至少要有两个(含) o 以上，该如何是好？ 因为 * 代表的是『重复 0 个或多个前面的 RE 字符』的意义， 因此，『o*』代表的是：『拥有空字符或一个 o 以上的字符』， 特别注意，因为允许空字符(就是有没有字符都可以的意思)，因此， 『 grep -n 'o*' regular_express.txt 』将会把所有的数据都打印出来屏幕上！ 那如果是『oo*』呢？则第一个 o 肯定必须要存在，第二个 o 则是可有可无的多个 o ， 所以，凡是含有 o, oo, ooo, oooo 等等，都可以被列出来～ 同理，当我们需要『至少两个 o 以上的字符串』时，就需要 ooo* ，亦即是：
[root@www ~]# grep -n 'ooo*' regular_express.txt 

如果我想要字符串开头与结尾都是 g，但是两个 g 之间仅能存在至少一个 o ，亦即是 gog, goog, gooog.... 等等，那该如何？ 
[root@www ~]# grep -n 'goo*g' regular_express.txt

再来看看，如果我想要找出 g 开头与 g 结尾的字符串，当中的字符可有可无， 那该如何得到我们的 g....g 的需求呢？就利用任意一个字符『.』！ 亦即是：『g.*g』的作法，因为 * 可以是 0 或多个重复前面的字符，而 . 是任意字符，所以： 『.* 就代表零个或多个任意字符』的意思了！
[root@www ~]# grep -n 'g.*g' regular_express.txt 
因为是代表 g 开头与 g 结尾，中间任意字符均可接受，所以，第 1, 14, 20 行是可接受的！ 这个 .* 的 RE 表示任意字符是很常见的！

如果我想要找出『任意数字』的行列呢？因为仅有数字，所以就成为：
[root@www ~]# grep -n '[0-9][0-9]*' regular_express.txt
虽然使用 grep -n '[0-9]' regular_express.txt 也可以得到相同的结果， 但鸟哥希望大家能够理解上面指令当中 RE 表示法的意义才好！

例题五、限定连续 RE 字符范围 {}
在上个例题当中，我们可以利用 . 与 RE 字符及 * 来设定 0 个到无限多个重复字符， 那如果我想要限制一个范围区间内的重复字符数呢？举例来说，我想要找出两个到五个 o 的连续字符串，该如何作？这时候就得要使用到限定范围的字符 {} 了。 但因为 { 与 } 的符号在 shell 是有特殊意义的，因此， 我们必须要使用跳脱字符 \ 来让他失去特殊意义才行。 至于 {} 的语法是这样的，假设我要找到两个 o 的字符串，可以是：
[root@www ~]# grep -n 'o\{2\}' regular_express.txt 
这样看似乎与 ooo* 的字符没有什么差异啊？因为第 19 行有多个 o 依旧也出现了！ 好，那么换个搜寻的字符串，假设我们要找出 g 后面接 2 到 5 个 o ，然后再接一个 g 的字符串，他会是这样： [root@www ~]# grep -n 'go\{2,5\}g' regular_express.txt
 那么，如果我想要的是 2 个 o 以上的 goooo....g 呢？除了可以是 gooo*g ，也可以是： 
[root@www ~]# grep -n 'go\{2,\}g' regular_express.txt