2008r2网站建设,通过电子邮件发布 wordpress,苏州个人网站制作公司,网站建设论证方案【BASH】回顾与知识点梳理 八 八. 正则表达式#xff08;正规表示法#xff09;8.1 什么是正规表示法8.2 基础正规表示法语系对正规表示法的影响grep 的一些进阶选项基础正规表示法练习例题一、搜寻特定字符串例题二、利用中括号 [] 来搜寻集合字符例题三、行首与行尾字符 ^ … 【BASH】回顾与知识点梳理 八 八. 正则表达式正规表示法8.1 什么是正规表示法8.2 基础正规表示法语系对正规表示法的影响grep 的一些进阶选项基础正规表示法练习例题一、搜寻特定字符串例题二、利用中括号 [] 来搜寻集合字符例题三、行首与行尾字符 ^ $例题四、任意一个字符 . 与重复字符 *例题五、限定连续 RE 字符范围 {} 8.3 基础正规表示法字符汇整 (characters)8.4 sed 工具(重点)以行为单位的新增/删除功能以行为单位的取代与显示功能部分数据的搜寻并取代的功能直接修改文件内容(危险动作)同时执行多条sed命令sed脚本文件 该系列目录 -- 【BASH】回顾与知识点梳理目录
八. 正则表达式正规表示法
正规表示法 (Regular Expression, RE, 或称为常规表示法)是透过一些特殊字符的排列用以『搜寻/取代/删除』一列或多列文字字符串 简单的说正规表示法就是用在字符串的处理上面的一项『表示式』。正规表示法并不是一个工具程序而是一个字符串处理的标准依据如果您想要以正规表示法的方式处理字符串就得要使用支持正规表示法的工具程序才行 这类的工具程序很多例如 vi, sed, awk 等等。
正规表示法对于系统管理员来说实在是很重要因为系统会产生很多的讯息这些讯息有的重要有的仅是告知 此时管理员可以透过正规表示法的功能来将重要讯息撷取出来并产生便于查阅的报表来简化管理流程。此外 很多的软件包也都支持正规表示法的分析例如邮件服务器的过滤机制(过滤垃圾信件)就是很重要的一个例子。 所以您最好要了解正规表示法的相关技能在未来管理主机时才能够更精简处理您的日常事务 注本章节使用者需要多加练习因为目前很多的套件都是使用正规表示法来达成其『过滤、分析』的目的 为了未来主机管理的便利性使用者至少要能看的懂正规表示法的意义 8.1 什么是正规表示法
约略了解了 Linux 的基本指令 (BASH) 并且熟悉了 vim 之后相信你对于敲击键盘的打字与指令下达比较不陌生了吧 接下来底下要开始介绍一个很重要的观念那就是所谓的『正规表示法(Regular Expression)』啰 什么是正规表示法 任何一个有经验的系统管理员都会告诉你『正规表示法真是挺重要的』 为什么很重要呢因为日常生活就使用的到啊举个例子来说 在你日常使用 vim 作字处理或程序撰写时使用到的『搜寻/取代』等等的功能 这些举动要作的漂亮就得要配合正规表示法来处理啰 简单的说正规表示法就是处理字符串的方法他是以行为单位来进行字符串的处理行为 正规表示法透过一些特殊符号的辅助可以让使用者轻易的达到『搜寻/删除/取代』某特定字符串的处理程序 举个系统常见的例子好了假设妳发现系统在开机的时候老是会出现一个关于 mail 程序的错误 而开机过程的相关程序都是在/lib/systemd/system/ 底下也就是说在该目录底下的某个文件内具有 mail 这个关键词你想要将该文件捉出来进行查询修改的动作。此时你怎么找出来含有这个关键词的文件 你当然可以一个文件一个文件的开启然后去搜寻 mail 这个关键词只是…该目录底下的文件可能不止 100 个说 如果了解正规表示法的相关技巧那么只要一行指令就找出来啦『grep mail /lib/systemd/system/*』 那个 grep 就是支持正规表示法的工具程序之一如何很简单吧 谈到这里就得要进一步说明了正规表示法基本上是一种『表示法』 只要工具程序支持这种表示法那么该工具程序就可以用来作为正规表示法的字符串处理之用。 例如 vi, grep, awk ,sed 等等工具因为她们有支持正规表示法 所以这些工具就可以使用正规表示法的特殊字符来进行字符串的处理。但例如 cp, ls 等指令并未支持正规表示法 所以就只能使用 bash 自己本身的通配符而已。 正规表示法对于系统管理员的用途 那么为何我需要学习正规表示法呢对于一般使用者来说由于使用到正规表示法的机会可能不怎么多 因此感受不到他的魅力不过对于身为系统管理员的你来说正规表示法则是一个『不可不学的好东西』 怎么说呢由于系统如果在繁忙的情况之下每天产生的讯息信息会多到你无法想象的地步 而我们也都知道系统的『错误讯息登录文件』 的内容记载了系统产生的所有讯息当然这包含你的系统是否被『入侵』的记录数据。 正规表示法的广泛用途 正规表示法除了可以让系统管理员管理主机更为便利之外事实上由于正规表示法强大的字符串处理能力 目前一堆软件都支持正规表示法呢最常见的就是『邮件服务器』啦 正规表示法与 Shell 在 Linux 当中的角色定位 说实在的我们在学数学的时候一个很重要、但是粉难的东西是一定要『背』的 那就是九九表背成功了之后未来在数学应用的路途上真是一帆风顺啊 这个九九表我们在小学的时候几乎背了一整年才背下来并不是这么好背的呢 但他却是基础当中的基础你现在一定受惠相当的多呢 ^_^ 延伸的正规表示法 唔正规表示法还有分喔没错喔正规表示法的字符串表示方式依照不同的严谨度而分为 基础正规表示法与延伸正规表示法。延伸型正规表示法除了简单的一组字符串处理之外还可以作群组的字符串处理 例如进行搜寻 VBird 或 netman 或 lman 的搜寻注意是『或(or)』而不是『和(and)』的处理 此时就需要延伸正规表示法的帮助啦藉由特殊的『 ( 』与『 | 』等字符的协助 就能够达到这样的目的不过我们在这里主力仅是介绍最基础的基础正规表示法而已啦好啦清清脑门咱们用功去啰 有一点要向大家报告的那就是『正规表示法与通配符是完全不一样的东西』 这很重要喔因为『通配符 (wildcard) 代表的是 bash 操作接口的一个功能』但正规表示法则是一种字符串处理的表示方式 这两者要分的很清楚才行喔所以学习本章请将前一章 bash 的通配符意义先忘掉吧 8.2 基础正规表示法
既然正规表示法是处理字符串的一种表示方式那么对字符排序有影响的语系数据就会对正规表示法的结果有影响 此外正规表示法也需要支持工具程序来辅助才行所以我们这里就先介绍一个最简单的字符串撷取功能的工具程序那就是 grep 啰前一章已经介绍过 grep 的相关选项与参数本章着重在进阶的 grep 选项说明啰 介绍完 grep 的功能之后就进入正规表示法的特殊字符的处理能力了。
语系对正规表示法的影响
为什么语系的数据会影响到正规表示法的输出结果呢我们知道文件其实记录的仅有 0 与 1看到的字符文字与数字都是透过编码表转换来的。由于不同语系的编码数据并不相同所以就会造成数据撷取结果的差异了。 举例来说在英文大小写的编码顺序中zh_TW.big5 及 C 这两种语系的输出结果分别如下
LANGC 时0 1 2 3 4 ... A B C D ... Z a b c d ...z
LANGzh_TW 时0 1 2 3 4 ... a A b B c C d D ... z Z上面的顺序是编码的顺序我们可以很清楚的发现这两种语系明显就是不一样如果你想要撷取大写字符而使用 [A-Z] 时 会发现LANGC 确实可以仅捉到大写字符 (因为是连续的) 但是如果LANGzh_TW.big5 时就会发现到 连同小写的 b-z 也会被撷取出来因为就编码的顺序来看big5 语系可以撷取到『 A b B c C … z Z 』这一堆字符哩 所以使用正规表示法时需要特别留意当时环境的语系为何 否则可能会发现与别人不相同的撷取结果喔
由于一般我们在练习正规表示法时使用的是兼容于 POSIX 的标准因此就使用『 C 』这个语系 因此底下的很多练习都是使用『 LANGC 』这个语系数据来进行的喔 另外为了要避免这样编码所造成的英文与数字的撷取问题因此有些特殊的符号我们得要了解一下的 这些符号主要有底下这些意义
组描述[[:alpha:]]匹配任意字母字符不管大小写,[a-z],[A-Z][[:alnum:]]匹配任意字母字符和数字[0-9],[a-z],[A-Z][[:upper:]]匹配大写字母[A-Z][[:lower:]]匹配小写字母[a-z][[:digit:]]匹配数字,[0-9][[:blank:]]匹配空格或值表符[[:cntrl:]]代表键盘上面的控制按键亦即包括 CR, LF, Tab, Del… 等等[[:graph:]]除了空格符 (空格键与 [Tab] 按键) 外的其他所有按键[[:print:]]匹配任意可打印字符[[:punct:]]匹配标点符号[[:space:]]匹配任意空白字符空格制表NLFFVTCR[[:xdigit:]]代表 16 进位的数字类型因此包括 0-9, A-F, a-f 的数字与字符
尤其上表中的[:alnum:], [:alpha:], [:upper:], [:lower:], [:digit:] 这几个一定要知道代表什么意思因为他要比 a-z 或 A-Z 的用途要确定的很好了底下就让我们开始来玩玩进阶版的 grep 吧 Dos和Windows采用回车换行CRLF表示下一行 而UNIX/Linux采用换行符LF表示下一行 苹果机(MAC OS系统)则采用回车符CR表示下一行 grep 的一些进阶选项
我们在前面的 grep 谈论过一些基础用法 但其实 grep 还有不少的进阶用法喔
[dmtsaistudy ~]$ grep [-A] [-B] [--colorauto] 搜寻字符串 filename
选项与参数
-A 后面可加数字为 after 的意思除了列出该行外以该行为锚点后续的 n 行也列出来
-B 后面可加数字为 befer 的意思除了列出该行外以该行为锚点前面的 n 行也列出来
-n 显示匹配内容的行号
-i 忽略大小写
--colorauto 可将正确的那个撷取数据列出颜色#范例一用 dmesg 列出核心讯息再以 grep 找出内含 qxl 那行
[dmtsaistudy ~]$ dmesg | grep qxl -
[ 0.522749] [drm] qxl: 16M of VRAM memory size
[ 0.522750] [drm] qxl: 63M of IO pages memory ready (VRAM domain)
[ 0.522750] [drm] qxl: 32M of Surface memory size
[ 0.650714] fbcon: qxldrmfb (fb0) is primary device
[ 0.668487] qxl 0000:00:02.0: fb0: qxldrmfb frame buffer device
# dmesg 可列出核心产生的讯息包括硬件侦测的流程也会显示出来。
# 鸟哥使用的显卡是 QXL 这个虚拟卡透过 grep 来 qxl 的相关信息可发现如上信息。#范例二承上题要将捉到的关键词显色且加上行号来表示
[dmtsaistudy ~]$ dmesg | grep -n --colorauto qxl
515:[ 0.522749] [drm] qxl: 16M of VRAM memory size
516:[ 0.522750] [drm] qxl: 63M of IO pages memory ready (VRAM domain)
517:[ 0.522750] [drm] qxl: 32M of Surface memory size
529:[ 0.650714] fbcon: qxldrmfb (fb0) is primary device
539:[ 0.668487] qxl 0000:00:02.0: fb0: qxldrmfb frame buffer device
# 除了 qxl 会有特殊颜色来表示之外最前面还有行号喔其实颜色显示已经是默认在 alias 当中了#范例三承上题在关键词所在行的前两行与后三行也一起捉出来显示
[dmtsaistudy ~]$ dmesg | grep -n -A3 -B2 --colorauto qxl
# 你会发现关键词之前与之后的数行也被显示出来这样可以让你将关键词前后数据捉出来进行分析啦grep 是一个很常见也很常用的指令他最重要的功能就是进行字符串数据的比对然后将符合用户需求的字符串打印出来。 需要说明的是『grep 在数据中查寻一个字符串时是以 “整行” 为单位来进行数据的撷取的』也就是说假如一个文件内有 10 行其中有两行具有你所搜寻的字符串则将那两行显示在屏幕上其他的就丢弃了 在 CentOS 7 当中预设已经将 --colorauto 加入在 alias 当中了用户就可以直接使用有关键词显色的 grep 啰非常方便 基础正规表示法练习
要了解正规表示法最简单的方法就是由实际练习去感受啦所以在汇整正规表示法特殊符号前 我们先以底下这个文件的内容来进行正规表示法的理解吧先说明一下底下的练习大前提是
语系已经使用『 export LANGC; export LC_ALLC 』的设定值grep 已经使用 alias 设定成为『 grep --colorauto 』 LANGen_US.UTF-8这里使用utf-8效果是一样的 练习文件
[rootnode-135 yurq]# cat regular_express.txt
Open Source is a good mechanism to develop programs.
apple is my favorite food.
Football game is not use feet only.
this dress doesnt fit me.
However, this dress is about $ 3183 dollars.^M
GNU is free air not free beer.^M
Her hair is very beauty.^M
I cant finish the test.^M
Oh! The soup taste good.^M
motorcycle is cheap than car.
This window is clear.
the symbol * is represented as start.
Oh! My god!
The gd software is a library for drafting programs.^M
You are the best is mean you are the no. 1.
The world Happy is the same with glad.
I like dog.
google is the best tools for search keyword.
goooooogle yes!
go! go! Lets go.
# I am VBird
这文件共有 22 行最底下一行为空白行现在开始我们一个案例一个案例的来介绍吧
例题一、搜寻特定字符串
搜寻特定字符串很简单吧假设我们要从刚刚的文件当中取得 the 这个特定字符串最简单的方式就是这样
[rootnode-135 yurq]# grep -n the regular_express.txt
8:I cant finish the test.^M
12:the symbol * is represented as start.
15:You are the best is mean you are the no. 1.
16:The world Happy is the same with glad.
18:google is the best tools for search keyword.那如果想要『反向选择』呢也就是说当该行没有 ‘the’ 这个字符串时才显示在屏幕上那就直接使用
[rootnode-135 yurq]# grep -vn the regular_express.txt
1:Open Source is a good mechanism to develop programs.
2:apple is my favorite food.
...如果你想要取得不论大小写的 the 这个字符串则
[rootnode-135 yurq]# grep -in the regular_express.txt
8:I cant finish the test.^M
9:Oh! The soup taste good.^M
12:the symbol * is represented as start.
...例题二、利用中括号 [] 来搜寻集合字符
如果我想要搜寻 test 或 taste 这两个单字时可以发现到其实她们有共通的 ‘t?st’ 存在这个时候我可以这样来搜寻
[rootnode-135 yurq]# grep -n t[ae]ste* regular_express.txt
8:I cant finish the test.^M
9:Oh! The soup taste good.^M了解了吧其实 [] 里面不论有几个字符他都仅代表某『一个』字符 所以上面的例子说明了我需要的字符串是『tast』或『test』两个字符串而已 而如果想要搜寻到有 oo 的字符时则使用
[dmtsaistudy ~]$ grep -n oo regular_express.txt
1:Open Source is a good mechanism to develop programs.
2:apple is my favorite food.
...但是如果我不想要 oo 前面有 g 的话呢此时可以利用在集合字符的反向选择 [^] 来达成
[rootnode-135 yurq]# grep -n [^g]oo regular_express.txt
2:apple is my favorite food.
3:Football game is not use feet only.
18:google is the best tools for search keyword.
19:goooooogle yes!再来假设我 oo 前面不想要有小写字符所以我可以这样写[^abcd…z]oo 但是这样似乎不怎么方便由于小写字符的 ASCII 上编码的顺序是连续的 因此我们可以将之简化为底下这样
[dmtsaistudy ~]$ grep -n [^a-z]oo regular_express.txt
3:Football game is not use feet only.也就是说当我们在一组集合字符中如果该字符组是连续的例如大写英文/小写英文/数字等等就可以使用[a-z],[A-Z],[0-9]等方式来书写那么如果我们的要求字符串是数字与英文呢 呵呵就将他全部写在一起变成[a-zA-Z0-9]。例如我们要取得有数字的那一行就这样
[rootnode-135 yurq]# grep -n [0-9] regular_express.txt
5:However, this dress is about $ 3183 dollars.^M
15:You are the best is mean you are the no. 1.但由于考虑到语系对于编码顺序的影响因此除了连续编码使用减号『 - 』之外 你也可以使用如下的方法来取得前面两个测试的结果
[dmtsaistudy ~]$ grep -n [^[:lower:]]oo regular_express.txt
# 那个 [:lower:] 代表的就是 a-z 的意思
[dmtsaistudy ~]$ grep -n [[:digit:]] regular_express.txt啥上头在写啥东西呢不要害怕分开来瞧一瞧。我们知道 [:lower:] 就是 a-z 的意思那么 [a-z] 当然就是 [[:lower:]] 啰鸟哥第一次接触正规表示法的时候看到两层中括号差点昏倒完全看不懂现在请注意那个迭代的意义 自然就能够比较清楚了解啰
例题三、行首与行尾字符 ^ $
我们在例题一当中可以查询到一行字符串里面有 the 的那如果我想要让 the 只在行首列出呢这个时候就得要使用制表符了我们可以这样做
[rootnode-135 yurq]# grep -n ^the regular_express.txt
12:the symbol * is represented as start.如果我想要开头是小写字符的那一行就列出呢可以这样
[rootnode-135 yurq]# grep -n ^[a-z] regular_express.txt
2:apple is my favorite food.
4:this dress doesnt fit me.
10:motorcycle is cheap than car.
...你可以发现我们可以捉到第一个字符都不是大写的上面的指令也可以用如下的方式来取代的
[rootnode-135 yurq]# grep -n ^[[:lower:]] regular_express.txt
2:apple is my favorite food.
4:this dress doesnt fit me.
...不过如果中括号里再放一个^就是取反了
[rootnode-135 yurq]# grep -n ^[^[:lower:]] regular_express.txt
1:Open Source is a good mechanism to develop programs.
3:Football game is not use feet only.
...那如果我不想要开头是英文字母则可以是这样
[rootnode-135 yurq]# grep -n ^[^a-zA-Z] regular_express.txt
1:Open Source is a good mechanism to develop programs.
21:# I am VBird
# 指令也可以是 grep -n ^[^[:alpha:]] regular_express.txt注意到了吧那个 ^ 符号在字符集合符号(括号[])之内与之外是不同的在 [] 内代表『反向选择』在 [] 之外则代表定位在行首的意义要分清楚喔 反过来思考那如果我想要找出来行尾结束为小数点 (.) 的那一行该如何处理
[rootnode-135 yurq]# grep -n \.$ regular_express.txt
1:Open Source is a good mechanism to develop programs.
2:apple is my favorite food.
...特别注意到因为小数点具有其他意义(底下会介绍)所以必须要使用跳脱字符()来加以解除其特殊意义 不过你或许会觉得奇怪但是第 5~9 行最后面也是 . 啊怎么无法打印出来 这里就牵涉到 Windows 平台的软件对于断行字符的判断问题了我们使用 cat -A 将第五行拿出来看 你会发现
[dmtsaistudy ~]$ cat -An regular_express.txt | head -n 10 | tail -n 65 However, this dress is about $ 3183 dollars.^M$6 GNU is free air not free beer.^M$7 Her hair is very beauty.^M$8 I cant finish the test.^M$9 Oh! The soup taste good.^M$10 motorcycle is cheap than car.$我们在前面谈到过断行字符在 Linux 与 Windows 上的差异 在上面的表格中我们可以发现5~9 行为 Windows 的断行字符 (^M$) 而正常的 Linux 应该仅有第 10 行显示的那样 ($) 。所以啰那个 . 自然就不是紧接在 $ 之前喔也就捉不到 5~9 行了这样可以了解 ^ 与 $ 的意义吗好了先不要看底下的解答自己想一想那么如果我想要找出来哪一行是『空白行』 也就是说该行并没有输入任何数据该如何搜寻
[rootnode-135 yurq]# grep -n ^$ regular_express.txt
22:因为只有行首跟行尾 (^$)所以这样就可以找出空白行啦再来假设你已经知道在一个程序脚本 (shell script) 或者是配置文件当中空白行与开头为 # 的那一行是批注因此如果你要将资料列出给别人参考时 可以将这些数据省略掉以节省保贵的纸张那么你可以怎么作呢 我们以/etc/rsyslog.conf 这个文件来作范例你可以自行参考一下输出的结果
[dmtsaistudy ~]$ grep -v ^$ /etc/rsyslog.conf | grep -v ^#
# 结果仅有 14 行其中第一个『 -v ^$ 』代表『不要空白行』
# 第二个『 -v ^# 』代表『不要开头是 # 的那行』喔
[rootnode-135 yurq]# egrep -v ^#|^$ /etc/rsyslog.conf是否节省很多版面啊另外你可能也会问那为何不要出现 # 的符号的那行就直接舍弃呢没办法因为某些批注是与设定写在同一行的后面 如果你只是抓 # 就予以去除那就会将某些设定也同时移除了那错误就大了
例题四、任意一个字符 . 与重复字符 *
在前面介绍中我们知道通配符 * 可以用来代表任意(0 或多个)字符 但是正规表示法并不是通配符两者之间是不相同的 至于正规表示法当中的『 . 』则代表『绝对有一个任意字符』的意思这两个符号在正规表示法的意义如下
.(小数点)代表『一定有一个任意字符』的意思* (星星号)代表『重复前一个字符 0 到无穷多次』的意思为组合形态
这样讲不好懂我们直接做个练习吧假设我需要找出 g??d 的字符串亦即共有四个字符 起头是 g 而结束是 d 我可以这样做
[rootnode-135 yurq]# grep -n g..d regular_express.txt
1:Open Source is a good mechanism to develop programs.
9:Oh! The soup taste good.^M
16:The world Happy is the same with glad.因为强调 g 与 d 之间一定要存在两个字符因此第 13 行的 god 与第 14 行的 gd 就不会被列出来啦再来如果我想要列出有 oo, ooo, oooo 等等的数据 也就是说至少要有两个(含) o 以上该如何是好是 o* 还是 oo* 还是 ooo* 呢 虽然你可以试看看结果 不过结果太占版面了_ 所以我这里就直接说明。
因为 * 代表的是『重复 0 个或多个前面的 RE 字符』的意义 因此『o*』代表的是『拥有空字符或一个 o 以上的字符』 特别注意因为允许空字符(就是有没有字符都可以的意思)因此『 grep -n ‘o*’ regular_express.txt 』将会把所有的数据都打印出来屏幕上
那如果是『oo*』呢则第一个 o 肯定必须要存在第二个 o 则是可有可无的多个 o 所以凡是含有 o, oo, ooo, oooo 等等都可以被列出来
同理当我们需要『至少两个 o 以上的字符串』时就需要 ooo* 亦即是
[dmtsaistudy ~]$ grep -n ooo* regular_express.txt
1:Open Source is a good mechanism to develop programs.
2:apple is my favorite food.
3:Football game is not use feet only.
9:Oh! The soup taste good.
18:google is the best tools for search keyword.
19:goooooogle yes!这样理解 * 的意义了吗好了现在出个练习如果我想要字符串开头与结尾都是 g但是两个 g 之间仅能存在至少一个 o 亦即是 gog, goog, gooog… 等等那该如何
[dmtsaistudy ~]$ grep -n goo*g regular_express.txt
18:google is the best tools for search keyword.
19:goooooogle yes!如此了解了吗再来一题如果我想要找出 g 开头与 g 结尾的字符串当中的字符可有可无那该如何是好是『g*g』吗
[rootnode-135 yurq]# grep -n g.*g regular_express.txt
1:Open Source is a good mechanism to develop programs.
14:The gd software is a library for drafting programs.^M
18:google is the best tools for search keyword.
19:goooooogle yes!
20:go! go! Lets go.『.* 就代表零个或多个任意字符』的意思啦 因为是代表 g 开头与 g 结尾中间任意字符均可接受所以第 1, 14, 20 行是可接受的喔这个 .* 的 RE 表示任意字符是很常见的希望大家能够理解并且熟悉 再出一题如果我想要找出『任意数字』的行列呢因为仅有数字所以就成为
[dmtsaistudy ~]$ grep -n [0-9][0-9]* regular_express.txt
5:However, this dress is about $ 3183 dollars.
15:You are the best is mean you are the no. 1.虽然使用 grep -n [0-9] regular_express.txt 也可以得到相同的结果 但鸟哥希望大家能够理解上面指令当中 RE 表示法的意义才好
例题五、限定连续 RE 字符范围 {}
在上个例题当中我们可以利用 . 与 RE 字符及 * 来设定 0 个到无限多个重复字符 那如果我想要限制一个范围区间内的重复字符数呢举例来说我想要找出两个到五个 o 的连续字符串该如何作这时候就得要使用到限定范围的字符 {} 了。 但因为 { 与 } 的符号在 shell 是有特殊意义的因此 我们必须要使用跳脱字符 \ 来让他失去特殊意义才行。至于 {} 的语法是这样的假设我要找到两个 o 的字符串可以是
[rootnode-135 yurq]# grep -n o\{2\} regular_express.txt
1:Open Source is a good mechanism to develop programs.
2:apple is my favorite food.
3:Football game is not use feet only.
...这样看似乎与 ooo* 的字符没有什么差异啊因为第 19 行有多个 o 依旧也出现了 好那么换个搜寻的字符串假设我们要找出 g 后面接 2 到 5 个 o 然后再接一个 g 的字符串他会是这样
[rootnode-135 yurq]# grep -n go\{2,5\}g regular_express.txt
18:google is the best tools for search keyword.嗯很好第 19 行终于没有被取用了(因为 19 行有 6 个 o 啊)。 那么如果我想要的是 2 个o 以上的 goooo…g 呢除了可以是 gooo*g 也可以是
[rootnode-135 yurq]# grep -n go\{2,\}g regular_express.txt
18:google is the best tools for search keyword.
19:goooooogle yes!8.3 基础正规表示法字符汇整 (characters)
RE 字符意义与范例^word意义待搜寻的字符串(word)在行首范例搜寻行首为 # 开始的那一行并列出行号。grep -n ‘^#’ regular_express.txtword$意义待搜寻的字符串(word)在行尾范例将行尾为 ! 的那一行打印出来并列出行号。grep -n ‘!$’ regular_express.txt.意义代表『一定有一个任意字符』的字符范例搜寻的字符串可以是 (eve) (eae) (eee) (e e) 但不能仅有 (ee) 亦即 e 与 e 中间『一定』仅有一个字符而空格符也是字符grep -n ‘e.e’ regular_express.txt\意义跳脱字符将特殊符号的特殊意义去除范例搜寻含有单引号 ’ 的那一行grep -n ’ regular_express.txt*意义重复零个到无穷多个的前一个 RE 字符。范例找出含有 (es) (ess) (esss) 等等的字符串注意因为 * 可以是 0 个所以 es 也是符合带搜寻字符串。另外因为 * 为重复『前一个 RE 字符』的符号 因此在 * 之前必须要紧接着一个 RE 字符喔例如任意字符则为 『.*』 grep -n ‘ess*’ regular_express.txt[list]意义字符集合的 RE 字符里面列出想要撷取的字符范例搜寻含有 (gl) 或 (gd) 的那一行需要特别留意的是在 [] 当中『谨代表一个待搜寻的字符』 例如『 a[afl]y 』代表搜寻的字符串可以是 aay, afy, aly 即 [afl] 代表 a 或f 或 l 的意思grep -n ‘g[ld]’ regular_express.txt[n1-n2]意义字符集合的 RE 字符里面列出想要撷取的字符范围范例搜寻含有任意数字的那一行需特别留意在字符集合 [] 中的减号 - 是有特殊意义的他代表两个字符之间的所有连续字符但这个连续与否与 ASCII 编码有关因此你的编码需要设定正确(在 bash 当中需要确定 LANG 与 LANGUAGE 的变量是否正确) 例如所有大写字符则为 [A-Z]。grep -n ‘[A-Z]’ regular_express.txt[^list]意义字符集合的 RE 字符里面列出不要的字符串或范围范例搜寻的字符串可以是 (oog) (ood) 但不能是 (oot) 那个 ^ 在 [] 内时代表的意义是『反向选择』的意思。 例如我不要大写字符则为 [^A-Z]。但是需要特别注意的是如果以 grep -n [^A-Z] regular_express.txt 来搜寻却发现该文件内的所有行都被列出为什么因为这个 [^A-Z] 是『非大写字符』的意思 因为每一行均有非大写字符例如第一行的 “Open Source” 就有 p,e,n,o… 等等的小写字。grep -n ‘oo[^t]’ regular_express.txt\{n,m\}意义连续 n 到 m 个的『前一个 RE 字符』意义若为 {n} 则是连续 n 个的前一个 RE 字符意义若是 {n,} 则是连续 n 个以上的前一个 RE 字符 范例在 g 与 g 之间有 2 个到3 个的 o 存在的字符串亦即 (goog)(gooog)grep -n ‘go{2,3}g’ regular_express.txt 再次强调『正规表示法的特殊字符』与一般在指令列输入指令的『通配符』并不相同 例如在通配符当中的 * 代表的是『 0 ~ 无限多个字符』的意思但是在正规表示法当中 * 则是『重复 0 到无穷多个的前一个 RE 字符』的意思使用的意义并不相同不要搞混了 举例来说不支持正规表示法的 ls 这个工具中若我们使用 『ls -l * 』 代表的是任意档名的文件而 『ls -l a* 』代表的是以 a 为开头的任何档名的文件 但在正规表示法中我们要找到含有以 a 为开头的文件则必须要这样(需搭配支持正规表示法的工具)
ls | grep -n ^a.*例题 以 ls -l 配合 grep 找出 /etc/ 底下文件类型为链接文件属性的文件名 答 由于 ls -l 列出连结档时标头会是『 lrwxrwxrwx 』因此使用如下的指令即可找出结果
ls -l /etc | grep ^l若仅想要列出几个文件再以『 |wc -l 』 来累加处理即可。
8.4 sed 工具(重点)
在了解了一些正规表示法的基础应用之后再来呢呵呵两个东西可以玩一玩的那就是 sed 跟底下会介绍的 awk 了 这两个家伙可是相当的有用的啊举例来说鸟哥写的 logfile.sh 分析登录文件的小程序绝大部分分析关键词的取用、统计等等就是用这两个宝贝蛋来帮我完成的那么你说要不要玩一玩啊^_^
我们先来谈一谈 sed 好了 sed 本身也是一个管线命令可以分析 standard input 的啦 而且 sed 还可以将数据进行取代、删除、新增、撷取特定行等等的功能呢很不错吧 我们先来了解一下 sed 的用法再来聊他的用途好了
[dmtsaistudy ~]$ sed [-nefri] [动作]
选项与参数
-n 使用安静(silent)模式。在一般 sed 的用法中所有来自 STDIN 的数据一般都会被列出到屏幕上。但如果加上 -n 参数后则只有经过 sed 特殊处理的那一行(或者动作)才会被列出来。
-e 可以在一行里执行多条命令(原文直接在指令列模式上进行 sed 的动作编辑)
-f 直接将 sed 的动作写在一个文件内 -f filename 则可以执行 filename 内的 sed 动作
-r sed 的动作支持的是延伸型正规表示法的语法。(预设是基础正规表示法语法)
-i 直接修改读取的文件内容而不是由屏幕输出。动作说明 [n1[,n2]] function
n1, n2 不见得会存在一般代表『选择进行动作的行数』举例来说如果我的动作是需要在 10 到 20 行之间进行的则『 10,20[动作行为] 』function 有底下这些咚咚
a 新增(append) a 的后面可以接字符串而这些字符串会在新的一行出现(目前的下一行)
c 取代(replace) c 的后面可以接字符串这些字符串可以取代 n1,n2 之间的行
d 删除(delete)因为是删除啊所以 d 后面通常不接任何咚咚
i 插入(insert) i 的后面可以接字符串而这些字符串会在新的一行出现(目前的上一行)
p 打印(print)亦即将某个选择的数据印出。通常 p 会与参数 sed -n 一起运作
s 取代可以直接进行取代的工作哩通常这个 s 的动作可以搭配正规表示法例如 1,20s/old/new/g 就是啦以行为单位的新增/删除功能
sed 光是用看的是看不懂的啦所以又要来练习了先来玩玩删除与新增的功能吧
#范例一将 /etc/passwd 的内容列出并且打印行号同时请将第 2~5 行删除
[dmtsaistudy ~]$ nl /etc/passwd | sed 2,5d1 root:x:0:0:root:/root:/bin/bash6 sync:x:5:0:sync:/sbin:/bin/sync7 shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
.....(后面省略).....NAME nl - number lines of files SYNOPSIS nl [OPTION]… [FILE]… 看到了吧sed 的动作为 ‘2,5d’ 那个 d 就是删除因为 2-5 行给他删除了所以显示的数据就没有 2-5 行啰 另外注意一下原本应该是要下达 sed -e 才对没有 -e 也行啦同时也要注意的是 sed 后面接的动作请务必以 ‘’ 两个单引号括住喔
如果题型变化一下举例来说如果只要删除第 2 行可以使用『nl /etc/passwd | sed 2d』来达成至于若是要删除第 3 到最后一行则是『 nl /etc/passwd | sed 3,$d 』的啦那个钱字号『 $ 』代表最后一行
#范例二承上题在第二行后(亦即是加在第三行)加上『drink tea?』字样
[dmtsaistudy ~]$ nl /etc/passwd | sed 2a drink tea1 root:x:0:0:root:/root:/bin/bash2 bin:x:1:1:bin:/bin:/sbin/nologin
drink tea3 daemon:x:2:2:daemon:/sbin:/sbin/nologin
.....(后面省略).....嘿嘿在 a 后面加上的字符串就已将出现在第二行后面啰那如果是要在第二行前呢『 nl /etc/passwd | sed ‘2i drink tea’ 』就对啦就是将『 a 』变成『 i 』即可。 增加一行很简单那如果是要增加两行以上呢
#范例三在第二行后面加入两行字例如『Drink tea or .....』与『drink beer?』
[dmtsaistudy ~]$ nl /etc/passwd | sed 2a Drink tea or ......\drink beer ?1 root:x:0:0:root:/root:/bin/bash2 bin:x:1:1:bin:/bin:/sbin/nologin
Drink tea or ......
drink beer ?3 daemon:x:2:2:daemon:/sbin:/sbin/nologin
.....(后面省略).....这个范例的重点是『我们可以新增不只一行喔可以新增好几行』但是每一行之间都必须要以反斜杠『 \ 』来进行新行的增加喔所以上面的例子中我们可以发现在第一行的最后面就有 \ 存在啦在多行新增的情况下 \ 是一定要的喔
以行为单位的取代与显示功能
刚刚是介绍如何新增与删除那么如果要整行取代呢看看底下的范例吧
#范例四我想将第 2-5 行的内容取代成为『No 2-5 number』呢
[dmtsaistudy ~]$ nl /etc/passwd | sed 2,5c No 2-5 number1 root:x:0:0:root:/root:/bin/bash
No 2-5 number6 sync:x:5:0:sync:/sbin:/bin/sync
.....(后面省略).....透过这个方法我们就能够将数据整行取代了非常容易吧sed 还有更好用的东东我们以前想要列出第 11~20 行 得要透过『head -n 20 | tail -n 10』之类的方法来处理很麻烦啦 sed 则可以简单的直接取出你想要的那几行是透过行号来捉的喔看看底下的范例先
#范例五仅列出 /etc/passwd 文件内的第 5-7 行
[dmtsaistudy ~]$ nl /etc/passwd | sed -n 5,7p5 lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin6 sync:x:5:0:sync:/sbin:/bin/sync7 shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown上述的指令中有个重要的选项『 -n 』按照说明文件这个 -n 代表的是『安静模式』 那么为什么要使用安静模式呢你可以自行下达 sed ‘5,7p’ 就知道了 (5-7 行会重复输出) 有没有加上 -n 的参数时输出的数据可是差很多的喔你可以透过这个 sed 的以行为单位的显示功能 就能够将某一个文件内的某些行号捉出来查阅很棒的功能不是吗
部分数据的搜寻并取代的功能
除了整行的处理模式之外 sed 还可以用行为单位进行部分数据的搜寻并取代的功能喔 基本上sed 的搜寻与取代的与 vi 相当的类似他有点像这样
sed s/要被取代的字符串/新的字符串/g上表中特殊字体的部分(s///g)为关键词请记下来至于三个斜线分成两栏就是新旧字符串的替换啦 我们使用底下这个取得 IP 数据的范例一段一段的来处理给您瞧瞧让你了解一下什么是咱们所谓的搜寻并取代吧
步骤一先观察原始讯息利用 /sbin/ifconfig 查询 IP 为何
[dmtsaistudy ~]$ /sbin/ifconfig eth0
eth0: flags4163UP,BROADCAST,RUNNING,MULTICAST mtu 1500inet 192.168.1.100 netmask 255.255.255.0 broadcast 192.168.1.255inet6 fe80::5054:ff:fedf:e174 prefixlen 64 scopeid 0x20linkether 52:54:00:df:e1:74 txqueuelen 1000 (Ethernet)
.....(以下省略).....
# 因为我们还没有讲到 IP 这里你先有个概念即可啊我们的重点在第二行
# 也就是 192.168.1.100 那一行而已先利用关键词捉出那一行步骤二利用关键词配合 grep 撷取出关键的一行数据
[dmtsaistudy ~]$ /sbin/ifconfig eth0 | grep inet inet 192.168.1.100 netmask 255.255.255.0 broadcast 192.168.1.255
# 当场仅剩下一行要注意 CentOS 7 与 CentOS 6 以前的 ifconfig 指令输出结果不太相同
# 鸟哥这个范例主要是针对 CentOS 7 以后的喔接下来我们要将开始到 addr: 通通删除
# 就是像底下这样
# 192.168.1.100 netmask 255.255.255.0 broadcast 192.168.1.255
# 上面的删除关键在于『 ^.*inet 』啦正规表示法出现 ^_^步骤三将 IP 前面的部分予以删除
[dmtsaistudy ~]$ /sbin/ifconfig eth0 | grep inet | sed s/^.*inet //g
192.168.1.100 netmask 255.255.255.0 broadcast 192.168.1.255
# 仔细与上个步骤比较一下前面的部分不见了接下来则是删除后续的部分亦即
192.168.1.100 netmask 255.255.255.0 broadcast 192.168.1.255
# 此时所需的正规表示法为『 *netmask.*$ 』就是啦步骤四将 IP 后面的部分予以删除
[dmtsaistudy ~]$ /sbin/ifconfig eth0 | grep inet | sed s/^.*inet //g \| sed s/ *netmask.*$//g
192.168.1.100透过这个范例的练习也建议您依据此一步骤来研究你的指令就是先观察然后再一层一层的试做如果有做不对的地方就先予以修改改完之后测试成功后再往下继续测试。以鸟哥上面的介绍中那一大串指令就做了四个步骤对吧^_^
让我们再来继续研究 sed 与正规表示法的配合练习假设我只要 MAN 存在的那几行数据 但是含有 # 在内的批注我不想要而且空白行我也不要此时该如何处理呢可以透过这几个步骤来实作看看
步骤一先使用 grep 将关键词 MAN 所在行取出来
[dmtsaistudy ~]$ cat /etc/man_db.conf | grep MAN
# MANDATORY_MANPATH manpath_element
# MANPATH_MAP path_element manpath_element
# MANDB_MAP global_manpath [relative_catpath]
# every automatically generated MANPATH includes these fields
....(后面省略)....步骤二删除掉批注之后的数据
[dmtsaistudy ~]$ cat /etc/man_db.conf | grep MAN| sed s/#.*$//gMANDATORY_MANPATH /usr/man
....(后面省略)....
# 从上面可以看出来原本批注的数据都变成空白行啦所以接下来要删除掉空白行删除空白行
[dmtsaistudy ~]$ cat /etc/man_db.conf | grep MAN| sed s/#.*$//g | sed /^$/d
MANDATORY_MANPATH /usr/man
MANDATORY_MANPATH /usr/share/man
MANDATORY_MANPATH /usr/local/share/man
....(后面省略)....
[rootnode-135 yurq]# egrep -v ^#|^$ /etc/man_db.conf |grep ^MAN直接修改文件内容(危险动作)
你以为 sed 只有这样的能耐吗那可不 sed 甚至可以直接修改文件的内容呢而不必使用管线命令或数据流重导向 不过由于这个动作会直接修改到原始的文件所以请你千万不要随便拿系统配置文件来测试喔 我们还是使用你下载的 regular_express.txt 文件来测试看看吧
#范例六利用 sed 将 regular_express.txt 内每一行结尾若为 . 则换成 !
[dmtsaistudy ~]$ sed -i s/\.$/\!/g regular_express.txt
# 上头的 -i 选项可以让你的 sed 直接去修改后面接的文件内容而不是由屏幕输出喔
# 这个范例是用在取代请您自行 cat 该文件去查阅结果啰#范例七利用 sed 直接在 regular_express.txt 最后一行加入『# This is a test』
[dmtsaistudy ~]$ sed -i $a # This is a test regular_express.txt
# 由于 $ 代表的是最后一行而 a 的动作是新增因此该文件最后新增啰sed 的『 -i 』选项可以直接修改文件内容这功能非常有帮助举例来说如果你有一个 100 万行的文件你要在第 100 行加某些文字此时使用 vim 可能会疯掉因为文件太大了那怎办就利用 sed 啊透过 sed 直接修改/取代的功能你甚至不需要使用 vim 去修订很棒吧总之这个 sed 不错用啦而且很多的 shell script 都会使用到这个指令的功能 sed 可以帮助系统管理员管理好日常的工作喔要仔细的学习呢
同时执行多条sed命令
sed 命令在默认情况下使用的是 -e 选项。当只有一个编辑命令时-e 选项可以省略但是当要在一条 sed 语句中执行多个编辑命令时就需要使用 -e 选项了
[rootnode-135 yurq]# cat regular_express.txt
Open Source is a good mechanism to develop programs!
apple is my favorite food!
Football game is not use feet only!
this dress doesnt fit me!
However, this dress is about $ 3183 dollars.^M
GNU is free air not free beer.^M
Her hair is very beauty.^M
...
[rootnode-135 yurq]# sed -e s/\!$/\./g;s/\^M//g regular_express.txt
Open Source is a good mechanism to develop programs.
apple is my favorite food.
Football game is not use feet only.
this dress doesnt fit me.
However, this dress is about $ 3183 dollars.
GNU is free air not free beer.
Her hair is very beauty.
...sed脚本文件
sed 的『 -f 』选项在处理输入时将 file 中指定的编辑命令添加到已有的命令中
前面提到在需要同时执行多条编辑命令时可以使用 -e 选项。但是当所需要执行的编辑命令数量很多时每次使用 sed 时一行一行地敲显然不是很方便这时可以将所用到的 sed 编辑命令写入一个文件然后使用 sed -f 选项来指定读取该文件
[rootnode-135 yurq]# cat file.sed
s/bin/BIN/g
s/root/ROOT/g
s/yurq/YURQ/g
[rootnode-135 yurq]# sed -f file.sed /etc/passwd
ROOT:x:0:0:ROOT:/ROOT:/BIN/bash
BIN:x:1:1:BIN:/BIN:/sBIN/nologin
...该系列目录 -- 【BASH】回顾与知识点梳理目录
