SHELL编程三剑客之sed命令
预计阅读时间25分钟
今日目标
掌握sed的基本语法结构
熟悉sed常用的命令,如打印p,删除d,插入i等
一、文件编辑器知多少
Windows系统
SublimeNotepad++WordTypora
Linux系统
vim vi gedit nano emacs
二、强悍的sed介绍
1. sed用来做啥?
sed是Stream Editor(流编辑器)的缩写,简称流编辑器;用来处理文件的。
2. sed如何处理文件?
sed是一行一行读取文件内容并按照要求进行处理,把处理后的结果输出到屏幕。
首先sed读取文件中的一行内容,把其保存在一个临时缓存区中(也称为模式空间)
然后根据需求处理临时缓冲区中的行,完成后把该行发送到屏幕上
总结:
由于sed把每一行都存在临时缓冲区中,对这个副本进行编辑,所以不会直接修改原文件
sed主要用来自动编辑一个或多个文件;简化对文件的反复操作,对文件进行过滤和转换操作
三、sed使用方法介绍
sed常见的语法格式有两种,一种叫命令行模式,另一种叫脚本模式。
1. 命令行格式
(一)语法格式
sed [options] '处理动作' 文件名
常用选项
选项 | 说明 | 备注 |
---|---|---|
-e | 进行多项(多次)编辑 | |
-n | 取消默认输出 | 不自动打印模式空间 |
-r | 使用扩展正则表达式 | |
-i | 原地编辑(修改源文件) | |
-f | 指定sed脚本的文件名 |
常见处理动作
丑话说在前面:以下所有的动作都要在单引号里,你敢出轨,回家跪搓衣板
动作 | 说明 | 备注 |
---|---|---|
'p' | 打印 | |
'i' | 在指定行之前插入内容 | 类似vim里的大写O |
'a' | 在指定行之后插入内容 | 类似vim里的小写o |
'c' | 替换指定行所有内容 | |
'd' | 删除指定行 |
(二)举例说明
文件准备
# vim a.txt
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
adm:x:3:4:adm:/var/adm:/sbin/nologin
lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
298374837483
172.16.0.254
10.1.1.1
① 对文件进行增、删、改、查操作
语法:sed 选项 '定位+命令' 需要处理的文件
1)打印文件内容
[root@localhost ~]# sed '' a.txt 对文件什么都不做
[root@localhost ~]# sed -n 'p' a.txt 打印每一行,并取消默认输出
[root@localhost ~]# sed -n '1p' a.txt 打印第1行
[root@localhost ~]# sed -n '2p' a.txt 打印第2行
[root@localhost ~]# sed -n '1,5p' a.txt 打印1到5行
[root@localhost ~]# sed -n '$p' a.txt 打印最后1行
2)增加文件内容
i 地址定位的上面插入
a 下面插入
[root@localhost ~]# sed '$a99999' a.txt 文件最后一行下面增加内容
[root@localhost ~]# sed 'a99999' a.txt 文件每行下面增加内容
[root@localhost ~]# sed '5a99999' a.txt 文件第5行下面增加内容
[root@localhost ~]# sed '$i99999' a.txt 文件最后一行上一行增加内容
[root@localhost ~]# sed 'i99999' a.txt 文件每行上一行增加内容
[root@localhost ~]# sed '6i99999' a.txt 文件第6行上一行增加内容
[root@localhost ~]# sed '/^bin/ihello' a.txt 以bin开头行的上一行插入内容
3)修改文件内容
c 替换指定的整行内容
[root@localhost ~]# sed '5chello world' a.txt 替换文件第5行内容
[root@localhost ~]# sed 'chello world' a.txt 替换文件所有内容
[root@localhost ~]# sed '1,5chello world' a.txt 替换文件1到5号内容为hello world
[root@localhost ~]# sed '/^bin/c13141314' a.txt 替换以bin开头的行
4)删除文件内容
[root@localhost ~]# sed '1d' a.txt 删除文件第1行
[root@localhost ~]# sed '1,5d' a.txt 删除文件1到5行
[root@localhost ~]# sed '$d' a.txt 删除文件最后一行
[root@localhost ~]# sed '/1.*/d' a.txt 删除正则匹配的所有行
② 对文件进行搜索替换操作
语法:sed 选项 's/搜索的内容/替换的内容/动作' 需要处理的文件
其中,s表示search搜索;斜杠/表示分隔符,可以自己定义;动作一般是打印p和全局替换g
[root@localhost ~]# sed -n 's/root/ROOT/p' a.txt #将每一行匹配的第一个小写root替换为ROOT
[root@localhost ~]# sed -n 's/root/ROOT/gp' a.txt #将文件中所有的小写root替换为ROOT
[root@localhost ~]# sed -n 's/^#//gp' a.txt #将所有#开头的行的#号去掉
#当要匹配的内容包含/, 则以@作为分隔符,或者自定义,但要保证一样
[root@localhost ~]# sed -n 's@/sbin/nologin@itcast@gp' a.txt
[root@localhost ~]# sed -n 's/\/sbin\/nologin/itcast/gp' a.txt
#号为分隔符,10s表示第十行进行替换
[root@localhost ~]# sed -n '10s#/sbin/nologin#itcast#p' a.txt
uucp:x:10:14:uucp:/var/spool/uucp:itcast
[root@localhost ~]# sed -n 's@/sbin/nologin@itcastheima@p' 2.txt
注意:搜索替换中的分隔符可以自己指定
[root@localhost ~]# sed -n '1,5s/^/#/p' a.txt 注释掉文件的1-5行内容
#root:x:0:0:root:/root:/bin/bash
#bin:x:1:1:bin:/bin:/sbin/nologin
#daemon:x:2:2:daemon:/sbin:/sbin/nologin
#adm:x:3:4:adm:/var/adm:/sbin/nologin
#lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
③ 其他命令
命令 | 解释 | 备注 |
---|---|---|
r | 从另外文件中读取内容 | |
w | 内容另存为 | |
& | 保存查找串以便在替换串中引用 | 和\(\)相同 |
= | 打印行号 | |
! | 对所选行以外的所有行应用命令,放到行数之后 | '1,5!' |
q | 退出 |
举例说明:
[root@localhost ~]# cat /etc/passwd | head >> 2.txt
[root@localhost ~]# cat 2.txt
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
adm:x:3:4:adm:/var/adm:/sbin/nologin
lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
sync:x:5:0:sync:/sbin:/bin/sync
shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
halt:x:7:0:halt:/sbin:/sbin/halt
mail:x:8:12:mail:/var/spool/mail:/sbin/nologin
uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin
r 从文件中读取输入行
w 将所选的行写入文件
2.txt 第3行读取文件/etc/hosts 文件内容
[root@localhost ~]# sed '3r /etc/hosts' 2.txt
[root@localhost ~]# sed '$r /etc/hosts' 2.txt
[root@localhost ~]# sed '/root/w a.txt' 2.txt
[root@localhost ~]# sed '/[0-9]{4}/w a.txt' 2.txt
[root@localhost ~]# sed -r '/([0-9]{1,3}\.){3}[0-9]{1,3}/w b.txt' 2.txt
[root@localhost tmp]# sed -n 's/^sync/#&/gp' 2.txt
#sync:x:5:0:sync:/sbin:/bin/sync
[root@localhost tmp]# sed -n 's/^sync/&#/gp' 2.txt
sync#:x:5:0:sync:/sbin:/bin/sync
[root@localhost tmp]# sed -n 's/\(^sync\)/#\1/gp' 2.txt
#sync:x:5:0:sync:/sbin:/bin/sync
! 对所选行以外的所有行应用命令,放到行数之后
[root@localhost ~]# sed -n '1!p' 1.txt
[root@localhost ~]# sed -n '4p' 1.txt
[root@localhost ~]# sed -n '4!p' 1.txt
[root@localhost ~]# cat -n 1.txt
[root@localhost ~]# sed -n '1,17p' 1.txt
[root@localhost ~]# sed -n '1,17!p' 1.txt
& 保存查找串以便在替换串中引用 \(\)
[root@localhost ~]# sed -n '/root/p' a.txt
root:x:0:0:root:/root:/bin/bash
[root@localhost ~]# sed -n 's/root/#&/p' a.txt
#root:x:0:0:root:/root:/bin/bash
# sed -n 's/^root/#&/p' passwd 注释掉以root开头的行
# sed -n -r 's/^root|^stu/#&/p' /etc/passwd 注释掉以root开头或者以stu开头的行
# sed -n '1,5s/^[a-z].*/#&/p' passwd 注释掉1~5行中以任意小写字母开头的行
# sed -n '1,5s/^/#/p' /etc/passwd 注释1~5行
或者
sed -n '1,5s/^/#/p' passwd 以空开头的加上#
sed -n '1,5s/^#//p' passwd 以#开头的替换成空
[root@localhost ~]# sed -n '/^root/p' 1.txt
[root@localhost ~]# sed -n 's/^root/#&/p' 1.txt
[root@localhost ~]# sed -n 's/\(^root\)/#\1/p' 1.txt
[root@localhost ~]# sed -nr '/^root|^stu/p' 1.txt
[root@localhost ~]# sed -nr 's/^root|^stu/#&/p' 1.txt
= 打印行号
# sed -n '/bash$/=' passwd 打印以bash结尾的行的行号
# sed -ne '/root/=' -ne '/root/p' passwd
# sed -n '/nologin$/=;/nologin$/p' 1.txt
# sed -ne '/nologin$/=' -ne '/nologin$/p' 1.txt
q 退出
# sed '5q' 1.txt
# sed '/mail/q' 1.txt
# sed -r '/^yunwei|^mail/q' 1.txt
[root@localhost ~]# sed -n '/bash$/p;10q' 1.txt
ROOT:x:0:0:root:/root:/bin/bash
综合运用:
[root@localhost ~]# sed -n '1,5s/^/#&/p' 1.txt
#root:x:0:0:root:/root:/bin/bash
#bin:x:1:1:bin:/bin:/sbin/nologin
#daemon:x:2:2:daemon:/sbin:/sbin/nologin
#adm:x:3:4:adm:/var/adm:/sbin/nologin
#lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
[root@localhost ~]# sed -n '1,5s/\(^\)/#\1/p' 1.txt
#root:x:0:0:root:/root:/bin/bash
#bin:x:1:1:bin:/bin:/sbin/nologin
#daemon:x:2:2:daemon:/sbin:/sbin/nologin
#adm:x:3:4:adm:/var/adm:/sbin/nologin
#lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
④ 其他选项
-e 多项编辑
-r 扩展正则
-i 修改原文件
[root@localhost ~]# sed -ne '/root/p' 1.txt -ne '/root/='
root:x:0:0:root:/root:/bin/bash
1
[root@localhost ~]# sed -ne '/root/=' -ne '/root/p' 1.txt
1
root:x:0:0:root:/root:/bin/bash
在1.txt文件中的第5行的前面插入“hello world”;在1.txt文件的第8行下面插入“哈哈哈哈”
[root@localhost ~]# sed -e '5ihello world' -e '8a哈哈哈哈哈' 1.txt -e '5=;8='
sed -n '1,5p' 1.txt
sed -ne '1p' -ne '5p' 1.txt
sed -ne '1p;5p' 1.txt
过滤vsftpd.conf文件中以#开头和空行:
[root@localhost ~]# grep -Ev '^#|^$' /etc/vsftpd/vsftpd.conf
[root@localhost ~]# sed -e '/^#/d' -e '/^$/d' /etc/vsftpd/vsftpd.conf
[root@localhost ~]# sed '/^#/d;/^$/d' /etc/vsftpd/vsftpd.conf
[root@localhost ~]# sed -r '/^#|^$/d' /etc/vsftpd/vsftpd.conf
过滤smb.conf文件中生效的行:
# sed -e '/^#/d' -e '/^;/d' -e '/^$/d' -e '/^\t$/d' -e '/^\t#/d' smb.conf
# sed -r '/^(#|$|;|\t#|\t$)/d' smb.conf
# sed -e '/^#/d' -e '/^;/d' -e '/^$/d' -e '/^\t$/d' -e '/^\t#/' smb.conf
[root@localhost ~]# grep '^[^a-z]' 1.txt
[root@localhost ~]# sed -n '/^[^a-z]/p' 1.txt
过滤出文件中的IP地址:
[root@localhost ~]# grep -E '([0-9]{1,3}\.){3}[0-9]{1,3}' 1.txt
192.168.0.254
[root@localhost ~]# sed -nr '/([0-9]{1,3}\.){3}[0-9]{1,3}/p' 1.txt
192.168.0.254
[root@localhost ~]# grep -o -E '([0-9]{1,3}\.){3}[0-9]{1,3}' 2.txt
10.1.1.1
10.1.1.255
255.255.255.0
[root@localhost ~]# sed -nr '/([0-9]{1,3}\.){3}[0-9]{1,3}/p' 2.txt
10.1.1.1
10.1.1.255
255.255.255.0
过滤出ifcfg-eth0文件中的IP、子网掩码、广播地址
[root@localhost tmp]# grep -Eo '([0-9]{1,3}\.){3}[0-9]{1,3}' ifcfg-eth0
10.1.1.1
255.255.255.0
10.1.1.254
[root@localhost tmp]# sed -nr '/([0-9]{1,3}\.){3}[0-9]{1,3}/p' ifcfg-eth0|cut -d'=' -f2
10.1.1.1
255.255.255.0
10.1.1.254
[root@localhost tmp]# sed -nr '/([0-9]{1,3}\.){3}[0-9]{1,3}/p' ifcfg-eth0|sed -n 's/[A-Z=]//gp'
10.1.1.1
255.255.255.0
10.1.1.254
[root@localhost tmp]# ifconfig eth0|sed -n '2p'|sed -n 's/[:a-Z]//gp'|sed -n 's/ /\n/gp'|sed '/^$/d'
10.1.1.1
10.1.1.255
255.255.255.0
[root@localhost tmp]# ifconfig | sed -nr '/([0-9]{1,3}\.)[0-9]{1,3}/p' | head -1|sed -r 's/([a-z:]|[A-Z/t])//g'|sed 's/ /\n/g'|sed '/^$/d'
[root@localhost tmp]# ifconfig eth0|sed -n '2p'|sed -n 's/.*addr:\(.*\) Bcast:\(.*\) Mask:\(.*\)/\1\n\2\n\3/p'
10.1.1.1
10.1.1.255
255.255.255.0
-i 选项 直接修改原文件 使用该选项不能用n和p
# sed -i 's/root/ROOT/;s/stu/STU/' 11.txt
# sed -i '17{s/YUNWEI/yunwei/;s#/bin/bash#/sbin/nologin#}' 1.txt
# sed -i '1,5s/^/#&/' a.txt
注意:
-ni 不要一起使用
p命令 不要再使用-i时使用
⑤ sed结合正则使用
sed 选项 ’sed命令或者正则表达式或者地址定位' 文件名
定址用于决定对哪些行进行编辑。地址的形式可以是数字、正则表达式、或二者的结合。
如果没有指定地址,sed将处理输入文件的所有行。
正则 | 说明 | 备注 |
---|---|---|
/key/ | 查询包含关键字的行 | sed -n '/root/p' 1.txt |
/key1/,/key2/ | 匹配包含两个关键字之间的行 | sed -n '/\^adm/,/^mysql/p' 1.txt |
/key/,x | 从匹配关键字的行开始到文件第x行之间的行(包含关键字所在行) | sed -n '/^ftp/,7p' |
x,/key/ | 从文件的第x行开始到与关键字的匹配行之间的行 | |
x,y! | 不包含x到y行 | |
/key/! | 不包括关键字的行 | sed -n '/bash$/!p' 1.txt |
[root@localhost tmp]# cat -n 8.txt
1 root:x:0:0:root:/root:/bin/bash
2 bin:x:1:1:bin:/bin:/sbin/nologin
3 daemon:x:2:2:daemon:/sbin:/sbin/nologin
4 adm:x:3:4:adm:/var/adm:/sbin/nologin
5 lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
6 sync:x:5:0:sync:/sbin:/bin/sync
7 shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
8 halt:x:7:0:halt:/sbin:/sbin/halt
9 mail:x:8:12:mail:/var/spool/mail:/sbin/nologin
10 uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin
11 sshd:x:74:74:Privilege-separated SSH:/var/empty/sshd:/sbin/nologin
12 tcpdump:x:72:72::/:/sbin/nologin
13 zhangjm:x:500:500:root:/home/zhangjm:/bin/bash
[root@localhost tmp]# sed -n '/^lp,^mail/p' 8.txt
[root@localhost tmp]# sed -n '/^lp/,/^mail/p' 8.txt
[root@localhost tmp]# sed -nr '/^lp|^mail/p' 8.txt
mail:x:8:12:mail:/var/spool/mail:/sbin/nologin
[root@localhost tmp]# sed -nr '/sync/,8p' 8.txt
[root@localhost tmp]# sed -nr '3,/^halt/p' 8.txt
2. 脚本格式
(一)用法
# sed -f scripts.sh file //使用脚本处理文件
建议使用 ./sed.sh file
脚本的第一行写上
#!/bin/sed -f
1,5d
s/root/hello/g
3i777
5i888
a999
p
(二)注意事项
1) 脚本文件是一个sed的命令行清单。'commands'
2) 在每行的末尾不能有任何空格、制表符(tab)或其它文本。
3) 如果在一行中有多个命令,应该用分号分隔。
4) 不需要且不可用引号保护命令
5) #号开头的行为注释
(三)举例说明
# cat passwd
stu3:x:509:512::/home/user3:/bin/bash
stu4:x:510:513::/home/user4:/bin/bash
stu5:x:511:514::/home/user5:/bin/bash
# cat sed.sh
#!/bin/sed -f
2a\
******************
2,$s/stu/user/
$a\
we inster new line
s/^[a-z].*/#&/
[root@localhost ~]# cat 1.sed
#!/bin/sed -f
3a**********************
$chelloworld
1,3s/^/#&/
[root@localhost ~]# sed -f 1.sed -i 11.txt
[root@localhost ~]# cat 11.txt
#root:x:0:0:root:/root:/bin/bash
#bin:x:1:1:bin:/bin:/sbin/nologin
#daemon:x:2:2:daemon:/sbin:/sbin/nologin
**********************
adm:x:3:4:adm:/var/adm:/sbin/nologin
helloworld
sed 作为三剑客之一,内容当然也相对而言多一些,这是我花了将近6个小时整理总结的,您可以将其放到悬浮窗口,每天看一点点,相信你总会有进步,熟悉sed 的相关操作对于我们进行文本处理就像鱼离不开水一样,祝您越来越优秀,早日升职加薪,成为一名shell编程的资深程序开发者。
推荐阅读
SHELL编程之case语句(“确认过眼神,我遇上对的人”)