深入浅出正则表达式.docx
《深入浅出正则表达式.docx》由会员分享，可在线阅读，更多相关《深入浅出正则表达式.docx（30页珍藏版）》请在冰豆网上搜索。
深入浅出正则表达式
正则表达式
在计算机科学中，是指一个用来描述或者匹配一系列符合某个句法规则的字符串的单个字符串。
在很多文本编辑器或其他工具里，正则表达式通常被用来检索和/或替换那些符合某个模式的文本内容。
许多程序设计语言都支持利用正则表达式进行字符串操作。
例如，在Perl中就内建了一个功能强大的正则表达式引擎。
正则表达式这个概念最初是由Unix中的工具软件（例如sed和grep）普及开的。
正则表达式通常缩写成“regex”，单数有regexp、regex，复数有regexps、regexes、regexen。
历史和起源
正则表达式的“鼻祖”或许可一直追溯到科学家对人类神经系统工作原理的早期研究。
美国新泽西州的WarrenMcCulloch和出生在美国底特律的WalterPitts这两位神经生理方面的科学家，研究出了一种用数学方式来描述神经网络的新方法，他们创新地将神经系统中的神经元描述成了小而简单的自动控制元，从而作出了一项伟大的工作革新。
在1956年,出生在被马克·吐温（MarkTwain）称为“美国最美丽的城市之一的”哈特福德市的一位名叫StephenKleene的数学科学家，他在WarrenMcCulloch和WalterPitts早期工作的基础之上，发表了一篇题目是《神经网事件的表示法》的论文，利用称之为正则集合的数学符号来描述此模型，引入了正则表达式的概念。
正则表达式被作为用来描述其称之为“正则集的代数”的一种表达式，因而采用了“正则表达式”这个术语。
之后一段时间，人们发现可以将这一工作成果应用于其他方面。
KenThompson就把这一成果应用于计算搜索算法的一些早期研究，KenThompson是Unix的主要发明人，也就是大名鼎鼎的Unix之父。
Unix之父将此符号系统引入编辑器QED，然后是Unix上的编辑器ed，并最终引入grep。
JeffreyFriedl在其著作“MasteringRegularExpressions（2ndedition）”中对此作了进一步阐述讲解，如果你希望更多了解正则表达式理论和历史，推荐你看看这本书。
自此以后，正则表达式被广泛地应用到各种UNIX或类似于UNIX的工具中，如大家熟知的Perl。
Perl的正则表达式源自于HenrySpencer编写的regex，之后已演化成了pcre（Perl兼容正则表达式PerlCompatibleRegularExpressions），pcre是一个由PhilipHazel开发的、为很多现代工具所使用的库。
正则表达式的第一个实用应用程序即为Unix中的qed编辑器。
然后，正则表达式在各种计算机语言或各种应用领域得到了广大的应用和发展，演变成为目前计算机技术森林中的一只形神美丽且声音动听的百灵鸟。
以上是关于正则表达式的起源和发展的历史描述，到目前正则表达式在基于文本的编辑器和搜索工具中依然占据这一个非常重要的地位。
在最近的六十年中，正则表达式逐渐从模糊而深奥的数学概念，发展成为在计算机各类工具和软件包应用中的主要功能。
不仅仅众多UNIX工具支持正则表达式，近二十年来，在WINDOW的阵营下，正则表达式的思想和应用在大部分Windows开发者工具包中得到支持和嵌入应用！
从正则式在MicrosoftVisualBasic6或MicrosoftVBScript到.NETFramework中的探索和发展，WINDOWS系列产品对正则表达式的支持发展到无与伦比的高度，目前几乎所有Microsoft开发者和所有.NET语言都可以使用正则表达式。
如果你是一位接触计算机语言的工作者，那么你会在主流操作系统（*nix[Linux,Unix等]、Windws、HP、BeOS等）、目前主流的开发语言（PHP、C#、Java、C++、VB、Javascript、Ruby等）、数以亿万计的各种应用软件中，都可以看到正则表达式优美的舞姿。
[1]
概念
一个正则表达式，就是用某种模式去匹配一类字符串的一个公式。
很多人因为它们看上去比较古怪而且复杂所以不敢去使用——很不幸，这篇文章也不能够改变这一点，不过，经过一点点练习之后我就开始觉得这些复杂的表达式其实写起来还是相当简单的，而且，一旦你弄懂它们，你就能把数小时辛苦而且易错的文本处理工作压缩在几分钟（甚至几秒钟）内完成。
正则表达式被各种文本编辑软件、类库（例如RogueWave的tools.h++）、脚本工具（像awk/grep/sed）广泛的支持，而且像Microsoft的VisualC++这种交互式IDE也开始支持它了。
我们将在如下的章节中利用一些例子来解释正则表达式的用法，绝大部分的例子是基于vi中的文本替换命令和grep文件搜索命令来书写的，不过它们都是比较典型的例子，其中的概念可以在sed、awk、perl和其他支持正则表达式的编程语言中使用。
你可以看看不同工具中的正则表达式这一节，其中有一些在别的工具中使用正则表达式的例子。
还有一个关于vi中文本替换命令（s）的简单说明附在文后供参考。
基础
（摘自《正则表达式之道》）
正则表达式由一些普通字符和一些元字符（metacharacters）组成。
普通字符包括大小写的字母和数字，而元字符则具有特殊的含义，我们下面会给予解释。
在最简单的情况下，一个正则表达式看上去就是一个普通的查找串。
例如，正则表达式"testing"中没有包含任何元字符，它可以匹配"testing"和"123testing"等字符串，但是不能匹配"Testing"。
要想真正的用好正则表达式，正确的理解元字符是最重要的事情。
下表列出了所有的元字符和对它们的一个简短的描述。
元字符
描述
.点
匹配任何单个字符。
例如正则表达式r.t匹配这些字符串：
rat、rut、rt，但是不匹配root。
$
匹配行结束符。
例如正则表达式weasel$能够匹配字符串"He'saweasel"的末尾
但是不能匹配字符串"Theyareabunchofweasels."
^
匹配一行的开始。
例如正则表达式^Whenin能够匹配字符串"Wheninthecourseofhumanevents"的开始，但是不能匹配"WhatandWheninthe"
*
匹配0或多个正好在它之前的那个字符。
例如正则表达式.*意味着能够匹配任意数量的任何字符。
比如.*可以匹配不管是什么
\
这是引用符，用来将这里列出的这些元字符当作普通的字符来进行匹配。
例如正则表达式\$被用来匹配美元符号，而不是行尾，类似的，正则表达式\.用来匹配点字符，而不是任何字符的通配符。
[]
[c1-c2]
[^c1-c2]
匹配括号中的任何一个字符。
例如正则表达式r[aou]t匹配rat、rot和rut，但是不匹配ret。
可以在括号中使用连字符-来指定字符的区间，例如正则表达式[0-9]可以匹配任何数字字符；还可以制定多个区间，例如正则表达式[A-Za-z]可以匹配任何大小写字母。
另一个重要的用法是“排除”，要想匹配除了指定区间之外的字符——也就是所谓的补集——在左边的括号和第一个字符之间使用^字符，例如正则表达式[^269A-Z]将匹配除了2、6、9和所有大写字母之外的任何字符。
\<\>
匹配词（word）的开始（\<）和结束（\>）。
例如正则表达式\能够匹配字符串"forthewise"中的"the"，但是不能匹配字符串"otherwise"中的"the"。
注意：
这个元字符不是所有的软件都支持的。
\（\）
将\（和\）之间的表达式定义为“组”（group），并且将匹配这个表达式的字符保存到一个临时区域（一个正则表达式中最多可以保存9个），它们可以用\1到\9的符号来引用。
|
将两个匹配条件进行逻辑“或”（Or）运算。
例如正则表达式（him|her）匹配"itbelongstohim"和"itbelongstoher"，但是不能匹配"itbelongstothem."。
注意：
这个元字符不是所有的软件都支持的。
+
匹配1或多个正好在它之前的那个字符。
例如正则表达式9+匹配9、99、999等。
注意：
这个元字符不是所有的软件都支持的。
?
匹配0或1个正好在它之前的那个字符。
注意：
这个元字符不是所有的软件都支持的。
{i}
{i,j}
匹配指定数目的字符，这些字符是在它之前的表达式定义的。
例如正则表达式A[0-9]{3}能够匹配字符"A"后面跟着正好3个数字字符的串，例如A123、A348等，但是不匹配A1234。
而正则表达式[0-9]{4,6}匹配连续的任意4个、5个或者6个数字字符。
注意：
这个元字符不是所有的软件都支持的。
最简单的元字符是点，它能够匹配任何单个字符（注意不包括换行符）。
假定有个文件test.txt包含以下几行内容：
heisarat
heisinarut
thefoodisRotten
Ilikerootbeer
我们可以使用grep命令来测试我们的正则表达式，grep命令使用正则表达式去尝试匹配指定文件的每一行，并将至少有一处匹配表达式的所有行显示出来。
命令
grepr.ttest.txt
在test.txt文件中的每一行中搜索正则表达式r.t，并打印输出匹配的行。
正则表达式r.t匹配一个r接着任何一个字符再接着一个t。
所以它将匹配文件中的rat和rut，而不能匹配Rotten中的Rot，因为正则表达式是大小写敏感的。
要想同时匹配大写和小写字母，应该使用字符区间元字符（方括号）。
正则表达式[Rr]能够同时匹配R和r。
所以，要想匹配一个大写或者小写的r接着任何一个字符再接着一个t就要使用这个表达式：
[Rr].t。
要想匹配行首的字符要使用抑扬字符（^）——有时也被叫做插入符。
例如，想找到text.txt中行首"he"打头的行，你可能会先用简单表达式he，但是这会匹配第三行的the，所以要使用正则表达式^he，它只匹配在行首出现的h。
有时候指定“除了×××都匹配”会比较容易达到目的，当抑扬字符（^）出现在方括号中是，它表示“排除”，例如要匹配he，但是排除前面是tors的情形（也就是the和she），可以使用：
[^st]he。
可以使用方括号来指定多个字符区间。
例如正则表达式[A-Za-z]匹配任何字母，包括大写和小写的；正则表达式[A-Za-z][A-Za-z]*匹配一个字母后面接着0或者多个字母（大写或者小写）。
当然我们也可以用元字符+做到同样的事情，也就是：
[A-Za-z]+，和[A-Za-z][A-Za-z]*完全等价。
但是要注意元字符+并不是所有支持正则表达式的程序都支持的。
关于这一点可以参考后面的正则表达式语法支持情况。
要指定特定数量的匹配，要使用大括号（注意必须使用反斜杠来转义）。
想匹配所有10和100的实例而排除1和1000，可以使用：
10\{1,2\}，这个正则表达式匹配数字1后面跟着1或者2个0的模式。
在这个元字符的使用中一个有用的变化是忽略第二个数字，例如正则表达式0\{3,\}将匹配至少3个连续的0。
简单的例子
这里有一些有代表性的、比较简单的例子。
vi命令
作用
:
%s/*//g
把一个或者多个空格替换为一个空格
:
%s/*$//
去掉行尾的所有空格
:
%s/^//
在每一行头上加入一个空格
:
%s/^[0-9][0-9]*//
去掉行首的所有数字字符
:
%s/b[aeio]g/bug/g
将所有的bag、beg、big和bog改为bug。
:
%s/t\（[aou]\）g/h\1t/g
将所有tag、tog和tug分别改为hat、hot和hut（注意用group的用法和使用\1引用前面被匹配的字符）
中级的例子
例1
将所有方法foo（a,b,c）的实例改为foo（b,a,c）。
这里a、b和c可以是任何提供给方法foo（）的参数。
也就是说我们要实现这样的转换：
之前之后
foo（10,7,2）foo（7,10,2）
foo（x+13,y-2,10）foo（y-2,x+13,10）
foo（bar（8）,x+y+z,5）foo（x+y+z,bar（8）,5）
下面这条替换命令能够实现这一魔法：
:
%s/foo（\（[^,]*\）,\（[^,]*\）,\（[^）]*\））/foo（\2,\1,\3）/g
现在让我们把它打散来加以分析。
写出这个表达式的基本思路是找出foo（）和它的括号中的三个参数的位置。
第一个参数是用这个表达式来识别的：
：
\（[^,]*\），我们可以从里向外来分析它：
[^,]除了逗号之外的任何字符
[^,]*0或者多个非逗号字符
\（[^,]*\）将这些非逗号字符标记为\1，这样可以在之后的替换模式表达式中引用它
\（[^,]*\）,我们必须找到0或者多个非逗号字符后面跟着一个逗号，并且非逗号字符那部分要标记出来以备后用。
现在正是指出一个使用正则表达式常见错误的最佳时机。
为什么我们要使用[^,]*这样的一个表达式，而不是更加简单直接的写法，例如：
.*，来匹配第一个参数呢？
设想我们使用模式.*来匹配字符串"10,7,2"，它应该匹配"10,"还是"10,7,"？
为了解决这个两义性（ambiguity），正则表达式规定一律按照最长的串来，在上面的例子中就是"10,7,"，显然这样就找出了两个参数而不是我们期望的一个。
所以，我们要使用[^,]*来强制取出第一个逗号之前的部分。
这个表达式我们已经分析到了：
foo（\（[^,]*\），这一段可以简单的翻译为“当你找到foo（就把其后直到第一个逗号之前的部分标记为\1”。
然后我们使用同样的办法标记第二个参数为\2。
对第三个参数的标记方法也是一样，只是我们要搜索所有的字符直到右括号。
我们并没有必要去搜索第三个参数，因为我们不需要调整它的位置，但是这样的模式能够保证我们只去替换那些有三个参数的foo（）方法调用，在foo（）是一个重载（overoading）方法时这种明确的模式往往是比较保险的。
然后，在替换部分，我们找到foo（）的对应实例，然后利用标记好的部分进行替换，是把第一和第二个参数交换位置。
例2
假设有一个CSV（commaseparatedvalue）文件，里面有一些我们需要的信息，但是格式却有问题，目前数据的列顺序是：
姓名，公司名，州名缩写，邮政编码，现在我们希望讲这些数据重新组织，以便在我们的某个软件中使用，需要的格式为：
姓名，州名缩写-邮政编码，公司名。
也就是说，我们要调整列顺序，还要合并两个列来构成一个新列。
另外，我们的软件不能接受逗号前后面有任何空格（包括空格和制表符）所以我们还必须要去掉逗号前后的所有空格。
这里有几行我们现在的数据：
BillJones,HI-TEKCorporation,CA,95011
SharonLeeSmith,DesignWorksIncorporated,CA,95012
B.Amos,HillStreetCafe,CA,95013
AlexanderWeatherworth,TheCraftsStore,CA,95014
...
我们希望把它变成这个样子：
BillJones,CA95011,HI-TEKCorporation
SharonLeeSmith,CA95012,DesignWorksIncorporated
B.Amos,CA95013,HillStreetCafe
AlexanderWeatherworth,CA95014,TheCraftsStore
...
我们将用两个正则表达式来解决这个问题。
第一个移动列和合并列，第二个用来去掉空格。
下面就是第一个替换命令：
:
%s/\（[^,]*\）,\（[^,]*\）,\（[^,]*\）,\（.*\）/\1,\3\4,\2/
这里的方法跟例1基本一样，第一个列（姓名）用这个表达式来匹配：
\（[^,]*\），即第一个逗号之前的所有字符，而姓名内容被用\1标记下来。
公司名和州名缩写字段用同样的方法标记为\2和\3，而最后一个字段用\（.*\）来匹配（"匹配所有字符直到行末"）。
替换部分则引用上面标记的那些内容来进行构造。
下面这个替换命令则用来去除空格：
:
%s/[\t]*,[\t]*/,/g
我们还是分解来看：
[\t]匹配空格/制表符，[\t]*匹配0或多个空格/制表符，[\t]*,匹配0或多个空格/制表符后面再加一个逗号，最后，[\t]*,[\t]*匹配0或多个空格/制表符接着一个逗号再接着0或多个空格/制表符。
在替换部分，我们简单的我们找到的所有东西替换成一个逗号。
这里我们使用了结尾的可选的g参数，这表示在每行中对所有匹配的串执行替换（而不是缺省的只替换第一个匹配串）。
例3
假设有一个多字符的片断重复出现，例如：
Billytriedreallyhard
Sallytriedreallyreallyhard
Timmytriedreallyreallyreallyhard
Johnnytriedreallyreallyreallyreallyhard
而你想把"really"、"reallyreally"，以及任意数量连续出现的"really"字符串换成一个简单的"very"（simpleisgood!
），那么以下命令：
:
%s/\（really\）\（really\）*/very/
就会把上述的文本变成：
Billytriedveryhard
Sallytriedveryhard
Timmytriedveryhard
Johnnytriedveryhard
表达式\（really\）*匹配0或多个连续的"really"（注意结尾有个空格），而\（really\）\（really\）*匹配1个或多个连续的"really"实例。
不同工具中的正则表达式
OK，你已经准备使用RE（regularexpressions，正则表达式），但是你并准备使用vi。
所以，在这里我们给出一些在其他工具中使用RE的例子。
另外，我还会总结一下你在不同程序之间使用RE可能发现的区别。
当然，你也可以在VisualC++编辑器中使用RE。
选择Edit->Replace，然后选择"Regularexpression"选择框，FindWhat输入框对应上面介绍的vi命令:
%s/pat1/pat2/g中的pat1部分，而Replace输入框对应pat2部分。
但是，为了得到vi的执行范围和g选项，你要使用ReplaceAll或者适当的手工FindNextandReplace（译者按：
知道为啥有人骂微软弱智了吧，虽然VC中可以选中一个范围的文本，然后在其中执行替换，但是总之不够vi那么灵活和典雅）。
sed
Sed是StreamEDitor的缩写，是Unix下常用的基于文件和管道的编辑工具，可以在手册中得到关于sed的详细信息。
这里是一些有趣的sed脚本，假定我们正在处理一个叫做price.txt的文件。
注意这些编辑并不会改变源文件，sed只是处理源文件的每一行并把结果显示在标准输出中（当然很容易使用重定向来定制）：
sed脚本
描述
sed's/^$/d'price.txt
删除所有空行
sed's/^[\t]*$/d'price.txt
删除所有只包含空格或者制表符的行
sed's/"//g'price.txt
删除所有引号
awk
awk是一种编程语言，可以用来对文本数据进行复杂的分析和处理。
可以在手册中得到关于awk的详细信息。
这个古怪的名字是它作者们的姓的缩写（Aho，Weinberger和Kernighan）。
在Aho，Weinberger和Kernighan的书TheAWKProgrammingLanguage中有很多很好的awk的例子，请不要让下面这些微不足道的脚本例子限制你对awk强大能力的理解。
我们同样假定我们针对price.txt文件进行处理，跟sed一样，awk也只是把结果显示在终端上。
awk脚本
描述
awk'!
~/^$/'price.txt
删除所有空行
awk'NF>0'price.txt
awk中一个更好的删除所有行的办法
awk'~/^[JT]/'price.txt
打印所有第二个字段是'J'或者'T'打头的行中的第三个字段
awk'!
~/[Mm]isc/{print+}'price.txt
针对所有第二个字段不包含'Misc'或者'misc'的行，打印第3和第4列的和（假定为数字）
awk'!
~/^[0-9]+\.[0-9]*$/'price.txt
打印所有第三个字段不是数字的行，这里数字是指d.d或者d这样的形式，其中d是0到9的任何数字
awk'~/John|Fred/'price.txt
如果第二个字段包含'John'或者'Fred'则打印整行
grep
grep是一个用来在一个或者多个文件或者输入流中使用RE进行查找的程序。
它的name编程语言可以用来针对文件和管道进行处理。
可以在手册中得到关于grep的完整信息。
这个同样古怪的名字来源于vi的一个命令，g/re/p，意思是globalregularexpressionprint。
下面的例子中我们假定在文件phone.txt中包含以下的文本，——其格式是姓加一个逗号，然后是名，然后是一个制表符，然后是电话号码：
Francis,John5-3871
Wong,Fred4-4123
Jones,Thomas1-4122
Salazar,Richard5-2522
grep命令
描述
grep'\t5-...1'phone.txt
把所有电话号码以5开头以1结束的行打印出来，注意制表符是用\t表示的
grep'^S[^]*R'phone.txt
打印所有姓以S打头和名以R打头的行
grep'^[JW]'phone.txt
打印所有姓开头是J或者W的行
grep',....\t'phone.txt
打印所有姓是4个字符的行，注意制表符是用\t表示的
grep-v'^[JW]'phone.txt
打印所有不以J或者W开头的行
grep'^[M-Z]'phone.txt
打印所有姓的开头是M到Z之间任一字符的行
grep'^[M-Z].*[12]'phone.txt
打印所有姓的开头是M到Z之间任一字符，并且点号号码结尾是1或者2的行
egrep
egrep是grep的一个扩展版本，它在它的正则表达式中支持更多的元字符。
下面的例子中我们假定在文件phone.txt中包含以下的文本，——其格式是姓加一个逗号，然后是名，然后是一个制
升级会员 