1. PCRE簡介
PCRE(Perl Compatible Regular Expressions即:perl語言兼容正則表達式)是一個用C語言編寫的正則表達式函數庫,由菲利普.海澤(Philip Hazel)編寫。PCRE是一個輕量級的函數庫,比Boost之中的正則表達式庫小得多。PCRE十分易用,同時功能也很強大,性能超過了POSIX正則表達式庫和一些經典的正則表達式庫[1]。
和Boost正則表達式庫的比較顯示[2],雙方的性能相差無幾,PCRE在匹配簡單字符串時更快,Boost則在匹配較長字符串時勝出---但兩者差距很小,考慮到PCRE的大小和易用性,我們可以認爲PCRE更值得考慮。
PCRE被廣泛使用在許多開源軟件之中,最著名的莫過於Apache HTTP服務器和PHP腳本語言、R腳本語言,此外,正如從其名字所能看到的,PCRE也是perl語言的缺省正則庫。
PCRE是用C語言實現的,其C++實現版本是PCRE++。
2. 正則表達式定義
一個正則表達式就是由普通字符(例如字符 a 到 z)以及特殊字符(稱爲元字符)組成的文字模式。該模式描述在查找文字主體時待匹配的一個或多個字符串。正則表達式作爲一個模板,將某個字符模式與所搜索的字符串進行匹配。
例如下面一些正則表達式:
^(-?\d+)(\.\d+)?$ 匹配浮點數
^[A-Za-z]+$ 匹配由26個英文字母組成的字符串
^[A-Z]+$ 匹配由26個英文字母的大寫組成的字符串
^[a-z]+$ 匹配由26個英文字母的小寫組成的字符串
^[A-Za-z0-9]+$ 匹配由數字和26個英文字母組成的字符串
^\w+$ 匹配由數字、26個英文字母或者下劃線組成的字符串
^[\w-]+(\.[\w-]+)*@[\w-]+(\.[\w-]+)+$ 匹配email地址
當然,可能你會問上面這些表達式爲什麼是這樣寫。這裏就暫時不做多講,因爲本文主要講的是PCRE庫的應用,所以想了解更多的話,可以看我下面的[附錄1],裏面有全部正則表式用到的元字符說明。或參考網址[3]正則表達式語言元素msdn文檔。
3. PCRE正則表達式的定義
用於描述字符排列和匹配模式的一種語法規則。它主要用於字符串的模式分割、匹配、查找及替換操作。正則中重要的幾個概念有:元字符、轉義、模式單元(重複)、反義、引用和斷言。
常用的元字符(Meta-character)
元字符 說明
\A 匹配字符串串首的原子
\Z 匹配字符串串尾的原子
\b 匹配單詞的邊界/\bis/匹配頭爲is的字符串/is\b/ 匹配尾爲is的字符串 /\bis\b/ 定界
\B 匹配除單詞邊界之外的任意字符 /\Bis/ 匹配單詞“This”中的“is”
\d 匹配一個數字;等價於[0-9]
\D 匹配除數字以外任何一個字符;等價於[^0-9]
\w 匹配一個英文字母、數字或下劃線;等價於[0-9a-zA-Z_]
\W 匹配除英文字母、數字和下劃線以外任何一個字符;等價於[^0-9a-zA-Z_]
\s 匹配一個空白字符;等價於[\f\t\v]
\S 匹配除空白字符以外任何一個字符;等價於[^\f\t\v]
\f 匹配一個換頁符等價於 \x0c 或 \cL
匹配一個換行符;等價於 \x0a 或 \cJ
匹配一個回車符等價於\x0d 或 \cM
\t 匹配一個製表符;等價於 \x09\或\cl
\v 匹配一個垂直製表符;等價於\x0b或\ck
\oNN 匹配一個八進制數字
\xNN 匹配一個十六進制數字
\cC 匹配一個控制字符
模式修正符(Pattern Modifiers)
模式修正符在忽略大小寫、匹配多行中使用特別多,掌握了這一個修正符,往往能解決我們遇到的很多問題。
i -可同時匹配大小寫字母
M -將字符串視爲多行
S -將字符串視爲單行,換行符做普通字符看待,使“.”匹配任何字符
X -模式中的空白忽略不計
U -匹配到最近的字符串
e -將替換的字符串作爲表達使用
格式:/apple/i匹配“apple”或“Apple”等,忽略大小寫。 當然這裏還有很多種情況,在這裏就不一一描述出來了。
4. PCRE的函數簡介
PCRE是一個NFA正則引擎,不然不能提供完全與Perl一致的正則語法功能。但它同時也實現了DFA,只是滿足數學意義上的正則。
PCRE提供了19個接口函數。
這裏只介紹了幾個主要和常用的接口函數,另外的可通過PCRE源碼文檔進行了解。注意,使用PCRE主要是使用下面介紹的前四個函數,對這四個函數有了瞭解,使用PCRE庫的時候就會簡單很多了。
下面所講的函數,都在PCRE頭文件上定義申明:#include 。.h>
1.pcre_compile
函數原型:
pcre *pcre_compile(const char *pattern, int options, const char **errptr, int *erroffset, const unsigned char *tableptr)
功能:將一個正則表達式編譯成一個內部表示,在匹配多個字符串時,可以加速匹配。其同pcre_compile2功能一樣只是缺少一個參數errorcodeptr。
參數說明:
pattern 正則表達式
options 爲0,或者其他參數選項
errptr 出錯消息
erroffset 出錯位置
tableptr 指向一個字符數組的指針,可以設置爲空NULL。
2. pcre_compile2
函數原型:
pcre *pcre_compile2(const char *pattern, int options, int *errorcodeptr, const char **errptr, int *erroffset, const unsigned char *tableptr)
功能:將一個正則表達式編譯成一個內部表示,在匹配多個字符串時,可以加速匹配。其同pcre_compile功能一樣只是多一個參數errorcodeptr。
參數:
pattern 正則表達式
options 爲0,或者其他參數選項
errorcodeptr 存放出錯碼
errptr 出錯消息
erroffset 出錯位置
tableptr 指向一個字符數組的指針,可以設置爲空NULL。
3. pcre_exec
函數原型:
int pcre_exec(const pcre *code, const pcre_extra *extra, const char *subject, int length, int startoffset, int options, int *ovector, int ovecsize)
功能:使用編譯好的模式進行匹配,採用與Perl相似的算法,返回匹配串的偏移位置。
參數:
code 編譯好的模式
extra 指向一個pcre_extra結構體,可以爲NULL
subject 需要匹配的字符串
length 匹配的字符串長度(Byte)
startoffset 匹配的開始位置
options 選項位
ovector 指向一個結果的整型數組
ovecsize 數組大小。
4. pcre_study
函數原型:
pcre_extra *pcre_study(const pcre *code, int options, const char **errptr)
功能:對編譯的模式進行學習,提取可以加速匹配過程的信息。
參數:
code 已編譯的模式
options 選項
errptr 出錯消息
5. pcre_version
函數原型:
char *pcre_version(void)
功能:返回PCRE的版本信息。
參數:無。
6. pcre_config
函數原型:
int pcre_config(int what, void *where)
功能:查詢當前PCRE版本中使用的選項信息。
參數:
what 選項名
where 存儲結果的位置
7.pcre_maketables
函數原型:
const unsigned char *pcre_maketables(void)
功能:生成一個字符表,表中每一個元素的值不大於256,可以用它傳給pcre_compile()替換掉內建的字符表。
參數:無
5. 使用PCRE在C語言中實現正則表達式的解析
上述講了這麼多PCRE相關函數的介紹,目的還是爲了能夠運用上,所以這裏就先講解下使用PCRE的過程。主要過程分三步走第一步編譯正則表達式;第二匹配正則表達式;第三步釋放正則表達式。
1.編譯正則表達式
爲了提高效率,在將一個字符串與正則表達式進行比較之前,首先要用pcre_compile() /pcre_compile2() 函數對它時行編譯,轉化成PCRE引擎能夠識別的結構(struct real_pcre)。
這裏還可以調用pcre_study()函數,對編譯後的正則表達式結構(struct real_pcre)時行分析和學習,學習的結果是一個數據結構(struc pcre_extra),這個數據結構連同編譯後的規則(struct real_pcre)可以一起送給pcre_exec單元進行匹配。
2. 匹配正則表達式
一旦用函數pcre_compile() /pcre_compile2()成功地編譯了正則表達式,接下來就可以調用pcre_exec()函數完成模式匹配。根據正則表達式到指定的字符串中進行查找和匹配,並輸出匹配的結果。
3. 釋放正則表達式
無論什麼時候,當不再需要已經編譯過的正則表達式時,都應該調用函數free()將其釋放,以免產生內在泄漏。
6. PCRE函數在C語言中的使用小例子
在使用PCRE庫時,首先肯定是需要安裝pcre的,不過一般的系統都會有自帶的PCRE庫。不過如果想使用最新版本的話,也可以自已下載一個安裝包。我這裏下載的安裝是pcre-8.13.tar.gz版本。安裝過程很簡單,把安裝包上傳需要安裝的服務器上,安裝時默認路徑即可,我是在linux環境下安裝的,執行命令如下:
1.[root@host70-151 pcre-8.13]# ./configure
2.[root@host70-151 pcre-8.13]# make && make install
此兩步即可安裝完成,安裝成功後的頭文件在:/usr/local/include, 庫文件在:/usr/local/lib 。
下面是我的一個使用PCRE庫函數的一個小例子,其功能是匹配手機號碼的正則表達式是否成功,分成四類手機號碼時行匹配,分別是移動、電信、聯通和CDMA的手機號。裏面用到了PCRE庫函數中的pcre_compile()和pcre_exec():
因爲我是在linux下編譯C程序的,所以要用到makefile文件。注意:如果你在編譯時出現提示:
/usr/zej/zej_test/kernel/pcre_test2.c:29: undefined reference to `pcre_compile'
/usr/zej/zej_test/kernel/pcre_test2.c:35: undefined reference to `pcre_exec'
沒有定義pcre.h文件裏面的函數時,是因爲沒有鏈接到庫文件裏,這時可以能過修改makefile,在l裏面添加一個lpcre即可。然後在編譯便可成功。
點擊(此處)摺疊或打開
#include <stdio.h>
#include <stdlib.h>
#include <sys/mman.h>
#include <fcntl.h>
#include <string.h>
#include <unistd.h>
#include <sys/types.h>
#include <sys/wait.h>
#include <sys/stat.h>
#include <sys/ipc.h>
#include <sys/shm.h>
#include <assert.h>
#include <sys/socket.h>
#include <netinet/in.h>
#include "pcre.h"
#include <iostream>
#include <string>
using namespace std;
#define OVECCOUNT 30 /* should be a multiple of 3 */
#define EBUFLEN 128
#define BUFLEN 1024
int main()
{
pcre *reCM, *reUN, *reTC, *reCDMA;
const char *error;
int erroffset;
int ovector[OVECCOUNT];
int rcCM, rcUN, rcTC, rcCDMA, i;
/*
yidong:134.135.136.137.138.139.150.151.152.157.158.159.187.188,147
liandong:130.131.132.155.156.185.186
dianxin:133.153.180.189
CDMA :133,153
*/
char src[22];
char pattern_CM[] = "^1(3[4-9]|5[012789]|8[78])\\d{8}$";
char pattern_UN[] = "^1(3[0-2]|5[56]|8[56])\\d{8}$";
char pattern_TC[] = "^18[09]\\d{8}$";
char pattern_CDMA[] = "^1[35]3\\d{8}$";
printf("please input your telephone number \n");
scanf("%s", src);
printf("String : %s\n", src);
printf("Pattern_CM: \"%s\"\n", pattern_CM);
printf("Pattern_UN: \"%s\"\n", pattern_UN);
printf("Pattern_TC: \"%s\"\n", pattern_TC);
printf("Pattern_CDMA: \"%s\"\n", pattern_CDMA);
reCM = pcre_compile(pattern_CM, 0, &error, &erroffset, NULL);
reUN = pcre_compile(pattern_UN, 0, &error, &erroffset, NULL);
reTC = pcre_compile(pattern_TC, 0, &error, &erroffset, NULL);
reCDMA = pcre_compile(pattern_CDMA, 0, &error, &erroffset, NULL);
if (reCM==NULL && reUN==NULL && reTC==NULL && reCDMA==NULL) {
printf("PCRE compilation telephone failed at offset %d: %s\n", erroffset, error);
return 1;
}
rcCM = pcre_exec(reCM, NULL, src, strlen(src), 0, 0, ovector, OVECCOUNT);
rcUN = pcre_exec(reUN, NULL, src, strlen(src), 0, 0, ovector, OVECCOUNT);
rcTC = pcre_exec(reTC, NULL, src, strlen(src), 0, 0, ovector, OVECCOUNT);
rcCDMA = pcre_exec(reCDMA, NULL, src, strlen(src), 0, 0, ovector, OVECCOUNT);
if (rcCM<0 && rcUN<0 && rcTC<0 && rcCDMA<0) {
if (rcCM==PCRE_ERROR_NOMATCH && rcUN==PCRE_ERROR_NOMATCH &&
rcTC==PCRE_ERROR_NOMATCH && rcTC==PCRE_ERROR_NOMATCH) {
printf("Sorry, no match ...\n");
}
else {
printf("Matching error %d\n", rcCM);
printf("Matching error %d\n", rcUN);
printf("Matching error %d\n", rcTC);
printf("Matching error %d\n", rcCDMA);
}
free(reCM);
free(reUN);
free(reTC);
free(reCDMA);
return 1;
}
printf("\nOK, has matched ...\n\n");
if (rcCM > 0) {
printf("Pattern_CM: \"%s\"\n", pattern_CM);
printf("String : %s\n", src);
}
if (rcUN > 0) {
printf("Pattern_UN: \"%s\"\n", pattern_UN);
printf("String : %s\n", src);
}
if (rcTC > 0) {
printf("Pattern_TC: \"%s\"\n", pattern_TC);
printf("String : %s\n", src);
}
if (rcCDMA > 0) {
printf("Pattern_CDMA: \"%s\"\n", pattern_CDMA);
printf("String : %s\n", src);
}
free(reCM);
free(reUN);
free(reTC);
free(reCDMA);
return 0;
}
點擊(此處)摺疊或打開
#include <stdio.h>
#include <stdlib.h>
#include <sys/mman.h>
#include <fcntl.h>
#include <string.h>
#include <unistd.h>
#include <sys/types.h>
#include <sys/wait.h>
#include <sys/stat.h>
#include <sys/ipc.h>
#include <sys/shm.h>
#include <assert.h>
#include <sys/socket.h>
#include <netinet/in.h>
#include "pcre.h"
#include <iostream>
#include <string>
using namespace std;
#define OVECCOUNT 30 /* should be a multiple of 3 */
#define EBUFLEN 128
#define BUFLEN 1024
int main()
{
pcre *re;
const char *error;
int erroffset;
int ovector[OVECCOUNT];
int rc, i;
char buffer[128];
memset(buffer,'\0',128);
char src [] = "";
char pattern [] = "";
printf("String : %s\n", src);
printf("Pattern: \"%s\"\n", pattern);
re = pcre_compile(pattern, 0, &error, &erroffset, NULL);
if (re == NULL) {
printf("PCRE compilation failed at offset %d: %s\n", erroffset, error);
return 1;
}
rc = pcre_exec(re, NULL, src, strlen(src), 0, 0, ovector, OVECCOUNT);
if (rc < 0) {
if (rc == PCRE_ERROR_NOMATCH) printf("Sorry, no match ...\n");
else printf("Matching error %d\n", rc);
free(re);
return 1;
}
printf("\nOK, has matched ...\n\n");
for (i = 0; i < rc; i++)
{
char *substring_start = src + ovector[2*i];
int substring_length = ovector[2*i+1] - ovector[2*i];
printf("%2d: %.*s\n", i, substring_length, substring_start);
}
free(re);
return 0;
}
[1]:一些正則表達庫的對比
http://www.regular-expressions.info/refflavors.html
[2]:Boost和PCRE正則庫的性能對比
http://www.boost.org/doc/libs/1_40_0/libs/regex/doc/gcc-performance.html
[3]:正則表達式語言元素
http://msdn.microsoft.com/zh-cn/library/az24scfc.aspx
附錄1:
元字符及其在正則表達式上下文中的行爲的一個完整列表:
字符 | 描述 |
\ | 將下一個字符標記爲一個特殊字符、或一個原義字符、或一個 後向引用、或一個八進制轉義符。例如,'n' 匹配字符 "n"。'\n' 匹配一個換行符。序列 '\\' 匹配 "\" 而 "\(" 則匹配 "("。 |
^ | 匹配輸入字符串的開始位置。如果設置了 RegExp 對象的 Multiline 屬性,^ 也匹配 '\n' 或 '\r'之後的位置。 |
$ | 匹配輸入字符串的結束位置。如果設置了RegExp 對象的 Multiline 屬性,$ 也匹配 '\n' 或 '\r'之前的位置。 |
* | 匹配前面的子表達式零次或多次。例如,zo* 能匹配 "z" 以及 "zoo"。 * 等價於{0,}。 |
+ | 匹配前面的子表達式一次或多次。例如,'zo+' 能匹配 "zo" 以及 "zoo",但不能匹配 "z"。+ 等價於{1,}。 |
? | 匹配前面的子表達式零次或一次。例如,"do(es)?" 可以匹配 "do" 或 "does" 中的"do" 。? 等價於{0,1}。 |
{n} | n 是一個非負整數。匹配確定的 n 次。例如,'o{2}' 不能匹配 "Bob" 中的 'o',但是能匹配 "food"中的兩個 o。 |
{n,} | n 是一個非負整數。至少匹配n 次。例如,'o{2,}' 不能匹配 "Bob" 中的 'o',但能匹配 "foooood"中的所有 o。'o{1,}' 等價於 'o+'。'o{0,}' 則等價於 'o*'。 |
{n,m} | m 和 n 均爲非負整數,其中n <= m。最少匹配 n 次且最多匹配 m 次。劉, "o{1,3}" 將匹配"fooooood" 中的前三個 o。'o{0,1}' 等價於 'o?'。請注意在逗號和兩個數之間不能有空格。 |
? | 當該字符緊跟在任何一個其他限制符 (*, +, ?, {n}, {n,}, {n,m}) 後面時,匹配模式是非貪婪的。非貪婪模式儘可能少的匹配所搜索的字符串,而默認的貪婪模式則儘可能多的匹配所搜索的字符串。例如,對於字符串 "oooo",'o+?' 將匹配單個 "o",而 'o+' 將匹配所有 'o'。 |
. | 匹配除 "\n" 之外的任何單個字符。要匹配包括 '\n' 在內的任何字符,請使用象 '[.\n]' 的模式。 |
(pattern) | 匹配pattern 並獲取這一匹配。所獲取的匹配可以從產生的 Matches 集合得到,在VBScript 中使用 SubMatches 集合,在Visual Basic Scripting Edition 中則使用 $0…$9 屬性。要匹配圓括號字符,請使用 '\(' 或 '\)'。 |
(?:pattern) | 匹配 pattern 但不獲取匹配結果,也就是說這是一個非獲取匹配,不進行存儲供以後使用。這在使用"或" 字符 (|) 來組合一個模式的各個部分是很有用。例如, 'industr(?:y|ies) 就是一個比'industry|industries' 更簡略的表達式。 |
(?=pattern) | 正向預查,在任何匹配 pattern 的字符串開始處匹配查找字符串。這是一個非獲取匹配,也就是說,該匹配不需要獲取供以後使用。例如, 'Windows (?=95|98|NT|2000)' 能匹配 "Windows 2000" 中的"Windows" ,但不能匹配 "Windows 3.1" 中的 "Windows"。預查不消耗字符,也就是說,在一個匹配發生後,在最後一次匹配之後立即開始下一次匹配的搜索,而不是從包含預查的字符之後開始。 |
(?!pattern) | 負向預查,在任何不匹配Negative lookahead matches the search string at any point where a string not matching pattern 的字符串開始處匹配查找字符串。這是一個非獲取匹配,也就是說,該匹配不需要獲取供以後使用。例如'Windows (?!95|98|NT|2000)' 能匹配 "Windows 3.1" 中的"Windows",但不能匹配 "Windows 2000" 中的 "Windows"。預查不消耗字符,也就是說,在一個匹配發生後,在最後一次匹配之後立即開始下一次匹配的搜索,而不是從包含預查的字符之後開始 |
x|y | 匹配 x 或 y。例如,'z|food' 能匹配 "z" 或 "food"。'(z|f)ood' 則匹配 "zood" 或 "food"。 |
[xyz] | 字符集合。匹配所包含的任意一個字符。例如, '[abc]' 可以匹配 "plain" 中的 'a'。 |
[^xyz] | 負值字符集合。匹配未包含的任意字符。例如, '[^abc]' 可以匹配 "plain" 中的'p'。 |
[a-z] | 字符範圍。匹配指定範圍內的任意字符。例如,'[a-z]' 可以匹配 'a' 到 'z' 範圍內的任意小寫字母字符。 |
[^a-z] | 負值字符範圍。匹配任何不在指定範圍內的任意字符。例如,'[^a-z]' 可以匹配任何不在 'a' 到 'z'範圍內的任意字符。 |
\b | 匹配一個單詞邊界,也就是指單詞和空格間的位置。例如, 'er\b' 可以匹配"never" 中的 'er',但不能匹配 "verb" 中的 'er'。 |
\B | 匹配非單詞邊界。'er\B' 能匹配 "verb" 中的 'er',但不能匹配 "never" 中的 'er'。 |
\cx | 匹配由x指明的控制字符。例如, \cM 匹配一個 Control-M 或回車符。 x 的值必須爲 A-Z 或 a-z 之一。否則,將 c 視爲一個原義的 'c' 字符。 |
\d | 匹配一個數字字符。等價於 [0-9]。 |
\D | 匹配一個非數字字符。等價於 [^0-9]。 |
\f | 匹配一個換頁符。等價於 \x0c 和 \cL。 |
\n | 匹配一個換行符。等價於 \x0a 和 \cJ。 |
\r | 匹配一個回車符。等價於 \x0d 和 \cM。 |
\s | 匹配任何空白字符,包括空格、製表符、換頁符等等。等價於 [ \f\n\r\t\v]。 |
\S | 匹配任何非空白字符。等價於 [^ \f\n\r\t\v]。 |
\t | 匹配一個製表符。等價於 \x09 和 \cI。 |
\v | 匹配一個垂直製表符。等價於 \x0b 和 \cK。 |
\w | 匹配包括下劃線的任何單詞字符。等價於'[A-Za-z0-9_]'。 |
\W | 匹配任何非單詞字符。等價於 '[^A-Za-z0-9_]'。 |
\xn | 匹配 n,其中 n 爲十六進制轉義值。十六進制轉義值必須爲確定的兩個數字長。例如, '\x41' 匹配"A"。'\x041' 則等價於 '\x04' & "1"。正則表達式中可以使用 ASCII 編碼。. |
\num | 匹配 num,其中 num 是一個正整數。對所獲取的匹配的引用。例如,'(.)\1' 匹配兩個連續的相同字符。 |
\n | 標識一個八進制轉義值或一個後向引用。如果 \n 之前至少 n 個獲取的子表達式,則 n 爲後向引用。否則,如果 n 爲八進制數字 (0-7),則 n 爲一個八進制轉義值。 |
\nm | 標識一個八進制轉義值或一個後向引用。如果 \nm 之前至少有is preceded by at least nm 個獲取得子表達式,則 nm 爲後向引用。如果 \nm 之前至少有 n 個獲取,則 n 爲一個後跟文字 m 的後向引用。如果前面的條件都不滿足,若 n 和 m 均爲八進制數字 (0-7),則 \nm 將匹配八進制轉義值 nm。 |
\nml | 如果 n 爲八進制數字 (0-3),且 m 和 l 均爲八進制數字 (0-7),則匹配八進制轉義值 nml。 |
\un | 匹配 n,其中 n 是一個用四個十六進制數字表示的 Unicode 字符。例如, \u00A9 匹配版權符號(?)。 |