PythonRegex完全指南,python完全指南
Regex處理文本有如疾風掃秋葉,絕大部分程式設計語言都內建支援Regex,它應用在諸如表單驗證、文本提取、替換等情境。爬蟲系統更是離不開Regex,用好Regex往往能收到事半功倍的效果。
介紹Regex前,先來看一個問題,下面這段文本來自豆瓣的某個網頁連結,我對內容進行了縮減。問:如何提取文本中所有郵箱地址呢?
html = """ <style> .qrcode-app{ display: block; background: url(/pics/qrcode_app4@2x.png) no-repeat; } </style> <div class="reply-doc content"> <p class="">34613453@qq.com,謝謝了</p> <p class="">30604259@qq.com麻煩樓主</p> </div> <p class="">490010464@163.com<br/>謝謝</p> """
如果你還沒接觸過Regex,我想對此會是一籌莫展,不用正則,似乎想不到一種更好的方式來處理,不過,我們暫且放下這個問題,待學習完Regex之後再來考慮如何解決。
字串的表現形式
Python 字串有幾種表現形式,以u開頭的字串稱為Unicode字串,它不在本文討論範圍內,此外,你應該還看到過這兩種寫法:
>>> foo = "hello">>> bar = r"hello"
前者是常規字串,後者 r 開頭的是原始字串,兩者有什麼區別?因為在上面的例子中,它們都是由普通文本字元組成的串,在這裡沒什麼區別,下面可以證明
>>> foo is barTrue>>> foo == barTrue
但是,如果字串中包括有特殊字元,會是什麼情況呢?再來看一個例子:
>>> foo = "\n">>> bar = r"\n">>> foo, len(foo)('\n', 1)>>> bar, len(bar)('\\n', 2)>>> foo == barFalse>>>
"\n" 是一個逸出字元,它在 ASCII 中表示分行符號。而 r"\n" 是一個原始字串,原始字串不對特殊字元進行轉義,它就是你看到的字面意思,由 "\" 和 "n" 兩個字元組成的字串。
定義原始字串可以用小寫r或者大寫R開頭,比如 r"\b" 或者 R"\b" 都是允許的。在 Python 中,Regex一般用原始字串的形式來定義,為什麼呢?
舉例來說,對於字元 "\b" 來說,它在 ASCII 中是有特殊意義的,表示退格鍵,而在Regex中,它是一個特殊的元字元,用於匹配一個單詞的邊界,為了能讓正則編譯器正確地表達它的意義就需要用原始字串,當然也可以使用反斜線 "\" 對常規定義的字串進行轉義
>>> foo = "\\b">>> bar = r"\b">>> foo == barTrue
正則基本介紹
Regex由普通文本字元和特殊字元(元字元)兩種字元組成。元字元在Regex中具有特殊意義,它讓Regex具有更豐富的表達能力。例如,Regex r"a.d"中 ,字元 'a' 和 'd' 是一般字元,'.' 是元字元,. 可以指代任一字元,它能匹配 'a1d'、'a2d'、'acd' ,它的匹配流程是:
Python 內建模組 re 是專門用於處理Regex的模組。
>>> rex = r"a.d" # Regex文本>>> original_str = "and" # 原始文本>>> pattern = re.compile(rex) # Regex對象>>> m = pattern.match(original_str) # 匹配對象>>> m <_sre.SRE_Match object at 0x101c85b28># 等價於>>> re.match(r"a.d", "and")<_sre.SRE_Match object at 0x10a15dcc8>
如果原文本字串與Regex匹配,那麼就會返回一個 Match 對象,當不匹配時,match 方法返回的 None,通過判斷m是否為None可進行表單驗證。
接下來,我們需要學習更多元字元。
基本元字元
.:匹配除分行符號以外的任意一個字元,例如:"a.c" 可以完全符合 "abc",也可以匹配 "abcef" 中的 "abc"
\: 逸出字元,使特殊字元具有本來的意義,例如: 1\.2 可以匹配 1.2
[...]:匹配方括弧中的任意一個字元,例如:a[bcd]e 可以匹配 abe、ace、ade,它還支援範圍操作,比如:a到z可表示為 "a-z",0到9可表示為 "0-9",注意,在 "[]" 中的特殊字元不再有特殊意義,就是它字面的意義,例如:[.*]就是匹配 . 或者 *
[^...],字元集取反,表示只要不是括弧中出現的字元都可以匹配,例如:a[^bcd]e 可匹配 aee、afe等
>>> re.match(r"a.c", "abc").group()'abc'>>> re.match(r"a.c", "abcef").group()'abc'>>> re.match(r"1\.2", "1.2").group()'1.2'>>> re.match(r"a[0-9]b", "a2b").group()'a2b'>>> re.match(r"a[0-9]b", "a5b11").group()'a5b'>>> re.match(r"a[.*?]b", "a.b").group()'a.b'>>> re.match(r"abc[^\w]", "abc!123").group()'abc!
group 方法返回原字串(abcef)中與Regex相匹配的那部分子字串(abc),提前是要匹配成功 match 方法才會返回 Match 對象,進而才有group方法。
預設元字元
\w 匹配任意一個單詞字元,包括數字和底線,它等價於 [A-Za-z0-9_],例如 a\wc 可以匹配 abc、acc
\W 匹配任意一個非單詞字元,與 \w 操作相反,它等價於 [^A-Za-z0-9_],例如: a\Wc 可匹配 a!c
\s 匹配任意一個空白字元,空格、斷行符號等都是空白字元,例如:a\sc 可以配 a\nc,這裡的 \n表示斷行符號
\S 匹配任意一個非空白字元
\d 匹配任意一個數字,它等價於[0-9],例如:a\dc 可匹配 a1c、a2c ...
\D 匹配任意一個非數字
邊界匹配
邊界匹配相關的符號專門用於修飾字元。
^ 匹配字元的開頭,在字串的前面,例如:^abc 表示匹配 a開頭,後面緊隨bc的字串,它可以匹配 abc$ 匹配字元的結尾,在字串的末尾位置,例如: hello$>>> re.match(r"^abc","abc").group()'abc'>>> re.match(r"^abc$","abc").group()'abc'
重複匹配
前面的元字元都是針對單個字元來匹配的,如果希望匹配的字元重複出現,比如匹配社會安全號碼碼,長度18位,那麼就需要用到重複匹配的元字元
* 重複匹配零次或者更多次
? 重複匹配零次或者一次
+ 重複匹配1次或者多次
{n} 重複匹配n次
{n,} 重複匹配至少n次
{n, m} 重複匹配n到m次
# 簡單匹配社會安全號碼碼,前面17位是數字,最後一位可以是數字或者字母X>>> re.match(r"\d{17}[\dX]", "42350119900101153X").group()'42350119900101153X'# 匹配5到12的QQ號碼>>> re.match(r"\d{5,12}$", "4235011990").group()'4235011990'
邏輯分支
匹配一個固定電話號碼,不同地區規則不一樣,有的地方區號是3位,電話是8位,有的地方區號是4位,電話為7位,區號與號碼之間用 - 隔開,如果應對這樣的需求呢?這時你需要用到邏輯分支條件字元 |,它把運算式分為左右兩部分,先嘗試匹配左邊部分,如果匹配成功就不再匹配後面部分了,這是邏輯 "或" 的關係
# abc|cde 可以匹配abc 或者 cde,但優先匹配abc>>> re.match(r"aa(abc|cde)","aaabccde").group()'aaabc'0\d{2}-\d{8}|0\d{3}-\d{7} 運算式以0開頭,既可以匹配3位區號8位號碼,也可以匹配4位區號7位號碼>>> re.match(r"0\d{2}-\d{8}|0\d{3}-\d{7}", "0755-4348767").group()'0755-4348767'>>> re.match(r"0\d{2}-\d{8}|0\d{3}-\d{7}", "010-34827637").group()'010-34827637'
分組
前面介紹的匹配規則都是針對單個字元而言的,如果想要重複匹配多個字元怎麼辦,答案是,用子運算式(也叫分組)來表示,分組用小括弧"()"表示,例如 (abc){2} 表示匹配abc兩次, 匹配一個IP地址時,可以使用 (\d{1,3}\.){3}\d{1,3},因為IP是由4組數組3個點組成的,所有,前面3組數字和3個點可以作為一個分組重複3次,最後一部分是一個1到3個數字組成的字串。如:192.168.0.1。
關於分組,group 方法可用於提取匹配的字串分組,預設它會把整個運算式的匹配結果當做第0個分組,就是不帶參數的 group() 或者是 group(0),第一組括弧中的分組用group(1)擷取,以此類推
>>> m = re.match(r"(\d+)(\w+)", "123abc")#分組0,匹配整個Regex>>> m.group()'123abc'#等價>>> m.group(0)'123abc'# 分組1,匹配第一對括弧>>> m.group(1)'123'# 分組2,匹配第二對括弧>>> m.group(2)'abc'>>>
通過分組,我們可以從字串中提取出想要的資訊。另外,分組還可以通過指定名字的方式擷取。
# 第一個分組的名字是number# 第二個分組的名字是char>>> m = re.match(r"(?P<number>\d+)(?P<char>\w+)", "123abc")>>> m.group("number")'123'# 等價>>> m.group(1)'123'
貪婪與非貪婪
預設情況下,Regex重複匹配時,在使整個運算式能得到匹配的前提下儘可能匹配多的字元,我們稱之為貪婪模式,是一種貪得無厭的模式。例如: r"a.*b" 表示匹配 a 開頭 b 結尾,中間可以是任意多個字元的字串,如果用它來匹配 aaabcb,那麼它會匹配整個字串。
>>> re.match(r"a.*b", "aaabcb").group()'aaabcb'
有時,我們希望儘可能少的匹配,怎麼辦?只需要在量詞後面加一個問號" ?",在保證匹配的情況下儘可能少的匹配,比如剛才的例子,我們只希望匹配 aaab,那麼只需要修改Regex為 r"a.*?b"
>>> re.match(r"a.*?b", "aaabcb").group()'aaab'>>>
非貪婪模式在爬蟲應用中使用非常頻繁。比如之前在公眾號「Python之禪」曾寫過一篇爬取網站並將其轉換為PDF檔案的情境,在網頁上涉及img標籤元素是相對路徑的情況,我們需要把它替換成絕對路徑
>>> html = '<img src="/images/category.png"><img src="/images/js_framework.png">'
# 非貪婪模式就匹配的兩個img標籤# 你可以改成貪婪模式看看可以匹配幾個>>> rex = r'<img.*?src="(.*?)">'>>> re.findall(rex, html)['/images/category.png', '/images/js_framework.png']>>>>>> def fun(match):... img_tag = match.group()... src = match.group(1)... full_src = "http://foofish.net" + src... new_img_tag = img_tag.replace(src, full_src)... return new_img_tag...>>> re.sub(rex, fun, html)<img src="http://foofish.net/images/category.png"><img src="http://foofish.net/images/js_framework.png">
sub 函數可以接受一個函數作為替換目標對象,函數傳回值用來替換Regex匹配的部分,在這裡,我把整個img標籤定義為一個Regex r'<img.*?src="(.*?)">',group() 返回的值是 <img src="/images/category.png">,而 group(1) 的傳回值是 /images/category.png,最後,我用 replace 方法把相對路徑替換成絕對路徑。
到此,你應該對Regex有了初步的瞭解,現在我想你應該能解決文章開篇提的問題了。
Regex的基本介紹也到這裡告一段落,雖然程式碼範例中用了re模組中的很多方法,但我還沒正式介紹該模組,考慮到文章篇幅,我把這部分放在下篇,下篇將對re的常用方法進行介紹。
以上所述是小編給大家介紹的PythonRegex完全指南,希望對大家有所協助,如果大家有任何疑問請給我留言,小編會及時回複大家的。在此也非常感謝大家對幫客之家網站的支援!