使用正則表達式
來源Github項目：jackfrued/Python-100-Days
僅供學(xué)習(xí)參考
正則表達式相關(guān)知識
在編寫處理字符串的程序或網(wǎng)頁時，經(jīng)常會有查找符合某些復(fù)雜規(guī)則的字符串的需要，正則表達式就是用于描述這些規(guī)則的工具。
換句話說正則表達式是一種工具，它定義了字符串的匹配模式（如何檢查一個字符串是否有跟某種模式匹配的部分或者從一個字符串中將與模式匹配的部分提取出來或者替換掉）。
如果你在Windows操作系統(tǒng)中使用過文件查找并且在指定文件名時使用過通配符（*和?），那么正則表達式也是與之類似的用來進行文本匹配的工具，只不過比起通配符正則表達式更強大，它能更精確地描述你的需求（當(dāng)然你付出的代價是書寫一個正則表達式比打出一個通配符要復(fù)雜得多，要知道任何給你帶來好處的東西都是有代價的，就如同學(xué)習(xí)一門編程語言一樣）。
比如你可以編寫一個正則表達式，用來查找所有以0開頭，后面跟著2-3個數(shù)字，然后是一個連字號“-”，最后是7或8位數(shù)字的字符串（像028-12345678或0813-7654321），這不就是國內(nèi)的座機號碼嗎。
最初計算機是為了做數(shù)學(xué)運算而誕生的，處理的信息基本上都是數(shù)值，而今天我們在日常工作中處理的信息基本上都是文本數(shù)據(jù)，我們希望計算機能夠識別和處理符合某些模式的文本，正則表達式就顯得非常重要了。
今天幾乎所有的編程語言都提供了對正則表達式操作的支持，Python通過標(biāo)準(zhǔn)庫中的re模塊來支持正則表達式操作。
我們可以考慮下面一個問題：我們從某個地方（可能是一個文本文件，也可能是網(wǎng)絡(luò)上的一則新聞）獲得了一個字符串，希望在字符串中找出手機號和座機號。
當(dāng)然我們可以設(shè)定手機號是11位的數(shù)字（注意并不是隨機的11位數(shù)字，因為你沒有見過“25012345678”這樣的手機號吧）而座機號跟上一段中描述的模式相同，如果不使用正則表達式要完成這個任務(wù)就會很麻煩。
關(guān)于正則表達式的相關(guān)知識，大家可以閱讀一篇非常有名的博客叫《正則表達式30分鐘入門教程》，讀完這篇文章后你就可以看懂下面的表格，這是我們對正則表達式中的一些基本符號進行的扼要總結(jié)。
| 符號 | 解釋 | 示例 | 說明 |
|---|---|---|---|
| . | 匹配任意字符 | b.t | 可以匹配bat / but / b#t / b1t等 |
| \w | 匹配字母/數(shù)字/下劃線 | b\wt | 可以匹配bat / b1t / b_t等 但不能匹配b#t |
| \s | 匹配空白字符（包括\r、\n、\t等） | love\syou | 可以匹配love you |
| \d | 匹配數(shù)字 | \d\d | 可以匹配01 / 23 / 99等 |
| \b | 匹配單詞的邊界 | \bThe\b | |
| ^ | 匹配字符串的開始 | ^The | 可以匹配The開頭的字符串 |
| $ | 匹配字符串的結(jié)束 | .exe$ | 可以匹配.exe結(jié)尾的字符串 |
| \W | 匹配非字母/數(shù)字/下劃線 | b\Wt | 可以匹配b#t / b@t等 但不能匹配but / b1t / b_t等 |
| \S | 匹配非空白字符 | love\Syou | 可以匹配love#you等 但不能匹配love you |
| \D | 匹配非數(shù)字 | \d\D | 可以匹配9a / 3# / 0F等 |
| \B | 匹配非單詞邊界 | \Bio\B | |
| [] | 匹配來自字符集的任意單一字符 | [aeiou] | 可以匹配任一元音字母字符 |
| [^] | 匹配不在字符集中的任意單一字符 | [^aeiou] | 可以匹配任一非元音字母字符 |
| * | 匹配0次或多次 | \w* | |
| + | 匹配1次或多次 | \w+ | |
| ? | 匹配0次或1次 | \w? | |
| {N} | 匹配N次 | \w{3} | |
| {M,} | 匹配至少M次 | \w{3,} | |
| {M,N} | 匹配至少M次至多N次 | \w{3,6} | |
| | | 分支 | foo|bar | 可以匹配foo或者bar |
| (?#) | 注釋 | ||
| (exp) | 匹配exp并捕獲到自動命名的組中 | ||
| (??<name>exp) | 匹配exp并捕獲到名為name的組中 | ||
| (?:exp) | 匹配exp但是不捕獲匹配的文本 | ||
| (?=exp) | 匹配exp前面的位置 | \b\w+(?=ing) | 可以匹配I'm dancing中的danc |
| (?<=exp) | 匹配exp后面的位置 | (?<=\bdanc)\w+\b | 可以匹配I love dancing and reading中的第一個ing |
| (?!exp) | 匹配后面不是exp的位置 | ||
| (?<!exp) | 匹配前面不是exp的位置 | ||
| *? | 重復(fù)任意次，但盡可能少重復(fù) | a.*b a.*?b |
將正則表達式應(yīng)用于aabab，前者會匹配整個字符串a(chǎn)abab，后者會匹配aab和ab兩個字符串 |
| +? | 重復(fù)1次或多次，但盡可能少重復(fù) | ||
| ?? | 重復(fù)0次或1次，但盡可能少重復(fù) | ||
| {M,N}? | 重復(fù)M到N次，但盡可能少重復(fù) | ||
| {M,}? | 重復(fù)M次以上，但盡可能少重復(fù) |
說明： 如果需要匹配的字符是正則表達式中的特殊字符，那么可以使用\進行轉(zhuǎn)義處理，例如想匹配小數(shù)點可以寫成\.就可以了，因為直接寫.會匹配任意字符；同理，想匹配圓括號必須寫成\(和\)，否則圓括號被視為正則表達式中的分組。
Python對正則表達式的支持
Python提供了re模塊來支持正則表達式相關(guān)操作，下面是re模塊中的核心函數(shù)。
| 函數(shù) | 說明 |
|---|---|
| compile(pattern, flags=0) | 編譯正則表達式返回正則表達式對象 |
| match(pattern, string, flags=0) | 用正則表達式匹配字符串 成功返回匹配對象 否則返回None |
| search(pattern, string, flags=0) | 搜索字符串中第一次出現(xiàn)正則表達式的模式 成功返回匹配對象 否則返回None |
| split(pattern, string, maxsplit=0, flags=0) | 用正則表達式指定的模式分隔符拆分字符串 返回列表 |
| sub(pattern, repl, string, count=0, flags=0) | 用指定的字符串替換原字符串中與正則表達式匹配的模式 可以用count指定替換的次數(shù) |
| fullmatch(pattern, string, flags=0) | match函數(shù)的完全匹配（從字符串開頭到結(jié)尾）版本 |
| findall(pattern, string, flags=0) | 查找字符串所有與正則表達式匹配的模式 返回字符串的列表 |
| finditer(pattern, string, flags=0) | 查找字符串所有與正則表達式匹配的模式 返回一個迭代器 |
| purge() | 清除隱式編譯的正則表達式的緩存 |
| re.I / re.IGNORECASE | 忽略大小寫匹配標(biāo)記 |
| re.M / re.MULTILINE | 多行匹配標(biāo)記 |
說明： 上面提到的re模塊中的這些函數(shù)，實際開發(fā)中也可以用正則表達式對象的方法替代對這些函數(shù)的使用，如果一個正則表達式需要重復(fù)的使用，那么先通過compile函數(shù)編譯正則表達式并創(chuàng)建出正則表達式對象無疑是更為明智的選擇。
下面我們通過一系列的例子來告訴大家在Python中如何使用正則表達式。
例子1：驗證輸入用戶名和QQ號是否有效并給出對應(yīng)的提示信息。
"""
驗證輸入用戶名和QQ號是否有效并給出對應(yīng)的提示信息
要求：用戶名必須由字母、數(shù)字或下劃線構(gòu)成且長度在6~20個字符之間，QQ號是5~12的數(shù)字且首位不能為0
"""
import re
def main():
username = input('請輸入用戶名: ')
qq = input('請輸入QQ號: ')
# match函數(shù)的第一個參數(shù)是正則表達式字符串或正則表達式對象
# 第二個參數(shù)是要跟正則表達式做匹配的字符串對象
m1 = re.match(r'^[0-9a-zA-Z_]{6,20}$', username)
if not m1:
print('請輸入有效的用戶名.')
m2 = re.match(r'^[1-9]\d{4,11}$', qq)
if not m2:
print('請輸入有效的QQ號.')
if m1 and m2:
print('你輸入的信息是有效的!')
if __name__ == '__main__':
main()
提示： 上面在書寫正則表達式時使用了“原始字符串”的寫法（在字符串前面加上了r），所謂“原始字符串”就是字符串中的每個字符都是它原始的意義，說得更直接一點就是字符串中沒有所謂的轉(zhuǎn)義字符啦。因為正則表達式中有很多元字符和需要進行轉(zhuǎn)義的地方，如果不使用原始字符串就需要將反斜杠寫作\\，例如表示數(shù)字的\d得書寫成\\d，這樣不僅寫起來不方便，閱讀的時候也會很吃力。
例子2：從一段文字中提取出國內(nèi)手機號碼。
下面這張圖是截止到2017年底，國內(nèi)三家運營商推出的手機號段。
[圖片上傳失敗...(image-9beea-1586276505791)]
import re
def main():
# 創(chuàng)建正則表達式對象 使用了前瞻和回顧來保證手機號前后不應(yīng)該出現(xiàn)數(shù)字
pattern = re.compile(r'(?<=\D)1[34578]\d{9}(?=\D)')
sentence = '''
重要的事情說8130123456789遍，我的手機號是13512346789這個靚號，
不是15600998765，也是110或119，王大錘的手機號才是15600998765。
'''
# 查找所有匹配并保存到一個列表中
mylist = re.findall(pattern, sentence)
print(mylist)
print('--------華麗的分隔線--------')
# 通過迭代器取出匹配對象并獲得匹配的內(nèi)容
for temp in pattern.finditer(sentence):
print(temp.group())
print('--------華麗的分隔線--------')
# 通過search函數(shù)指定搜索位置找出所有匹配
m = pattern.search(sentence)
while m:
print(m.group())
m = pattern.search(sentence, m.end())
if __name__ == '__main__':
main()
說明： 上面匹配國內(nèi)手機號的正則表達式并不夠好，因為像14開頭的號碼只有145或147，而上面的正則表達式并沒有考慮這種情況，要匹配國內(nèi)手機號，更好的正則表達式的寫法是：
(?<=\D)(1[38]\d{9}|14[57]\d{8}|15[0-35-9]\d{8}|17[678]\d{8})(?=\D)，國內(nèi)最近好像有19和16開頭的手機號了，但是這個暫時不在我們考慮之列。
后話
如果要從事爬蟲類應(yīng)用的開發(fā)，那么正則表達式一定是一個非常好的助手，因為它可以幫助我們迅速的從網(wǎng)頁代碼中發(fā)現(xiàn)某種我們指定的模式并提取出我們需要的信息。
當(dāng)然對于初學(xué)者來說，要編寫一個正確的適當(dāng)?shù)恼齽t表達式可能并不是一件容易的事情（當(dāng)然有些常用的正則表達式可以直接在網(wǎng)上找找），所以實際開發(fā)爬蟲應(yīng)用的時候，有很多人會選擇Beautiful Soup或Lxml來進行匹配和信息的提取，前者簡單方便但是性能較差，后者既好用性能也好，但是安裝稍嫌麻煩，這些內(nèi)容我們會在后期的爬蟲專題中為大家介紹。
