在博客上看到一篇正則表達(dá)式的,感覺(jué)對(duì)于剛接觸python的小伙伴挺有收益的,但是請(qǐng)噴子繞道。不是每篇文章都能獲得大家的贊同贊賞。你要看我很歡迎,不看我也不奢求,所以請(qǐng)各位噴子繞道,謝謝,相當(dāng)于噴子我更喜歡伸手黨。好了bb了這么多。在分享之前,我給大家推薦我的一個(gè)java高級(jí)開(kāi)發(fā)群:283904828 群里有資料免費(fèi)領(lǐng)群,也有大牛熱心解答。也經(jīng)常提供一些比較好的文章,給大家找好方向,歡迎初學(xué)者和進(jìn)階者還有大牛者進(jìn)群,加入這個(gè)大家庭!
好了,接下來(lái)就是給大家分享了,
實(shí)際上爬蟲(chóng)一共就四個(gè)主要步驟:
1.明確目標(biāo):需清楚目標(biāo)網(wǎng)站
2.爬:將所有的目標(biāo)網(wǎng)站的內(nèi)容全部爬下來(lái)
3.?。涸谂老聛?lái)的網(wǎng)站內(nèi)容中去掉對(duì)我們沒(méi)有用處的數(shù)據(jù),只留取我們需要的數(shù)據(jù)
4.處理數(shù)據(jù):按照我們想要的方式存儲(chǔ)和使用留取的數(shù)據(jù)
我們?cè)谇懊娴陌咐飳?shí)際上都省略了第3步,也就是“取”的步驟。因?yàn)槲覀僤own下了的數(shù)據(jù)是全部的網(wǎng)頁(yè),這些數(shù)據(jù)很龐大并且很混亂,其中大部分的東西是我們不關(guān)心的,因此我們需要將之按我們的需要過(guò)濾和匹配出來(lái)。那么對(duì)于文本的過(guò)濾和者規(guī)則的匹配,最強(qiáng)大的就是正則表達(dá)式了。那么什么是正則表達(dá)式:
. ?正則表達(dá)式,又稱規(guī)則表達(dá)式,通常被用來(lái)檢索、替換那些符合某個(gè)規(guī)則的文本。
. ?正則表達(dá)式是對(duì)字符串操作的一種邏輯公式,就是用事先定義好的一些特定字符及這些特定字符的組合,組成一個(gè)“規(guī)則字符串”,這個(gè)“規(guī)則字符串”用來(lái)表達(dá)對(duì)字符串的一種過(guò)濾邏輯。
給定一個(gè)正則表達(dá)式和另一個(gè)字符串,我們可以達(dá)到如下的目的:
給定的字符串是否符合正則表達(dá)式的過(guò)濾邏輯(“匹配”)
通過(guò)正則表達(dá)式,從文本字符串中獲取我們想要的特定部分(“過(guò)濾”)

正則表達(dá)式規(guī)則

Python的re模塊
在Python中,我們可以使用內(nèi)置的re模塊來(lái)使用正則表達(dá)式。
有一點(diǎn)需要特別注意的是,正則表達(dá)式使用對(duì)特殊字符進(jìn)行黑底,所以如果我們要使用原始字符串,只需要加一個(gè)r前綴:r'i love\t\.\tpython'
re模塊的一般使用步驟如下:
? ? ?1.使用compile()函數(shù)將正則表達(dá)式的字符串形式編譯為一個(gè)Pattern對(duì)象
? ? ?2.通過(guò)Pattern對(duì)象提供的一系列方法對(duì)文本進(jìn)行匹配查找,獲得匹配結(jié)果,一個(gè)Match對(duì)象。
? ? ?3.最后使用Match對(duì)象提供的屬性和方法獲得信息,根據(jù)需要進(jìn)行其他操作。
compile函數(shù)
compile函數(shù)用于編譯正則表達(dá)式,生成一個(gè)Pattern對(duì)象,它的一般使用形式如下:

在上面,我們已將一個(gè)正則表達(dá)式編譯成Pattern對(duì)象,接下來(lái),我們就可以利用pattern的一系列方法對(duì)文本匹配查找了。
Pattern對(duì)象的一些常用方法主要有:
match()方法:從起始位置開(kāi)始查找,一次匹配
search()方法:從任何位置開(kāi)始查找,一次匹配
findall()方法:全部匹配,返回列表
finditer()方法:全部匹配,返回迭代器
split()方法:分割字符串,返回列表
sub()方法:替換
match()方法
match()方法用于查找字符串的頭部(也可以指定起始位置),它是一次匹配,只要找到了一個(gè)匹配的結(jié)果就返回,而不是查找所有匹配的結(jié)果。它的一般使用形式如下:
match(string[, pos[, endpos]])
其中,string是待匹配的字符串,pos和endpos是可選參數(shù),指定字符串的起始和終點(diǎn)位置,默認(rèn)值分別是0和len(string)。因此,當(dāng)你不指定pos和endpos時(shí),match()方法默認(rèn)匹配字符串的頭部。
當(dāng)匹配成功時(shí),返回一個(gè)Match對(duì)象,如果沒(méi)有匹配上,則返回None。

在上面,當(dāng)匹配成功時(shí)返回一個(gè)Match對(duì)象,其中:
group([group1,...])方法用于獲得一個(gè)或多個(gè)分組匹配的字符串,當(dāng)要獲得整個(gè)匹配的子串時(shí),可直接使用group()或group(0)
start([group])方法用于獲取分組匹配的子串在整個(gè)字符串中的起始位置(子串第一個(gè)字符的索引),參數(shù)默認(rèn)值為0
end([group])方法用于獲取分組匹配的子串在整個(gè)字符串中的結(jié)束位置(子串最后一個(gè)字符的索引 + 1),參數(shù)默認(rèn)值為0
span([group])方法返回(start(group), end(group))
再看一個(gè)例子:

search()方法
search()方法用于查找字符串的任何位置,它也是一次匹配,只要找到了一個(gè)匹配的結(jié)果就返回,而不是查找所有匹配的結(jié)果,它的一般使用形式如下:
search(string[, pos[, endpos]])
其中,string是待匹配的字符串,pos和endpos是可選參數(shù),指定字符串的起始和終點(diǎn)位置,默認(rèn)值分別是0和len(string)。
當(dāng)匹配成功時(shí),返回一個(gè)Match對(duì)象,如果沒(méi)有匹配上,則返回None。
如下例子:

再看一個(gè)例子:

執(zhí)行結(jié)果:

findall()方法
上面的match()和search()方法都是一次匹配,只要找到了一個(gè)匹配的結(jié)果就返回。然而,在大多數(shù)時(shí)候,我們需要搜索整個(gè)字符串,獲得所有匹配的結(jié)果。
findall()方法的使用形式如下:
findall(string[, pos[, endpos]])
其中,string是待匹配的字符串,pos和endpos是可選參數(shù),指定字符串的起始和終點(diǎn)位置,默認(rèn)值分別是0和len(string)。
findall()以列表形式返回全部能匹配的子串,如果沒(méi)有匹配成功,則返回一個(gè)空列表。
如下:

再看一個(gè)例子:

finditer()方法
finditer()方法的行為跟findall()的行為類似,也是搜索整個(gè)字符串,獲得所有匹配的結(jié)果。但它返回一個(gè)順序訪問(wèn)每一個(gè)匹配結(jié)果(Match對(duì)象)的迭代器。
如下:

執(zhí)行結(jié)果:

split()方法
spilt()方法按照能夠匹配的子串將字符串分割后返回列表,它的使用形式如下:
split(string[, maxsplit])
其中,maxsplit用于指定最大分割次數(shù),不指定將全部分割。
如下:

sub()方法
sub()方法用于替換。它的使用形式如下:
sub(repl, string[, count])
其中,repl可以是字符串也可以是一個(gè)函數(shù):
如果repl是字符串,則會(huì)使用repl去替換字符串每一個(gè)匹配的子串,并返回替換后的字符串,另外,repl還可以使用id的形式來(lái)引用分組,但不能使用編號(hào)0
如果repl是函數(shù),這個(gè)方法應(yīng)當(dāng)只接受一個(gè)參數(shù)(Match對(duì)象),并返回一個(gè)字符串用于替換(返回的字符串中不能再引用分組)
count用于指定最多替換次數(shù),默認(rèn)全部替換
如下:

執(zhí)行結(jié)果:

匹配中文
在某些情況下,我們想匹配文本中的漢字,中文的unicode編碼范圍主要在[u4e00-u9fa5],這里說(shuō)主要是因?yàn)檫@個(gè)范圍并不完整,比如沒(méi)有包括全角(中文)標(biāo)點(diǎn),不過(guò),在大部分情況下,應(yīng)該是夠用的。
例如:要想把字符串s = "您好,世界。hello world!"中的中文提取出來(lái),可以這么做

輸出結(jié)果
1. 世界你好

一件平凡的事,當(dāng)你做了一萬(wàn)遍,就會(huì)變得偉大?。?!