重構(gòu)已經(jīng)完成并發(fā)布,在原項(xiàng)目地址,有空之后再寫(xiě)新版本的說(shuō)明
之前曾經(jīng)寫(xiě)過(guò)一個(gè)爬取人人貸交易數(shù)據(jù)的爬蟲(chóng),主要用到了urllib2包進(jìn)行請(qǐng)求,通過(guò)re包正則表達(dá)式進(jìn)行提取數(shù)據(jù),考慮到需要登陸進(jìn)行爬取時(shí),urllib2 不如requests 更穩(wěn)定,同時(shí)較為復(fù)雜的正則表達(dá)式效率較低,準(zhǔn)備通過(guò)requests包和bs4 進(jìn)行重構(gòu),特開(kāi)貼記錄重構(gòu)過(guò)程中的問(wèn)題和思考。
原項(xiàng)目地址:View on Github
TODO
- 重構(gòu)urllib2 模塊
- 重構(gòu)re 模塊
- 兼容 Python 2 / 3