重構(gòu)人人貸爬蟲(chóng)程序(released)

重構(gòu)已經(jīng)完成并發(fā)布,在原項(xiàng)目地址,有空之后再寫(xiě)新版本的說(shuō)明


之前曾經(jīng)寫(xiě)過(guò)一個(gè)爬取人人貸交易數(shù)據(jù)的爬蟲(chóng),主要用到了urllib2包進(jìn)行請(qǐng)求,通過(guò)re包正則表達(dá)式進(jìn)行提取數(shù)據(jù),考慮到需要登陸進(jìn)行爬取時(shí),urllib2 不如requests 更穩(wěn)定,同時(shí)較為復(fù)雜的正則表達(dá)式效率較低,準(zhǔn)備通過(guò)requests包和bs4 進(jìn)行重構(gòu),特開(kāi)貼記錄重構(gòu)過(guò)程中的問(wèn)題和思考。

原項(xiàng)目地址:View on Github

TODO

  • 重構(gòu)urllib2 模塊
  • 重構(gòu)re 模塊
  • 兼容 Python 2 / 3
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書(shū)系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容