用Pyquery重寫崔慶才的《Python3網(wǎng)絡爬蟲開發(fā)實戰(zhàn)》的貓眼爬?。ㄕ齽t表達式不會用。。。。)

目前正在學Python爬蟲,正在讀崔慶才的《Python3網(wǎng)絡爬蟲開發(fā)實戰(zhàn)》,之前學習正則表達式,但是由于太難,最后放棄了(學渣的眼淚。。。。),在這本書上的抓取貓眼電影排行上,后來自學了pyquery,發(fā)現(xiàn)用pyquery可以解決這個問題,目前自己試著寫了代碼

附上代碼:

import requests
from pyquery import PyQuery as pq
import time

def get_one_page(url):
    headers = {
        'User-Agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.79 Safari/537.36'
    }
    html = requests.get(url=url,headers=headers)
    return html.text

def parse_one_page(html):
    doc = pq(html)
    items = doc('dd').items()
    for item in items:
        item1 = item.find('.board-item-main .board-item-content .movie-item-info')#空格表示嵌套
        item2 = item.find('.board-index')
        print('名次:' + item2.text())
        name = item1.find('.name').text()
        star = item1.find('.star').text()
        time = item1.find('.releasetime').text()
        score = item1.siblings('.movie-item-number .score .integer').text() + item1.siblings('.movie-item-number .score .fraction').text()
        print('電影名:' + name + '\n' +
              star + '\n' + time + '\n' + '評分:'+score +'\n')

def main(offset):
    url = 'http://maoyan.com/board/4?offset=' + str(offset) #設置偏移量
    html = get_one_page(url)
    parse_one_page(html)

if __name__ == '__main__':
    for i in range(10):
        main(offset = i * 10)
        time.sleep(1)#由于現(xiàn)在貓眼多了反爬蟲,如果速度過快則無響應,所以要添加延時等待。

代碼在:
https://github.com/liuweixu/Python-crawler/tree/master/PyQuery

歡迎來star

最后編輯于
?著作權歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務。

相關閱讀更多精彩內(nèi)容

  • 爬取目標 本文將提取貓眼電影 TOP100 排行榜的電影名稱、時間、評分、圖片等信息,URL 為http://ma...
    田旭1閱讀 1,759評論 0 0
  • Spring Cloud為開發(fā)人員提供了快速構建分布式系統(tǒng)中一些常見模式的工具(例如配置管理,服務發(fā)現(xiàn),斷路器,智...
    卡卡羅2017閱讀 136,506評論 19 139
  • 1、自制力像一塊肌肉 像肌肉一樣,自制力是后天可以鍛煉的。不鍛煉會萎縮、榨取太多會“干涸”;注意“休息恢復”同樣重...
    po界的貓閱讀 253評論 0 0
  • 心里全是你 我不自覺地出現(xiàn)在你面前 卻無法相認。 只要看到你 聽到你的聲音心里就覺得很安定舒服 這樣的欣喜已無法言明。
    SweetCC閱讀 240評論 0 0
  • 天空所包含的 魚蟲鳥獸 樹木一切 都是女皇的子宮 而人生則是 終其一生舉著“我要有所成就我要做個偉人”旗幟 在女皇...
    siee閱讀 199評論 1 2

友情鏈接更多精彩內(nèi)容