不知道大家有沒有遇到過這樣一個(gè)小問題：第一次打開頁面抓包分析相關(guān)地址是正常的，后面刷新或者再打開的時(shí)候，狀態(tài)碼就變成了304,這樣再去采集的時(shí)候就不會(huì)采集到數(shù)據(jù)了?？梢酝ㄟ^一...
發(fā)簡信
IP屬地：廣東
-
爬蟲小細(xì)節(jié)—請求緩存(Cache-Control)問題
-
爬蟲實(shí)戰(zhàn)2.1 解決CSS字體加密—大眾點(diǎn)評店鋪信息采集從現(xiàn)在開始，會(huì)隨機(jī)對各大網(wǎng)站的一些信息進(jìn)行分析采集 1.目標(biāo) 今天采集大眾點(diǎn)評。先從簡單點(diǎn)的開始：采集大眾點(diǎn)評的美食類商家店鋪信息。其中包括類別、店名、圖片、星級、點(diǎn)評數(shù)、人...
-
爬蟲實(shí)戰(zhàn)1.6.1 了解零寬斷言
本文轉(zhuǎn)載：靜覓 ? 正則表達(dá)式中零寬斷言的用法 了解了正則表達(dá)式，想必一般情況下的匹配都不會(huì)出現(xiàn)什么問題，但是如果一些特殊情況，可能需要用到一些更高級的正則表達(dá)式匹配操作，本...
-
爬蟲實(shí)戰(zhàn)1.5.1 了解Selenium本文轉(zhuǎn)載：靜覓 ? [Python3網(wǎng)絡(luò)爬蟲開發(fā)實(shí)戰(zhàn)] 7.1-Selenium的使用 Selenium是一個(gè)自動(dòng)化測試工具，利用它可以驅(qū)動(dòng)瀏覽器執(zhí)行特定的動(dòng)作，如點(diǎn)擊、下拉...
-
爬蟲實(shí)戰(zhàn)1.4.2 Ajax數(shù)據(jù)采集-頭條街拍美圖采集上篇用一個(gè)微博博客的小例子來看了一下Ajax異步加載數(shù)據(jù)的采集，為了加深一下印象，這篇特意選出了一個(gè)主題“街拍美圖”，這里注意一下，不是美女圖（做爬蟲的可能不只是廣大男同胞）...
-
爬蟲實(shí)戰(zhàn)1.4.1 Ajax數(shù)據(jù)采集-微博博客采集不知道大家有沒有遇到這種情況：當(dāng)我們r(jià)equests發(fā)出請求采集頁面信息的時(shí)候，得到的結(jié)果肯能會(huì)跟在瀏覽器中看到的不一樣，在瀏覽器中看到的數(shù)據(jù)，使用requests請求時(shí)可能...
-
爬蟲實(shí)戰(zhàn)1.3.7 頁面解析-抓取貓眼電影排行（正則解析）
這篇還是繼續(xù)我們的頁面解析，如果承接前面幾篇的話，大家可能會(huì)認(rèn)為這次說的是pyquery，經(jīng)我這一說就不是這樣的了，今天介紹一個(gè)更加好用的一個(gè)庫：requests-html ...
-
爬蟲實(shí)戰(zhàn)1.3.6 頁面解析-抓取貓眼電影排行（BS解析）
上篇我們通過一個(gè)例子介紹了一下Xpath的用法和爬蟲的基本思路，這一篇我們還是承接上篇，主要介紹正則、Beautiful Soup的簡單實(shí)用 1.正則表達(dá)式 首先我們來看一下...
-
爬蟲實(shí)戰(zhàn)1.3.5 頁面解析-抓取貓眼電影排行(Xpath解析)之前我們介紹了幾種爬蟲常見的頁面解析方式，今天我們就來看一下這些方式在實(shí)際情況下的用法，以后在抓取數(shù)據(jù)的時(shí)候可以選擇合適自己的那種。 本文我們用“ 提取貓眼電影TOP100的...
-
爬蟲實(shí)戰(zhàn)1.3.4 頁面解析之pyquery
本文轉(zhuǎn)載：靜覓 ? [Python3網(wǎng)絡(luò)爬蟲開發(fā)實(shí)戰(zhàn)] 4.3-使用pyquery 如果你對Web有所涉及，如果你比較喜歡用CSS選擇器，如果你對jQuery有所了解，那么這...
-
爬蟲實(shí)戰(zhàn)1.3.3 頁面解析之Beautiful Soup本文轉(zhuǎn)載：靜覓 ? [Python3網(wǎng)絡(luò)爬蟲開發(fā)實(shí)戰(zhàn)] 4.2-使用Beautiful Soup 這一節(jié)中，我們就來介紹一個(gè)強(qiáng)大的解析工具Beautiful Soup，它借助...
-
爬蟲實(shí)戰(zhàn)1.3.2 頁面解析之Xpath本文轉(zhuǎn)載：靜覓 ? [Python3網(wǎng)絡(luò)爬蟲開發(fā)實(shí)戰(zhàn)] 4.1-使用XPath XPath，全稱XML Path Language，即XML路徑語言，它是一門在XML文檔中查...
-
爬蟲實(shí)戰(zhàn)1.3.1 頁面解析之正則表達(dá)式本文轉(zhuǎn)載：靜覓 ? [Python3網(wǎng)絡(luò)爬蟲開發(fā)實(shí)戰(zhàn)] 3.3-正則表達(dá)式看完requests請求之后，我們獲取到了頁面的信息，但是這么龐大的頁面信息，我們所需要的數(shù)據(jù)可能就...
-
爬蟲實(shí)戰(zhàn)1.2.7 requests庫基本用法
本文轉(zhuǎn)載：靜覓 ? [Python3網(wǎng)絡(luò)爬蟲開發(fā)實(shí)戰(zhàn)] 3.2.1-基本用法 首先說明一下，文章中的代碼示例我都是以我自己的系統(tǒng)環(huán)境來做的，有一些改動(dòng)，大家要是測試示例的時(shí)候...
-
爬蟲開發(fā)實(shí)戰(zhàn)1.2.6 爬蟲基礎(chǔ)-Robots協(xié)議本文轉(zhuǎn)載：靜覓 ? [Python3網(wǎng)絡(luò)爬蟲開發(fā)實(shí)戰(zhàn)] 3.1.4-分析Robots協(xié)議 利用urllib的robotparser模塊，我們可以實(shí)現(xiàn)網(wǎng)站Robots協(xié)議的分析...
-
爬蟲實(shí)戰(zhàn)1.2.4 爬蟲基礎(chǔ)-會(huì)話和Cookies本文轉(zhuǎn)載：靜覓 ? [Python3網(wǎng)絡(luò)爬蟲開發(fā)實(shí)戰(zhàn)] 2.4-會(huì)話和Cookies 在瀏覽網(wǎng)站的過程中，我們經(jīng)常會(huì)遇到需要登錄的情況，有些頁面只有登錄之后才可以訪問，而且登...
-
爬蟲實(shí)戰(zhàn)1.2.3 爬蟲基礎(chǔ)-爬蟲的基本原理
本文轉(zhuǎn)載：靜覓 ? [Python3網(wǎng)絡(luò)爬蟲開發(fā)實(shí)戰(zhàn)] 2.3-爬蟲的基本原理我們可以把互聯(lián)網(wǎng)比作一張大網(wǎng)，而爬蟲（即網(wǎng)絡(luò)爬蟲）便是在網(wǎng)上爬行的蜘蛛。把網(wǎng)的節(jié)點(diǎn)比作一個(gè)個(gè)網(wǎng)頁...
-
爬蟲實(shí)戰(zhàn)1.2.2 爬蟲基礎(chǔ)-網(wǎng)頁基礎(chǔ)本文轉(zhuǎn)載：靜覓 ? [Python3網(wǎng)絡(luò)爬蟲開發(fā)實(shí)戰(zhàn)] 2.2-網(wǎng)頁基礎(chǔ)用瀏覽器訪問網(wǎng)站時(shí)，頁面各不相同，你有沒有想過它為何會(huì)呈現(xiàn)這個(gè)樣子呢？本節(jié)中，我們就來了解一下網(wǎng)頁的基...