第一周大作業(yè)- http://bj.58.com/pingbandiannao/爬蟲

  1. 結(jié)果如下:


  2. 程序源碼:

#!/usr/bin/env python
# -*- coding: utf8 -*-
import requests
from bs4 import BeautifulSoup
def get_links_from(who_sells):
urls = []
url_base = "http://bj.58.com/pingbandiannao/{}/".format(str(who_sells))
r = requests.get(url_base)
soup = BeautifulSoup(r.text, 'lxml')
for url in soup.select('tr.zzinfo td.t  a.t '):
urls.append(url.get("href").split('?')[0])
# print(urls)
return urls
def download(who_sells):
# r = requests.get(url, proxies=proxies, headers=headers)
urly = get_links_from(who_sells)
for url1 in urly:
#print(url1)
wb_data = requests.get(url1)
soup = BeautifulSoup(wb_data.text, 'lxml')
title = soup.title.text.strip()
price = soup.select('span.price_now i')
place = soup.select('div.palce_li i')
domain = soup.select('span.crb_i a')
views = soup.select('span.look_time')
# pr)int (views
data = {
'domain': domain[0].text,
'title': title,
'price': price[0].text,
'place': place[0].text,
'views': views[0].text,
'var' : '個(gè)人' if who_sells == 0 else '公司'
}
print (data)
def main():
download(0)
# get_links_from(who_sells=1)
if __name__ == '__main__':
main()
  1. 經(jīng)驗(yàn)總結(jié):方式
  • 學(xué)習(xí)了用STRIP()去除回車符號(hào)
    -學(xué)習(xí)了主函數(shù)的調(diào)用次序
  • 學(xué)習(xí)了中文字符串的顯示
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • 1. 結(jié)果如下: 2. 程序源碼: ``` #!/usr/bin/env python # -*- coding:...
    rdczowh閱讀 366評(píng)論 0 0
  • frombs4importBeautifulSoup importtime,requests,re url='ht...
    chenchao981閱讀 385評(píng)論 2 0
  • 徐霞客走到嵩山,天色已晚,決定投宿到少林寺。 少林寺建在嵩山的少室山,隱秘在樹林中,故名得少林寺。 徐霞客加急腳步...
    無(wú)盡無(wú)盡夏閱讀 1,156評(píng)論 2 0
  • 一切都是秀 害怕失敗,害怕失意,害怕在年輕的季節(jié)里沒有成功的狂喜,在夜深人靜里,內(nèi)心劇烈的掙扎撕離,在憤懣與無(wú)奈中...
    擺靈閱讀 406評(píng)論 0 0
  • 我們的生活中有很多籠子。 有竹籠子,也有鐵籠子,有看得見的籠子,也有看不見的籠子。 我知道這世上有一種籠子,看不見...
    蕭燦同學(xué)閱讀 253評(píng)論 0 0

友情鏈接更多精彩內(nèi)容