用urllib庫來實現(xiàn)賬號登錄的網(wǎng)頁請求

完整的功能:獲取個人中心的界面

1.代碼登錄(代碼設(shè)置賬號和密碼)保存cookie

需要登錄的url 個人中心的url
(1)獲取cookie需要登錄的url
(2)爬取個人中心需要個人中心的url

獲取個人中心頁面的數(shù)據(jù)


2.帶著cookie 去請求個人中心

import urllib.request
from http import cookiejar
from urllib import parse

cookiejar用來管理cookie

1.1登錄之前獲取賬號密碼(登錄界面)
1.2發(fā)送請求登錄(賬號密碼)

請求頭

url = "https://www.yaozh.com/login/"

headers = {"User-Agent":"Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.86 Safari/537.36",
           }
構(gòu)造請求參數(shù)(post請求參數(shù)必須是字典)
login_from_data = {"username":"徒步珊瑚海3","pwd":"ym800314",
                   "formhash":"BE09D485AD","backurl":"https%3A%2F%2Fwww.yaozh.com%2F"}

post 請求上傳的參數(shù)必須要是bytes

(1)將參數(shù)轉(zhuǎn)譯

log_bytes = parse.urlencode(login_from_data).encode("utf-8")

構(gòu)造請求頭對象

login_request = urllib.request.Request(url,headers=headers,data=log_bytes)
請求參數(shù)(get是拼接到url后面)
username: 徒步珊瑚海3
pwd: ym800314
formhash: BE09D485AD
backurl: https%3A%2F%2Fwww.yaozh.com%2F
發(fā)送post請求(登錄成功保存cookie信息)
cook_jar = cookiejar.CookieJar()
創(chuàng)建可以添加cookie的處理器(handler)
因為默認urlopen的方式不能保存cookie
cook_handler = urllib.request.HTTPCookieProcessor(cook_jar)
根據(jù)handler創(chuàng)建opener
opener = urllib.request.build_opener(cook_handler)

發(fā)送請求

login_from_data即包含 請求頭信息,又包含參數(shù)信息
發(fā)送請求如果登錄成功自動幫助我們保存cookie
opener.open(login_request)

2訪問個人中心界面(opener對象里面有cookie)

2.1 個人中心的url

center_url = "https://www.yaozh.com/member/"
構(gòu)造請求對象
center_request = urllib.request.Request(center_url,headers=headers)
發(fā)送網(wǎng)絡(luò)請求(拿著cookie信息去發(fā)送)
拿著剛剛創(chuàng)建好的opener去發(fā)送請求,因為這個opener里面保存了cookie
response = opener.open(center_request)

data = response.read().decode("utf-8")

with open("new.html","w",encoding="utf-8")as f:
    f.write(data)
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • 因為雨天天氣,我好幾天沒去光顧陽臺上的盆景。今天出去一看,大吃一驚,其中一盆已經(jīng)落葉滿地,生命垂危,但她的身邊,一...
    趙小煥閱讀 387評論 0 2
  • 121. 買賣股票的最佳時機 描述 給定一個數(shù)組,它的第 i 個元素是一支給定股票第 i 天的價格。 如果你最多只...
    GoMomi閱讀 365評論 0 0
  • 桂花樹下吳剛忙 嫦娥玉兔月宮閑 游子異鄉(xiāng)在望月 月圓中秋人斷腸 月到中秋分外亮 人逢團圓精神爽 中秋月圓人難圓 游...
    秋AldrichB果閱讀 1,504評論 0 7
  • 冬雨洗后的樹林,色彩分外的明亮,朦朧的煙雨覆蓋在樹林上空,如畫的景色,讓人沉浸其中,有好友相伴靜立于林間,聽樹葉下...
    西海香雪兒閱讀 258評論 0 0
  • 又是一年生日,第一次記得這么清晰。 23年了,原來已經(jīng)過了22個生日了,只是,這也只是一個模糊冰冷的數(shù)字。 很久之...
    嵐風(fēng)的葉子閱讀 451評論 0 0

友情鏈接更多精彩內(nèi)容