2016.10.30

python檢查URL是否能正常訪問

今天,項目經(jīng)理問我一個問題,問我這里有2000個URL要檢查是否能正常打開,其實(shí)我是拒絕的,我知道因?yàn)橐獙懘a了,正好學(xué)了點(diǎn)python,一想,python處理起來容易,就選了python,開始把思路想好:

1.首先2000個URL。可以放在一個txt文本內(nèi)

2.通過python把內(nèi)容內(nèi)的URL一條一條放進(jìn)數(shù)組內(nèi)

3.打開一個模擬的瀏覽器,進(jìn)行訪問。

4.如果正常訪問就輸出正常,錯誤就輸出錯誤

直接簡單粗暴甩代碼。因?yàn)樯婕暗诫[私,圖片打了碼

01

import urllib.request

02

import time

03

04

opener = urllib.request.build_opener()

05

opener.addheaders = [('User-agent','Mozilla/49.0.2')]

06

#這個是你放網(wǎng)址的文件名,改過來就可以了

07

file = open('test.txt')

08

lines = file.readlines()

09

aa=[]

10

forlineinlines:

11

temp=line.replace('\n','')

12

aa.append(temp)

13

print(aa)

14

15

print('開始檢查:')

16

forainaa:

17

tempUrl = a

18

try:

19

opener.open(tempUrl)

20

print(tempUrl+'沒問題')

21

except urllib.error.HTTPError:

22

print(tempUrl+'=訪問頁面出錯')

23

time.sleep(2)

24

except urllib.error.URLError:

25

print(tempUrl+'=訪問頁面出錯')

26

time.sleep(2)

27

time.sleep(0.1)

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • 1 前言 作為一名合格的數(shù)據(jù)分析師,其完整的技術(shù)知識體系必須貫穿數(shù)據(jù)獲取、數(shù)據(jù)存儲、數(shù)據(jù)提取、數(shù)據(jù)分析、數(shù)據(jù)挖掘、...
    whenif閱讀 18,303評論 45 523
  • 本內(nèi)容為《用Python寫網(wǎng)絡(luò)爬蟲》書籍內(nèi)容,有興趣的讀者可以購買本書,本章的代碼皆可在Python3中運(yùn)行。為了...
    海人為記閱讀 2,371評論 0 5
  • 前幾天看到一位同事的朋友圈: “這個點(diǎn)才下班,今天還是周末,真不知道有啥意義?!?當(dāng)時的時間是晚上9點(diǎn)50分左右。...
    Lufeewang閱讀 439評論 0 2
  • 這幾年接連又談了幾次戀愛,第一次認(rèn)認(rèn)真真的分析一下自己的經(jīng)歷。 男生視角,針對與我一樣覺得入不敷出的人。 八年的時...
    來一抔塵土閱讀 224評論 0 0
  • 大餅?zāi)樞〗阋琅f待業(yè)中,昨天面試了一家,今天提不起一絲精力去面試本來就不大感興趣的崗位,一天待在表姐這里沒有出門,在...
    往后只求己閱讀 184評論 0 0

友情鏈接更多精彩內(nèi)容