使用python測試網頁中超鏈接的連通性
在web測試,對網頁中的超鏈接進行測試是最基本的工作,最簡便的方法當然是使用像xenu之類的工具。但它具體是怎么實現的呢?我想也無外乎是通過http協(xié)議,根據超鏈接地址,向服務端發(fā)送請求,然后根據返回的信息進行判斷連接的狀態(tài)。下面是根據這種思路,用python編寫的檢測網頁鏈接連通性的程序。
首先,建立一個示例網頁,其中l(wèi)ink1,lin3是不連通的,link2,link4是有效鏈接
使用python進行鏈接檢測,要使用到4個重要模塊,過程就是通過urllib抓取目標網頁的html代碼,然后通過sgmllib模塊解析html,獲取超鏈接的列表。然后使用urlparse解析超鏈接的url,供httplib使用。然后由httplib模塊進行最后的請求及驗證回復的過程。
sgmllib:用于HTML解析,解析出網頁中包含的超鏈接
httplib:用于Http協(xié)議的操作
urllib:用于獲取網頁的html代碼
urlparse:解析url地址,把url地址解析成幾個部分。
具體實現代碼如下:
#-×-coding:gb2312-*-
importhttplib,urllib,urlparse
fromsgmllibimportSGMLParser
#解析指定的網頁的html,得到該頁面的超鏈接列表
classURLLister(SGMLParser):
defreset(self):
SGMLParser.reset(self)
self.urls=[]
defstart_a(self,attrs):
href=[vfork,vinattrsifk=='href']
ifhref:
self.urls.extend(href)
#遍歷超鏈接列表,并逐個的發(fā)送請求,判斷接收后的代碼,200為正常,其他為不正常
deffetch(host):
usock=urllib.urlopen(host)
parser=URLLister()
parser.feed(usock.read())
uhost=urlparse.urlparse(host)
forurlinparser.urls:
up=urlparse.urlparse(url)
#因為超鏈接有兩種方式:一種是直接的http://......一種是相對路徑,/.../sample.html
#所以要分別處理
ifup.netloc=="":
http=httplib.HTTP(uhost.netloc)
http.putrequest("GET","/"+up.path+"?"+up.params+up.query+up.fragment)
http.putheader("Accept","*/*")
http.endheaders()
else:
http=httplib.HTTP(up.netloc)
http.putrequest("GET",up.path+"?"+up.params+up.query+up.fragment)
http.putheader("Accept","*/*")
http.endheaders()
errcode,errmsg,headers=http.getreply()
iferrcode==200:
printurl,":ok"
else:
printurl,":",errcode
#測試
fetch("http://www.mobiletrain.org/")
代碼運行的結果:
http://www.mobiletrain.org/erwerwe.html:404
/sample/lik.html:ok
/sample/lik2.html:404
http://www.mobiletrain.org/:ok
以上內容為大家介紹了使用python測試網頁中超鏈接的連通性,希望對大家有所幫助,如果想要了解更多Python相關知識,請關注IT培訓機構:千鋒教育。http://www.mobiletrain.org/

猜你喜歡LIKE
相關推薦HOT
更多>>
Python如何輸出為文件
python輸出為文件使用withopen()as語句。使用示例:withopen('E:\python\python\test.txt','w')asf:f.writ...詳情>>
2023-11-09 22:08:08
怎么查看python變量的類型
python判斷變量的類型有兩種方法:type()和isinstance()對于基本的數據類型兩個的效果都一樣type()ip_port=['219.135.164.245',3128...詳情>>
2023-11-09 21:30:21
python如何生成文件夾
python中可以使用os.makedirs()方法創(chuàng)建多級目錄:os.makedirs()方法用于遞歸創(chuàng)建目錄。像mkdir(),但創(chuàng)建的所有intermediate-level文件夾需要包...詳情>>
2023-11-09 21:11:28
怎樣用python計算矩陣乘法?
python中計算矩陣乘法的方法:1、使用np.multiply()函數計算矩陣乘法函數作用:數組和矩陣對應位置相乘,輸出與相乘數組/矩陣的大小一致示例:n...詳情>>
2023-11-09 20:01:23