Python Requests庫(kù)對(duì) URL 編碼問題

一、問題

在編寫跨站腳本漏洞輔助驗(yàn)證腳本時(shí)遇到一個(gè)問題,當(dāng)使用 Requests 模塊發(fā)起請(qǐng)求,默認(rèn)會(huì)對(duì) URL 進(jìn)行一次編碼,比如下面的代碼:

proxy = {"http": "http://127.0.0.1:8080"}
response = requests.get(res, proxies=proxy).text

使用 Burp Suite 抓包可以看到請(qǐng)求 URL 被 URL 編碼了一次:


二、原因

request.get 是通過構(gòu)造 session 模塊中的Session類,并調(diào)用其request方法完成請(qǐng)求。Session類的request方法先根據(jù)傳入的參數(shù)(如URL等)構(gòu)造一個(gè)Request類,并調(diào)用self.prepare_request方法預(yù)準(zhǔn)備,最后調(diào)用self.send發(fā)送最終的請(qǐng)求。
URL的編碼過程便在self.prepare_request方法中:

# session.py
def prepare_request(self, request):
    # 此部分代碼已忽略
    p = PreparedRequest()
    p.prepare(method=request.method.upper(), url=request.url, files=request.files,
        data=request.data, json=request.json,
        headers=merge_setting(request.headers, self.headers, dict_class=CaseInsensitiveDict),
        params=merge_setting(request.params, self.params), auth=merge_setting(auth, self.auth),
        cookies=merged_cookies,hooks=merge_hooks(request.hooks, self.hooks),
    )
    return p

# model.py
class PreparedRequest(RequestEncodingMixin, RequestHooksMixin):
    def prepare(self, method=None, url=None, headers=None, files=None,
        data=None, params=None, auth=None, cookies=None, hooks=None, json=None):
        """Prepares the entire request with the given parameters."""
        self.prepare_method(method)
        self.prepare_url(url, params)
        self.prepare_headers(headers)
        self.prepare_cookies(cookies)
        self.prepare_body(data, files, json)
        self.prepare_auth(auth, url)
        self.prepare_hooks(hooks)

    def prepare_url(self, url, params):
        # 這里requests庫(kù)做了很多努力
        url = requote_uri(urlunparse([scheme, netloc, path, None, query, fragment]))
        self.url = url

最終我們傳進(jìn)去的URL就被prepare_url函數(shù)進(jìn)行了字符串編碼替換,回到Session類,調(diào)用resp = self.send(prep, **send_kwargs)發(fā)送請(qǐng)求,prep即是上述PreparedRequest對(duì)象。

三、解決方法

由于URL在PreparedRequest類中轉(zhuǎn)碼后傳到Session類的send方法中發(fā)送最終的請(qǐng)求,只要寫一個(gè)類繼承Session并重寫send方法,在里面進(jìn)行反編碼,將PreparedRequest對(duì)象的url屬性值改了。代碼如下:

#python2
import urllib
import requests

class NoQuoteSession(requests.Session):
    def send(self, prep, **send_kwargs):
        table = {
            urllib.quote('{'): '{',
            urllib.quote('}'): '}',
            urllib.quote(':'): ':',
            urllib.quote(','): ',',
            urllib.quote('<'): '<',
            urllib.quote('>'): '>',
        }
        for old, new in table.items():
            prep.url = prep.url.replace(old, new)
        return super(NoQuoteSeesion, self).send(prep, **send_kwargs)

s = NoQuoteSeesion()
res = s.get(url)

python3 中urllib.quote()變?yōu)?urllib.parse.quote():

#python3
class NoQuoteSession(requests.Session):
    def send(self, prep, **send_kwargs):
        table = {
            urllib.parse.quote('{'): '{',
            urllib.parse.quote('}'): '}',
            urllib.parse.quote(':'): ':',
            urllib.parse.quote(','): ',',
            urllib.parse.quote('<'): '<',
            urllib.parse.quote('>'): '>',
        }
        for old, new in table.items():
            prep.url = prep.url.replace(old, new)
        return super().send(prep, **send_kwargs)

2019 10 17 更新
python 3 中此方法沒用,解碼之后再發(fā)送請(qǐng)求之前,url.py 中的 url()函數(shù)還會(huì) urlencode,所以發(fā)送的請(qǐng)求還是會(huì)編碼。
解決方法是使用 urllib 來(lái)發(fā)送請(qǐng)求:

 with request.urlopen(url) as response:
   data = response.read()
   return data.decode('utf-8')
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • Swift1> Swift和OC的區(qū)別1.1> Swift沒有地址/指針的概念1.2> 泛型1.3> 類型嚴(yán)謹(jǐn) 對(duì)...
    cosWriter閱讀 11,621評(píng)論 1 32
  • http header 消息通常被分為4個(gè)部分:general header即頭部, request header...
    徐薇薇閱讀 32,266評(píng)論 0 5
  • iOS開發(fā)系列--網(wǎng)絡(luò)開發(fā) 概覽 大部分應(yīng)用程序都或多或少會(huì)牽扯到網(wǎng)絡(luò)開發(fā),例如說(shuō)新浪微博、微信等,這些應(yīng)用本身可...
    lichengjin閱讀 4,022評(píng)論 2 7
  • 今天重新梳理網(wǎng)絡(luò)編程的時(shí)候,想到對(duì)于部分應(yīng)用,他們的數(shù)據(jù)流是按照http協(xié)議,中間經(jīng)過其他協(xié)議層,最后通過底層的物...
    llicety閱讀 3,066評(píng)論 4 3
  • 有過開車經(jīng)歷的人通常都清楚汽車發(fā)動(dòng)機(jī)的啟動(dòng)過程:將鑰匙右轉(zhuǎn)至點(diǎn)火位置,此時(shí)需再右轉(zhuǎn)一下便聽到連續(xù)的“突突”聲,同時(shí)...
    不二純c閱讀 391評(píng)論 0 0

友情鏈接更多精彩內(nèi)容