Создание запроса HTTP Head с Urllib2 из Python 2
-
09-10-2019 - |
Вопрос
Я пытаюсь сделать запрос на голову страницы, используя Python 2.
я стараюсь
import misc_urllib2
.....
opender = urllib2.build_opener([misc_urllib2.MyHTTPRedirectHandler(), misc_urllib2.HeadRequest()])
с участием misc_urllib2.py
содержащий
class HeadRequest(urllib2.Request):
def get_method(self):
return "HEAD"
class MyHTTPRedirectHandler(urllib2.HTTPRedirectHandler):
def __init__ (self):
self.redirects = []
def http_error_301(self, req, fp, code, msg, headers):
result = urllib2.HTTPRedirectHandler.http_error_301(
self, req, fp, code, msg, headers)
result.redirect_code = code
return result
http_error_302 = http_error_303 = http_error_307 = http_error_301
Но я получаю
TypeError: __init__() takes at least 2 arguments (1 given)
Если я просто сделаю
opender = urllib2.build_opener(misc_urllib2.MyHTTPRedirectHandler())
Тогда это работает нормально
Решение
Это работает просто хорошо:
import urllib2
request = urllib2.Request('http://localhost:8080')
request.get_method = lambda : 'HEAD'
response = urllib2.urlopen(request)
print response.info()
Испытано с быстрым и грязным httpd взломанным в Python:
Server: BaseHTTP/0.3 Python/2.6.6
Date: Sun, 12 Dec 2010 11:52:33 GMT
Content-type: text/html
X-REQUEST_METHOD: HEAD
Я добавил пользовательское поле заголовка x-request_method, чтобы показать, что он работает :)
Вот журнал httpd:
Sun Dec 12 12:52:28 2010 Server Starts - localhost:8080
localhost.localdomain - - [12/Dec/2010 12:52:33] "HEAD / HTTP/1.1" 200 -
Редактировать: есть также httplib2.
import httplib2
h = httplib2.Http()
resp = h.request("http://www.google.com", 'HEAD')
Другие советы
Попробуйте httplib
>>> import httplib
>>> conn = httplib.HTTPConnection("www.google.com")
>>> conn.request("HEAD", "/index.html")
>>> res = conn.getresponse()
>>> print res.status, res.reason
200 OK
>>> print res.getheaders()
[('content-length', '0'), ('expires', '-1'), ('server', 'gws'), ('cache-control', 'private, max-age=0'), ('date', 'Sat, 20 Sep 2008 06:43:36 GMT'), ('content-type', 'text/html; charset=ISO-8859-1')]
Проблема лежит в вашем классе Headrequest, которое наследует от Urllib2.Request. Согласно доктору, urllib2.Request.__init__
Подпись
__init__(self, url, data=None, headers={}, origin_req_host=None, unverifiable=False)
Таким образом, вы должны пройти аргумент URL для этого. Во второй попытке вы просто не используете Headrequest, поэтому он работает.
Вы не добавляете HeadRequest
к build_opener
или add_handler
это должно быть названо так
opener = urllib2.build_opener(MyHTTPRedirectHandler)
response = opener.open(HeadRequest(url))
print response.getheaders()