PowerShell httpwebRequest Obtenez le problème de la méthode CookieContainer?

Question

J'essaie de gratter un site Web qui a une authentification des utilisateurs. Je peux faire un message pour envoyer mon connexion et stocke un cookie. Cependant, après la connexion, j'obtiens une erreur 403 lorsque j'essaie d'accéder à la page protégée.

$url = "https://some_url"

$CookieContainer = New-Object System.Net.CookieContainer

$postData = "User=UserName&Password=Pass"

$buffer = [text.encoding]::ascii.getbytes($postData)

[net.httpWebRequest] $req = [net.webRequest]::create($url)
$req.method = "POST"
$req.Accept = "text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8"
$req.Headers.Add("Accept-Language: en-US")
$req.Headers.Add("Accept-Encoding: gzip,deflate")
$req.Headers.Add("Accept-Charset: ISO-8859-1,utf-8;q=0.7,*;q=0.7")
$req.AllowAutoRedirect = $false
$req.ContentType = "application/x-www-form-urlencoded"
$req.ContentLength = $buffer.length
$req.TimeOut = 50000
$req.KeepAlive = $true
$req.Headers.Add("Keep-Alive: 300");
$req.CookieContainer = $CookieContainer
$reqst = $req.getRequestStream()
$reqst.write($buffer, 0, $buffer.length)
$reqst.flush()
$reqst.close()
[net.httpWebResponse] $res = $req.getResponse()
$resst = $res.getResponseStream()
$sr = new-object IO.StreamReader($resst)
$result = $sr.ReadToEnd()
$res.close()



$url2 = "https://some_url/protected_page"

[net.httpWebRequest] $req2 = [net.webRequest]::create($url2)
$req2.Method = "GET"
$req2.Accept = "text/html"
$req2.AllowAutoRedirect = $false
$req2.CookieContainer = $CookieContainer
$req2.TimeOut = 50000
[net.httpWebResponse] $res2 = $req2.getResponse()
$resst = $res2.getResponseStream()
$sr = new-object IO.StreamReader($resst)
$result = $sr.ReadToEnd()

SOLUTION DE CONTOURNEMENT: Donc, après avoir essayé presque tout, j'ai fini par essayer quelque chose de différent et cela fonctionne réellement.

Après avoir publié la connexion et obtenu le cookie de session, j'utilise WebClient pour accéder à la page sécurisée en ajoutant la chaîne de cookie aux en-têtes.

$web = new-object net.webclient
$web.Headers.add("Cookie", $res.Headers["Set-Cookie"])
$result = $web.DownloadString("https://secure_url")

L'une des choses intéressantes à ce sujet est que WebClient économise le cookie. Pour accéder à une autre page sécurisée, vous pouvez simplement appeler $ web.downloadString ("https: // autre_secure_url") :)

Answer 1

J'ai constaté que puisque les cookies peuvent avoir des informations supplémentaires jointes (comme l'URL ou HTTP uniquement), les $ Res.heders ["Set-Cookie"] n'ont pas fonctionné pour moi. Mais en utilisant votre variable $ CookieContainer, vous pouvez facilement le changer pour utiliser Getcookieheader (URL), qui éliminera les informations supplémentaires et vous laissera une chaîne de cookie correctement formatée:

$web = new-object net.webclient
$web.Headers.add("Cookie", $CookieContainer.GetCookieHeader($url))
$result = $web.DownloadString($url)

Answer 2

Les gens ont demandé la demande complète, ici vous l'avez

$url = "https://some_url"

$CookieContainer = New-Object System.Net.CookieContainer

$postData = "User=UserName&Password=Pass"

$buffer = [text.encoding]::ascii.getbytes($postData)

[net.httpWebRequest] $req = [net.webRequest]::create($url)
$req.method = "POST"
$req.Accept = "text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8"
$req.Headers.Add("Accept-Language: en-US")
$req.Headers.Add("Accept-Encoding: gzip,deflate")
$req.Headers.Add("Accept-Charset: ISO-8859-1,utf-8;q=0.7,*;q=0.7")
$req.AllowAutoRedirect = $false
$req.ContentType = "application/x-www-form-urlencoded"
$req.ContentLength = $buffer.length
$req.TimeOut = 50000
$req.KeepAlive = $true
$req.Headers.Add("Keep-Alive: 300");
$req.CookieContainer = $CookieContainer
$reqst = $req.getRequestStream()
$reqst.write($buffer, 0, $buffer.length)
$reqst.flush()
$reqst.close()
[net.httpWebResponse] $res = $req.getResponse()
$resst = $res.getResponseStream()
$sr = new-object IO.StreamReader($resst)
$result = $sr.ReadToEnd()
$res.close()


$web = new-object net.webclient
$web.Headers.add("Cookie", $res.Headers["Set-Cookie"])
$result = $web.DownloadString("https://secure_url")

Answer 3

j'utiliserais IE Automation. Avec cela, je n'ai pas à travailler avec des cookies, des en-têtes, etc. beaucoup plus facile.