html raschiatura e query CSS

Question

quali sono i vantaggi e gli svantaggi delle seguenti librerie?

• PHP Simple HTML DOM Parser
• QP
• phpQuery

Da quanto sopra ho usato QP e non è riuscito a parse HTML non valido, e simpleDomParser, che fa un buon lavoro, ma perde un pò la memoria a causa del modello a oggetti. Ma si può tenere sotto controllo chiamando $object->clear(); unset($object); quando non avete bisogno di più di un oggetto.

Ci sono altre ruspe? Quali sono le vostre esperienze con loro? Ho intenzione di fare questo wiki una comunità, forse faremo costruire un utile elenco di librerie che possono essere utili quando raschiando.

---

Ho fatto alcuni test basati risposta di Byron:

    <?
    include("lib/simplehtmldom/simple_html_dom.php");
    include("lib/phpQuery/phpQuery/phpQuery.php");


    echo "<pre>";

    $html = file_get_contents("http://stackoverflow.com/search?q=favorite+programmer+cartoon");
    $data['pq'] = $data['dom'] = $data['simple_dom'] = array();

    $timer_start = microtime(true);

    $dom = new DOMDocument();
    @$dom->loadHTML($html);
    $x = new DOMXPath($dom);

    foreach($x->query("//a") as $node)
    {
         $data['dom'][] = $node->getAttribute("href");
    }

    foreach($x->query("//img") as $node)
    {
         $data['dom'][] = $node->getAttribute("src");
    }

    foreach($x->query("//input") as $node)
    {
         $data['dom'][] = $node->getAttribute("name");
    }

    $dom_time =  microtime(true) - $timer_start;
    echo "dom: \t\t $dom_time . Got ".count($data['dom'])." items \n";






    $timer_start = microtime(true);
    $doc = phpQuery::newDocument($html);
    foreach( $doc->find("a") as $node)
    {
       $data['pq'][] = $node->href;
    }

    foreach( $doc->find("img") as $node)
    {
       $data['pq'][] = $node->src;
    }

    foreach( $doc->find("input") as $node)
    {
       $data['pq'][] = $node->name;
    }
    $time =  microtime(true) - $timer_start;
    echo "PQ: \t\t $time . Got ".count($data['pq'])." items \n";









    $timer_start = microtime(true);
    $simple_dom = new simple_html_dom();
    $simple_dom->load($html);
    foreach( $simple_dom->find("a") as $node)
    {
       $data['simple_dom'][] = $node->href;
    }

    foreach( $simple_dom->find("img") as $node)
    {
       $data['simple_dom'][] = $node->src;
    }

    foreach( $simple_dom->find("input") as $node)
    {
       $data['simple_dom'][] = $node->name;
    }
    $simple_dom_time =  microtime(true) - $timer_start;
    echo "simple_dom: \t $simple_dom_time . Got ".count($data['simple_dom'])." items \n";


    echo "</pre>";

e ottenuto

dom:         0.00359296798706 . Got 115 items 
PQ:          0.010568857193 . Got 115 items 
simple_dom:  0.0770139694214 . Got 115 items 

Answer 1

Ho usato per usare semplice HTML DOM in esclusiva fino a qualche SO'ers luminosi mi ha mostrato l'alleluia luce.

Basta utilizzare il costruito nel funzioni DOM. Sono scritti in C e parte del core di PHP. Essi sono più veloci più efficiente di qualsiasi soluzione di terze parti. Con Firebug, ottenendo una query XPath è semplice muey. Questa semplice modifica ha reso i miei raschietti basati php correre più veloce, risparmiando il mio tempo prezioso.

I miei ruspe utilizzati per prendere ~ 60 megabyte per raschiare 10 siti asyncronously con l'arricciatura. Questo è stato anche con la semplice correzione di memoria DOM HTML che lei ha citato.

Ora il mio php processi in mai andare al di sopra di 8 megabyte.

Altamente raccomandato.

Modifica

Va bene ho fatto alcuni benchmark. Costruito nel DOM è di almeno un ordine di grandezza più veloce.

Built in php DOM: 0.007061
Simple html  DOM: 0.117781

<?
include("../lib/simple_html_dom.php");

$html = file_get_contents("http://stackoverflow.com/search?q=favorite+programmer+cartoon");
$data['dom'] = $data['simple_dom'] = array();

$timer_start = microtime(true);

$dom = new DOMDocument();
@$dom->loadHTML($html);
$x = new DOMXPath($dom); 

foreach($x->query("//a") as $node) 
{
     $data['dom'][] = $node->getAttribute("href");
}

foreach($x->query("//img") as $node) 
{
     $data['dom'][] = $node->getAttribute("src");
}

foreach($x->query("//input") as $node) 
{
     $data['dom'][] = $node->getAttribute("name");
}

$dom_time =  microtime(true) - $timer_start;

echo "built in php DOM : $dom_time\n";

$timer_start = microtime(true);
$simple_dom = new simple_html_dom();
$simple_dom->load($html);
foreach( $simple_dom->find("a") as $node)
{
   $data['simple_dom'][] = $node->href;
}

foreach( $simple_dom->find("img") as $node)
{
   $data['simple_dom'][] = $node->src;
}

foreach( $simple_dom->find("input") as $node)
{
   $data['simple_dom'][] = $node->name;
}
$simple_dom_time =  microtime(true) - $timer_start;

echo "simple html  DOM : $simple_dom_time\n";