PHP 웹 스크래퍼 만들기 : guzzle + dom-crawler

PHP 웹 크롤러 또는 스크래퍼를 만들 때 guzzle 과 dom-crawler 조합으로 구현할 수 있습니다.

 

설치는 컴포저를 이용하는 것이 좋겠죠?

[code]

composer require guzzlehttp/guzzle
composer require symfony/dom-crawler

[/code]

 

잘 되는지 간단히 테스트해 볼까요?

[code]

<?php

require 'vendor/autoload.php';

use GuzzleHttp\Client;
use Symfony\Component\DomCrawler\Crawler;

$client = new Client();
$response = $client->request('GET', 'http://example.com');

$html = (string) $response->getBody();

$crawler = new Crawler($html);

$links = $crawler->filter('a')->each(function (Crawler $node, $i) {
    return $node->attr('href');
});

var_dump($links);

 

[/code]

 

궁금하신 부분이 있으시면 댓글로 남여 주세요.

오늘도 즐거운 코딩 하세요~~^^

|

댓글 1개

요새 크롤링 쓸만한게 많은가요? 크롤링 너무 안한지 오래 되어서요

댓글을 작성하시려면 로그인이 필요합니다. 로그인

개발자팁

개발과 관련된 유용한 정보를 공유하세요. 질문은 QA에서 해주시기 바랍니다.

+
분류 제목 글쓴이 날짜 조회
JavaScript 1년 전 조회 915
JavaScript 1년 전 조회 908
PHP 1년 전 조회 1,352
PHP 1년 전 조회 1,523
기타 1년 전 조회 1,415
기타 1년 전 조회 1,218
PHP 1년 전 조회 838
JavaScript 1년 전 조회 588
JavaScript 1년 전 조회 1,070
1년 전 조회 1,308
JavaScript 1년 전 조회 1,303
1년 전 조회 824
1년 전 조회 1,172
1년 전 조회 1,164
1년 전 조회 867
1년 전 조회 420
1년 전 조회 611
1년 전 조회 1,165
1년 전 조회 748
1년 전 조회 698
PHP 1년 전 조회 914
PHP 1년 전 조회 634
OS 1년 전 조회 713
기타 1년 전 조회 506
기타 1년 전 조회 697
기타 1년 전 조회 557
기타 1년 전 조회 447
JavaScript 1년 전 조회 496
PHP 1년 전 조회 563
jQuery 1년 전 조회 642
🐛 버그신고