PHP 웹 스크래퍼 만들기 : guzzle + dom-crawler

PHP 웹 크롤러 또는 스크래퍼를 만들 때 guzzle 과 dom-crawler 조합으로 구현할 수 있습니다.

 

설치는 컴포저를 이용하는 것이 좋겠죠?

[code]

composer require guzzlehttp/guzzle
composer require symfony/dom-crawler

[/code]

 

잘 되는지 간단히 테스트해 볼까요?

[code]

<?php

require 'vendor/autoload.php';

use GuzzleHttp\Client;
use Symfony\Component\DomCrawler\Crawler;

$client = new Client();
$response = $client->request('GET', 'http://example.com');

$html = (string) $response->getBody();

$crawler = new Crawler($html);

$links = $crawler->filter('a')->each(function (Crawler $node, $i) {
    return $node->attr('href');
});

var_dump($links);

 

[/code]

 

궁금하신 부분이 있으시면 댓글로 남여 주세요.

오늘도 즐거운 코딩 하세요~~^^

|

댓글 1개

요새 크롤링 쓸만한게 많은가요? 크롤링 너무 안한지 오래 되어서요

댓글을 작성하시려면 로그인이 필요합니다.

개발자팁

개발과 관련된 유용한 정보를 공유하세요. 질문은 QA에서 해주시기 바랍니다.

+
분류 제목 글쓴이 날짜 조회
JavaScript 1년 전 조회 989
JavaScript 1년 전 조회 953
PHP 1년 전 조회 1,388
PHP 1년 전 조회 1,614
기타 1년 전 조회 1,483
기타 1년 전 조회 1,331
PHP 1년 전 조회 949
JavaScript 1년 전 조회 633
JavaScript 1년 전 조회 1,141
1년 전 조회 1,392
JavaScript 1년 전 조회 1,351
1년 전 조회 866
1년 전 조회 1,239
1년 전 조회 1,222
1년 전 조회 963
1년 전 조회 506
1년 전 조회 643
1년 전 조회 1,210
1년 전 조회 858
1년 전 조회 750
PHP 1년 전 조회 948
PHP 1년 전 조회 681
OS 1년 전 조회 754
기타 1년 전 조회 546
기타 1년 전 조회 743
기타 1년 전 조회 588
기타 1년 전 조회 469
JavaScript 1년 전 조회 549
PHP 1년 전 조회 606
jQuery 1년 전 조회 674
🐛 버그신고