PHP 웹 스크래퍼 만들기 : guzzle + dom-crawler

PHP 웹 크롤러 또는 스크래퍼를 만들 때 guzzle 과 dom-crawler 조합으로 구현할 수 있습니다.

 

설치는 컴포저를 이용하는 것이 좋겠죠?

[code]

composer require guzzlehttp/guzzle
composer require symfony/dom-crawler

[/code]

 

잘 되는지 간단히 테스트해 볼까요?

[code]

<?php

require 'vendor/autoload.php';

use GuzzleHttp\Client;
use Symfony\Component\DomCrawler\Crawler;

$client = new Client();
$response = $client->request('GET', 'http://example.com');

$html = (string) $response->getBody();

$crawler = new Crawler($html);

$links = $crawler->filter('a')->each(function (Crawler $node, $i) {
    return $node->attr('href');
});

var_dump($links);

 

[/code]

 

궁금하신 부분이 있으시면 댓글로 남여 주세요.

오늘도 즐거운 코딩 하세요~~^^

|

댓글 1개

요새 크롤링 쓸만한게 많은가요? 크롤링 너무 안한지 오래 되어서요

댓글을 작성하시려면 로그인이 필요합니다. 로그인

개발자팁

개발과 관련된 유용한 정보를 공유하세요. 질문은 QA에서 해주시기 바랍니다.

+
분류 제목 글쓴이 날짜 조회
JavaScript 1년 전 조회 912
JavaScript 1년 전 조회 898
PHP 1년 전 조회 1,345
PHP 1년 전 조회 1,518
기타 1년 전 조회 1,412
기타 1년 전 조회 1,210
PHP 1년 전 조회 831
JavaScript 1년 전 조회 583
JavaScript 1년 전 조회 1,068
1년 전 조회 1,303
JavaScript 1년 전 조회 1,301
1년 전 조회 816
1년 전 조회 1,164
1년 전 조회 1,162
1년 전 조회 861
1년 전 조회 416
1년 전 조회 608
1년 전 조회 1,159
1년 전 조회 739
1년 전 조회 691
PHP 1년 전 조회 907
PHP 1년 전 조회 627
OS 1년 전 조회 709
기타 1년 전 조회 500
기타 1년 전 조회 694
기타 1년 전 조회 553
기타 1년 전 조회 440
JavaScript 1년 전 조회 490
PHP 1년 전 조회 555
jQuery 1년 전 조회 636
🐛 버그신고