PHP 웹 스크래퍼 만들기 : guzzle + dom-crawler

PHP 웹 크롤러 또는 스크래퍼를 만들 때 guzzle 과 dom-crawler 조합으로 구현할 수 있습니다.

 

설치는 컴포저를 이용하는 것이 좋겠죠?

[code]

composer require guzzlehttp/guzzle
composer require symfony/dom-crawler

[/code]

 

잘 되는지 간단히 테스트해 볼까요?

[code]

<?php

require 'vendor/autoload.php';

use GuzzleHttp\Client;
use Symfony\Component\DomCrawler\Crawler;

$client = new Client();
$response = $client->request('GET', 'http://example.com');

$html = (string) $response->getBody();

$crawler = new Crawler($html);

$links = $crawler->filter('a')->each(function (Crawler $node, $i) {
    return $node->attr('href');
});

var_dump($links);

 

[/code]

 

궁금하신 부분이 있으시면 댓글로 남여 주세요.

오늘도 즐거운 코딩 하세요~~^^

|

댓글 1개

요새 크롤링 쓸만한게 많은가요? 크롤링 너무 안한지 오래 되어서요

댓글을 작성하시려면 로그인이 필요합니다. 로그인

개발자팁

개발과 관련된 유용한 정보를 공유하세요. 질문은 QA에서 해주시기 바랍니다.

+
분류 제목 글쓴이 날짜 조회
JavaScript 1년 전 조회 910
JavaScript 1년 전 조회 895
PHP 1년 전 조회 1,343
PHP 1년 전 조회 1,517
기타 1년 전 조회 1,411
기타 1년 전 조회 1,205
PHP 1년 전 조회 829
JavaScript 1년 전 조회 580
JavaScript 1년 전 조회 1,064
1년 전 조회 1,299
JavaScript 1년 전 조회 1,297
1년 전 조회 814
1년 전 조회 1,162
1년 전 조회 1,159
1년 전 조회 859
1년 전 조회 411
1년 전 조회 605
1년 전 조회 1,157
1년 전 조회 737
1년 전 조회 691
PHP 1년 전 조회 906
PHP 1년 전 조회 625
OS 1년 전 조회 706
기타 1년 전 조회 499
기타 1년 전 조회 690
기타 1년 전 조회 551
기타 1년 전 조회 438
JavaScript 1년 전 조회 489
PHP 1년 전 조회 552
jQuery 1년 전 조회 631
🐛 버그신고