웹 소스 긁어오기

· 2012-09-04 (화) 13:37:08 · 7490 · 14
<?
function open_url($url)
{
if (preg_match('/^(https?)\:\/\/([^\/]+)(.*)/', $url, $pregs))
{
$host = $pregs[2];
$port = ($pregs[1] == 'http' ? 80 : 443);
$suburl = $pregs[3];
if (!$suburl) $suburl = '/';
if ($fp = fsockopen($host, $port, $errno, $errstr, 10))
{
fputs($fp, "GET {$suburl} HTTP/1.0\r\n");
fputs($fp, "Host: {$host}\r\n");
fputs($fp, "User-Agnet: Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 5.1)\r\n");
fputs($fp, "\r\n");
while (!feof($fp))
{
// $temp .= iconv('UTF-8', 'CP949', fgets($fp, 512)); // UTF-8
$temp .= fgets($fp, 512);
}
fclose($fp);
$arr = explode("\r\n\r\n", $temp, 2);
if (count($arr) < 2) return;
return array(
'header'=>$arr[0],
'body'=>$arr[1]
);
}
}
}

print_r(open_url('http://sir.co.kr/'));
?>

첨부파일

open_url.php (867 bytes) 62회 2012-09-04 13:37
|

댓글 14개

크롤러인가요?
사람을 지칭하시는건가요 아니면 기능의 역할을 지칭하시는건가요? ㅎㅎ
올려두고 물어보신다면 ;;
구글에서 크롤러를 검색해보세요 :)
기능이 비슷한지 해서 물어본 내용입니다.
기능은 웹사이트 코드를 긁어오는 것이니 당연히 비슷하죠.
이 코드를 수정해서 크롤러로 사용이 가능할수도 있겠지만, 저는 그런 의도로 올린건 아닙니다.
그리고 '크롤러'라고 하셔서 '크롤링 하는 사람'을 지칭하셨던 것인지
'크롤러 기능'을 지칭한 것인지를 여쭌것이지요 :D
어떻게 사용하는건가요~?
제가 만든 open_url 함수를 추가하시고 호출하시면 됩니다.
반환값은 긁어오기에 성공하면 header와 body를 인덱스로 갖는 배열이 반환되고, 실패시엔 아무것도 반환되지 않습니다.
header 에는 http 헤더가, body에는 http 내용이 들어갑니다
2012-09-13 (목) 12:38:43
때론 유용하게 사용되겠네요 ^^
감사합니다~ ^^
2012-09-23 (일) 23:16:57
소스만 가지고오는
네 웹소스 긁어오는 프로그램입니다 ^^
파싱이..스누피도 있고..^^;;
중요한건 소스를 어떻게 컨트롤하느냐겠지요ㅎㅎㅎ
태그 날리는것도 한몫할것이고..
한마디로 정규식을 배워야 요것을 매우 유용하게 사용할수있을것이다..이런거지요
맞는 말씀이지요 ㅎㅎ
2012-11-19 (월) 23:56:56
좋은 소스네요 ㅋㅋ
유용한 정보 감사합니다
댓글을 작성하시려면 로그인이 필요합니다.

프로그램

8,188건
+
제목 글쓴이 날짜 조회
13-02-18 조회 3,515
13-02-15 조회 3,923
13-02-12 조회 5,767
13-02-04 조회 4,074
13-01-30 조회 4,934
13-01-25 조회 3,680
13-01-18 조회 3,755
13-01-18 조회 5,488
13-01-18 조회 6,111
13-01-18 조회 3,778
13-01-18 조회 4,727
13-01-17 조회 4,053
13-01-17 조회 3,558
13-01-17 조회 3,617
13-01-17 조회 3,963
12-12-31 조회 3,515
12-12-28 조회 4,899
12-12-28 조회 5,958
12-12-28 조회 3,400
12-12-27 조회 3,557
12-12-27 조회 4,280
12-12-20 조회 5,196
12-12-18 조회 9,055
12-12-14 조회 4,887
12-12-10 조회 3,621
12-12-10 조회 3,091
12-12-01 조회 3,803
12-11-25 조회 7,275
12-11-22 조회 5,909
12-11-20 조회 2.4만
12-11-19 조회 4,308
12-11-13 조회 3,853
12-11-12 조회 3,862
12-10-23 조회 4,695
12-09-25 조회 4,330
12-09-05 조회 6,933
12-09-04 조회 7,491
12-09-04 조회 3,415
12-08-30 조회 3,374
12-08-30 조회 3,593
12-08-29 조회 3,329
12-08-29 조회 3,144
12-08-26 조회 3,452
12-08-18 조회 3,692
12-08-17 조회 3,976
12-08-16 조회 3,521
12-08-14 조회 3,176
12-08-13 조회 5,582
12-08-13 조회 3,337
12-08-11 조회 3,617
12-08-10 조회 3,189
12-08-07 조회 3,955
12-08-07 조회 3,187
12-08-06 조회 3,400
12-07-31 조회 3,168
12-07-30 조회 3,486
12-07-30 조회 3,120
12-07-29 조회 3,299
12-07-29 조회 3,050
12-07-27 조회 3,104
12-07-21 조회 2,977
12-07-19 조회 3,181
12-07-19 조회 2,767
12-07-17 조회 3,403
12-07-17 조회 3,025
12-07-17 조회 3,936
12-07-16 조회 2,969
12-07-15 조회 3,092
12-07-14 조회 3,141
12-07-13 조회 8,226
12-07-11 조회 3,374
12-07-10 조회 9,945
12-07-09 조회 3,152
12-07-08 조회 4,337
12-07-06 조회 3,622
12-07-05 조회 3,908
12-07-05 조회 3,325
12-07-05 조회 3,182
12-07-03 조회 3,221
12-07-03 조회 3,162
12-07-02 조회 3,198
12-07-02 조회 2,822
12-06-30 조회 3,428
12-06-26 조회 3,137
12-06-22 조회 3,178
12-06-22 조회 3,120
12-06-21 조회 3,100
12-06-21 조회 3,320
12-06-20 조회 3,488
12-06-20 조회 3,159
12-06-20 조회 3,065
12-06-18 조회 3,944
12-06-17 조회 3,377
12-06-15 조회 2,999
12-06-14 조회 2,885
12-06-13 조회 3,500
12-06-11 조회 3,320
12-06-08 조회 3,282
12-06-06 조회 3,138
12-06-06 조회 3,546