웹 소스 긁어오기

· 2012-09-04 (화) 13:37:08 · 7460 · 14
<?
function open_url($url)
{
if (preg_match('/^(https?)\:\/\/([^\/]+)(.*)/', $url, $pregs))
{
$host = $pregs[2];
$port = ($pregs[1] == 'http' ? 80 : 443);
$suburl = $pregs[3];
if (!$suburl) $suburl = '/';
if ($fp = fsockopen($host, $port, $errno, $errstr, 10))
{
fputs($fp, "GET {$suburl} HTTP/1.0\r\n");
fputs($fp, "Host: {$host}\r\n");
fputs($fp, "User-Agnet: Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 5.1)\r\n");
fputs($fp, "\r\n");
while (!feof($fp))
{
// $temp .= iconv('UTF-8', 'CP949', fgets($fp, 512)); // UTF-8
$temp .= fgets($fp, 512);
}
fclose($fp);
$arr = explode("\r\n\r\n", $temp, 2);
if (count($arr) < 2) return;
return array(
'header'=>$arr[0],
'body'=>$arr[1]
);
}
}
}

print_r(open_url('http://sir.co.kr/'));
?>

첨부파일

open_url.php (867 bytes) 62회 2012-09-04 13:37
|

댓글 14개

크롤러인가요?
사람을 지칭하시는건가요 아니면 기능의 역할을 지칭하시는건가요? ㅎㅎ
올려두고 물어보신다면 ;;
구글에서 크롤러를 검색해보세요 :)
기능이 비슷한지 해서 물어본 내용입니다.
기능은 웹사이트 코드를 긁어오는 것이니 당연히 비슷하죠.
이 코드를 수정해서 크롤러로 사용이 가능할수도 있겠지만, 저는 그런 의도로 올린건 아닙니다.
그리고 '크롤러'라고 하셔서 '크롤링 하는 사람'을 지칭하셨던 것인지
'크롤러 기능'을 지칭한 것인지를 여쭌것이지요 :D
어떻게 사용하는건가요~?
제가 만든 open_url 함수를 추가하시고 호출하시면 됩니다.
반환값은 긁어오기에 성공하면 header와 body를 인덱스로 갖는 배열이 반환되고, 실패시엔 아무것도 반환되지 않습니다.
header 에는 http 헤더가, body에는 http 내용이 들어갑니다
2012-09-13 (목) 12:38:43
때론 유용하게 사용되겠네요 ^^
감사합니다~ ^^
2012-09-23 (일) 23:16:57
소스만 가지고오는
네 웹소스 긁어오는 프로그램입니다 ^^
파싱이..스누피도 있고..^^;;
중요한건 소스를 어떻게 컨트롤하느냐겠지요ㅎㅎㅎ
태그 날리는것도 한몫할것이고..
한마디로 정규식을 배워야 요것을 매우 유용하게 사용할수있을것이다..이런거지요
맞는 말씀이지요 ㅎㅎ
2012-11-19 (월) 23:56:56
좋은 소스네요 ㅋㅋ
유용한 정보 감사합니다
댓글을 작성하시려면 로그인이 필요합니다.

프로그램

8,188건
+
제목 글쓴이 날짜 조회
12-08-29 조회 3,856
12-08-07 조회 3,523
12-08-03 조회 3,477
12-07-31 조회 3,592
12-07-30 조회 3,551
12-07-16 조회 3,728
12-07-15 조회 3,441
12-07-07 조회 3,412
12-07-06 조회 3,512
12-07-03 조회 3,607
12-06-29 조회 3,200
12-06-22 조회 3,567
12-06-17 조회 3,652
12-05-21 조회 3,726
12-05-02 조회 3,307
12-05-02 조회 4,123
12-05-02 조회 3,228
12-04-30 조회 3,332
12-04-30 조회 3,043
12-03-17 조회 3,862
12-03-10 조회 3,313
12-03-08 조회 3,710
12-03-03 조회 3,494
12-02-27 조회 4,897
12-02-17 조회 4,215
12-02-16 조회 4,374
12-02-03 조회 3,244
12-01-31 조회 2,965
12-01-24 조회 3,050
12-01-17 조회 3,803
12-01-05 조회 3,363
11-12-30 조회 2,974
11-12-23 조회 4,549
11-12-08 조회 3,271
11-12-07 조회 4,304
11-11-27 조회 3,747
11-11-25 조회 3,984
11-11-23 조회 3,417
11-11-22 조회 3,381
11-11-09 조회 3,167
11-10-23 조회 3,047
11-10-19 조회 3,031
11-10-08 조회 2,735
11-10-04 조회 2,758
11-10-04 조회 5,188
11-09-01 조회 4,257
11-08-13 조회 2,425
11-08-06 조회 3,113
11-07-11 조회 3,479
11-06-27 조회 2,890
11-06-21 조회 2,492
11-06-13 조회 2,319
11-06-07 조회 2,297
11-05-26 조회 2,308
11-04-20 조회 2,658
11-03-21 조회 2,745
11-03-18 조회 2,423
11-03-11 조회 2,455
11-02-07 조회 2,294
11-01-18 조회 2,626
11-01-12 조회 2,301
11-01-06 조회 2,460
10-12-10 조회 2,720
10-12-09 조회 2,363
10-12-08 조회 4,948
10-11-29 조회 2,454
10-11-28 조회 2,695
10-11-28 조회 2,512
10-11-19 조회 2,701
10-11-04 조회 2,656
10-10-21 조회 2,374
10-10-19 조회 3,319
10-10-12 조회 2,642
10-10-07 조회 2,404
10-09-30 조회 3,428
10-09-17 조회 3,822
10-09-17 조회 3,794
10-05-31 조회 3,437
09-12-31 조회 3,589
09-07-23 조회 4,879
08-09-16 조회 3,156
08-09-06 조회 2,879
08-09-04 조회 3,261
08-08-16 조회 4,345
08-08-15 조회 3,222
08-08-14 조회 4,442
08-08-12 조회 3,802
08-07-23 조회 2,736
08-07-10 조회 3,661
08-07-04 조회 2,895
08-06-27 조회 7,547
08-06-19 조회 4,840
08-05-27 조회 5,447
08-05-25 조회 5,280
08-05-23 조회 3,353
08-05-23 조회 4,453
08-05-21 조회 4,834
08-05-20 조회 3,993
08-05-20 조회 3,235
08-04-18 조회 4,221