웹 소스 긁어오기

· 2012-09-04 (화) 13:37:08 · 7488 · 14
<?
function open_url($url)
{
if (preg_match('/^(https?)\:\/\/([^\/]+)(.*)/', $url, $pregs))
{
$host = $pregs[2];
$port = ($pregs[1] == 'http' ? 80 : 443);
$suburl = $pregs[3];
if (!$suburl) $suburl = '/';
if ($fp = fsockopen($host, $port, $errno, $errstr, 10))
{
fputs($fp, "GET {$suburl} HTTP/1.0\r\n");
fputs($fp, "Host: {$host}\r\n");
fputs($fp, "User-Agnet: Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 5.1)\r\n");
fputs($fp, "\r\n");
while (!feof($fp))
{
// $temp .= iconv('UTF-8', 'CP949', fgets($fp, 512)); // UTF-8
$temp .= fgets($fp, 512);
}
fclose($fp);
$arr = explode("\r\n\r\n", $temp, 2);
if (count($arr) < 2) return;
return array(
'header'=>$arr[0],
'body'=>$arr[1]
);
}
}
}

print_r(open_url('http://sir.co.kr/'));
?>

첨부파일

open_url.php (867 bytes) 62회 2012-09-04 13:37
|

댓글 14개

크롤러인가요?
사람을 지칭하시는건가요 아니면 기능의 역할을 지칭하시는건가요? ㅎㅎ
올려두고 물어보신다면 ;;
구글에서 크롤러를 검색해보세요 :)
기능이 비슷한지 해서 물어본 내용입니다.
기능은 웹사이트 코드를 긁어오는 것이니 당연히 비슷하죠.
이 코드를 수정해서 크롤러로 사용이 가능할수도 있겠지만, 저는 그런 의도로 올린건 아닙니다.
그리고 '크롤러'라고 하셔서 '크롤링 하는 사람'을 지칭하셨던 것인지
'크롤러 기능'을 지칭한 것인지를 여쭌것이지요 :D
어떻게 사용하는건가요~?
제가 만든 open_url 함수를 추가하시고 호출하시면 됩니다.
반환값은 긁어오기에 성공하면 header와 body를 인덱스로 갖는 배열이 반환되고, 실패시엔 아무것도 반환되지 않습니다.
header 에는 http 헤더가, body에는 http 내용이 들어갑니다
2012-09-13 (목) 12:38:43
때론 유용하게 사용되겠네요 ^^
감사합니다~ ^^
2012-09-23 (일) 23:16:57
소스만 가지고오는
네 웹소스 긁어오는 프로그램입니다 ^^
파싱이..스누피도 있고..^^;;
중요한건 소스를 어떻게 컨트롤하느냐겠지요ㅎㅎㅎ
태그 날리는것도 한몫할것이고..
한마디로 정규식을 배워야 요것을 매우 유용하게 사용할수있을것이다..이런거지요
맞는 말씀이지요 ㅎㅎ
2012-11-19 (월) 23:56:56
좋은 소스네요 ㅋㅋ
유용한 정보 감사합니다
댓글을 작성하시려면 로그인이 필요합니다.

프로그램

8,188건
+
제목 글쓴이 날짜 조회
13-02-18 조회 3,515
13-02-15 조회 3,913
13-02-12 조회 5,757
13-02-04 조회 4,069
13-01-30 조회 4,934
13-01-25 조회 3,670
13-01-18 조회 3,754
13-01-18 조회 5,485
13-01-18 조회 6,100
13-01-18 조회 3,773
13-01-18 조회 4,724
13-01-17 조회 4,044
13-01-17 조회 3,554
13-01-17 조회 3,614
13-01-17 조회 3,960
12-12-31 조회 3,495
12-12-28 조회 4,899
12-12-28 조회 5,958
12-12-28 조회 3,399
12-12-27 조회 3,552
12-12-27 조회 4,278
12-12-20 조회 5,191
12-12-18 조회 9,046
12-12-14 조회 4,887
12-12-10 조회 3,612
12-12-10 조회 3,084
12-12-01 조회 3,800
12-11-25 조회 7,275
12-11-22 조회 5,909
12-11-20 조회 2.4만
12-11-19 조회 4,305
12-11-13 조회 3,846
12-11-12 조회 3,854
12-10-23 조회 4,689
12-09-25 조회 4,322
12-09-05 조회 6,927
12-09-04 조회 7,489
12-09-04 조회 3,414
12-08-30 조회 3,365
12-08-30 조회 3,590
12-08-29 조회 3,329
12-08-29 조회 3,137
12-08-26 조회 3,451
12-08-18 조회 3,683
12-08-17 조회 3,970
12-08-16 조회 3,509
12-08-14 조회 3,172
12-08-13 조회 5,577
12-08-13 조회 3,334
12-08-11 조회 3,614
12-08-10 조회 3,174
12-08-07 조회 3,951
12-08-07 조회 3,184
12-08-06 조회 3,398
12-07-31 조회 3,168
12-07-30 조회 3,486
12-07-30 조회 3,119
12-07-29 조회 3,296
12-07-29 조회 3,047
12-07-27 조회 3,103
12-07-21 조회 2,976
12-07-19 조회 3,180
12-07-19 조회 2,765
12-07-17 조회 3,403
12-07-17 조회 3,014
12-07-17 조회 3,931
12-07-16 조회 2,958
12-07-15 조회 3,085
12-07-14 조회 3,132
12-07-13 조회 8,218
12-07-11 조회 3,372
12-07-10 조회 9,944
12-07-09 조회 3,149
12-07-08 조회 4,335
12-07-06 조회 3,619
12-07-05 조회 3,908
12-07-05 조회 3,323
12-07-05 조회 3,177
12-07-03 조회 3,218
12-07-03 조회 3,162
12-07-02 조회 3,196
12-07-02 조회 2,819
12-06-30 조회 3,427
12-06-26 조회 3,137
12-06-22 조회 3,178
12-06-22 조회 3,114
12-06-21 조회 3,100
12-06-21 조회 3,320
12-06-20 조회 3,488
12-06-20 조회 3,155
12-06-20 조회 3,064
12-06-18 조회 3,944
12-06-17 조회 3,375
12-06-15 조회 2,998
12-06-14 조회 2,879
12-06-13 조회 3,500
12-06-11 조회 3,320
12-06-08 조회 3,273
12-06-06 조회 3,127
12-06-06 조회 3,546