편리

juso.sir.co.kr 도로명 주소 검색 시스템 구축 가이드 - 데이터 입력

· 2014-08-27 (수) 16:52:07 · 6774

SIR 주소검색 시스템에서는 juso.go.kr 에서 제공하는 매칭데이터를 사용했습니다.

http://www.juso.go.kr/notice/OpenArchivesList.do?noticeKd=26&type=matching 에서 

제공하는 자료 중 (기존안)대표지번 전체(2014년 7월 31일 기준) 이 사용된 데이터입니다.

데이터 갱신은 한달에 한번 이뤄지고 있습니다.

 

제공되는 자료는 txt 파일로 제공됩니다. 이를 DB에 입력하기 위해 별도의 파일을 작성했습니다.

데이터 입력전에 주소 데이터 입력용 테이블을 먼저 만들어야 합니다. 테이블 구조는 아래와 같습니다.

 

1. DB 테이블 준비

juso 라는 이름의 DB를 생성했으며 그 안에 dorodata라는 테이블을 생성했습니다.

[code]

CREATE TABLE `dorodata` (

  `sn` int(11) NOT NULL AUTO_INCREMENT,

  `sido` varchar(255) NOT NULL DEFAULT '',

  `gugun` varchar(255) NOT NULL DEFAULT '',

  `beopname` varchar(255) NOT NULL DEFAULT '',

  `ri` varchar(255) NOT NULL DEFAULT '',

  `san` varchar(255) NOT NULL DEFAULT '',

  `jibon` varchar(255) NOT NULL DEFAULT '',

  `jibu` varchar(255) NOT NULL DEFAULT '',

  `dorocode` varchar(255) NOT NULL DEFAULT '',

  `doroname` varchar(255) NOT NULL DEFAULT '',

  `jiha` varchar(255) NOT NULL DEFAULT '',

  `geonbon` varchar(255) NOT NULL DEFAULT '',

  `geonbu` varchar(255) NOT NULL DEFAULT '',

  `geonname` varchar(255) NOT NULL DEFAULT '',

  `geonsangse` varchar(255) NOT NULL DEFAULT '',

  `haengjeong` varchar(255) NOT NULL DEFAULT '',

  `zipcode` varchar(255) NOT NULL DEFAULT '',

  `daryang` varchar(255) NOT NULL DEFAULT '',

  `geonname2` varchar(255) NOT NULL DEFAULT '',

  PRIMARY KEY (`sn`)

) ENGINE=MyISAM DEFAULT CHARSET=utf8; 

[/code]

 

테이블 구조를 보시면 아시겠지만 index 키가 설정되어 있지 않습니다. Sphinx를 사용할 예정이기 때문에

index 설정은 필요없으며 DB 서버는 인덱싱 후에는 주소 검색시 사용되지 않습니다.

 

2. 주소 데이터 입력

데이터 입력을 위해 작성한 파일의 코드는 아래와 같습니다. 전체 파일은 가이드 작성 마지막에 첨부하겠습니다.

 

[code]

<?php

include_once('./_common.php');

set_time_limit ( 0 );

ini_set('memory_limit', '500M');

 

$files = glob('./*.txt');

 

if(!function_exists('iconv_utf8')) {

    function iconv_utf8($str)

    {

        return iconv('euc-kr', 'utf-8', $str);

    }

}

 

function convert_content($str)

{

    return addslashes(trim($str));

}

 

foreach($files as $file) {

    $zip = array();

    $fp = fopen('./'.$file, 'r');

    while(!feof($fp)) {

        $zip[] = fgets($fp, 4096);

    }

    fclose($fp);

 

    $rows = count($zip);

    $count = 0;

 

    for($i=0; $i<$rows; $i++) {

        $line = iconv_utf8($zip[$i]);

        $data = explode('|', $line);

        $data = array_map('convert_content', $data);

 

        if(!$data[19])

            continue;

 

        $sql = " insert into `dorodata`

                    set sido        = '".$data[1]."',

                        gugun       = '".$data[2]."',

                        beopname    = '".$data[3]."',

                        ri          = '".$data[4]."',

                        san         = '".$data[5]."',

                        jibon       = '".$data[6]."',

                        jibu        = '".$data[7]."',

                        dorocode    = '".$data[8]."',

                        doroname    = '".$data[9]."',

                        jiha        = '".$data[10]."',

                        geonbon     = '".$data[11]."',

                        geonbu      = '".$data[12]."',

                        geonname    = '".$data[13]."',

                        geonsangse  = '".$data[14]."',

                        haengjeong  = '".$data[18]."',

                        zipcode     = '".$data[19]."',

                        daryang     = '".$data[21]."',

                        geonname2   = '".$data[25]."' ";

 

        sql_query($sql);

        $count++;

    }

}

 

echo '총 레코드 : '.number_format($count);

?> 

[/code]

 

실제 입력한 데이터는 http://www.juso.go.kr/notice/OpenArchivesDetail.do?mgtSn=1417¤tPage=1&searchType=&keyword=¬iceKd=26&type=matching 입니다.

 

txt 파일이 ansi 타입으로 제공되어 utf-8로 변경 후 테이블에 입력하도록 했습니다.

자료의 양이 많아 서버 사양에 따라 입력이 시간이 차이가 납니다. nginx 등의 서버를 사용하는 경우

timeout 설정을 길게 잡아주지 않으면 입력 중 중료되는 경우도 있습니다. 저는 입력시 txt 파일을 하나씩만

업로드해서 테이블에 입력하는 방법을 사용했습니다. 중간에 종료가 되면 처음부터 다시해야 하기 때문입니다.

 

 

다음은 Sphinx 에서 주소 데이터 인덱싱을 위한 설정 파일에 대해 알아보겠습니다.

|
댓글을 작성하시려면 로그인이 필요합니다.

프로그램

8,188건
+
제목 글쓴이 날짜 조회
15-11-20 조회 2,463
15-11-20 조회 2,446
15-11-20 조회 2,570
15-11-18 조회 2,572
15-11-18 조회 2,603
15-11-18 조회 2,553
15-11-17 조회 2,795
15-11-17 조회 2,543
15-11-17 조회 2,507
15-11-16 조회 2,568
15-11-16 조회 2,542
15-11-16 조회 2,743
15-11-15 조회 2,744
15-11-15 조회 2,571
15-11-15 조회 2,663
15-11-09 조회 2,853
15-11-09 조회 2,642
15-11-09 조회 2,701
15-11-06 조회 3,290
15-11-05 조회 2,726
15-11-05 조회 2,636
15-11-05 조회 2,745
15-11-04 조회 2,705
15-11-04 조회 2,686
15-11-04 조회 2,668
15-11-04 조회 2,972
15-11-04 조회 2,764
15-11-03 조회 2,761
15-11-02 조회 2,801
15-11-02 조회 2,589
15-11-02 조회 2,608
15-10-31 조회 2,506
15-10-27 조회 2,773
15-10-23 조회 2,682
15-10-23 조회 2,732
15-10-19 조회 3,828
15-10-15 조회 3,437
15-08-03 조회 3,092
15-07-29 조회 2,920
15-07-12 조회 3,391
15-05-07 조회 4,975
15-05-06 조회 4,599
15-05-06 조회 5,321
15-04-04 조회 4,407
15-04-04 조회 4,039
15-04-01 조회 5,647
15-02-10 조회 4,395
15-01-31 조회 4,415
15-01-23 조회 4,090
14-12-30 조회 3,634
14-12-23 조회 3,810
14-12-02 조회 4,190
14-10-17 조회 4,621
14-10-17 조회 4,770
14-10-07 조회 4,127
14-10-07 조회 5,315
14-10-04 조회 4,408
14-09-24 조회 4,697
14-09-24 조회 4,668
14-09-24 조회 4,146
14-09-23 조회 3,938
14-09-22 조회 3,604
14-09-21 조회 4,009
14-09-21 조회 4,234
14-09-21 조회 3,715
14-09-20 조회 4,289
14-09-19 조회 3,829
14-09-19 조회 3,509
14-09-19 조회 4,018
14-09-19 조회 3,700
14-09-18 조회 3,523
14-09-18 조회 3,965
14-09-18 조회 4,265
14-09-18 조회 3,864
14-09-18 조회 3,826
14-09-18 조회 3,874
14-09-18 조회 3,958
14-09-18 조회 4,706
14-09-17 조회 3,715
14-09-15 조회 3,812
14-09-11 조회 4,094
14-08-26 조회 3,984
14-08-26 조회 3,679
14-08-26 조회 3,449
14-08-26 조회 3,961
14-08-26 조회 3,818
14-08-26 조회 3,700
14-08-26 조회 3,789
14-08-26 조회 3,850
14-08-26 조회 3,637
14-08-26 조회 3,842
14-08-26 조회 3,838
14-08-26 조회 3,821
14-08-26 조회 3,857
14-08-26 조회 3,627
14-08-26 조회 3,625
14-08-26 조회 3,814
14-08-26 조회 3,511
14-08-26 조회 3,586
14-08-26 조회 3,386