편리

juso.sir.co.kr 도로명 주소 검색 시스템 구축 가이드 - 데이터 입력

· 2014-08-27 (수) 16:52:07 · 6993

SIR 주소검색 시스템에서는 juso.go.kr 에서 제공하는 매칭데이터를 사용했습니다.

http://www.juso.go.kr/notice/OpenArchivesList.do?noticeKd=26&type=matching 에서 

제공하는 자료 중 (기존안)대표지번 전체(2014년 7월 31일 기준) 이 사용된 데이터입니다.

데이터 갱신은 한달에 한번 이뤄지고 있습니다.

 

제공되는 자료는 txt 파일로 제공됩니다. 이를 DB에 입력하기 위해 별도의 파일을 작성했습니다.

데이터 입력전에 주소 데이터 입력용 테이블을 먼저 만들어야 합니다. 테이블 구조는 아래와 같습니다.

 

1. DB 테이블 준비

juso 라는 이름의 DB를 생성했으며 그 안에 dorodata라는 테이블을 생성했습니다.

​

[code]

CREATE TABLE `dorodata` (

  `sn` int(11) NOT NULL AUTO_INCREMENT,

  `sido` varchar(255) NOT NULL DEFAULT '',

  `gugun` varchar(255) NOT NULL DEFAULT '',

  `beopname` varchar(255) NOT NULL DEFAULT '',

  `ri` varchar(255) NOT NULL DEFAULT '',

  `san` varchar(255) NOT NULL DEFAULT '',

  `jibon` varchar(255) NOT NULL DEFAULT '',

  `jibu` varchar(255) NOT NULL DEFAULT '',

  `dorocode` varchar(255) NOT NULL DEFAULT '',

  `doroname` varchar(255) NOT NULL DEFAULT '',

  `jiha` varchar(255) NOT NULL DEFAULT '',

  `geonbon` varchar(255) NOT NULL DEFAULT '',

  `geonbu` varchar(255) NOT NULL DEFAULT '',

  `geonname` varchar(255) NOT NULL DEFAULT '',

  `geonsangse` varchar(255) NOT NULL DEFAULT '',

  `haengjeong` varchar(255) NOT NULL DEFAULT '',

  `zipcode` varchar(255) NOT NULL DEFAULT '',

  `daryang` varchar(255) NOT NULL DEFAULT '',

  `geonname2` varchar(255) NOT NULL DEFAULT '',

  PRIMARY KEY (`sn`)

) ENGINE=MyISAM DEFAULT CHARSET=utf8; 

[/code]

 

테이블 구조를 보시면 아시겠지만 index 키가 설정되어 있지 않습니다. Sphinx를 사용할 예정이기 때문에

index 설정은 필요없으며 DB 서버는 인덱싱 후에는 주소 검색시 사용되지 않습니다.

 

2. 주소 데이터 입력

데이터 입력을 위해 작성한 파일의 코드는 아래와 같습니다. 전체 파일은 가이드 작성 마지막에 첨부하겠습니다.

 

[code]

<?php

include_once('./_common.php');

set_time_limit ( 0 );

ini_set('memory_limit', '500M');

 

$files = glob('./*.txt');

 

if(!function_exists('iconv_utf8')) {

    function iconv_utf8($str)

    {

        return iconv('euc-kr', 'utf-8', $str);

    }

}

 

function convert_content($str)

{

    return addslashes(trim($str));

}

 

foreach($files as $file) {

    $zip = array();

    $fp = fopen('./'.$file, 'r');

    while(!feof($fp)) {

        $zip[] = fgets($fp, 4096);

    }

    fclose($fp);

 

    $rows = count($zip);

    $count = 0;

 

    for($i=0; $i<$rows; $i++) {

        $line = iconv_utf8($zip[$i]);

        $data = explode('|', $line);

        $data = array_map('convert_content', $data);

 

        if(!$data[19])

            continue;

 

        $sql = " insert into `dorodata`

                    set sido        = '".$data[1]."',

                        gugun       = '".$data[2]."',

                        beopname    = '".$data[3]."',

                        ri          = '".$data[4]."',

                        san         = '".$data[5]."',

                        jibon       = '".$data[6]."',

                        jibu        = '".$data[7]."',

                        dorocode    = '".$data[8]."',

                        doroname    = '".$data[9]."',

                        jiha        = '".$data[10]."',

                        geonbon     = '".$data[11]."',

                        geonbu      = '".$data[12]."',

                        geonname    = '".$data[13]."',

                        geonsangse  = '".$data[14]."',

                        haengjeong  = '".$data[18]."',

                        zipcode     = '".$data[19]."',

                        daryang     = '".$data[21]."',

                        geonname2   = '".$data[25]."' ";

 

        sql_query($sql);

        $count++;

    }

}

 

echo '총 레코드 : '.number_format($count);

?> 

[/code]

 

실제 입력한 데이터는 http://www.juso.go.kr/notice/OpenArchivesDetail.do?mgtSn=1417¤tPage=1&searchType=&keyword=¬iceKd=26&type=matching 입니다.

 

txt 파일이 ansi 타입으로 제공되어 utf-8로 변경 후 테이블에 입력하도록 했습니다.

자료의 양이 많아 서버 사양에 따라 입력이 시간이 차이가 납니다. nginx 등의 서버를 사용하는 경우

timeout 설정을 길게 잡아주지 않으면 입력 중 중료되는 경우도 있습니다. 저는 입력시 txt 파일을 하나씩만

업로드해서 테이블에 입력하는 방법을 사용했습니다. 중간에 종료가 되면 처음부터 다시해야 하기 때문입니다.

 

 

다음은 Sphinx 에서 주소 데이터 인덱싱을 위한 설정 파일에 대해 알아보겠습니다.

|
댓글을 작성하시려면 로그인이 필요합니다.

프로그램

8,188건
+
제목 글쓴이 날짜 조회
15-12-13 조회 2,530
15-12-13 조회 2,946
15-12-11 조회 2,607
15-12-11 조회 2,568
15-12-11 조회 2,571
15-12-10 조회 2,529
15-12-10 조회 2,588
15-12-10 조회 2,562
15-12-03 조회 3,204
15-12-03 조회 2,718
15-11-25 조회 2,801
15-11-09 조회 3,210
15-11-04 조회 2,971
15-06-09 조회 4,096
15-05-06 조회 5,094
15-03-28 조회 4,576
14-12-05 조회 5,001
14-10-25 조회 5,098
14-10-13 조회 4,274
14-10-03 조회 6,263
14-09-19 조회 4,966
14-09-18 조회 4,052
14-09-13 조회 4,615
14-09-03 조회 5,604
14-08-26 조회 4,210
14-08-26 조회 4,015
14-08-26 조회 3,979
14-08-11 조회 6,510
14-08-06 조회 4,127
14-08-06 조회 3,726
14-08-06 조회 3,940
14-08-01 조회 6,307
14-08-01 조회 3,843
14-07-30 조회 4,444
14-06-28 조회 5,167
14-06-28 조회 4,440
14-05-11 조회 4,592
14-05-09 조회 4,951
14-05-09 조회 7,713
14-04-30 조회 4,337
14-04-27 조회 4,197
14-04-25 조회 4,900
14-04-21 조회 3,878
14-04-21 조회 5,006
14-04-10 조회 4,606
14-04-01 조회 6,159
14-03-03 조회 3,533
14-02-25 조회 5,923
14-02-14 조회 5,196
14-02-13 조회 4,955
14-01-03 조회 4,447
13-12-06 조회 3,767
13-11-22 조회 5,522
13-11-18 조회 4,030
13-10-02 조회 4,448
13-10-02 조회 3,698
13-10-02 조회 3,962
13-10-02 조회 3,818
13-10-02 조회 4,184
13-09-16 조회 8,033
13-09-16 조회 5,398
13-08-18 조회 5,431
13-07-11 조회 4,111
13-07-10 조회 4,696
13-07-09 조회 4,733
13-07-09 조회 4,988
13-07-04 조회 4,488
13-07-04 조회 4,127
13-07-04 조회 4,240
13-07-01 조회 4,727
13-07-01 조회 4,560
13-07-01 조회 6,836
13-06-23 조회 4,384
13-06-05 조회 3,629
13-05-29 조회 4,870
13-05-10 조회 4,280
13-04-05 조회 4,899
13-04-05 조회 6,586
13-04-05 조회 1.1만
13-04-05 조회 7,182
13-04-05 조회 6,570
13-03-31 조회 5,843
13-03-31 조회 4,168
13-03-28 조회 4,530
13-03-28 조회 6,727
13-03-28 조회 9,210
13-03-28 조회 4,341
13-03-24 조회 3,956
13-03-21 조회 4,634
13-03-21 조회 1.8만
13-03-14 조회 3,939
13-03-10 조회 4,748
13-03-10 조회 4,508
13-03-10 조회 4,209
13-03-08 조회 5,265
13-03-08 조회 4,372
13-03-03 조회 5,030
13-03-03 조회 7,483
13-03-03 조회 4,226
13-03-03 조회 1.1만