Charset Auto Detection(캐릭터셋 자동 감지)

명시적으로 캐릭터셋을 정하지 않는 상태에서
param 으로 넘어온값이나, 문자열의 charset을 검출해야 하는 경우가 있습니다.
흔하게 발생되는 경우는 아니지만, 외부 시스템 연동과 같은 특수상황에서는 종종 발생하는 케이스입니다.
자바쪽 자료를 찾다가 php 자료들도 보이길래 정리해봅니다.
자동검출이기 때문에 100% 완벽하지 않습니다.

1. mb_detect_encoding()
- http://kr.php.net/manual/en/function.mb-detect-encoding.php

2. 캐릭터셋의 바이트 구조를 분석하여 직접 코딩
- http://my.oops.org/62
<?php
//
// +----------------------------------------------------------------------+
// | PHP Version 4 |
// +----------------------------------------------------------------------+
// | Copyright (c) 1997-2003 The PHP Group |
// +----------------------------------------------------------------------+
// | This source file is subject to version 2.02 of the PHP license, |
// | that is bundled with this package in the file LICENSE, and is |
// | available at through the world-wide-web at |
// | http://www.php.net/license/2_02.txt. |
// | If you did not receive a copy of the PHP license and are unable to |
// | obtain it through the world-wide-web, please send a note to |
// | license@php.net so we can mail you a copy immediately. |
// +----------------------------------------------------------------------+
// | Author: JoungKyun Kim <http://www.oops.org> |
// +----------------------------------------------------------------------+
//
// $Id: eSystem.php,v 1.2 2005/07/11 05:58:11 oops Exp $

require_once 'PEAR.php';

/**
* PEAR's eSystem:: interface. Defines the php extended system mapping function
* and any utility mapping function
*
* @access public
* @version $Revision: 0.1 $
* @package Unicode
*/
class Unicode extends PEAR
{
function chr2bin ($c, $shift = '') {
$c = ord ($c);

if ( $shift && preg_match ('/^([<>]+)[\s]*([0-9]+)/', $shift, $match) ) :
switch ($match[1]) :
case '>>' : $c = $c >> $match[2]; break;
case '<<' : $c = $c << $match[2]; break;
case '<' : $c = $c < $match[2]; break;
case '>' : $c = $c > $match[2]; break;
endswitch;
endif;

return decbin ($c);
}

function is_utf8 ($str) {
$_l = strlen ($str);
$_not = 0;

for ( $i=0; $i<$_l; $i++ ) :
#$_first = $this->chr2bin ($str[$i]);

# if 7bit charactior or numeric, skipped
#if ( strlen ($_first) != 8 )
# continue;

# if single byte charactors, skipped
if ( ! (ord ($str[$i]) & 0x80) ) :
continue;
endif;

$_first = $this->chr2bin ($str[$i], '>>4');

switch ( $_first ) :
case 1111 : $b = 3; break; # 4byte
case 1110 : $b = 2; break; # 3byte
default : return 0; # not utf8
endswitch;

for ( $j=1; $j<$b; $j++ ) :
if ( substr ($this->chr2bin ($str[$i+$j]), 0, 2) != 10 )
return 0;
endfor;

break;
endfor;

return $_not ? 0 : 1;
}
}

/*
* Local variables:
* tab-width: 4
* c-basic-offset: 4
* End:
* vim600: noet sw=4 ts=4 fdm=marker
* vim<600: noet sw=4 ts=4
*/
?>

사용예
<?
require_once 'Unicode.php';
$_f = 'usage_200509.html';
$_ff = 'bb.html';

$u = new Unicode;
if ( file_exists ($_ff) )
unlink ($_ff);

$_t = file ($_f);

foreach ( $_t as $_v ) :
$_v = trim ($_v);
if ( $u->is_utf8 ($_v) )
putfile_lib ($_ff, utf8decode_lib ($_v, 'cp949'), 1);
else
putfile_lib ($_ff, $_v, 1);
endforeach;

?>

그외 참고 url
http://my.oops.org/126<div class='small'>[이 게시물은 관리자님에 의해 2011-10-31 17:16:08 PHP & HTML에서 이동 됨]</div>
|

댓글 1개

내가 조아라 하는 pear소스네요...ㅎㅎ
댓글을 작성하시려면 로그인이 필요합니다.

프로그램

+
제목 글쓴이 날짜 조회
15년 전 조회 1,293
15년 전 조회 1,243
15년 전 조회 1,266
15년 전 조회 1,200
15년 전 조회 1,256
15년 전 조회 1,001
15년 전 조회 1,595
15년 전 조회 1,140
15년 전 조회 968
15년 전 조회 2,956
15년 전 조회 728
15년 전 조회 1,192
15년 전 조회 1,168
15년 전 조회 1,113
15년 전 조회 992
15년 전 조회 1,304
15년 전 조회 1,363
15년 전 조회 1,020
15년 전 조회 1,407
15년 전 조회 1,045
15년 전 조회 1,294
15년 전 조회 1,422
15년 전 조회 1,175
15년 전 조회 980
15년 전 조회 1,167
15년 전 조회 1,281
15년 전 조회 994
15년 전 조회 969
15년 전 조회 1,357
15년 전 조회 1,155
15년 전 조회 1,038
15년 전 조회 1,191
15년 전 조회 1,366
15년 전 조회 1,061
15년 전 조회 1,085
15년 전 조회 794
15년 전 조회 1,013
15년 전 조회 1,223
15년 전 조회 1,054
15년 전 조회 1,048
15년 전 조회 1,278
15년 전 조회 1,796
15년 전 조회 706
15년 전 조회 1,144
15년 전 조회 1,137
15년 전 조회 1,033
15년 전 조회 1,007
15년 전 조회 1,123
15년 전 조회 905
15년 전 조회 2,136
15년 전 조회 899
15년 전 조회 1,809
15년 전 조회 891
15년 전 조회 980
15년 전 조회 1,063
15년 전 조회 1,034
15년 전 조회 1,720
15년 전 조회 1,123
15년 전 조회 1,079
15년 전 조회 1,241
15년 전 조회 1,107
15년 전 조회 917
15년 전 조회 1,063
15년 전 조회 938
15년 전 조회 1,164
15년 전 조회 704
15년 전 조회 1,083
15년 전 조회 1,095
15년 전 조회 1,039
15년 전 조회 967
15년 전 조회 1,306
15년 전 조회 1,030
15년 전 조회 957
15년 전 조회 1,003
15년 전 조회 948
15년 전 조회 951
15년 전 조회 1,025
15년 전 조회 1,413
15년 전 조회 801
15년 전 조회 846
15년 전 조회 1,020
15년 전 조회 1,037
15년 전 조회 894
15년 전 조회 1,469
15년 전 조회 996
15년 전 조회 1,207
15년 전 조회 1,602
15년 전 조회 1,091
15년 전 조회 1,114
15년 전 조회 1,024
15년 전 조회 968
15년 전 조회 1,305
15년 전 조회 1,055
15년 전 조회 941
15년 전 조회 1,320
15년 전 조회 2,477
15년 전 조회 1,050
15년 전 조회 1,183
15년 전 조회 1,299
15년 전 조회 1,026