Charset Auto Detection(캐릭터셋 자동 감지)

명시적으로 캐릭터셋을 정하지 않는 상태에서
param 으로 넘어온값이나, 문자열의 charset을 검출해야 하는 경우가 있습니다.
흔하게 발생되는 경우는 아니지만, 외부 시스템 연동과 같은 특수상황에서는 종종 발생하는 케이스입니다.
자바쪽 자료를 찾다가 php 자료들도 보이길래 정리해봅니다.
자동검출이기 때문에 100% 완벽하지 않습니다.

1. mb_detect_encoding()
- http://kr.php.net/manual/en/function.mb-detect-encoding.php

2. 캐릭터셋의 바이트 구조를 분석하여 직접 코딩
- http://my.oops.org/62
<?php
//
// +----------------------------------------------------------------------+
// | PHP Version 4 |
// +----------------------------------------------------------------------+
// | Copyright (c) 1997-2003 The PHP Group |
// +----------------------------------------------------------------------+
// | This source file is subject to version 2.02 of the PHP license, |
// | that is bundled with this package in the file LICENSE, and is |
// | available at through the world-wide-web at |
// | http://www.php.net/license/2_02.txt. |
// | If you did not receive a copy of the PHP license and are unable to |
// | obtain it through the world-wide-web, please send a note to |
// | license@php.net so we can mail you a copy immediately. |
// +----------------------------------------------------------------------+
// | Author: JoungKyun Kim <http://www.oops.org> |
// +----------------------------------------------------------------------+
//
// $Id: eSystem.php,v 1.2 2005/07/11 05:58:11 oops Exp $

require_once 'PEAR.php';

/**
* PEAR's eSystem:: interface. Defines the php extended system mapping function
* and any utility mapping function
*
* @access public
* @version $Revision: 0.1 $
* @package Unicode
*/
class Unicode extends PEAR
{
function chr2bin ($c, $shift = '') {
$c = ord ($c);

if ( $shift && preg_match ('/^([<>]+)[\s]*([0-9]+)/', $shift, $match) ) :
switch ($match[1]) :
case '>>' : $c = $c >> $match[2]; break;
case '<<' : $c = $c << $match[2]; break;
case '<' : $c = $c < $match[2]; break;
case '>' : $c = $c > $match[2]; break;
endswitch;
endif;

return decbin ($c);
}

function is_utf8 ($str) {
$_l = strlen ($str);
$_not = 0;

for ( $i=0; $i<$_l; $i++ ) :
#$_first = $this->chr2bin ($str[$i]);

# if 7bit charactior or numeric, skipped
#if ( strlen ($_first) != 8 )
# continue;

# if single byte charactors, skipped
if ( ! (ord ($str[$i]) & 0x80) ) :
continue;
endif;

$_first = $this->chr2bin ($str[$i], '>>4');

switch ( $_first ) :
case 1111 : $b = 3; break; # 4byte
case 1110 : $b = 2; break; # 3byte
default : return 0; # not utf8
endswitch;

for ( $j=1; $j<$b; $j++ ) :
if ( substr ($this->chr2bin ($str[$i+$j]), 0, 2) != 10 )
return 0;
endfor;

break;
endfor;

return $_not ? 0 : 1;
}
}

/*
* Local variables:
* tab-width: 4
* c-basic-offset: 4
* End:
* vim600: noet sw=4 ts=4 fdm=marker
* vim<600: noet sw=4 ts=4
*/
?>

사용예
<?
require_once 'Unicode.php';
$_f = 'usage_200509.html';
$_ff = 'bb.html';

$u = new Unicode;
if ( file_exists ($_ff) )
unlink ($_ff);

$_t = file ($_f);

foreach ( $_t as $_v ) :
$_v = trim ($_v);
if ( $u->is_utf8 ($_v) )
putfile_lib ($_ff, utf8decode_lib ($_v, 'cp949'), 1);
else
putfile_lib ($_ff, $_v, 1);
endforeach;

?>

그외 참고 url
http://my.oops.org/126<div class='small'>[이 게시물은 관리자님에 의해 2011-10-31 17:16:08 PHP & HTML에서 이동 됨]</div>
|

댓글 1개

내가 조아라 하는 pear소스네요...ㅎㅎ
댓글을 작성하시려면 로그인이 필요합니다.

프로그램

+
제목 글쓴이 날짜 조회
15년 전 조회 1,195
15년 전 조회 1,133
15년 전 조회 1,166
15년 전 조회 1,089
15년 전 조회 1,149
15년 전 조회 892
15년 전 조회 1,478
15년 전 조회 1,022
15년 전 조회 866
15년 전 조회 2,838
15년 전 조회 630
15년 전 조회 1,083
15년 전 조회 1,065
15년 전 조회 1,024
15년 전 조회 878
15년 전 조회 1,194
15년 전 조회 1,256
15년 전 조회 910
15년 전 조회 1,307
15년 전 조회 943
15년 전 조회 1,192
15년 전 조회 1,314
15년 전 조회 1,061
15년 전 조회 873
15년 전 조회 1,054
15년 전 조회 1,175
15년 전 조회 885
15년 전 조회 868
15년 전 조회 1,243
15년 전 조회 1,042
15년 전 조회 933
15년 전 조회 1,080
15년 전 조회 1,247
15년 전 조회 956
15년 전 조회 989
15년 전 조회 685
15년 전 조회 903
15년 전 조회 1,116
15년 전 조회 942
15년 전 조회 947
15년 전 조회 1,170
15년 전 조회 1,682
15년 전 조회 599
15년 전 조회 1,041
15년 전 조회 1,026
15년 전 조회 916
15년 전 조회 897
15년 전 조회 1,016
15년 전 조회 792
15년 전 조회 2,021
15년 전 조회 790
15년 전 조회 1,689
15년 전 조회 786
15년 전 조회 869
15년 전 조회 951
15년 전 조회 911
15년 전 조회 1,614
15년 전 조회 1,023
15년 전 조회 979
15년 전 조회 1,145
15년 전 조회 987
15년 전 조회 805
15년 전 조회 958
15년 전 조회 837
15년 전 조회 1,053
15년 전 조회 600
15년 전 조회 977
15년 전 조회 988
15년 전 조회 935
15년 전 조회 856
15년 전 조회 1,192
15년 전 조회 924
15년 전 조회 865
15년 전 조회 900
15년 전 조회 841
15년 전 조회 836
15년 전 조회 915
15년 전 조회 1,310
15년 전 조회 690
15년 전 조회 751
15년 전 조회 913
15년 전 조회 929
15년 전 조회 785
15년 전 조회 1,363
15년 전 조회 877
15년 전 조회 1,100
15년 전 조회 1,494
15년 전 조회 978
15년 전 조회 998
15년 전 조회 904
15년 전 조회 856
15년 전 조회 1,195
15년 전 조회 948
15년 전 조회 826
15년 전 조회 1,211
15년 전 조회 2,361
15년 전 조회 949
15년 전 조회 1,071
15년 전 조회 1,204
15년 전 조회 924