Charset Auto Detection(캐릭터셋 자동 감지)

명시적으로 캐릭터셋을 정하지 않는 상태에서
param 으로 넘어온값이나, 문자열의 charset을 검출해야 하는 경우가 있습니다.
흔하게 발생되는 경우는 아니지만, 외부 시스템 연동과 같은 특수상황에서는 종종 발생하는 케이스입니다.
자바쪽 자료를 찾다가 php 자료들도 보이길래 정리해봅니다.
자동검출이기 때문에 100% 완벽하지 않습니다.

1. mb_detect_encoding()
- http://kr.php.net/manual/en/function.mb-detect-encoding.php

2. 캐릭터셋의 바이트 구조를 분석하여 직접 코딩
- http://my.oops.org/62
<?php
//
// +----------------------------------------------------------------------+
// | PHP Version 4 |
// +----------------------------------------------------------------------+
// | Copyright (c) 1997-2003 The PHP Group |
// +----------------------------------------------------------------------+
// | This source file is subject to version 2.02 of the PHP license, |
// | that is bundled with this package in the file LICENSE, and is |
// | available at through the world-wide-web at |
// | http://www.php.net/license/2_02.txt. |
// | If you did not receive a copy of the PHP license and are unable to |
// | obtain it through the world-wide-web, please send a note to |
// | license@php.net so we can mail you a copy immediately. |
// +----------------------------------------------------------------------+
// | Author: JoungKyun Kim <http://www.oops.org> |
// +----------------------------------------------------------------------+
//
// $Id: eSystem.php,v 1.2 2005/07/11 05:58:11 oops Exp $

require_once 'PEAR.php';

/**
* PEAR's eSystem:: interface. Defines the php extended system mapping function
* and any utility mapping function
*
* @access public
* @version $Revision: 0.1 $
* @package Unicode
*/
class Unicode extends PEAR
{
function chr2bin ($c, $shift = '') {
$c = ord ($c);

if ( $shift && preg_match ('/^([<>]+)[\s]*([0-9]+)/', $shift, $match) ) :
switch ($match[1]) :
case '>>' : $c = $c >> $match[2]; break;
case '<<' : $c = $c << $match[2]; break;
case '<' : $c = $c < $match[2]; break;
case '>' : $c = $c > $match[2]; break;
endswitch;
endif;

return decbin ($c);
}

function is_utf8 ($str) {
$_l = strlen ($str);
$_not = 0;

for ( $i=0; $i<$_l; $i++ ) :
#$_first = $this->chr2bin ($str[$i]);

# if 7bit charactior or numeric, skipped
#if ( strlen ($_first) != 8 )
# continue;

# if single byte charactors, skipped
if ( ! (ord ($str[$i]) & 0x80) ) :
continue;
endif;

$_first = $this->chr2bin ($str[$i], '>>4');

switch ( $_first ) :
case 1111 : $b = 3; break; # 4byte
case 1110 : $b = 2; break; # 3byte
default : return 0; # not utf8
endswitch;

for ( $j=1; $j<$b; $j++ ) :
if ( substr ($this->chr2bin ($str[$i+$j]), 0, 2) != 10 )
return 0;
endfor;

break;
endfor;

return $_not ? 0 : 1;
}
}

/*
* Local variables:
* tab-width: 4
* c-basic-offset: 4
* End:
* vim600: noet sw=4 ts=4 fdm=marker
* vim<600: noet sw=4 ts=4
*/
?>

사용예
<?
require_once 'Unicode.php';
$_f = 'usage_200509.html';
$_ff = 'bb.html';

$u = new Unicode;
if ( file_exists ($_ff) )
unlink ($_ff);

$_t = file ($_f);

foreach ( $_t as $_v ) :
$_v = trim ($_v);
if ( $u->is_utf8 ($_v) )
putfile_lib ($_ff, utf8decode_lib ($_v, 'cp949'), 1);
else
putfile_lib ($_ff, $_v, 1);
endforeach;

?>

그외 참고 url
http://my.oops.org/126<div class='small'>[이 게시물은 관리자님에 의해 2011-10-31 17:16:08 PHP & HTML에서 이동 됨]</div>
|

댓글 1개

내가 조아라 하는 pear소스네요...ㅎㅎ
댓글을 작성하시려면 로그인이 필요합니다. 로그인

프로그램

+
제목 글쓴이 날짜 조회
15년 전 조회 1,176
15년 전 조회 1,111
15년 전 조회 1,144
15년 전 조회 1,070
15년 전 조회 1,130
15년 전 조회 868
15년 전 조회 1,456
15년 전 조회 1,005
15년 전 조회 848
15년 전 조회 2,816
15년 전 조회 607
15년 전 조회 1,062
15년 전 조회 1,039
15년 전 조회 1,005
15년 전 조회 855
15년 전 조회 1,175
15년 전 조회 1,235
15년 전 조회 886
15년 전 조회 1,287
15년 전 조회 919
15년 전 조회 1,171
15년 전 조회 1,291
15년 전 조회 1,040
15년 전 조회 849
15년 전 조회 1,032
15년 전 조회 1,153
15년 전 조회 864
15년 전 조회 847
15년 전 조회 1,220
15년 전 조회 1,017
15년 전 조회 907
15년 전 조회 1,061
15년 전 조회 1,227
15년 전 조회 932
15년 전 조회 966
15년 전 조회 662
15년 전 조회 882
15년 전 조회 1,093
15년 전 조회 921
15년 전 조회 925
15년 전 조회 1,148
15년 전 조회 1,657
15년 전 조회 581
15년 전 조회 1,020
15년 전 조회 1,003
15년 전 조회 894
15년 전 조회 874
15년 전 조회 988
15년 전 조회 770
15년 전 조회 1,999
15년 전 조회 768
15년 전 조회 1,666
15년 전 조회 759
15년 전 조회 849
15년 전 조회 928
15년 전 조회 886
15년 전 조회 1,593
15년 전 조회 1,001
15년 전 조회 955
15년 전 조회 1,123
15년 전 조회 965
15년 전 조회 785
15년 전 조회 934
15년 전 조회 817
15년 전 조회 1,034
15년 전 조회 578
15년 전 조회 956
15년 전 조회 963
15년 전 조회 912
15년 전 조회 834
15년 전 조회 1,168
15년 전 조회 901
15년 전 조회 845
15년 전 조회 877
15년 전 조회 818
15년 전 조회 816
15년 전 조회 896
15년 전 조회 1,287
15년 전 조회 669
15년 전 조회 731
15년 전 조회 895
15년 전 조회 906
15년 전 조회 765
15년 전 조회 1,345
15년 전 조회 855
15년 전 조회 1,084
15년 전 조회 1,474
15년 전 조회 960
15년 전 조회 978
15년 전 조회 885
15년 전 조회 835
15년 전 조회 1,176
15년 전 조회 928
15년 전 조회 805
15년 전 조회 1,188
15년 전 조회 2,341
15년 전 조회 929
15년 전 조회 1,052
15년 전 조회 1,185
15년 전 조회 905
🐛 버그신고