Charset Auto Detection(캐릭터셋 자동 감지)

명시적으로 캐릭터셋을 정하지 않는 상태에서
param 으로 넘어온값이나, 문자열의 charset을 검출해야 하는 경우가 있습니다.
흔하게 발생되는 경우는 아니지만, 외부 시스템 연동과 같은 특수상황에서는 종종 발생하는 케이스입니다.
자바쪽 자료를 찾다가 php 자료들도 보이길래 정리해봅니다.
자동검출이기 때문에 100% 완벽하지 않습니다.

1. mb_detect_encoding()
- http://kr.php.net/manual/en/function.mb-detect-encoding.php

2. 캐릭터셋의 바이트 구조를 분석하여 직접 코딩
- http://my.oops.org/62
<?php
//
// +----------------------------------------------------------------------+
// | PHP Version 4 |
// +----------------------------------------------------------------------+
// | Copyright (c) 1997-2003 The PHP Group |
// +----------------------------------------------------------------------+
// | This source file is subject to version 2.02 of the PHP license, |
// | that is bundled with this package in the file LICENSE, and is |
// | available at through the world-wide-web at |
// | http://www.php.net/license/2_02.txt. |
// | If you did not receive a copy of the PHP license and are unable to |
// | obtain it through the world-wide-web, please send a note to |
// | license@php.net so we can mail you a copy immediately. |
// +----------------------------------------------------------------------+
// | Author: JoungKyun Kim <http://www.oops.org> |
// +----------------------------------------------------------------------+
//
// $Id: eSystem.php,v 1.2 2005/07/11 05:58:11 oops Exp $

require_once 'PEAR.php';

/**
* PEAR's eSystem:: interface. Defines the php extended system mapping function
* and any utility mapping function
*
* @access public
* @version $Revision: 0.1 $
* @package Unicode
*/
class Unicode extends PEAR
{
function chr2bin ($c, $shift = '') {
$c = ord ($c);

if ( $shift && preg_match ('/^([<>]+)[\s]*([0-9]+)/', $shift, $match) ) :
switch ($match[1]) :
case '>>' : $c = $c >> $match[2]; break;
case '<<' : $c = $c << $match[2]; break;
case '<' : $c = $c < $match[2]; break;
case '>' : $c = $c > $match[2]; break;
endswitch;
endif;

return decbin ($c);
}

function is_utf8 ($str) {
$_l = strlen ($str);
$_not = 0;

for ( $i=0; $i<$_l; $i++ ) :
#$_first = $this->chr2bin ($str[$i]);

# if 7bit charactior or numeric, skipped
#if ( strlen ($_first) != 8 )
# continue;

# if single byte charactors, skipped
if ( ! (ord ($str[$i]) & 0x80) ) :
continue;
endif;

$_first = $this->chr2bin ($str[$i], '>>4');

switch ( $_first ) :
case 1111 : $b = 3; break; # 4byte
case 1110 : $b = 2; break; # 3byte
default : return 0; # not utf8
endswitch;

for ( $j=1; $j<$b; $j++ ) :
if ( substr ($this->chr2bin ($str[$i+$j]), 0, 2) != 10 )
return 0;
endfor;

break;
endfor;

return $_not ? 0 : 1;
}
}

/*
* Local variables:
* tab-width: 4
* c-basic-offset: 4
* End:
* vim600: noet sw=4 ts=4 fdm=marker
* vim<600: noet sw=4 ts=4
*/
?>

사용예
<?
require_once 'Unicode.php';
$_f = 'usage_200509.html';
$_ff = 'bb.html';

$u = new Unicode;
if ( file_exists ($_ff) )
unlink ($_ff);

$_t = file ($_f);

foreach ( $_t as $_v ) :
$_v = trim ($_v);
if ( $u->is_utf8 ($_v) )
putfile_lib ($_ff, utf8decode_lib ($_v, 'cp949'), 1);
else
putfile_lib ($_ff, $_v, 1);
endforeach;

?>

그외 참고 url
http://my.oops.org/126<div class='small'>[이 게시물은 관리자님에 의해 2011-10-31 17:16:08 PHP & HTML에서 이동 됨]</div>
|

댓글 1개

내가 조아라 하는 pear소스네요...ㅎㅎ
댓글을 작성하시려면 로그인이 필요합니다.

프로그램

+
제목 글쓴이 날짜 조회
15년 전 조회 1,184
15년 전 조회 1,126
15년 전 조회 1,159
15년 전 조회 1,082
15년 전 조회 1,147
15년 전 조회 886
15년 전 조회 1,474
15년 전 조회 1,018
15년 전 조회 862
15년 전 조회 2,832
15년 전 조회 626
15년 전 조회 1,074
15년 전 조회 1,060
15년 전 조회 1,016
15년 전 조회 870
15년 전 조회 1,190
15년 전 조회 1,253
15년 전 조회 901
15년 전 조회 1,301
15년 전 조회 934
15년 전 조회 1,187
15년 전 조회 1,307
15년 전 조회 1,058
15년 전 조회 866
15년 전 조회 1,048
15년 전 조회 1,170
15년 전 조회 880
15년 전 조회 860
15년 전 조회 1,236
15년 전 조회 1,031
15년 전 조회 926
15년 전 조회 1,076
15년 전 조회 1,243
15년 전 조회 951
15년 전 조회 981
15년 전 조회 679
15년 전 조회 897
15년 전 조회 1,111
15년 전 조회 937
15년 전 조회 940
15년 전 조회 1,162
15년 전 조회 1,675
15년 전 조회 591
15년 전 조회 1,035
15년 전 조회 1,020
15년 전 조회 910
15년 전 조회 891
15년 전 조회 1,009
15년 전 조회 789
15년 전 조회 2,017
15년 전 조회 784
15년 전 조회 1,683
15년 전 조회 778
15년 전 조회 865
15년 전 조회 946
15년 전 조회 903
15년 전 조회 1,608
15년 전 조회 1,015
15년 전 조회 970
15년 전 조회 1,137
15년 전 조회 980
15년 전 조회 802
15년 전 조회 952
15년 전 조회 831
15년 전 조회 1,048
15년 전 조회 592
15년 전 조회 969
15년 전 조회 980
15년 전 조회 929
15년 전 조회 848
15년 전 조회 1,186
15년 전 조회 916
15년 전 조회 855
15년 전 조회 895
15년 전 조회 832
15년 전 조회 836
15년 전 조회 913
15년 전 조회 1,303
15년 전 조회 687
15년 전 조회 746
15년 전 조회 909
15년 전 조회 928
15년 전 조회 780
15년 전 조회 1,361
15년 전 조회 868
15년 전 조회 1,096
15년 전 조회 1,489
15년 전 조회 975
15년 전 조회 991
15년 전 조회 897
15년 전 조회 853
15년 전 조회 1,186
15년 전 조회 942
15년 전 조회 822
15년 전 조회 1,204
15년 전 조회 2,350
15년 전 조회 942
15년 전 조회 1,068
15년 전 조회 1,197
15년 전 조회 920
🐛 버그신고