Charset Auto Detection(캐릭터셋 자동 감지)

명시적으로 캐릭터셋을 정하지 않는 상태에서
param 으로 넘어온값이나, 문자열의 charset을 검출해야 하는 경우가 있습니다.
흔하게 발생되는 경우는 아니지만, 외부 시스템 연동과 같은 특수상황에서는 종종 발생하는 케이스입니다.
자바쪽 자료를 찾다가 php 자료들도 보이길래 정리해봅니다.
자동검출이기 때문에 100% 완벽하지 않습니다.

1. mb_detect_encoding()
- http://kr.php.net/manual/en/function.mb-detect-encoding.php

2. 캐릭터셋의 바이트 구조를 분석하여 직접 코딩
- http://my.oops.org/62
<?php
//
// +----------------------------------------------------------------------+
// | PHP Version 4 |
// +----------------------------------------------------------------------+
// | Copyright (c) 1997-2003 The PHP Group |
// +----------------------------------------------------------------------+
// | This source file is subject to version 2.02 of the PHP license, |
// | that is bundled with this package in the file LICENSE, and is |
// | available at through the world-wide-web at |
// | http://www.php.net/license/2_02.txt. |
// | If you did not receive a copy of the PHP license and are unable to |
// | obtain it through the world-wide-web, please send a note to |
// | license@php.net so we can mail you a copy immediately. |
// +----------------------------------------------------------------------+
// | Author: JoungKyun Kim <http://www.oops.org> |
// +----------------------------------------------------------------------+
//
// $Id: eSystem.php,v 1.2 2005/07/11 05:58:11 oops Exp $

require_once 'PEAR.php';

/**
* PEAR's eSystem:: interface. Defines the php extended system mapping function
* and any utility mapping function
*
* @access public
* @version $Revision: 0.1 $
* @package Unicode
*/
class Unicode extends PEAR
{
function chr2bin ($c, $shift = '') {
$c = ord ($c);

if ( $shift && preg_match ('/^([<>]+)[\s]*([0-9]+)/', $shift, $match) ) :
switch ($match[1]) :
case '>>' : $c = $c >> $match[2]; break;
case '<<' : $c = $c << $match[2]; break;
case '<' : $c = $c < $match[2]; break;
case '>' : $c = $c > $match[2]; break;
endswitch;
endif;

return decbin ($c);
}

function is_utf8 ($str) {
$_l = strlen ($str);
$_not = 0;

for ( $i=0; $i<$_l; $i++ ) :
#$_first = $this->chr2bin ($str[$i]);

# if 7bit charactior or numeric, skipped
#if ( strlen ($_first) != 8 )
# continue;

# if single byte charactors, skipped
if ( ! (ord ($str[$i]) & 0x80) ) :
continue;
endif;

$_first = $this->chr2bin ($str[$i], '>>4');

switch ( $_first ) :
case 1111 : $b = 3; break; # 4byte
case 1110 : $b = 2; break; # 3byte
default : return 0; # not utf8
endswitch;

for ( $j=1; $j<$b; $j++ ) :
if ( substr ($this->chr2bin ($str[$i+$j]), 0, 2) != 10 )
return 0;
endfor;

break;
endfor;

return $_not ? 0 : 1;
}
}

/*
* Local variables:
* tab-width: 4
* c-basic-offset: 4
* End:
* vim600: noet sw=4 ts=4 fdm=marker
* vim<600: noet sw=4 ts=4
*/
?>

사용예
<?
require_once 'Unicode.php';
$_f = 'usage_200509.html';
$_ff = 'bb.html';

$u = new Unicode;
if ( file_exists ($_ff) )
unlink ($_ff);

$_t = file ($_f);

foreach ( $_t as $_v ) :
$_v = trim ($_v);
if ( $u->is_utf8 ($_v) )
putfile_lib ($_ff, utf8decode_lib ($_v, 'cp949'), 1);
else
putfile_lib ($_ff, $_v, 1);
endforeach;

?>

그외 참고 url
http://my.oops.org/126<div class='small'>[이 게시물은 관리자님에 의해 2011-10-31 17:16:08 PHP & HTML에서 이동 됨]</div>
|

댓글 1개

내가 조아라 하는 pear소스네요...ㅎㅎ
댓글을 작성하시려면 로그인이 필요합니다.

프로그램

+
제목 글쓴이 날짜 조회
15년 전 조회 1,213
15년 전 조회 1,142
15년 전 조회 1,179
15년 전 조회 1,108
15년 전 조회 1,161
15년 전 조회 908
15년 전 조회 1,496
15년 전 조회 1,040
15년 전 조회 883
15년 전 조회 2,854
15년 전 조회 643
15년 전 조회 1,104
15년 전 조회 1,088
15년 전 조회 1,042
15년 전 조회 899
15년 전 조회 1,211
15년 전 조회 1,279
15년 전 조회 929
15년 전 조회 1,322
15년 전 조회 966
15년 전 조회 1,204
15년 전 조회 1,330
15년 전 조회 1,079
15년 전 조회 885
15년 전 조회 1,065
15년 전 조회 1,190
15년 전 조회 903
15년 전 조회 891
15년 전 조회 1,262
15년 전 조회 1,062
15년 전 조회 951
15년 전 조회 1,098
15년 전 조회 1,262
15년 전 조회 977
15년 전 조회 1,008
15년 전 조회 695
15년 전 조회 919
15년 전 조회 1,134
15년 전 조회 953
15년 전 조회 963
15년 전 조회 1,188
15년 전 조회 1,702
15년 전 조회 615
15년 전 조회 1,057
15년 전 조회 1,043
15년 전 조회 935
15년 전 조회 916
15년 전 조회 1,035
15년 전 조회 806
15년 전 조회 2,041
15년 전 조회 807
15년 전 조회 1,715
15년 전 조회 803
15년 전 조회 880
15년 전 조회 975
15년 전 조회 924
15년 전 조회 1,631
15년 전 조회 1,042
15년 전 조회 994
15년 전 조회 1,164
15년 전 조회 998
15년 전 조회 826
15년 전 조회 982
15년 전 조회 849
15년 전 조회 1,067
15년 전 조회 609
15년 전 조회 995
15년 전 조회 1,001
15년 전 조회 945
15년 전 조회 874
15년 전 조회 1,211
15년 전 조회 941
15년 전 조회 880
15년 전 조회 913
15년 전 조회 855
15년 전 조회 857
15년 전 조회 932
15년 전 조회 1,324
15년 전 조회 700
15년 전 조회 766
15년 전 조회 930
15년 전 조회 947
15년 전 조회 800
15년 전 조회 1,380
15년 전 조회 894
15년 전 조회 1,118
15년 전 조회 1,508
15년 전 조회 994
15년 전 조회 1,012
15년 전 조회 912
15년 전 조회 869
15년 전 조회 1,217
15년 전 조회 963
15년 전 조회 835
15년 전 조회 1,228
15년 전 조회 2,377
15년 전 조회 961
15년 전 조회 1,087
15년 전 조회 1,219
15년 전 조회 938