Charset Auto Detection(캐릭터셋 자동 감지)

명시적으로 캐릭터셋을 정하지 않는 상태에서
param 으로 넘어온값이나, 문자열의 charset을 검출해야 하는 경우가 있습니다.
흔하게 발생되는 경우는 아니지만, 외부 시스템 연동과 같은 특수상황에서는 종종 발생하는 케이스입니다.
자바쪽 자료를 찾다가 php 자료들도 보이길래 정리해봅니다.
자동검출이기 때문에 100% 완벽하지 않습니다.

1. mb_detect_encoding()
- http://kr.php.net/manual/en/function.mb-detect-encoding.php

2. 캐릭터셋의 바이트 구조를 분석하여 직접 코딩
- http://my.oops.org/62
<?php
//
// +----------------------------------------------------------------------+
// | PHP Version 4 |
// +----------------------------------------------------------------------+
// | Copyright (c) 1997-2003 The PHP Group |
// +----------------------------------------------------------------------+
// | This source file is subject to version 2.02 of the PHP license, |
// | that is bundled with this package in the file LICENSE, and is |
// | available at through the world-wide-web at |
// | http://www.php.net/license/2_02.txt. |
// | If you did not receive a copy of the PHP license and are unable to |
// | obtain it through the world-wide-web, please send a note to |
// | license@php.net so we can mail you a copy immediately. |
// +----------------------------------------------------------------------+
// | Author: JoungKyun Kim <http://www.oops.org> |
// +----------------------------------------------------------------------+
//
// $Id: eSystem.php,v 1.2 2005/07/11 05:58:11 oops Exp $

require_once 'PEAR.php';

/**
* PEAR's eSystem:: interface. Defines the php extended system mapping function
* and any utility mapping function
*
* @access public
* @version $Revision: 0.1 $
* @package Unicode
*/
class Unicode extends PEAR
{
function chr2bin ($c, $shift = '') {
$c = ord ($c);

if ( $shift && preg_match ('/^([<>]+)[\s]*([0-9]+)/', $shift, $match) ) :
switch ($match[1]) :
case '>>' : $c = $c >> $match[2]; break;
case '<<' : $c = $c << $match[2]; break;
case '<' : $c = $c < $match[2]; break;
case '>' : $c = $c > $match[2]; break;
endswitch;
endif;

return decbin ($c);
}

function is_utf8 ($str) {
$_l = strlen ($str);
$_not = 0;

for ( $i=0; $i<$_l; $i++ ) :
#$_first = $this->chr2bin ($str[$i]);

# if 7bit charactior or numeric, skipped
#if ( strlen ($_first) != 8 )
# continue;

# if single byte charactors, skipped
if ( ! (ord ($str[$i]) & 0x80) ) :
continue;
endif;

$_first = $this->chr2bin ($str[$i], '>>4');

switch ( $_first ) :
case 1111 : $b = 3; break; # 4byte
case 1110 : $b = 2; break; # 3byte
default : return 0; # not utf8
endswitch;

for ( $j=1; $j<$b; $j++ ) :
if ( substr ($this->chr2bin ($str[$i+$j]), 0, 2) != 10 )
return 0;
endfor;

break;
endfor;

return $_not ? 0 : 1;
}
}

/*
* Local variables:
* tab-width: 4
* c-basic-offset: 4
* End:
* vim600: noet sw=4 ts=4 fdm=marker
* vim<600: noet sw=4 ts=4
*/
?>

사용예
<?
require_once 'Unicode.php';
$_f = 'usage_200509.html';
$_ff = 'bb.html';

$u = new Unicode;
if ( file_exists ($_ff) )
unlink ($_ff);

$_t = file ($_f);

foreach ( $_t as $_v ) :
$_v = trim ($_v);
if ( $u->is_utf8 ($_v) )
putfile_lib ($_ff, utf8decode_lib ($_v, 'cp949'), 1);
else
putfile_lib ($_ff, $_v, 1);
endforeach;

?>

그외 참고 url
http://my.oops.org/126<div class='small'>[이 게시물은 관리자님에 의해 2011-10-31 17:16:08 PHP & HTML에서 이동 됨]</div>
|

댓글 1개

내가 조아라 하는 pear소스네요...ㅎㅎ
댓글을 작성하시려면 로그인이 필요합니다.

프로그램

+
제목 글쓴이 날짜 조회
15년 전 조회 1,302
15년 전 조회 1,250
15년 전 조회 1,268
15년 전 조회 1,204
15년 전 조회 1,264
15년 전 조회 1,006
15년 전 조회 1,604
15년 전 조회 1,143
15년 전 조회 974
15년 전 조회 2,963
15년 전 조회 730
15년 전 조회 1,198
15년 전 조회 1,173
15년 전 조회 1,120
15년 전 조회 997
15년 전 조회 1,309
15년 전 조회 1,373
15년 전 조회 1,027
15년 전 조회 1,413
15년 전 조회 1,050
15년 전 조회 1,298
15년 전 조회 1,422
15년 전 조회 1,177
15년 전 조회 982
15년 전 조회 1,174
15년 전 조회 1,285
15년 전 조회 1,002
15년 전 조회 978
15년 전 조회 1,367
15년 전 조회 1,164
15년 전 조회 1,046
15년 전 조회 1,202
15년 전 조회 1,372
15년 전 조회 1,070
15년 전 조회 1,092
15년 전 조회 799
15년 전 조회 1,021
15년 전 조회 1,230
15년 전 조회 1,057
15년 전 조회 1,058
15년 전 조회 1,282
15년 전 조회 1,798
15년 전 조회 713
15년 전 조회 1,149
15년 전 조회 1,143
15년 전 조회 1,039
15년 전 조회 1,012
15년 전 조회 1,127
15년 전 조회 910
15년 전 조회 2,147
15년 전 조회 901
15년 전 조회 1,819
15년 전 조회 898
15년 전 조회 986
15년 전 조회 1,068
15년 전 조회 1,042
15년 전 조회 1,730
15년 전 조회 1,131
15년 전 조회 1,083
15년 전 조회 1,248
15년 전 조회 1,108
15년 전 조회 924
15년 전 조회 1,066
15년 전 조회 944
15년 전 조회 1,169
15년 전 조회 709
15년 전 조회 1,089
15년 전 조회 1,103
15년 전 조회 1,043
15년 전 조회 974
15년 전 조회 1,312
15년 전 조회 1,036
15년 전 조회 962
15년 전 조회 1,008
15년 전 조회 953
15년 전 조회 957
15년 전 조회 1,030
15년 전 조회 1,418
15년 전 조회 808
15년 전 조회 850
15년 전 조회 1,029
15년 전 조회 1,046
15년 전 조회 900
15년 전 조회 1,482
15년 전 조회 1,000
15년 전 조회 1,213
15년 전 조회 1,606
15년 전 조회 1,094
15년 전 조회 1,115
15년 전 조회 1,025
15년 전 조회 973
15년 전 조회 1,314
15년 전 조회 1,061
15년 전 조회 947
15년 전 조회 1,330
15년 전 조회 2,486
15년 전 조회 1,053
15년 전 조회 1,189
15년 전 조회 1,309
15년 전 조회 1,036