Charset Auto Detection(캐릭터셋 자동 감지)

명시적으로 캐릭터셋을 정하지 않는 상태에서
param 으로 넘어온값이나, 문자열의 charset을 검출해야 하는 경우가 있습니다.
흔하게 발생되는 경우는 아니지만, 외부 시스템 연동과 같은 특수상황에서는 종종 발생하는 케이스입니다.
자바쪽 자료를 찾다가 php 자료들도 보이길래 정리해봅니다.
자동검출이기 때문에 100% 완벽하지 않습니다.

1. mb_detect_encoding()
- http://kr.php.net/manual/en/function.mb-detect-encoding.php

2. 캐릭터셋의 바이트 구조를 분석하여 직접 코딩
- http://my.oops.org/62
<?php
//
// +----------------------------------------------------------------------+
// | PHP Version 4 |
// +----------------------------------------------------------------------+
// | Copyright (c) 1997-2003 The PHP Group |
// +----------------------------------------------------------------------+
// | This source file is subject to version 2.02 of the PHP license, |
// | that is bundled with this package in the file LICENSE, and is |
// | available at through the world-wide-web at |
// | http://www.php.net/license/2_02.txt. |
// | If you did not receive a copy of the PHP license and are unable to |
// | obtain it through the world-wide-web, please send a note to |
// | license@php.net so we can mail you a copy immediately. |
// +----------------------------------------------------------------------+
// | Author: JoungKyun Kim <http://www.oops.org> |
// +----------------------------------------------------------------------+
//
// $Id: eSystem.php,v 1.2 2005/07/11 05:58:11 oops Exp $

require_once 'PEAR.php';

/**
* PEAR's eSystem:: interface. Defines the php extended system mapping function
* and any utility mapping function
*
* @access public
* @version $Revision: 0.1 $
* @package Unicode
*/
class Unicode extends PEAR
{
function chr2bin ($c, $shift = '') {
$c = ord ($c);

if ( $shift && preg_match ('/^([<>]+)[\s]*([0-9]+)/', $shift, $match) ) :
switch ($match[1]) :
case '>>' : $c = $c >> $match[2]; break;
case '<<' : $c = $c << $match[2]; break;
case '<' : $c = $c < $match[2]; break;
case '>' : $c = $c > $match[2]; break;
endswitch;
endif;

return decbin ($c);
}

function is_utf8 ($str) {
$_l = strlen ($str);
$_not = 0;

for ( $i=0; $i<$_l; $i++ ) :
#$_first = $this->chr2bin ($str[$i]);

# if 7bit charactior or numeric, skipped
#if ( strlen ($_first) != 8 )
# continue;

# if single byte charactors, skipped
if ( ! (ord ($str[$i]) & 0x80) ) :
continue;
endif;

$_first = $this->chr2bin ($str[$i], '>>4');

switch ( $_first ) :
case 1111 : $b = 3; break; # 4byte
case 1110 : $b = 2; break; # 3byte
default : return 0; # not utf8
endswitch;

for ( $j=1; $j<$b; $j++ ) :
if ( substr ($this->chr2bin ($str[$i+$j]), 0, 2) != 10 )
return 0;
endfor;

break;
endfor;

return $_not ? 0 : 1;
}
}

/*
* Local variables:
* tab-width: 4
* c-basic-offset: 4
* End:
* vim600: noet sw=4 ts=4 fdm=marker
* vim<600: noet sw=4 ts=4
*/
?>

사용예
<?
require_once 'Unicode.php';
$_f = 'usage_200509.html';
$_ff = 'bb.html';

$u = new Unicode;
if ( file_exists ($_ff) )
unlink ($_ff);

$_t = file ($_f);

foreach ( $_t as $_v ) :
$_v = trim ($_v);
if ( $u->is_utf8 ($_v) )
putfile_lib ($_ff, utf8decode_lib ($_v, 'cp949'), 1);
else
putfile_lib ($_ff, $_v, 1);
endforeach;

?>

그외 참고 url
http://my.oops.org/126<div class='small'>[이 게시물은 관리자님에 의해 2011-10-31 17:16:08 PHP & HTML에서 이동 됨]</div>
|

댓글 1개

내가 조아라 하는 pear소스네요...ㅎㅎ
댓글을 작성하시려면 로그인이 필요합니다.

프로그램

+
제목 글쓴이 날짜 조회
15년 전 조회 1,232
15년 전 조회 1,159
15년 전 조회 1,204
15년 전 조회 1,128
15년 전 조회 1,184
15년 전 조회 936
15년 전 조회 1,511
15년 전 조회 1,063
15년 전 조회 899
15년 전 조회 2,886
15년 전 조회 663
15년 전 조회 1,120
15년 전 조회 1,102
15년 전 조회 1,057
15년 전 조회 922
15년 전 조회 1,229
15년 전 조회 1,296
15년 전 조회 948
15년 전 조회 1,347
15년 전 조회 982
15년 전 조회 1,227
15년 전 조회 1,353
15년 전 조회 1,103
15년 전 조회 910
15년 전 조회 1,088
15년 전 조회 1,209
15년 전 조회 921
15년 전 조회 908
15년 전 조회 1,282
15년 전 조회 1,079
15년 전 조회 969
15년 전 조회 1,124
15년 전 조회 1,290
15년 전 조회 998
15년 전 조회 1,028
15년 전 조회 720
15년 전 조회 936
15년 전 조회 1,161
15년 전 조회 983
15년 전 조회 982
15년 전 조회 1,210
15년 전 조회 1,721
15년 전 조회 639
15년 전 조회 1,082
15년 전 조회 1,062
15년 전 조회 952
15년 전 조회 935
15년 전 조회 1,057
15년 전 조회 828
15년 전 조회 2,061
15년 전 조회 817
15년 전 조회 1,731
15년 전 조회 822
15년 전 조회 898
15년 전 조회 989
15년 전 조회 952
15년 전 조회 1,652
15년 전 조회 1,063
15년 전 조회 1,014
15년 전 조회 1,186
15년 전 조회 1,028
15년 전 조회 845
15년 전 조회 1,004
15년 전 조회 869
15년 전 조회 1,083
15년 전 조회 635
15년 전 조회 1,015
15년 전 조회 1,024
15년 전 조회 963
15년 전 조회 896
15년 전 조회 1,233
15년 전 조회 957
15년 전 조회 902
15년 전 조회 933
15년 전 조회 875
15년 전 조회 872
15년 전 조회 953
15년 전 조회 1,349
15년 전 조회 724
15년 전 조회 788
15년 전 조회 956
15년 전 조회 966
15년 전 조회 821
15년 전 조회 1,395
15년 전 조회 917
15년 전 조회 1,141
15년 전 조회 1,529
15년 전 조회 1,018
15년 전 조회 1,036
15년 전 조회 936
15년 전 조회 891
15년 전 조회 1,229
15년 전 조회 978
15년 전 조회 853
15년 전 조회 1,247
15년 전 조회 2,398
15년 전 조회 982
15년 전 조회 1,105
15년 전 조회 1,233
15년 전 조회 955