Charset Auto Detection(캐릭터셋 자동 감지)

명시적으로 캐릭터셋을 정하지 않는 상태에서
param 으로 넘어온값이나, 문자열의 charset을 검출해야 하는 경우가 있습니다.
흔하게 발생되는 경우는 아니지만, 외부 시스템 연동과 같은 특수상황에서는 종종 발생하는 케이스입니다.
자바쪽 자료를 찾다가 php 자료들도 보이길래 정리해봅니다.
자동검출이기 때문에 100% 완벽하지 않습니다.

1. mb_detect_encoding()
- http://kr.php.net/manual/en/function.mb-detect-encoding.php

2. 캐릭터셋의 바이트 구조를 분석하여 직접 코딩
- http://my.oops.org/62
<?php
//
// +----------------------------------------------------------------------+
// | PHP Version 4 |
// +----------------------------------------------------------------------+
// | Copyright (c) 1997-2003 The PHP Group |
// +----------------------------------------------------------------------+
// | This source file is subject to version 2.02 of the PHP license, |
// | that is bundled with this package in the file LICENSE, and is |
// | available at through the world-wide-web at |
// | http://www.php.net/license/2_02.txt. |
// | If you did not receive a copy of the PHP license and are unable to |
// | obtain it through the world-wide-web, please send a note to |
// | license@php.net so we can mail you a copy immediately. |
// +----------------------------------------------------------------------+
// | Author: JoungKyun Kim <http://www.oops.org> |
// +----------------------------------------------------------------------+
//
// $Id: eSystem.php,v 1.2 2005/07/11 05:58:11 oops Exp $

require_once 'PEAR.php';

/**
* PEAR's eSystem:: interface. Defines the php extended system mapping function
* and any utility mapping function
*
* @access public
* @version $Revision: 0.1 $
* @package Unicode
*/
class Unicode extends PEAR
{
function chr2bin ($c, $shift = '') {
$c = ord ($c);

if ( $shift && preg_match ('/^([<>]+)[\s]*([0-9]+)/', $shift, $match) ) :
switch ($match[1]) :
case '>>' : $c = $c >> $match[2]; break;
case '<<' : $c = $c << $match[2]; break;
case '<' : $c = $c < $match[2]; break;
case '>' : $c = $c > $match[2]; break;
endswitch;
endif;

return decbin ($c);
}

function is_utf8 ($str) {
$_l = strlen ($str);
$_not = 0;

for ( $i=0; $i<$_l; $i++ ) :
#$_first = $this->chr2bin ($str[$i]);

# if 7bit charactior or numeric, skipped
#if ( strlen ($_first) != 8 )
# continue;

# if single byte charactors, skipped
if ( ! (ord ($str[$i]) & 0x80) ) :
continue;
endif;

$_first = $this->chr2bin ($str[$i], '>>4');

switch ( $_first ) :
case 1111 : $b = 3; break; # 4byte
case 1110 : $b = 2; break; # 3byte
default : return 0; # not utf8
endswitch;

for ( $j=1; $j<$b; $j++ ) :
if ( substr ($this->chr2bin ($str[$i+$j]), 0, 2) != 10 )
return 0;
endfor;

break;
endfor;

return $_not ? 0 : 1;
}
}

/*
* Local variables:
* tab-width: 4
* c-basic-offset: 4
* End:
* vim600: noet sw=4 ts=4 fdm=marker
* vim<600: noet sw=4 ts=4
*/
?>

사용예
<?
require_once 'Unicode.php';
$_f = 'usage_200509.html';
$_ff = 'bb.html';

$u = new Unicode;
if ( file_exists ($_ff) )
unlink ($_ff);

$_t = file ($_f);

foreach ( $_t as $_v ) :
$_v = trim ($_v);
if ( $u->is_utf8 ($_v) )
putfile_lib ($_ff, utf8decode_lib ($_v, 'cp949'), 1);
else
putfile_lib ($_ff, $_v, 1);
endforeach;

?>

그외 참고 url
http://my.oops.org/126<div class='small'>[이 게시물은 관리자님에 의해 2011-10-31 17:16:08 PHP & HTML에서 이동 됨]</div>
|

댓글 1개

내가 조아라 하는 pear소스네요...ㅎㅎ
댓글을 작성하시려면 로그인이 필요합니다. 로그인

프로그램

+
제목 글쓴이 날짜 조회
15년 전 조회 1,179
15년 전 조회 1,114
15년 전 조회 1,148
15년 전 조회 1,070
15년 전 조회 1,133
15년 전 조회 872
15년 전 조회 1,461
15년 전 조회 1,007
15년 전 조회 849
15년 전 조회 2,818
15년 전 조회 610
15년 전 조회 1,064
15년 전 조회 1,042
15년 전 조회 1,007
15년 전 조회 859
15년 전 조회 1,178
15년 전 조회 1,238
15년 전 조회 890
15년 전 조회 1,290
15년 전 조회 922
15년 전 조회 1,173
15년 전 조회 1,295
15년 전 조회 1,043
15년 전 조회 853
15년 전 조회 1,034
15년 전 조회 1,156
15년 전 조회 866
15년 전 조회 849
15년 전 조회 1,224
15년 전 조회 1,021
15년 전 조회 911
15년 전 조회 1,064
15년 전 조회 1,230
15년 전 조회 933
15년 전 조회 969
15년 전 조회 667
15년 전 조회 885
15년 전 조회 1,096
15년 전 조회 925
15년 전 조회 929
15년 전 조회 1,150
15년 전 조회 1,660
15년 전 조회 584
15년 전 조회 1,022
15년 전 조회 1,004
15년 전 조회 898
15년 전 조회 878
15년 전 조회 992
15년 전 조회 774
15년 전 조회 2,002
15년 전 조회 771
15년 전 조회 1,670
15년 전 조회 762
15년 전 조회 852
15년 전 조회 932
15년 전 조회 889
15년 전 조회 1,597
15년 전 조회 1,004
15년 전 조회 958
15년 전 조회 1,125
15년 전 조회 969
15년 전 조회 788
15년 전 조회 938
15년 전 조회 819
15년 전 조회 1,037
15년 전 조회 580
15년 전 조회 959
15년 전 조회 967
15년 전 조회 915
15년 전 조회 837
15년 전 조회 1,171
15년 전 조회 905
15년 전 조회 847
15년 전 조회 880
15년 전 조회 822
15년 전 조회 818
15년 전 조회 899
15년 전 조회 1,290
15년 전 조회 671
15년 전 조회 733
15년 전 조회 897
15년 전 조회 909
15년 전 조회 767
15년 전 조회 1,347
15년 전 조회 856
15년 전 조회 1,086
15년 전 조회 1,476
15년 전 조회 960
15년 전 조회 980
15년 전 조회 888
15년 전 조회 838
15년 전 조회 1,178
15년 전 조회 929
15년 전 조회 809
15년 전 조회 1,190
15년 전 조회 2,343
15년 전 조회 930
15년 전 조회 1,054
15년 전 조회 1,187
15년 전 조회 907
🐛 버그신고