Charset Auto Detection(캐릭터셋 자동 감지)

명시적으로 캐릭터셋을 정하지 않는 상태에서
param 으로 넘어온값이나, 문자열의 charset을 검출해야 하는 경우가 있습니다.
흔하게 발생되는 경우는 아니지만, 외부 시스템 연동과 같은 특수상황에서는 종종 발생하는 케이스입니다.
자바쪽 자료를 찾다가 php 자료들도 보이길래 정리해봅니다.
자동검출이기 때문에 100% 완벽하지 않습니다.

1. mb_detect_encoding()
- http://kr.php.net/manual/en/function.mb-detect-encoding.php

2. 캐릭터셋의 바이트 구조를 분석하여 직접 코딩
- http://my.oops.org/62
<?php
//
// +----------------------------------------------------------------------+
// | PHP Version 4 |
// +----------------------------------------------------------------------+
// | Copyright (c) 1997-2003 The PHP Group |
// +----------------------------------------------------------------------+
// | This source file is subject to version 2.02 of the PHP license, |
// | that is bundled with this package in the file LICENSE, and is |
// | available at through the world-wide-web at |
// | http://www.php.net/license/2_02.txt. |
// | If you did not receive a copy of the PHP license and are unable to |
// | obtain it through the world-wide-web, please send a note to |
// | license@php.net so we can mail you a copy immediately. |
// +----------------------------------------------------------------------+
// | Author: JoungKyun Kim <http://www.oops.org> |
// +----------------------------------------------------------------------+
//
// $Id: eSystem.php,v 1.2 2005/07/11 05:58:11 oops Exp $

require_once 'PEAR.php';

/**
* PEAR's eSystem:: interface. Defines the php extended system mapping function
* and any utility mapping function
*
* @access public
* @version $Revision: 0.1 $
* @package Unicode
*/
class Unicode extends PEAR
{
function chr2bin ($c, $shift = '') {
$c = ord ($c);

if ( $shift && preg_match ('/^([<>]+)[\s]*([0-9]+)/', $shift, $match) ) :
switch ($match[1]) :
case '>>' : $c = $c >> $match[2]; break;
case '<<' : $c = $c << $match[2]; break;
case '<' : $c = $c < $match[2]; break;
case '>' : $c = $c > $match[2]; break;
endswitch;
endif;

return decbin ($c);
}

function is_utf8 ($str) {
$_l = strlen ($str);
$_not = 0;

for ( $i=0; $i<$_l; $i++ ) :
#$_first = $this->chr2bin ($str[$i]);

# if 7bit charactior or numeric, skipped
#if ( strlen ($_first) != 8 )
# continue;

# if single byte charactors, skipped
if ( ! (ord ($str[$i]) & 0x80) ) :
continue;
endif;

$_first = $this->chr2bin ($str[$i], '>>4');

switch ( $_first ) :
case 1111 : $b = 3; break; # 4byte
case 1110 : $b = 2; break; # 3byte
default : return 0; # not utf8
endswitch;

for ( $j=1; $j<$b; $j++ ) :
if ( substr ($this->chr2bin ($str[$i+$j]), 0, 2) != 10 )
return 0;
endfor;

break;
endfor;

return $_not ? 0 : 1;
}
}

/*
* Local variables:
* tab-width: 4
* c-basic-offset: 4
* End:
* vim600: noet sw=4 ts=4 fdm=marker
* vim<600: noet sw=4 ts=4
*/
?>

사용예
<?
require_once 'Unicode.php';
$_f = 'usage_200509.html';
$_ff = 'bb.html';

$u = new Unicode;
if ( file_exists ($_ff) )
unlink ($_ff);

$_t = file ($_f);

foreach ( $_t as $_v ) :
$_v = trim ($_v);
if ( $u->is_utf8 ($_v) )
putfile_lib ($_ff, utf8decode_lib ($_v, 'cp949'), 1);
else
putfile_lib ($_ff, $_v, 1);
endforeach;

?>

그외 참고 url
http://my.oops.org/126<div class='small'>[이 게시물은 관리자님에 의해 2011-10-31 17:16:08 PHP & HTML에서 이동 됨]</div>
|

댓글 1개

내가 조아라 하는 pear소스네요...ㅎㅎ
댓글을 작성하시려면 로그인이 필요합니다. 로그인

프로그램

+
제목 글쓴이 날짜 조회
15년 전 조회 1,181
15년 전 조회 1,118
15년 전 조회 1,153
15년 전 조회 1,077
15년 전 조회 1,139
15년 전 조회 879
15년 전 조회 1,464
15년 전 조회 1,011
15년 전 조회 857
15년 전 조회 2,824
15년 전 조회 617
15년 전 조회 1,068
15년 전 조회 1,052
15년 전 조회 1,010
15년 전 조회 865
15년 전 조회 1,184
15년 전 조회 1,245
15년 전 조회 895
15년 전 조회 1,297
15년 전 조회 929
15년 전 조회 1,180
15년 전 조회 1,301
15년 전 조회 1,049
15년 전 조회 860
15년 전 조회 1,042
15년 전 조회 1,164
15년 전 조회 872
15년 전 조회 856
15년 전 조회 1,230
15년 전 조회 1,026
15년 전 조회 912
15년 전 조회 1,069
15년 전 조회 1,235
15년 전 조회 940
15년 전 조회 973
15년 전 조회 673
15년 전 조회 893
15년 전 조회 1,100
15년 전 조회 935
15년 전 조회 933
15년 전 조회 1,155
15년 전 조회 1,668
15년 전 조회 588
15년 전 조회 1,027
15년 전 조회 1,011
15년 전 조회 905
15년 전 조회 886
15년 전 조회 1,002
15년 전 조회 779
15년 전 조회 2,011
15년 전 조회 777
15년 전 조회 1,675
15년 전 조회 773
15년 전 조회 860
15년 전 조회 938
15년 전 조회 898
15년 전 조회 1,604
15년 전 조회 1,012
15년 전 조회 964
15년 전 조회 1,132
15년 전 조회 974
15년 전 조회 795
15년 전 조회 945
15년 전 조회 826
15년 전 조회 1,041
15년 전 조회 585
15년 전 조회 965
15년 전 조회 974
15년 전 조회 920
15년 전 조회 843
15년 전 조회 1,177
15년 전 조회 907
15년 전 조회 850
15년 전 조회 886
15년 전 조회 830
15년 전 조회 824
15년 전 조회 907
15년 전 조회 1,297
15년 전 조회 678
15년 전 조회 735
15년 전 조회 905
15년 전 조회 918
15년 전 조회 772
15년 전 조회 1,354
15년 전 조회 863
15년 전 조회 1,091
15년 전 조회 1,480
15년 전 조회 969
15년 전 조회 985
15년 전 조회 894
15년 전 조회 843
15년 전 조회 1,183
15년 전 조회 933
15년 전 조회 816
15년 전 조회 1,196
15년 전 조회 2,347
15년 전 조회 935
15년 전 조회 1,058
15년 전 조회 1,190
15년 전 조회 913
🐛 버그신고