Charset Auto Detection(캐릭터셋 자동 감지)

명시적으로 캐릭터셋을 정하지 않는 상태에서
param 으로 넘어온값이나, 문자열의 charset을 검출해야 하는 경우가 있습니다.
흔하게 발생되는 경우는 아니지만, 외부 시스템 연동과 같은 특수상황에서는 종종 발생하는 케이스입니다.
자바쪽 자료를 찾다가 php 자료들도 보이길래 정리해봅니다.
자동검출이기 때문에 100% 완벽하지 않습니다.

1. mb_detect_encoding()
- http://kr.php.net/manual/en/function.mb-detect-encoding.php

2. 캐릭터셋의 바이트 구조를 분석하여 직접 코딩
- http://my.oops.org/62
<?php
//
// +----------------------------------------------------------------------+
// | PHP Version 4 |
// +----------------------------------------------------------------------+
// | Copyright (c) 1997-2003 The PHP Group |
// +----------------------------------------------------------------------+
// | This source file is subject to version 2.02 of the PHP license, |
// | that is bundled with this package in the file LICENSE, and is |
// | available at through the world-wide-web at |
// | http://www.php.net/license/2_02.txt. |
// | If you did not receive a copy of the PHP license and are unable to |
// | obtain it through the world-wide-web, please send a note to |
// | license@php.net so we can mail you a copy immediately. |
// +----------------------------------------------------------------------+
// | Author: JoungKyun Kim <http://www.oops.org> |
// +----------------------------------------------------------------------+
//
// $Id: eSystem.php,v 1.2 2005/07/11 05:58:11 oops Exp $

require_once 'PEAR.php';

/**
* PEAR's eSystem:: interface. Defines the php extended system mapping function
* and any utility mapping function
*
* @access public
* @version $Revision: 0.1 $
* @package Unicode
*/
class Unicode extends PEAR
{
function chr2bin ($c, $shift = '') {
$c = ord ($c);

if ( $shift && preg_match ('/^([<>]+)[\s]*([0-9]+)/', $shift, $match) ) :
switch ($match[1]) :
case '>>' : $c = $c >> $match[2]; break;
case '<<' : $c = $c << $match[2]; break;
case '<' : $c = $c < $match[2]; break;
case '>' : $c = $c > $match[2]; break;
endswitch;
endif;

return decbin ($c);
}

function is_utf8 ($str) {
$_l = strlen ($str);
$_not = 0;

for ( $i=0; $i<$_l; $i++ ) :
#$_first = $this->chr2bin ($str[$i]);

# if 7bit charactior or numeric, skipped
#if ( strlen ($_first) != 8 )
# continue;

# if single byte charactors, skipped
if ( ! (ord ($str[$i]) & 0x80) ) :
continue;
endif;

$_first = $this->chr2bin ($str[$i], '>>4');

switch ( $_first ) :
case 1111 : $b = 3; break; # 4byte
case 1110 : $b = 2; break; # 3byte
default : return 0; # not utf8
endswitch;

for ( $j=1; $j<$b; $j++ ) :
if ( substr ($this->chr2bin ($str[$i+$j]), 0, 2) != 10 )
return 0;
endfor;

break;
endfor;

return $_not ? 0 : 1;
}
}

/*
* Local variables:
* tab-width: 4
* c-basic-offset: 4
* End:
* vim600: noet sw=4 ts=4 fdm=marker
* vim<600: noet sw=4 ts=4
*/
?>

사용예
<?
require_once 'Unicode.php';
$_f = 'usage_200509.html';
$_ff = 'bb.html';

$u = new Unicode;
if ( file_exists ($_ff) )
unlink ($_ff);

$_t = file ($_f);

foreach ( $_t as $_v ) :
$_v = trim ($_v);
if ( $u->is_utf8 ($_v) )
putfile_lib ($_ff, utf8decode_lib ($_v, 'cp949'), 1);
else
putfile_lib ($_ff, $_v, 1);
endforeach;

?>

그외 참고 url
http://my.oops.org/126<div class='small'>[이 게시물은 관리자님에 의해 2011-10-31 17:16:08 PHP & HTML에서 이동 됨]</div>
|

댓글 1개

내가 조아라 하는 pear소스네요...ㅎㅎ
댓글을 작성하시려면 로그인이 필요합니다.

프로그램

+
제목 글쓴이 날짜 조회
15년 전 조회 1,211
15년 전 조회 1,139
15년 전 조회 1,171
15년 전 조회 1,102
15년 전 조회 1,154
15년 전 조회 901
15년 전 조회 1,489
15년 전 조회 1,035
15년 전 조회 874
15년 전 조회 2,850
15년 전 조회 635
15년 전 조회 1,095
15년 전 조회 1,081
15년 전 조회 1,038
15년 전 조회 892
15년 전 조회 1,202
15년 전 조회 1,269
15년 전 조회 921
15년 전 조회 1,319
15년 전 조회 959
15년 전 조회 1,201
15년 전 조회 1,321
15년 전 조회 1,071
15년 전 조회 880
15년 전 조회 1,062
15년 전 조회 1,185
15년 전 조회 899
15년 전 조회 885
15년 전 조회 1,257
15년 전 조회 1,058
15년 전 조회 945
15년 전 조회 1,085
15년 전 조회 1,254
15년 전 조회 973
15년 전 조회 999
15년 전 조회 692
15년 전 조회 917
15년 전 조회 1,131
15년 전 조회 948
15년 전 조회 958
15년 전 조회 1,183
15년 전 조회 1,694
15년 전 조회 608
15년 전 조회 1,052
15년 전 조회 1,038
15년 전 조회 928
15년 전 조회 908
15년 전 조회 1,026
15년 전 조회 800
15년 전 조회 2,037
15년 전 조회 801
15년 전 조회 1,706
15년 전 조회 797
15년 전 조회 874
15년 전 조회 966
15년 전 조회 918
15년 전 조회 1,621
15년 전 조회 1,039
15년 전 조회 991
15년 전 조회 1,159
15년 전 조회 995
15년 전 조회 819
15년 전 조회 976
15년 전 조회 843
15년 전 조회 1,063
15년 전 조회 605
15년 전 조회 991
15년 전 조회 998
15년 전 조회 941
15년 전 조회 867
15년 전 조회 1,205
15년 전 조회 932
15년 전 조회 876
15년 전 조회 907
15년 전 조회 850
15년 전 조회 851
15년 전 조회 922
15년 전 조회 1,317
15년 전 조회 694
15년 전 조회 762
15년 전 조회 925
15년 전 조회 940
15년 전 조회 793
15년 전 조회 1,373
15년 전 조회 885
15년 전 조회 1,115
15년 전 조회 1,505
15년 전 조회 987
15년 전 조회 1,006
15년 전 조회 908
15년 전 조회 862
15년 전 조회 1,212
15년 전 조회 957
15년 전 조회 833
15년 전 조회 1,221
15년 전 조회 2,372
15년 전 조회 956
15년 전 조회 1,082
15년 전 조회 1,215
15년 전 조회 935