Charset Auto Detection(캐릭터셋 자동 감지)

명시적으로 캐릭터셋을 정하지 않는 상태에서
param 으로 넘어온값이나, 문자열의 charset을 검출해야 하는 경우가 있습니다.
흔하게 발생되는 경우는 아니지만, 외부 시스템 연동과 같은 특수상황에서는 종종 발생하는 케이스입니다.
자바쪽 자료를 찾다가 php 자료들도 보이길래 정리해봅니다.
자동검출이기 때문에 100% 완벽하지 않습니다.

1. mb_detect_encoding()
- http://kr.php.net/manual/en/function.mb-detect-encoding.php

2. 캐릭터셋의 바이트 구조를 분석하여 직접 코딩
- http://my.oops.org/62
<?php
//
// +----------------------------------------------------------------------+
// | PHP Version 4 |
// +----------------------------------------------------------------------+
// | Copyright (c) 1997-2003 The PHP Group |
// +----------------------------------------------------------------------+
// | This source file is subject to version 2.02 of the PHP license, |
// | that is bundled with this package in the file LICENSE, and is |
// | available at through the world-wide-web at |
// | http://www.php.net/license/2_02.txt. |
// | If you did not receive a copy of the PHP license and are unable to |
// | obtain it through the world-wide-web, please send a note to |
// | license@php.net so we can mail you a copy immediately. |
// +----------------------------------------------------------------------+
// | Author: JoungKyun Kim <http://www.oops.org> |
// +----------------------------------------------------------------------+
//
// $Id: eSystem.php,v 1.2 2005/07/11 05:58:11 oops Exp $

require_once 'PEAR.php';

/**
* PEAR's eSystem:: interface. Defines the php extended system mapping function
* and any utility mapping function
*
* @access public
* @version $Revision: 0.1 $
* @package Unicode
*/
class Unicode extends PEAR
{
function chr2bin ($c, $shift = '') {
$c = ord ($c);

if ( $shift && preg_match ('/^([<>]+)[\s]*([0-9]+)/', $shift, $match) ) :
switch ($match[1]) :
case '>>' : $c = $c >> $match[2]; break;
case '<<' : $c = $c << $match[2]; break;
case '<' : $c = $c < $match[2]; break;
case '>' : $c = $c > $match[2]; break;
endswitch;
endif;

return decbin ($c);
}

function is_utf8 ($str) {
$_l = strlen ($str);
$_not = 0;

for ( $i=0; $i<$_l; $i++ ) :
#$_first = $this->chr2bin ($str[$i]);

# if 7bit charactior or numeric, skipped
#if ( strlen ($_first) != 8 )
# continue;

# if single byte charactors, skipped
if ( ! (ord ($str[$i]) & 0x80) ) :
continue;
endif;

$_first = $this->chr2bin ($str[$i], '>>4');

switch ( $_first ) :
case 1111 : $b = 3; break; # 4byte
case 1110 : $b = 2; break; # 3byte
default : return 0; # not utf8
endswitch;

for ( $j=1; $j<$b; $j++ ) :
if ( substr ($this->chr2bin ($str[$i+$j]), 0, 2) != 10 )
return 0;
endfor;

break;
endfor;

return $_not ? 0 : 1;
}
}

/*
* Local variables:
* tab-width: 4
* c-basic-offset: 4
* End:
* vim600: noet sw=4 ts=4 fdm=marker
* vim<600: noet sw=4 ts=4
*/
?>

사용예
<?
require_once 'Unicode.php';
$_f = 'usage_200509.html';
$_ff = 'bb.html';

$u = new Unicode;
if ( file_exists ($_ff) )
unlink ($_ff);

$_t = file ($_f);

foreach ( $_t as $_v ) :
$_v = trim ($_v);
if ( $u->is_utf8 ($_v) )
putfile_lib ($_ff, utf8decode_lib ($_v, 'cp949'), 1);
else
putfile_lib ($_ff, $_v, 1);
endforeach;

?>

그외 참고 url
http://my.oops.org/126<div class='small'>[이 게시물은 관리자님에 의해 2011-10-31 17:16:08 PHP & HTML에서 이동 됨]</div>
|

댓글 1개

내가 조아라 하는 pear소스네요...ㅎㅎ
댓글을 작성하시려면 로그인이 필요합니다.

프로그램

+
제목 글쓴이 날짜 조회
15년 전 조회 1,205
15년 전 조회 1,134
15년 전 조회 1,168
15년 전 조회 1,097
15년 전 조회 1,152
15년 전 조회 898
15년 전 조회 1,487
15년 전 조회 1,027
15년 전 조회 871
15년 전 조회 2,846
15년 전 조회 633
15년 전 조회 1,090
15년 전 조회 1,077
15년 전 조회 1,036
15년 전 조회 885
15년 전 조회 1,196
15년 전 조회 1,262
15년 전 조회 913
15년 전 조회 1,312
15년 전 조회 952
15년 전 조회 1,197
15년 전 조회 1,317
15년 전 조회 1,069
15년 전 조회 876
15년 전 조회 1,058
15년 전 조회 1,182
15년 전 조회 894
15년 전 조회 877
15년 전 조회 1,250
15년 전 조회 1,048
15년 전 조회 937
15년 전 조회 1,081
15년 전 조회 1,252
15년 전 조회 970
15년 전 조회 993
15년 전 조회 691
15년 전 조회 914
15년 전 조회 1,124
15년 전 조회 947
15년 전 조회 957
15년 전 조회 1,175
15년 전 조회 1,689
15년 전 조회 603
15년 전 조회 1,048
15년 전 조회 1,033
15년 전 조회 923
15년 전 조회 905
15년 전 조회 1,023
15년 전 조회 798
15년 전 조회 2,030
15년 전 조회 797
15년 전 조회 1,700
15년 전 조회 794
15년 전 조회 873
15년 전 조회 962
15년 전 조회 916
15년 전 조회 1,616
15년 전 조회 1,033
15년 전 조회 986
15년 전 조회 1,153
15년 전 조회 991
15년 전 조회 813
15년 전 조회 967
15년 전 조회 839
15년 전 조회 1,057
15년 전 조회 602
15년 전 조회 987
15년 전 조회 995
15년 전 조회 940
15년 전 조회 862
15년 전 조회 1,201
15년 전 조회 928
15년 전 조회 870
15년 전 조회 906
15년 전 조회 849
15년 전 조회 845
15년 전 조회 920
15년 전 조회 1,313
15년 전 조회 691
15년 전 조회 758
15년 전 조회 920
15년 전 조회 936
15년 전 조회 788
15년 전 조회 1,368
15년 전 조회 882
15년 전 조회 1,108
15년 전 조회 1,500
15년 전 조회 983
15년 전 조회 1,001
15년 전 조회 906
15년 전 조회 860
15년 전 조회 1,203
15년 전 조회 952
15년 전 조회 831
15년 전 조회 1,219
15년 전 조회 2,365
15년 전 조회 951
15년 전 조회 1,077
15년 전 조회 1,211
15년 전 조회 930