Charset Auto Detection(캐릭터셋 자동 감지)

명시적으로 캐릭터셋을 정하지 않는 상태에서
param 으로 넘어온값이나, 문자열의 charset을 검출해야 하는 경우가 있습니다.
흔하게 발생되는 경우는 아니지만, 외부 시스템 연동과 같은 특수상황에서는 종종 발생하는 케이스입니다.
자바쪽 자료를 찾다가 php 자료들도 보이길래 정리해봅니다.
자동검출이기 때문에 100% 완벽하지 않습니다.

1. mb_detect_encoding()
- http://kr.php.net/manual/en/function.mb-detect-encoding.php

2. 캐릭터셋의 바이트 구조를 분석하여 직접 코딩
- http://my.oops.org/62
<?php
//
// +----------------------------------------------------------------------+
// | PHP Version 4 |
// +----------------------------------------------------------------------+
// | Copyright (c) 1997-2003 The PHP Group |
// +----------------------------------------------------------------------+
// | This source file is subject to version 2.02 of the PHP license, |
// | that is bundled with this package in the file LICENSE, and is |
// | available at through the world-wide-web at |
// | http://www.php.net/license/2_02.txt. |
// | If you did not receive a copy of the PHP license and are unable to |
// | obtain it through the world-wide-web, please send a note to |
// | license@php.net so we can mail you a copy immediately. |
// +----------------------------------------------------------------------+
// | Author: JoungKyun Kim <http://www.oops.org> |
// +----------------------------------------------------------------------+
//
// $Id: eSystem.php,v 1.2 2005/07/11 05:58:11 oops Exp $

require_once 'PEAR.php';

/**
* PEAR's eSystem:: interface. Defines the php extended system mapping function
* and any utility mapping function
*
* @access public
* @version $Revision: 0.1 $
* @package Unicode
*/
class Unicode extends PEAR
{
function chr2bin ($c, $shift = '') {
$c = ord ($c);

if ( $shift && preg_match ('/^([<>]+)[\s]*([0-9]+)/', $shift, $match) ) :
switch ($match[1]) :
case '>>' : $c = $c >> $match[2]; break;
case '<<' : $c = $c << $match[2]; break;
case '<' : $c = $c < $match[2]; break;
case '>' : $c = $c > $match[2]; break;
endswitch;
endif;

return decbin ($c);
}

function is_utf8 ($str) {
$_l = strlen ($str);
$_not = 0;

for ( $i=0; $i<$_l; $i++ ) :
#$_first = $this->chr2bin ($str[$i]);

# if 7bit charactior or numeric, skipped
#if ( strlen ($_first) != 8 )
# continue;

# if single byte charactors, skipped
if ( ! (ord ($str[$i]) & 0x80) ) :
continue;
endif;

$_first = $this->chr2bin ($str[$i], '>>4');

switch ( $_first ) :
case 1111 : $b = 3; break; # 4byte
case 1110 : $b = 2; break; # 3byte
default : return 0; # not utf8
endswitch;

for ( $j=1; $j<$b; $j++ ) :
if ( substr ($this->chr2bin ($str[$i+$j]), 0, 2) != 10 )
return 0;
endfor;

break;
endfor;

return $_not ? 0 : 1;
}
}

/*
* Local variables:
* tab-width: 4
* c-basic-offset: 4
* End:
* vim600: noet sw=4 ts=4 fdm=marker
* vim<600: noet sw=4 ts=4
*/
?>

사용예
<?
require_once 'Unicode.php';
$_f = 'usage_200509.html';
$_ff = 'bb.html';

$u = new Unicode;
if ( file_exists ($_ff) )
unlink ($_ff);

$_t = file ($_f);

foreach ( $_t as $_v ) :
$_v = trim ($_v);
if ( $u->is_utf8 ($_v) )
putfile_lib ($_ff, utf8decode_lib ($_v, 'cp949'), 1);
else
putfile_lib ($_ff, $_v, 1);
endforeach;

?>

그외 참고 url
http://my.oops.org/126<div class='small'>[이 게시물은 관리자님에 의해 2011-10-31 17:16:08 PHP & HTML에서 이동 됨]</div>
|

댓글 1개

내가 조아라 하는 pear소스네요...ㅎㅎ
댓글을 작성하시려면 로그인이 필요합니다. 로그인

프로그램

+
제목 글쓴이 날짜 조회
15년 전 조회 1,184
15년 전 조회 1,121
15년 전 조회 1,156
15년 전 조회 1,081
15년 전 조회 1,145
15년 전 조회 883
15년 전 조회 1,471
15년 전 조회 1,016
15년 전 조회 859
15년 전 조회 2,830
15년 전 조회 619
15년 전 조회 1,072
15년 전 조회 1,057
15년 전 조회 1,013
15년 전 조회 868
15년 전 조회 1,188
15년 전 조회 1,251
15년 전 조회 897
15년 전 조회 1,299
15년 전 조회 932
15년 전 조회 1,183
15년 전 조회 1,303
15년 전 조회 1,055
15년 전 조회 864
15년 전 조회 1,044
15년 전 조회 1,167
15년 전 조회 878
15년 전 조회 859
15년 전 조회 1,233
15년 전 조회 1,028
15년 전 조회 921
15년 전 조회 1,075
15년 전 조회 1,240
15년 전 조회 947
15년 전 조회 978
15년 전 조회 677
15년 전 조회 896
15년 전 조회 1,105
15년 전 조회 936
15년 전 조회 938
15년 전 조회 1,159
15년 전 조회 1,672
15년 전 조회 591
15년 전 조회 1,035
15년 전 조회 1,016
15년 전 조회 907
15년 전 조회 888
15년 전 조회 1,004
15년 전 조회 785
15년 전 조회 2,014
15년 전 조회 782
15년 전 조회 1,678
15년 전 조회 777
15년 전 조회 861
15년 전 조회 942
15년 전 조회 901
15년 전 조회 1,608
15년 전 조회 1,015
15년 전 조회 969
15년 전 조회 1,137
15년 전 조회 979
15년 전 조회 798
15년 전 조회 951
15년 전 조회 830
15년 전 조회 1,046
15년 전 조회 591
15년 전 조회 968
15년 전 조회 978
15년 전 조회 927
15년 전 조회 847
15년 전 조회 1,183
15년 전 조회 914
15년 전 조회 854
15년 전 조회 893
15년 전 조회 832
15년 전 조회 832
15년 전 조회 911
15년 전 조회 1,300
15년 전 조회 684
15년 전 조회 742
15년 전 조회 908
15년 전 조회 922
15년 전 조회 778
15년 전 조회 1,359
15년 전 조회 866
15년 전 조회 1,095
15년 전 조회 1,483
15년 전 조회 974
15년 전 조회 988
15년 전 조회 897
15년 전 조회 850
15년 전 조회 1,185
15년 전 조회 937
15년 전 조회 819
15년 전 조회 1,201
15년 전 조회 2,348
15년 전 조회 939
15년 전 조회 1,063
15년 전 조회 1,193
15년 전 조회 919
🐛 버그신고