Charset Auto Detection(캐릭터셋 자동 감지)

명시적으로 캐릭터셋을 정하지 않는 상태에서
param 으로 넘어온값이나, 문자열의 charset을 검출해야 하는 경우가 있습니다.
흔하게 발생되는 경우는 아니지만, 외부 시스템 연동과 같은 특수상황에서는 종종 발생하는 케이스입니다.
자바쪽 자료를 찾다가 php 자료들도 보이길래 정리해봅니다.
자동검출이기 때문에 100% 완벽하지 않습니다.

1. mb_detect_encoding()
- http://kr.php.net/manual/en/function.mb-detect-encoding.php

2. 캐릭터셋의 바이트 구조를 분석하여 직접 코딩
- http://my.oops.org/62
<?php
//
// +----------------------------------------------------------------------+
// | PHP Version 4 |
// +----------------------------------------------------------------------+
// | Copyright (c) 1997-2003 The PHP Group |
// +----------------------------------------------------------------------+
// | This source file is subject to version 2.02 of the PHP license, |
// | that is bundled with this package in the file LICENSE, and is |
// | available at through the world-wide-web at |
// | http://www.php.net/license/2_02.txt. |
// | If you did not receive a copy of the PHP license and are unable to |
// | obtain it through the world-wide-web, please send a note to |
// | license@php.net so we can mail you a copy immediately. |
// +----------------------------------------------------------------------+
// | Author: JoungKyun Kim <http://www.oops.org> |
// +----------------------------------------------------------------------+
//
// $Id: eSystem.php,v 1.2 2005/07/11 05:58:11 oops Exp $

require_once 'PEAR.php';

/**
* PEAR's eSystem:: interface. Defines the php extended system mapping function
* and any utility mapping function
*
* @access public
* @version $Revision: 0.1 $
* @package Unicode
*/
class Unicode extends PEAR
{
function chr2bin ($c, $shift = '') {
$c = ord ($c);

if ( $shift && preg_match ('/^([<>]+)[\s]*([0-9]+)/', $shift, $match) ) :
switch ($match[1]) :
case '>>' : $c = $c >> $match[2]; break;
case '<<' : $c = $c << $match[2]; break;
case '<' : $c = $c < $match[2]; break;
case '>' : $c = $c > $match[2]; break;
endswitch;
endif;

return decbin ($c);
}

function is_utf8 ($str) {
$_l = strlen ($str);
$_not = 0;

for ( $i=0; $i<$_l; $i++ ) :
#$_first = $this->chr2bin ($str[$i]);

# if 7bit charactior or numeric, skipped
#if ( strlen ($_first) != 8 )
# continue;

# if single byte charactors, skipped
if ( ! (ord ($str[$i]) & 0x80) ) :
continue;
endif;

$_first = $this->chr2bin ($str[$i], '>>4');

switch ( $_first ) :
case 1111 : $b = 3; break; # 4byte
case 1110 : $b = 2; break; # 3byte
default : return 0; # not utf8
endswitch;

for ( $j=1; $j<$b; $j++ ) :
if ( substr ($this->chr2bin ($str[$i+$j]), 0, 2) != 10 )
return 0;
endfor;

break;
endfor;

return $_not ? 0 : 1;
}
}

/*
* Local variables:
* tab-width: 4
* c-basic-offset: 4
* End:
* vim600: noet sw=4 ts=4 fdm=marker
* vim<600: noet sw=4 ts=4
*/
?>

사용예
<?
require_once 'Unicode.php';
$_f = 'usage_200509.html';
$_ff = 'bb.html';

$u = new Unicode;
if ( file_exists ($_ff) )
unlink ($_ff);

$_t = file ($_f);

foreach ( $_t as $_v ) :
$_v = trim ($_v);
if ( $u->is_utf8 ($_v) )
putfile_lib ($_ff, utf8decode_lib ($_v, 'cp949'), 1);
else
putfile_lib ($_ff, $_v, 1);
endforeach;

?>

그외 참고 url
http://my.oops.org/126<div class='small'>[이 게시물은 관리자님에 의해 2011-10-31 17:16:08 PHP & HTML에서 이동 됨]</div>
|

댓글 1개

내가 조아라 하는 pear소스네요...ㅎㅎ
댓글을 작성하시려면 로그인이 필요합니다.

프로그램

+
제목 글쓴이 날짜 조회
15년 전 조회 1,441
15년 전 조회 1,367
15년 전 조회 1,407
15년 전 조회 1,341
15년 전 조회 1,386
15년 전 조회 1,133
15년 전 조회 1,733
15년 전 조회 1,263
15년 전 조회 1,089
15년 전 조회 3,090
15년 전 조회 838
15년 전 조회 1,325
15년 전 조회 1,298
15년 전 조회 1,257
15년 전 조회 1,119
15년 전 조회 1,433
15년 전 조회 1,490
15년 전 조회 1,145
15년 전 조회 1,526
15년 전 조회 1,174
15년 전 조회 1,419
15년 전 조회 1,542
15년 전 조회 1,295
15년 전 조회 1,102
15년 전 조회 1,290
15년 전 조회 1,409
15년 전 조회 1,114
15년 전 조회 1,113
15년 전 조회 1,489
15년 전 조회 1,286
15년 전 조회 1,170
15년 전 조회 1,312
15년 전 조회 1,492
15년 전 조회 1,187
15년 전 조회 1,206
15년 전 조회 909
15년 전 조회 1,131
15년 전 조회 1,345
15년 전 조회 1,165
15년 전 조회 1,167
15년 전 조회 1,404
15년 전 조회 1,912
15년 전 조회 840
15년 전 조회 1,269
15년 전 조회 1,261
15년 전 조회 1,136
15년 전 조회 1,136
15년 전 조회 1,257
15년 전 조회 1,021
15년 전 조회 2,268
15년 전 조회 1,020
15년 전 조회 1,925
15년 전 조회 1,026
15년 전 조회 1,090
15년 전 조회 1,193
15년 전 조회 1,172
15년 전 조회 1,854
15년 전 조회 1,251
15년 전 조회 1,211
15년 전 조회 1,380
15년 전 조회 1,235
15년 전 조회 1,040
15년 전 조회 1,192
15년 전 조회 1,053
15년 전 조회 1,286
15년 전 조회 811
15년 전 조회 1,210
15년 전 조회 1,221
15년 전 조회 1,158
15년 전 조회 1,102
15년 전 조회 1,429
15년 전 조회 1,155
15년 전 조회 1,090
15년 전 조회 1,117
15년 전 조회 1,068
15년 전 조회 1,076
15년 전 조회 1,157
15년 전 조회 1,530
15년 전 조회 917
15년 전 조회 979
15년 전 조회 1,139
15년 전 조회 1,161
15년 전 조회 1,025
15년 전 조회 1,609
15년 전 조회 1,120
15년 전 조회 1,338
15년 전 조회 1,717
15년 전 조회 1,208
15년 전 조회 1,233
15년 전 조회 1,143
15년 전 조회 1,094
15년 전 조회 1,438
15년 전 조회 1,184
15년 전 조회 1,066
15년 전 조회 1,461
15년 전 조회 2,623
15년 전 조회 1,173
15년 전 조회 1,311
15년 전 조회 1,437
15년 전 조회 1,163