Charset Auto Detection(캐릭터셋 자동 감지)

명시적으로 캐릭터셋을 정하지 않는 상태에서
param 으로 넘어온값이나, 문자열의 charset을 검출해야 하는 경우가 있습니다.
흔하게 발생되는 경우는 아니지만, 외부 시스템 연동과 같은 특수상황에서는 종종 발생하는 케이스입니다.
자바쪽 자료를 찾다가 php 자료들도 보이길래 정리해봅니다.
자동검출이기 때문에 100% 완벽하지 않습니다.

1. mb_detect_encoding()
- http://kr.php.net/manual/en/function.mb-detect-encoding.php

2. 캐릭터셋의 바이트 구조를 분석하여 직접 코딩
- http://my.oops.org/62
<?php
//
// +----------------------------------------------------------------------+
// | PHP Version 4 |
// +----------------------------------------------------------------------+
// | Copyright (c) 1997-2003 The PHP Group |
// +----------------------------------------------------------------------+
// | This source file is subject to version 2.02 of the PHP license, |
// | that is bundled with this package in the file LICENSE, and is |
// | available at through the world-wide-web at |
// | http://www.php.net/license/2_02.txt. |
// | If you did not receive a copy of the PHP license and are unable to |
// | obtain it through the world-wide-web, please send a note to |
// | license@php.net so we can mail you a copy immediately. |
// +----------------------------------------------------------------------+
// | Author: JoungKyun Kim <http://www.oops.org> |
// +----------------------------------------------------------------------+
//
// $Id: eSystem.php,v 1.2 2005/07/11 05:58:11 oops Exp $

require_once 'PEAR.php';

/**
* PEAR's eSystem:: interface. Defines the php extended system mapping function
* and any utility mapping function
*
* @access public
* @version $Revision: 0.1 $
* @package Unicode
*/
class Unicode extends PEAR
{
function chr2bin ($c, $shift = '') {
$c = ord ($c);

if ( $shift && preg_match ('/^([<>]+)[\s]*([0-9]+)/', $shift, $match) ) :
switch ($match[1]) :
case '>>' : $c = $c >> $match[2]; break;
case '<<' : $c = $c << $match[2]; break;
case '<' : $c = $c < $match[2]; break;
case '>' : $c = $c > $match[2]; break;
endswitch;
endif;

return decbin ($c);
}

function is_utf8 ($str) {
$_l = strlen ($str);
$_not = 0;

for ( $i=0; $i<$_l; $i++ ) :
#$_first = $this->chr2bin ($str[$i]);

# if 7bit charactior or numeric, skipped
#if ( strlen ($_first) != 8 )
# continue;

# if single byte charactors, skipped
if ( ! (ord ($str[$i]) & 0x80) ) :
continue;
endif;

$_first = $this->chr2bin ($str[$i], '>>4');

switch ( $_first ) :
case 1111 : $b = 3; break; # 4byte
case 1110 : $b = 2; break; # 3byte
default : return 0; # not utf8
endswitch;

for ( $j=1; $j<$b; $j++ ) :
if ( substr ($this->chr2bin ($str[$i+$j]), 0, 2) != 10 )
return 0;
endfor;

break;
endfor;

return $_not ? 0 : 1;
}
}

/*
* Local variables:
* tab-width: 4
* c-basic-offset: 4
* End:
* vim600: noet sw=4 ts=4 fdm=marker
* vim<600: noet sw=4 ts=4
*/
?>

사용예
<?
require_once 'Unicode.php';
$_f = 'usage_200509.html';
$_ff = 'bb.html';

$u = new Unicode;
if ( file_exists ($_ff) )
unlink ($_ff);

$_t = file ($_f);

foreach ( $_t as $_v ) :
$_v = trim ($_v);
if ( $u->is_utf8 ($_v) )
putfile_lib ($_ff, utf8decode_lib ($_v, 'cp949'), 1);
else
putfile_lib ($_ff, $_v, 1);
endforeach;

?>

그외 참고 url
http://my.oops.org/126<div class='small'>[이 게시물은 관리자님에 의해 2011-10-31 17:16:08 PHP & HTML에서 이동 됨]</div>
|

댓글 1개

내가 조아라 하는 pear소스네요...ㅎㅎ
댓글을 작성하시려면 로그인이 필요합니다.

프로그램

+
제목 글쓴이 날짜 조회
15년 전 조회 1,542
15년 전 조회 1,477
15년 전 조회 1,507
15년 전 조회 1,440
15년 전 조회 1,493
15년 전 조회 1,225
15년 전 조회 1,813
15년 전 조회 1,364
15년 전 조회 1,180
15년 전 조회 3,167
15년 전 조회 928
15년 전 조회 1,407
15년 전 조회 1,387
15년 전 조회 1,335
15년 전 조회 1,206
15년 전 조회 1,518
15년 전 조회 1,574
15년 전 조회 1,221
15년 전 조회 1,619
15년 전 조회 1,252
15년 전 조회 1,501
15년 전 조회 1,634
15년 전 조회 1,385
15년 전 조회 1,187
15년 전 조회 1,385
15년 전 조회 1,501
15년 전 조회 1,206
15년 전 조회 1,187
15년 전 조회 1,572
15년 전 조회 1,360
15년 전 조회 1,275
15년 전 조회 1,416
15년 전 조회 1,576
15년 전 조회 1,261
15년 전 조회 1,287
15년 전 조회 994
15년 전 조회 1,219
15년 전 조회 1,418
15년 전 조회 1,249
15년 전 조회 1,241
15년 전 조회 1,478
15년 전 조회 1,986
15년 전 조회 919
15년 전 조회 1,341
15년 전 조회 1,339
15년 전 조회 1,237
15년 전 조회 1,215
15년 전 조회 1,329
15년 전 조회 1,101
15년 전 조회 2,325
15년 전 조회 1,092
15년 전 조회 1,997
15년 전 조회 1,111
15년 전 조회 1,173
15년 전 조회 1,260
15년 전 조회 1,246
15년 전 조회 1,929
15년 전 조회 1,324
15년 전 조회 1,291
15년 전 조회 1,457
15년 전 조회 1,302
15년 전 조회 1,121
15년 전 조회 1,277
15년 전 조회 1,135
15년 전 조회 1,352
15년 전 조회 900
15년 전 조회 1,297
15년 전 조회 1,322
15년 전 조회 1,243
15년 전 조회 1,178
15년 전 조회 1,509
15년 전 조회 1,234
15년 전 조회 1,170
15년 전 조회 1,204
15년 전 조회 1,158
15년 전 조회 1,151
15년 전 조회 1,247
15년 전 조회 1,629
15년 전 조회 1,006
15년 전 조회 1,063
15년 전 조회 1,226
15년 전 조회 1,238
15년 전 조회 1,093
15년 전 조회 1,676
15년 전 조회 1,197
15년 전 조회 1,417
15년 전 조회 1,810
15년 전 조회 1,303
15년 전 조회 1,318
15년 전 조회 1,236
15년 전 조회 1,191
15년 전 조회 1,497
15년 전 조회 1,266
15년 전 조회 1,141
15년 전 조회 1,543
15년 전 조회 2,701
15년 전 조회 1,260
15년 전 조회 1,396
15년 전 조회 1,515
15년 전 조회 1,242