Charset Auto Detection(캐릭터셋 자동 감지)

명시적으로 캐릭터셋을 정하지 않는 상태에서
param 으로 넘어온값이나, 문자열의 charset을 검출해야 하는 경우가 있습니다.
흔하게 발생되는 경우는 아니지만, 외부 시스템 연동과 같은 특수상황에서는 종종 발생하는 케이스입니다.
자바쪽 자료를 찾다가 php 자료들도 보이길래 정리해봅니다.
자동검출이기 때문에 100% 완벽하지 않습니다.

1. mb_detect_encoding()
- http://kr.php.net/manual/en/function.mb-detect-encoding.php

2. 캐릭터셋의 바이트 구조를 분석하여 직접 코딩
- http://my.oops.org/62
<?php
//
// +----------------------------------------------------------------------+
// | PHP Version 4 |
// +----------------------------------------------------------------------+
// | Copyright (c) 1997-2003 The PHP Group |
// +----------------------------------------------------------------------+
// | This source file is subject to version 2.02 of the PHP license, |
// | that is bundled with this package in the file LICENSE, and is |
// | available at through the world-wide-web at |
// | http://www.php.net/license/2_02.txt. |
// | If you did not receive a copy of the PHP license and are unable to |
// | obtain it through the world-wide-web, please send a note to |
// | license@php.net so we can mail you a copy immediately. |
// +----------------------------------------------------------------------+
// | Author: JoungKyun Kim <http://www.oops.org> |
// +----------------------------------------------------------------------+
//
// $Id: eSystem.php,v 1.2 2005/07/11 05:58:11 oops Exp $

require_once 'PEAR.php';

/**
* PEAR's eSystem:: interface. Defines the php extended system mapping function
* and any utility mapping function
*
* @access public
* @version $Revision: 0.1 $
* @package Unicode
*/
class Unicode extends PEAR
{
function chr2bin ($c, $shift = '') {
$c = ord ($c);

if ( $shift && preg_match ('/^([<>]+)[\s]*([0-9]+)/', $shift, $match) ) :
switch ($match[1]) :
case '>>' : $c = $c >> $match[2]; break;
case '<<' : $c = $c << $match[2]; break;
case '<' : $c = $c < $match[2]; break;
case '>' : $c = $c > $match[2]; break;
endswitch;
endif;

return decbin ($c);
}

function is_utf8 ($str) {
$_l = strlen ($str);
$_not = 0;

for ( $i=0; $i<$_l; $i++ ) :
#$_first = $this->chr2bin ($str[$i]);

# if 7bit charactior or numeric, skipped
#if ( strlen ($_first) != 8 )
# continue;

# if single byte charactors, skipped
if ( ! (ord ($str[$i]) & 0x80) ) :
continue;
endif;

$_first = $this->chr2bin ($str[$i], '>>4');

switch ( $_first ) :
case 1111 : $b = 3; break; # 4byte
case 1110 : $b = 2; break; # 3byte
default : return 0; # not utf8
endswitch;

for ( $j=1; $j<$b; $j++ ) :
if ( substr ($this->chr2bin ($str[$i+$j]), 0, 2) != 10 )
return 0;
endfor;

break;
endfor;

return $_not ? 0 : 1;
}
}

/*
* Local variables:
* tab-width: 4
* c-basic-offset: 4
* End:
* vim600: noet sw=4 ts=4 fdm=marker
* vim<600: noet sw=4 ts=4
*/
?>

사용예
<?
require_once 'Unicode.php';
$_f = 'usage_200509.html';
$_ff = 'bb.html';

$u = new Unicode;
if ( file_exists ($_ff) )
unlink ($_ff);

$_t = file ($_f);

foreach ( $_t as $_v ) :
$_v = trim ($_v);
if ( $u->is_utf8 ($_v) )
putfile_lib ($_ff, utf8decode_lib ($_v, 'cp949'), 1);
else
putfile_lib ($_ff, $_v, 1);
endforeach;

?>

그외 참고 url
http://my.oops.org/126<div class='small'>[이 게시물은 관리자님에 의해 2011-10-31 17:16:08 PHP & HTML에서 이동 됨]</div>
|

댓글 1개

내가 조아라 하는 pear소스네요...ㅎㅎ
댓글을 작성하시려면 로그인이 필요합니다.

프로그램

+
제목 글쓴이 날짜 조회
15년 전 조회 1,573
15년 전 조회 1,503
15년 전 조회 1,531
15년 전 조회 1,462
15년 전 조회 1,517
15년 전 조회 1,251
15년 전 조회 1,832
15년 전 조회 1,390
15년 전 조회 1,198
15년 전 조회 3,195
15년 전 조회 949
15년 전 조회 1,429
15년 전 조회 1,409
15년 전 조회 1,355
15년 전 조회 1,228
15년 전 조회 1,541
15년 전 조회 1,597
15년 전 조회 1,247
15년 전 조회 1,650
15년 전 조회 1,281
15년 전 조회 1,527
15년 전 조회 1,658
15년 전 조회 1,414
15년 전 조회 1,217
15년 전 조회 1,410
15년 전 조회 1,526
15년 전 조회 1,233
15년 전 조회 1,219
15년 전 조회 1,604
15년 전 조회 1,381
15년 전 조회 1,290
15년 전 조회 1,429
15년 전 조회 1,595
15년 전 조회 1,280
15년 전 조회 1,305
15년 전 조회 1,009
15년 전 조회 1,239
15년 전 조회 1,439
15년 전 조회 1,272
15년 전 조회 1,260
15년 전 조회 1,503
15년 전 조회 2,008
15년 전 조회 940
15년 전 조회 1,365
15년 전 조회 1,362
15년 전 조회 1,259
15년 전 조회 1,236
15년 전 조회 1,358
15년 전 조회 1,122
15년 전 조회 2,359
15년 전 조회 1,122
15년 전 조회 2,023
15년 전 조회 1,142
15년 전 조회 1,199
15년 전 조회 1,286
15년 전 조회 1,278
15년 전 조회 1,954
15년 전 조회 1,354
15년 전 조회 1,320
15년 전 조회 1,479
15년 전 조회 1,332
15년 전 조회 1,140
15년 전 조회 1,306
15년 전 조회 1,169
15년 전 조회 1,383
15년 전 조회 926
15년 전 조회 1,324
15년 전 조회 1,347
15년 전 조회 1,272
15년 전 조회 1,209
15년 전 조회 1,541
15년 전 조회 1,264
15년 전 조회 1,187
15년 전 조회 1,234
15년 전 조회 1,191
15년 전 조회 1,180
15년 전 조회 1,272
15년 전 조회 1,659
15년 전 조회 1,036
15년 전 조회 1,095
15년 전 조회 1,255
15년 전 조회 1,277
15년 전 조회 1,125
15년 전 조회 1,706
15년 전 조회 1,222
15년 전 조회 1,444
15년 전 조회 1,848
15년 전 조회 1,328
15년 전 조회 1,345
15년 전 조회 1,263
15년 전 조회 1,215
15년 전 조회 1,531
15년 전 조회 1,296
15년 전 조회 1,179
15년 전 조회 1,578
15년 전 조회 2,735
15년 전 조회 1,292
15년 전 조회 1,424
15년 전 조회 1,554
15년 전 조회 1,272