Charset Auto Detection(캐릭터셋 자동 감지)

명시적으로 캐릭터셋을 정하지 않는 상태에서
param 으로 넘어온값이나, 문자열의 charset을 검출해야 하는 경우가 있습니다.
흔하게 발생되는 경우는 아니지만, 외부 시스템 연동과 같은 특수상황에서는 종종 발생하는 케이스입니다.
자바쪽 자료를 찾다가 php 자료들도 보이길래 정리해봅니다.
자동검출이기 때문에 100% 완벽하지 않습니다.

1. mb_detect_encoding()
- http://kr.php.net/manual/en/function.mb-detect-encoding.php

2. 캐릭터셋의 바이트 구조를 분석하여 직접 코딩
- http://my.oops.org/62
<?php
//
// +----------------------------------------------------------------------+
// | PHP Version 4 |
// +----------------------------------------------------------------------+
// | Copyright (c) 1997-2003 The PHP Group |
// +----------------------------------------------------------------------+
// | This source file is subject to version 2.02 of the PHP license, |
// | that is bundled with this package in the file LICENSE, and is |
// | available at through the world-wide-web at |
// | http://www.php.net/license/2_02.txt. |
// | If you did not receive a copy of the PHP license and are unable to |
// | obtain it through the world-wide-web, please send a note to |
// | license@php.net so we can mail you a copy immediately. |
// +----------------------------------------------------------------------+
// | Author: JoungKyun Kim <http://www.oops.org> |
// +----------------------------------------------------------------------+
//
// $Id: eSystem.php,v 1.2 2005/07/11 05:58:11 oops Exp $

require_once 'PEAR.php';

/**
* PEAR's eSystem:: interface. Defines the php extended system mapping function
* and any utility mapping function
*
* @access public
* @version $Revision: 0.1 $
* @package Unicode
*/
class Unicode extends PEAR
{
function chr2bin ($c, $shift = '') {
$c = ord ($c);

if ( $shift && preg_match ('/^([<>]+)[\s]*([0-9]+)/', $shift, $match) ) :
switch ($match[1]) :
case '>>' : $c = $c >> $match[2]; break;
case '<<' : $c = $c << $match[2]; break;
case '<' : $c = $c < $match[2]; break;
case '>' : $c = $c > $match[2]; break;
endswitch;
endif;

return decbin ($c);
}

function is_utf8 ($str) {
$_l = strlen ($str);
$_not = 0;

for ( $i=0; $i<$_l; $i++ ) :
#$_first = $this->chr2bin ($str[$i]);

# if 7bit charactior or numeric, skipped
#if ( strlen ($_first) != 8 )
# continue;

# if single byte charactors, skipped
if ( ! (ord ($str[$i]) & 0x80) ) :
continue;
endif;

$_first = $this->chr2bin ($str[$i], '>>4');

switch ( $_first ) :
case 1111 : $b = 3; break; # 4byte
case 1110 : $b = 2; break; # 3byte
default : return 0; # not utf8
endswitch;

for ( $j=1; $j<$b; $j++ ) :
if ( substr ($this->chr2bin ($str[$i+$j]), 0, 2) != 10 )
return 0;
endfor;

break;
endfor;

return $_not ? 0 : 1;
}
}

/*
* Local variables:
* tab-width: 4
* c-basic-offset: 4
* End:
* vim600: noet sw=4 ts=4 fdm=marker
* vim<600: noet sw=4 ts=4
*/
?>

사용예
<?
require_once 'Unicode.php';
$_f = 'usage_200509.html';
$_ff = 'bb.html';

$u = new Unicode;
if ( file_exists ($_ff) )
unlink ($_ff);

$_t = file ($_f);

foreach ( $_t as $_v ) :
$_v = trim ($_v);
if ( $u->is_utf8 ($_v) )
putfile_lib ($_ff, utf8decode_lib ($_v, 'cp949'), 1);
else
putfile_lib ($_ff, $_v, 1);
endforeach;

?>

그외 참고 url
http://my.oops.org/126<div class='small'>[이 게시물은 관리자님에 의해 2011-10-31 17:16:08 PHP & HTML에서 이동 됨]</div>
|

댓글 1개

내가 조아라 하는 pear소스네요...ㅎㅎ
댓글을 작성하시려면 로그인이 필요합니다.

프로그램

+
제목 글쓴이 날짜 조회
15년 전 조회 1,551
15년 전 조회 1,486
15년 전 조회 1,519
15년 전 조회 1,449
15년 전 조회 1,504
15년 전 조회 1,233
15년 전 조회 1,821
15년 전 조회 1,371
15년 전 조회 1,191
15년 전 조회 3,175
15년 전 조회 933
15년 전 조회 1,413
15년 전 조회 1,397
15년 전 조회 1,338
15년 전 조회 1,213
15년 전 조회 1,522
15년 전 조회 1,583
15년 전 조회 1,229
15년 전 조회 1,629
15년 전 조회 1,262
15년 전 조회 1,509
15년 전 조회 1,645
15년 전 조회 1,396
15년 전 조회 1,200
15년 전 조회 1,396
15년 전 조회 1,509
15년 전 조회 1,212
15년 전 조회 1,199
15년 전 조회 1,583
15년 전 조회 1,369
15년 전 조회 1,283
15년 전 조회 1,424
15년 전 조회 1,584
15년 전 조회 1,270
15년 전 조회 1,297
15년 전 조회 997
15년 전 조회 1,227
15년 전 조회 1,425
15년 전 조회 1,262
15년 전 조회 1,244
15년 전 조회 1,483
15년 전 조회 1,997
15년 전 조회 928
15년 전 조회 1,351
15년 전 조회 1,350
15년 전 조회 1,248
15년 전 조회 1,223
15년 전 조회 1,341
15년 전 조회 1,107
15년 전 조회 2,337
15년 전 조회 1,100
15년 전 조회 2,009
15년 전 조회 1,121
15년 전 조회 1,185
15년 전 조회 1,272
15년 전 조회 1,259
15년 전 조회 1,939
15년 전 조회 1,336
15년 전 조회 1,303
15년 전 조회 1,468
15년 전 조회 1,317
15년 전 조회 1,130
15년 전 조회 1,293
15년 전 조회 1,147
15년 전 조회 1,363
15년 전 조회 913
15년 전 조회 1,309
15년 전 조회 1,335
15년 전 조회 1,253
15년 전 조회 1,195
15년 전 조회 1,521
15년 전 조회 1,243
15년 전 조회 1,177
15년 전 조회 1,214
15년 전 조회 1,177
15년 전 조회 1,164
15년 전 조회 1,262
15년 전 조회 1,640
15년 전 조회 1,017
15년 전 조회 1,079
15년 전 조회 1,238
15년 전 조회 1,260
15년 전 조회 1,104
15년 전 조회 1,688
15년 전 조회 1,210
15년 전 조회 1,426
15년 전 조회 1,827
15년 전 조회 1,317
15년 전 조회 1,330
15년 전 조회 1,250
15년 전 조회 1,204
15년 전 조회 1,510
15년 전 조회 1,281
15년 전 조회 1,160
15년 전 조회 1,556
15년 전 조회 2,711
15년 전 조회 1,274
15년 전 조회 1,410
15년 전 조회 1,537
15년 전 조회 1,256