Charset Auto Detection(캐릭터셋 자동 감지)

명시적으로 캐릭터셋을 정하지 않는 상태에서
param 으로 넘어온값이나, 문자열의 charset을 검출해야 하는 경우가 있습니다.
흔하게 발생되는 경우는 아니지만, 외부 시스템 연동과 같은 특수상황에서는 종종 발생하는 케이스입니다.
자바쪽 자료를 찾다가 php 자료들도 보이길래 정리해봅니다.
자동검출이기 때문에 100% 완벽하지 않습니다.

1. mb_detect_encoding()
- http://kr.php.net/manual/en/function.mb-detect-encoding.php

2. 캐릭터셋의 바이트 구조를 분석하여 직접 코딩
- http://my.oops.org/62
<?php
//
// +----------------------------------------------------------------------+
// | PHP Version 4 |
// +----------------------------------------------------------------------+
// | Copyright (c) 1997-2003 The PHP Group |
// +----------------------------------------------------------------------+
// | This source file is subject to version 2.02 of the PHP license, |
// | that is bundled with this package in the file LICENSE, and is |
// | available at through the world-wide-web at |
// | http://www.php.net/license/2_02.txt. |
// | If you did not receive a copy of the PHP license and are unable to |
// | obtain it through the world-wide-web, please send a note to |
// | license@php.net so we can mail you a copy immediately. |
// +----------------------------------------------------------------------+
// | Author: JoungKyun Kim <http://www.oops.org> |
// +----------------------------------------------------------------------+
//
// $Id: eSystem.php,v 1.2 2005/07/11 05:58:11 oops Exp $

require_once 'PEAR.php';

/**
* PEAR's eSystem:: interface. Defines the php extended system mapping function
* and any utility mapping function
*
* @access public
* @version $Revision: 0.1 $
* @package Unicode
*/
class Unicode extends PEAR
{
function chr2bin ($c, $shift = '') {
$c = ord ($c);

if ( $shift && preg_match ('/^([<>]+)[\s]*([0-9]+)/', $shift, $match) ) :
switch ($match[1]) :
case '>>' : $c = $c >> $match[2]; break;
case '<<' : $c = $c << $match[2]; break;
case '<' : $c = $c < $match[2]; break;
case '>' : $c = $c > $match[2]; break;
endswitch;
endif;

return decbin ($c);
}

function is_utf8 ($str) {
$_l = strlen ($str);
$_not = 0;

for ( $i=0; $i<$_l; $i++ ) :
#$_first = $this->chr2bin ($str[$i]);

# if 7bit charactior or numeric, skipped
#if ( strlen ($_first) != 8 )
# continue;

# if single byte charactors, skipped
if ( ! (ord ($str[$i]) & 0x80) ) :
continue;
endif;

$_first = $this->chr2bin ($str[$i], '>>4');

switch ( $_first ) :
case 1111 : $b = 3; break; # 4byte
case 1110 : $b = 2; break; # 3byte
default : return 0; # not utf8
endswitch;

for ( $j=1; $j<$b; $j++ ) :
if ( substr ($this->chr2bin ($str[$i+$j]), 0, 2) != 10 )
return 0;
endfor;

break;
endfor;

return $_not ? 0 : 1;
}
}

/*
* Local variables:
* tab-width: 4
* c-basic-offset: 4
* End:
* vim600: noet sw=4 ts=4 fdm=marker
* vim<600: noet sw=4 ts=4
*/
?>

사용예
<?
require_once 'Unicode.php';
$_f = 'usage_200509.html';
$_ff = 'bb.html';

$u = new Unicode;
if ( file_exists ($_ff) )
unlink ($_ff);

$_t = file ($_f);

foreach ( $_t as $_v ) :
$_v = trim ($_v);
if ( $u->is_utf8 ($_v) )
putfile_lib ($_ff, utf8decode_lib ($_v, 'cp949'), 1);
else
putfile_lib ($_ff, $_v, 1);
endforeach;

?>

그외 참고 url
http://my.oops.org/126<div class='small'>[이 게시물은 관리자님에 의해 2011-10-31 17:16:08 PHP & HTML에서 이동 됨]</div>
|

댓글 1개

내가 조아라 하는 pear소스네요...ㅎㅎ
댓글을 작성하시려면 로그인이 필요합니다.

프로그램

+
제목 글쓴이 날짜 조회
15년 전 조회 1,428
15년 전 조회 1,357
15년 전 조회 1,389
15년 전 조회 1,325
15년 전 조회 1,374
15년 전 조회 1,120
15년 전 조회 1,719
15년 전 조회 1,248
15년 전 조회 1,083
15년 전 조회 3,076
15년 전 조회 827
15년 전 조회 1,311
15년 전 조회 1,280
15년 전 조회 1,241
15년 전 조회 1,105
15년 전 조회 1,423
15년 전 조회 1,477
15년 전 조회 1,132
15년 전 조회 1,510
15년 전 조회 1,162
15년 전 조회 1,401
15년 전 조회 1,528
15년 전 조회 1,275
15년 전 조회 1,089
15년 전 조회 1,270
15년 전 조회 1,394
15년 전 조회 1,097
15년 전 조회 1,098
15년 전 조회 1,475
15년 전 조회 1,270
15년 전 조회 1,160
15년 전 조회 1,300
15년 전 조회 1,477
15년 전 조회 1,177
15년 전 조회 1,193
15년 전 조회 898
15년 전 조회 1,117
15년 전 조회 1,334
15년 전 조회 1,153
15년 전 조회 1,155
15년 전 조회 1,389
15년 전 조회 1,898
15년 전 조회 827
15년 전 조회 1,251
15년 전 조회 1,248
15년 전 조회 1,121
15년 전 조회 1,120
15년 전 조회 1,246
15년 전 조회 1,005
15년 전 조회 2,247
15년 전 조회 1,006
15년 전 조회 1,913
15년 전 조회 1,005
15년 전 조회 1,081
15년 전 조회 1,183
15년 전 조회 1,156
15년 전 조회 1,837
15년 전 조회 1,232
15년 전 조회 1,197
15년 전 조회 1,367
15년 전 조회 1,220
15년 전 조회 1,025
15년 전 조회 1,182
15년 전 조회 1,038
15년 전 조회 1,268
15년 전 조회 802
15년 전 조회 1,200
15년 전 조회 1,206
15년 전 조회 1,150
15년 전 조회 1,084
15년 전 조회 1,417
15년 전 조회 1,144
15년 전 조회 1,073
15년 전 조회 1,108
15년 전 조회 1,055
15년 전 조회 1,063
15년 전 조회 1,142
15년 전 조회 1,516
15년 전 조회 905
15년 전 조회 965
15년 전 조회 1,125
15년 전 조회 1,141
15년 전 조회 1,003
15년 전 조회 1,598
15년 전 조회 1,104
15년 전 조회 1,321
15년 전 조회 1,705
15년 전 조회 1,198
15년 전 조회 1,218
15년 전 조회 1,124
15년 전 조회 1,076
15년 전 조회 1,424
15년 전 조회 1,169
15년 전 조회 1,054
15년 전 조회 1,447
15년 전 조회 2,605
15년 전 조회 1,156
15년 전 조회 1,296
15년 전 조회 1,421
15년 전 조회 1,152