Charset Auto Detection(캐릭터셋 자동 감지)

· 2010-12-17 (금) 14:04:04 · 3152 · 1
명시적으로 캐릭터셋을 정하지 않는 상태에서
param 으로 넘어온값이나, 문자열의 charset을 검출해야 하는 경우가 있습니다.
흔하게 발생되는 경우는 아니지만, 외부 시스템 연동과 같은 특수상황에서는 종종 발생하는 케이스입니다.
자바쪽 자료를 찾다가 php 자료들도 보이길래 정리해봅니다.
자동검출이기 때문에 100% 완벽하지 않습니다.

1. mb_detect_encoding()
- http://kr.php.net/manual/en/function.mb-detect-encoding.php

2. 캐릭터셋의 바이트 구조를 분석하여 직접 코딩
- http://my.oops.org/62
<?php
//
// +----------------------------------------------------------------------+
// | PHP Version 4 |
// +----------------------------------------------------------------------+
// | Copyright (c) 1997-2003 The PHP Group |
// +----------------------------------------------------------------------+
// | This source file is subject to version 2.02 of the PHP license, |
// | that is bundled with this package in the file LICENSE, and is |
// | available at through the world-wide-web at |
// | http://www.php.net/license/2_02.txt. |
// | If you did not receive a copy of the PHP license and are unable to |
// | obtain it through the world-wide-web, please send a note to |
// | [email protected] so we can mail you a copy immediately. |
// +----------------------------------------------------------------------+
// | Author: JoungKyun Kim <http://www.oops.org> |
// +----------------------------------------------------------------------+
//
// $Id: eSystem.php,v 1.2 2005/07/11 05:58:11 oops Exp $

require_once 'PEAR.php';

/**
* PEAR's eSystem:: interface. Defines the php extended system mapping function
* and any utility mapping function
*
* @access public
* @version $Revision: 0.1 $
* @package Unicode
*/
class Unicode extends PEAR
{
function chr2bin ($c, $shift = '') {
$c = ord ($c);

if ( $shift && preg_match ('/^([<>]+)[\s]*([0-9]+)/', $shift, $match) ) :
switch ($match[1]) :
case '>>' : $c = $c >> $match[2]; break;
case '<<' : $c = $c << $match[2]; break;
case '<' : $c = $c < $match[2]; break;
case '>' : $c = $c > $match[2]; break;
endswitch;
endif;

return decbin ($c);
}

function is_utf8 ($str) {
$_l = strlen ($str);
$_not = 0;

for ( $i=0; $i<$_l; $i++ ) :
#$_first = $this->chr2bin ($str[$i]);

# if 7bit charactior or numeric, skipped
#if ( strlen ($_first) != 8 )
# continue;

# if single byte charactors, skipped
if ( ! (ord ($str[$i]) & 0x80) ) :
continue;
endif;

$_first = $this->chr2bin ($str[$i], '>>4');

switch ( $_first ) :
case 1111 : $b = 3; break; # 4byte
case 1110 : $b = 2; break; # 3byte
default : return 0; # not utf8
endswitch;

for ( $j=1; $j<$b; $j++ ) :
if ( substr ($this->chr2bin ($str[$i+$j]), 0, 2) != 10 )
return 0;
endfor;

break;
endfor;

return $_not ? 0 : 1;
}
}

/*
* Local variables:
* tab-width: 4
* c-basic-offset: 4
* End:
* vim600: noet sw=4 ts=4 fdm=marker
* vim<600: noet sw=4 ts=4
*/
?>

사용예
<?
require_once 'Unicode.php';
$_f = 'usage_200509.html';
$_ff = 'bb.html';

$u = new Unicode;
if ( file_exists ($_ff) )
unlink ($_ff);

$_t = file ($_f);

foreach ( $_t as $_v ) :
$_v = trim ($_v);
if ( $u->is_utf8 ($_v) )
putfile_lib ($_ff, utf8decode_lib ($_v, 'cp949'), 1);
else
putfile_lib ($_ff, $_v, 1);
endforeach;

?>

그외 참고 url
http://my.oops.org/126<div class='small'>[이 게시물은 관리자님에 의해 2011-10-31 17:16:08 PHP & HTML에서 이동 됨]</div>
|

댓글 1개

2010-12-24 (금) 17:08:05
내가 조아라 하는 pear소스네요...ㅎㅎ
댓글을 작성하시려면 로그인이 필요합니다.

프로그램

8,188건
+
제목 글쓴이 날짜 조회
11-02-05 조회 2,379
11-02-04 조회 3,146
11-02-03 조회 2,779
11-02-03 조회 2,377
11-02-03 조회 2,676
11-02-03 조회 2,680
11-02-03 조회 2,887
11-02-02 조회 2,789
11-02-02 조회 2,537
11-02-02 조회 3,087
11-02-02 조회 2,290
11-02-02 조회 2,364
11-02-02 조회 2,416
11-02-02 조회 2,416
11-02-01 조회 2,840
11-02-01 조회 2,501
11-01-31 조회 2,939
11-01-31 조회 2,688
11-01-31 조회 5,199
11-01-30 조회 2,983
11-01-30 조회 2,518
11-01-30 조회 2,727
11-01-30 조회 5,323
11-01-29 조회 3,140
11-01-29 조회 2,290
11-01-29 조회 2,680
11-01-29 조회 2,259
11-01-29 조회 2,933
11-01-29 조회 2,460
11-01-29 조회 4,351
11-01-29 조회 2,080
11-01-29 조회 2,545
11-01-28 조회 4,260
11-01-28 조회 2,274
11-01-28 조회 2,379
11-01-28 조회 2,614
11-01-28 조회 2,618
11-01-28 조회 2,238
11-01-27 조회 3,792
11-01-27 조회 2,276
11-01-27 조회 2,680
11-01-26 조회 1,783
11-01-26 조회 2,547
11-01-26 조회 2,492
11-01-26 조회 2,593
11-01-26 조회 4,428
11-01-26 조회 2,024
11-01-25 조회 2,279
11-01-25 조회 2,353
11-01-25 조회 2,861
11-01-24 조회 2,772
11-01-24 조회 3,820
11-01-24 조회 3,201
11-01-24 조회 2,884
11-01-23 조회 3,073
11-01-23 조회 4,532
11-01-22 조회 3,324
11-01-22 조회 2,711
11-01-22 조회 2,723
11-01-21 조회 2,487
11-01-21 조회 2,408
11-01-20 조회 2,285
11-01-20 조회 2,744
11-01-19 조회 2,299
11-01-19 조회 2,753
11-01-19 조회 2,402
11-01-19 조회 2,211
11-01-19 조회 2,481
11-01-19 조회 2,630
11-01-19 조회 2,352
11-01-19 조회 2,999
11-01-18 조회 2,641
11-01-18 조회 2,879
11-01-18 조회 2,626
11-01-18 조회 2,533
11-01-18 조회 2,609
11-01-17 조회 5,084
11-01-17 조회 2,381
11-01-14 조회 3,680
11-01-14 조회 5,107
11-01-14 조회 3,041
11-01-14 조회 2,987
11-01-14 조회 3,698
11-01-14 조회 2,872
11-01-14 조회 2,910
11-01-14 조회 3,057
11-01-13 조회 2,439
11-01-13 조회 3,360
11-01-13 조회 2,927
11-01-12 조회 2,446
11-01-12 조회 2,757
11-01-12 조회 2,397
11-01-12 조회 2,924
11-01-12 조회 2,300
11-01-12 조회 3,417
11-01-11 조회 2,518
11-01-10 조회 2,243
11-01-10 조회 2,692
11-01-09 조회 2,860
11-01-09 조회 2,631