[PERL] 中文字字串拆解

URL Link http://n.sfs.tw/13167

2019-03-14 02:40:05 By 張○○

中文字串如果要逐字拆解,直接用split會得到一堆不知名的東西..

  $ln="精讚中文字字串";
  @wds= split //, $ln;

上網找了一堆方法,直到[1]給我靈感,他的說法是這串你看起來是中文字串的中文字串,其實在PERL裡面是一個個character組成的,直接把他拆了就會變成你看不懂的一些亂碼,你得先把他用 utf8的編碼給解開。我一直認為是要組合?所以邏輯上我還是沒有搞懂。

$ln=decode('utf8',$ln);

@wds= split //, $ln;

總之這樣是正確的運作了,但是…我還是真的想知道PERL到底是怎麼處理中文字的,在[5]的文章解釋非常的清楚。

UTF8 TAG

原來是靠一個utf8的tag來作判斷:

use  Encode;
my  $str  = "中國" ;
Encode::_utf8_on( $str );
print  length ( $str ) . "\n" ; #2
Encode::_utf8_off( $str );
print  length ( $str ) . "\n" ; #6

拆解檔中文字串

use Encode;

open(FILE, 'file.txt') or die "$!";
$n=0;
while($line= <FILE>){
  Encode::_utf8_on( $line );
  @wd =split //, $line;
  print "@wd";
}
close(FILE);

這樣就能正確的拆解了。

Wide character in print 錯誤

要解決一直出現的[2] Wide character in print at,你可以這樣子做:

use utf8;
binmode(STDOUT, ':encoding(utf8)');

 

結論

指定開啟 utf8 tag 來分割和剖析字串

設定輸出為utf8來避免警告。

最好不要使用 unicode

 

參考資料

[1] https://blog.csdn.net/guo40/article/details/4037052

[2] https://blog.wu-boy.com/2009/07/perl-with-utf-8-mode/

[3] https://dotblogs.com.tw/jimmyyu/2009/08/18/10113

[4] https://www.csie.ntu.edu.tw/~p92005/Joel/Unicode.html

[5] http://heavenchou.buddhason.org/node/225

[6] https://www.key-shortcut.com/en/writing-systems/%E6%96%87%E5%AD%97-chinese-cjk/cjk-characters-1/