perl處理中文

Perl從5.6開始已經開始在內部使用utf8編碼來表示字符，也就是說對中文以及其他語言字符的處理應該是完全沒有問題的。我們只需要利用好Encode這個模塊便能充分發揮Perl的utf8字符的優勢了。 

下面就以中文文本的處理爲例進行說明，比如有一個字符串"測試文本"，我們想要把這個中文字符串拆成單個字符，可以這樣寫： 

use Encode; 
$dat="測試文本"; 
$str=decode("gb2312",$dat); 
@chars=split //,$str; 
foreach $char (@chars) { 
print encode("gb2312",$char),"\n"; 
} 

結果大家試一試就知道了，應該是令人滿意的。 

這裏主要用到了Encode模塊的decode、encode函數。要了解這兩個函數的作用我們需要清楚幾個概念： 

1、Perl字符串是使用utf8編碼的，它由Unicode字符組成而不是單個字節，每個utf8編碼的Unicode字符佔1~4個字節（變長）。 

2、進入或離開Perl處理環境（比如輸出到屏幕、讀入和保存文件等等）時不是直接使用Perl字符串，而需要把Perl字符串轉換成字節流，轉換過程中使用何種編碼方式完全取決於你（或者由Perl代勞）。一旦Perl字符串向字節流的編碼完成，字符的概念就不存在了，變成了純粹的字節組合，如何解釋這些組合則是你自己的工作。 

我們可以看出如果想要Perl按照我們的字符概念來對待文本，文本數據就需要一直用Perl字符串的形式存放。但是我們平時寫出的每個字符一般都被作爲純ASCII字符保存（包括在程序中明文寫出的字符串），也就是字節流的形式，這裏就需要encode和decode函數的幫助了。 

encode函數顧名思義是用來編碼Perl字符串的。它將Perl字符串中的字符用指定的編碼格式編碼，最終轉化爲字節流的形式，因此和Perl處理環境之外的事物打交道經常需要它。其格式很簡單： 
$octets = encode(ENCODING, $string [, CHECK]) 

$string：　　Perl字符串 
encoding：　是給定的編碼方式 
$octets:　　是編碼之後的字節流 
check:　　　表示轉換時如何處理畸變字符（也就是Perl認不出來的字符）。一般不需使用 

編碼方式視語言環境的不同有很大變化，默認可以識別utf8、ascii、ascii-ctrl、 
iso-8859-1等。 

decode函數則是用來解碼字節流的。它按照你給出的編碼格式解釋給定的字節流，將其轉化爲使用utf8編碼的Perl字符串，一般來說從終端或者文件取得的文本數據都應該用decode轉換爲Perl字符串的形式。它的格式爲： 

$string = decode(ENCODING, $octets [, CHECK]) 
$string、ENCODING、$octets和CHECK的含義同上。 

現在就很容易理解上面寫的那段程序了。因爲字符串是用明文寫出的，存放的時候已經是字節流形式，喪失了本來的意義，所以首先就要用 decode函數將其轉換爲Perl字符串，由於漢字一般都用gb2312格式編碼，這裏decode也要使用gb2312編碼格式。轉換完成後Perl 對待字符的行爲就和我們一樣了，平時對字符串進行操作的函數基本上都能正確對字符進行處理，除了那些本來就把字符串當成一堆字節的函數（如vec、 pack、unpack等）。於是split就能把字符串切成單個字符了。最後由於在輸出的時候不能直接使用utf8編碼的字符串，還需要將切割後的字符用encode函數編碼爲gb2312格式的字節流，再用print輸出。