1.應用領域:
全角和半角的轉換通常用在自然語言處理過程中,由於全角和半角的不一致會導致信息抽取不一致,在使用語料訓練語言模型會導致模型的效果不準確,所以需要統一。
2.全角半角轉換概述
- 全角字符unicode編碼範圍從65281~65374 (對應的十六進制範圍是: 0xFF01 ~ 0xFF5E)
- 半角字符unicode編碼範圍從33~126 (對應的十六進制範圍從 0x21~ 0x7E)
- 空格比較特殊,全角爲12288(0x3000),半角爲 32 (0x20)
- 除空格外, 全角/半角按unicode編碼排序在順序上是對應的(半角 +65248 = 全角 or 半角 + 0x7e= 全角 )
- 所以可以直接通過用±法來處理非空格數據,對空格單獨處理
3.請注意:
中文文字永遠是全角,只有英文字母、數字鍵、符號鍵纔有全角半角的概念。
一個字母或數字佔一個漢字的位置叫全角,佔半個漢字的位置叫半角。
引號在中英文、全半角情況下是不同的
4.應用到的庫函數
- chr()函數用一個範圍在range(256)內的(就是0~255)整數作參數,返回一個對應的字符。
- unichr()跟它一樣,只不過返回的是Unicode字符。
- ord()函數是chr()函數(對於8位的ASCII字符串)或unichr()函數(對於Unicode對象)的配對函數,它以一個字符(長度爲1的字符串)作爲參數,返回對應的ASCII數值,或者Unicode數值。
示例:
5.全角轉半角:
def strQ2B(ustring):
rstring = ""
for uchar in ustring:
inside_code = ord(uchar)
if inside_code == 12288: # 全角空格直接轉換
inside_code = 32
elif 65281 <= inside_code <= 65374: # 全角字符(除空格)根據關係轉化
inside_code -= 65248
rstring += chr(inside_code)
return rstring
str11 = strQ2B("電影《2012》講述了2012年12月21日的世界末日,主人公Jack以及世界各國人民掙扎求生的經歷!")
print(str11)
運行結果:
電影《2012》講述了2012年12月21日的世界末日,主人公Jack以及世界各國人民掙扎求生的經歷!
6.半角轉成全角:
def strB2Q(ustring):
"""半角轉全角"""
rstring = ""
for uchar in ustring:
inside_code = ord(uchar)
if inside_code == 32: # 半角空格直接轉化
inside_code = 12288
elif 32 <= inside_code <= 126: # 半角字符(除空格)根據關係轉化
inside_code += 65248
rstring += chr(inside_code)
return rstring
str22 = strB2Q("電影《2012》講述了2012年12月21日的世界末日,主人公Jack以及世界各國人民掙扎求生的經歷!")
print(str22)
運行結果:
電影《2012》講述了2012年12月21日的世界末日,主人公Jack以及世界各國人民掙扎求生的經歷!
說在後面:
下面的內容都是從網上整理出來,因爲曾經使用過,所以以後查詢起來比較方便。