在自然語言處理過程中,全角、半角的的不一致會導致信息抽取不一致,因此需要統一。
轉換說明
全角半角轉換說明
有規律(不含空格):
全角字符unicode編碼從65281~65374 (十六進制 0xFF01 ~ 0xFF5E)
半角字符unicode編碼從33~126 (十六進制 0x21~ 0x7E)
特例:
空格比較特殊,全角爲 12288(0x3000),半角爲 32(0x20)
除空格外,全角/半角按unicode編碼排序在順序上是對應的(半角 + 0x7e= 全角),所以可以直接通過用+-法來處理非空格數據,對空格單獨處理。
注:
1. 中文文字永遠是全角,只有英文字母、數字鍵、符號鍵纔有全角半角的概念,一個字母或數字佔一個漢字的位置叫全角,佔半個漢字的位置叫半角。
2. 引號在中英文、全半角情況下是不同的
# -*- coding:utf-8 -*-
#py3
def strQ2B(ustring):
"""全角轉半角"""
rstring = ""
for uchar in ustring:
inside_code=ord(uchar)
if inside_code == 12288: #全角空格直接轉換
inside_code = 32
elif (inside_code >= 65281 and inside_code <= 65374): #全角字符(除空格)根據關係轉化
inside_code -= 65248
rstring += chr(inside_code)
return rstring
def strB2Q(ustring):
"""半角轉全角"""
rstring = ""
for uchar in ustring:
inside_code=ord(uchar)
if inside_code == 32: #半角空格直接轉化
inside_code = 12288
elif inside_code >= 32 and inside_code <= 126: #半角字符(除空格)根據關係轉化
inside_code += 65248
rstring += chr(inside_code)
return rstring
print(strQ2B("mn123abc"))
#mn123abc
print(strB2Q("mn123abc"))
#mn123abc