python判断unicode是否是汉字,数字,英文,或者其他字符
来源:互联网 发布:淘宝助理和千牛 编辑:程序博客网 时间:2024/05/17 01:58
1.判断各种字符
下面这个小工具包含了 判断unicode是否是汉字,数字,英文,或者其他字符。 全角符号转半角符号。 unicode字符串归一化等工作。 还有一个能处理多音字的汉字转拼音的程序,还在整理中。
#!/usr/bin/env python
# -*- coding:GBK -*-
"""汉字处理的工具:
判断unicode是否是汉字,数字,英文,或者其他字符。
全角符号转半角符号。"""
def is_chinese(uchar):
"""判断一个unicode是否是汉字"""
if uchar >= u'\u4e00' and uchar<=u'\u9fa5':
return True
else:
return False
def is_number(uchar):
"""判断一个unicode是否是数字"""
if uchar >= u'\u0030' and uchar<=u'\u0039':
return True
else:
return False
def is_alphabet(uchar):
"""判断一个unicode是否是英文字母"""
if (uchar >= u'\u0041' and uchar<=u'\u005a') or (uchar >= u'\u0061' and uchar<=u'\u007a'):
return True
else:
return False
def is_other(uchar):
"""判断是否非汉字,数字和英文字符"""
if not (is_chinese(uchar) or is_number(uchar) or is_alphabet(uchar)):
return True
else:
return False
def B2Q(uchar):
"""半角转全角"""
inside_code=ord(uchar)
if inside_code<0x0020 or inside_code>0x7e: #不是半角字符就返回原来的字符
return uchar
if inside_code==0x0020: #除了空格其他的全角半角的公式为:半角=全角-0xfee0
inside_code=0x3000
else:
inside_code+=0xfee0
return unichr(inside_code)
def Q2B(uchar):
"""全角转半角"""
inside_code=ord(uchar)
if inside_code==0x3000:
inside_code=0x0020
else:
inside_code-=0xfee0
if inside_code<0x0020 or inside_code>0x7e: #转完之后不是半角字符返回原来的字符
return uchar
return unichr(inside_code)
def stringQ2B(ustring):
"""把字符串全角转半角"""
return "".join([Q2B(uchar) for uchar in ustring])
def uniform(ustring):
"""格式化字符串,完成全角转半角,大写转小写的工作"""
return stringQ2B(ustring).lower()
def string2List(ustring):
"""将ustring按照中文,字母,数字分开"""
retList=[]
utmp=[]
for uchar in ustring:
if is_other(uchar):
if len(utmp)==0:
continue
else:
retList.append("".join(utmp))
utmp=[]
else:
utmp.append(uchar)
if len(utmp)!=0:
retList.append("".join(utmp))
return retList
if __name__=="__main__":
#test Q2B and B2Q
for i in range(0x0020,0x007F):
print Q2B(B2Q(unichr(i))),B2Q(unichr(i))
#test uniform
ustring=u'中国 人名a高频A'
ustring=uniform(ustring)
ret=string2List(ustring)
2.去掉标点符号
- python判断unicode是否是汉字,数字,英文,或者其他字符
- python判断unicode是否是汉字,数字,英文,或者其他字符
- python判断unicode是否是汉字,数字,英文,或者其他字符
- python判断unicode是否是汉字,数字,英文,或者其他字符
- 判断unicode是否是汉字、数字、英文
- 判断字符是否是汉字
- 判断字符是否是汉字,ByteType字符串中判断是否英文
- VC判断一个UNICODE字符串中字母、数字、汉字、其他字符的个数
- iOS判断是否是中文或者英文
- 判断输入是否是纯数字,英文,汉字的函数源码
- unicode汉字、数字、英文等字符范围表示
- unicode程序中如何判断一个TCHAR字符是否是汉字
- 判断是否是汉字、字母、数字组成
- Java判断字符是否是汉字
- Java判断字符是否是汉字
- delphi判断字符是否是汉字
- Java 判断字符是否是中文汉字
- Android 判断字符是否是汉字
- 基于nio架构的可高扩展的服务器(Architecture of a highly scalable NIO-based server)
- 如何清楚描述spring
- [leetcode-86]Partition List(c)
- Objective-C_Block
- C++对象模型——Virtual Member Functions (虚拟成员函数)(第四章)
- python判断unicode是否是汉字,数字,英文,或者其他字符
- NSDate及NSDaterFormatter
- poj2886
- BestCoder Round #50 (div.2) hdu5366、5367(dp+动态线段树)
- 括号匹配问题
- html简单图片轮播的实现
- 深入理解JVM:JVM运行时数据区域分类
- wget使用cookies
- Hadoop简介