scel2txt 搜狗scel格式转txt python3
来源:互联网 发布:皮皮麻将算法 编辑:程序博客网 时间:2024/06/05 07:28
由于原代码不适用python3且有大量bug
以及有函数没有必要使用且一些代码书写不太规范或冗余
所以我在原有的大框架基本不动的情况下作了大量的细节更改。
使得没有乱码出现,加入了文件夹导入等等。
使用时改掉输入输出路径即可
import structimport os# 由于原代码不适用python3且有大量bug# 以及有函数没有必要使用且一些代码书写不太规范或冗余# 所以本人在原有的大框架基本不动的情况下作了大量的细节更改。# 使得没有乱码出现,文件夹导入更方便等等。# Author:Ling Yue, Taiyuan U of Tech# Blog: http://blog.yueling.me# 原作者:# 搜狗的scel词库就是保存的文本的unicode编码,每两个字节一个字符(中文汉字或者英文字母)# 找出其每部分的偏移位置即可# 主要两部分# 1.全局拼音表,貌似是所有的拼音组合,字典序# 格式为(index,len,pinyin)的列表# index: 两个字节的整数 代表这个拼音的索引# len: 两个字节的整数 拼音的字节长度# pinyin: 当前的拼音,每个字符两个字节,总长len## 2.汉语词组表# 格式为(same,py_table_len,py_table,{word_len,word,ext_len,ext})的一个列表# same: 两个字节 整数 同音词数量# py_table_len: 两个字节 整数# py_table: 整数列表,每个整数两个字节,每个整数代表一个拼音的索引## word_len:两个字节 整数 代表中文词组字节数长度# word: 中文词组,每个中文汉字两个字节,总长度word_len# ext_len: 两个字节 整数 代表扩展信息的长度,好像都是10# ext: 扩展信息 前两个字节是一个整数(不知道是不是词频) 后八个字节全是0## {word_len,word,ext_len,ext} 一共重复same次 同音词 相同拼音表# 拼音表偏移,startPy = 0x1540;# 汉语词组表偏移startChinese = 0x2628;# 全局拼音表GPy_Table = {}# 解析结果# 元组(词频,拼音,中文词组)的列表GTable = []# 原始字节码转为字符串def byte2str(data): pos = 0 str = '' while pos < len(data): c = chr(struct.unpack('H', bytes([data[pos], data[pos + 1]]))[0]) if c != chr(0): str += c pos += 2 return str# 获取拼音表def getPyTable(data): data = data[4:] pos = 0 while pos < len(data): index = struct.unpack('H', bytes([data[pos],data[pos + 1]]))[0] pos += 2 lenPy = struct.unpack('H', bytes([data[pos], data[pos + 1]]))[0] pos += 2 py = byte2str(data[pos:pos + lenPy]) GPy_Table[index] = py pos += lenPy# 获取一个词组的拼音def getWordPy(data): pos = 0 ret = '' while pos < len(data): index = struct.unpack('H', bytes([data[pos], data[pos + 1]]))[0] ret += GPy_Table[index] pos += 2 return ret# 读取中文表def getChinese(data): pos = 0 while pos < len(data): # 同音词数量 same = struct.unpack('H', bytes([data[pos], data[pos + 1]]))[0] # 拼音索引表长度 pos += 2 py_table_len = struct.unpack('H', bytes([data[pos], data[pos + 1]]))[0] # 拼音索引表 pos += 2 py = getWordPy(data[pos: pos + py_table_len]) # 中文词组 pos += py_table_len for i in range(same): # 中文词组长度 c_len = struct.unpack('H', bytes([data[pos], data[pos + 1]]))[0] # 中文词组 pos += 2 word = byte2str(data[pos: pos + c_len]) # 扩展数据长度 pos += c_len ext_len = struct.unpack('H', bytes([data[pos], data[pos + 1]]))[0] # 词频 pos += 2 count = struct.unpack('H', bytes([data[pos], data[pos + 1]]))[0] # 保存 GTable.append((count, py, word)) # 到下个词的偏移位置 pos += ext_lendef scel2txt(file_name): print('-' * 60) with open(file_name, 'rb') as f: data = f.read() print("词库名:", byte2str(data[0x130:0x338])) # .encode('GB18030') print("词库类型:", byte2str(data[0x338:0x540])) print("描述信息:", byte2str(data[0x540:0xd40])) print("词库示例:", byte2str(data[0xd40:startPy])) getPyTable(data[startPy:startChinese]) getChinese(data[startChinese:])if __name__ == '__main__': # scel所在文件夹路径 in_path = "/Users/really/Documents/coal_dict" # 输出词典所在文件夹路径 out_path = "coal_dict.txt" fin = [fname for fname in os.listdir(in_path) if fname[-5:] == ".scel"] for f in fin: scel2txt(f) # 保存结果 with open(out_path, 'w', encoding='utf8') as f: f.writelines([word+'\n' for count, py, word in GTable])
参考代码框架原作者链接:http://blog.csdn.net/zhangzhenhu/article/details/7014271
阅读全文
0 0
- scel2txt 搜狗scel格式转txt python3
- scel转txt抽取词库
- 将搜狗词库.scel格式转化为.txt格式
- 将搜狗词库.scel格式转化为.txt格式
- 搜狗细胞词库处理代码(可用于scel转txt)
- python3 pdf 转 txt
- 使用java将搜狗词库.scel文件转化为.txt文件
- java解析搜狗词库scel文件到txt
- PDF转TXT格式
- 点云txt格式转pcd格式
- TXT格式转XML的python程序
- TXT格式转XML的python程序
- pdf格式的文件转换成txt格式怎么转
- robots.txt标准格式
- robots.txt的格式
- java txt 编码格式
- CmakeLists.txt 格式概览
- python3之输入输出格式
- 自然语言识别(1)--利用bosonNLP分析歌词感情
- 201710020117->unity中monosingleton
- Olympic Parade UVALive
- Python中解决Gensim找不到模块的问题
- C++继承
- scel2txt 搜狗scel格式转txt python3
- Git 下载安装 配置
- hdu5091 线段树扫描线
- oneinstack一键包Nginx php多版本共存配置全过程
- 使用mybatis的延迟加载
- 有关QT mingGW 5.4.2中的一些问题记录
- poj3088:Snowflake (Hash)
- Python 简单的模拟wireshark抓包工具
- Java设计模式——策略模式(Strategy Pattern)