python解析 MS-Celeb-1M 数据库

我在微软下载人脸识别数据库 MS-Celeb-1M, 下载完的格式是 .tsv格式。看了数据库官网的文件格式说明：

---

File format: text files, each line is an image record containing 7 columns, delimited by TAB. 
Column1: Freebase MID 
Column2: ImageSearchRank 
Column3: ImageURL 
Column4: PageURL 
Column5: FaceID 
Column6: FaceRectangle_Base64Encoded (four floats, relative coordinates of UpperLeft and BottomRight corner) 
Column7: FaceData_Base64Encoded

---

我决定用Python件来解析这个.tsv文件，获取图片及相应的人脸信息。以下是解析代码：

import base64import structimport osdef readline(line):    MID,ImageSearchRank,ImageURL,PageURL,FaceID,FaceRectangle,FaceData=line.split("\t")    rect=struct.unpack("ffff",base64.b64decode(FaceRectangle))    return MID,ImageSearchRank,ImageURL,PageURL,FaceID,rect,base64.b64decode(FaceData)def writeImage(filename,data):    with open(filename,"wb") as f:        f.write(data)def unpack(filename,target="img"):    i=0    with open(filename,"r",encoding="utf-8") as f:        for line in f:            MID,ImageSearchRank,ImageURL,PageURL,FaceID,FaceRectangle,FaceData=readline(line)            img_dir=os.path.join(target,MID)            if not os.path.exists(img_dir):                os.mkdir(img_dir)            img_name="%s-%s"%(ImageSearchRank,FaceID)+".jpg"            writeImage(os.path.join(img_dir,img_name),FaceData)            i+=1            if i%1000==0:                print(i,"imgs finished")    print("all finished")    filename="MsCelebV1-Faces-Aligned.tsv" unpack(filename)
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31

tsv文件和csv文件是类似的，tsv的数据用Tab键分隔，csv文件用逗号分隔。根据说明文件，把每一行的信息读取出来

MID,ImageSearchRank,ImageURL,PageURL,FaceID,FaceRectangle,FaceData=line.split("\t")
1
1

人脸矩形框的位置信息是（左上点坐标，右下点坐标），用Base64编码的，格式为4个浮点数。

rect=struct.unpack("ffff",base64.b64decode(FaceRectangle))
1
1

人脸信息是用Base64编码的，需要解码，然后保存为图像：

data=base64.b64decode(FaceData)with open(filename,"wb") as f:    f.write(data)