BSON格式解释

来源:互联网 发布:新浪微博签到数据抓取 编辑:程序博客网 时间:2024/05/16 00:32

BSON是由10gen开发的一个数据格式,目前主要用于MongoDB中,是MongoDB的数据存储格式。BSON基于JSON格式,选择JSON进行改造的原因主要是JSON的通用性及JSON的schemaless的特性。
BSON主要会实现以下三点目标:
1.更快的遍历速度
对JSON格式来说,太大的JSON结构会导致数据遍历非常慢。在JSON中,要跳过一个文档进行数据读取,需要对此文档进行扫描才行,需要进行麻烦的数据结构匹配,比如括号的匹配,而BSON对JSON的一大改进就是,它会将JSON的每一个元素的长度存在元素的头部,这样你只需要读取到元素长度就能直接seek到指定的点上进行读取了。
2.操作更简易
对JSON来说,数据存储是无类型的,比如你要修改基本一个值,从9到10,由于从一个字符变成了两个,所以可能其后面的所有内容都需要往后移一位才可以。而使用BSON,你可以指定这个列为数字列,那么无论数字从9长到10还是100,我们都只是在存储数字的那一位上进行修改,不会导致数据总长变大。当然,在MongoDB中,如果数字从整形增大到长整型,还是会导致数据总长变大的。
3.增加了额外的数据类型
JSON是一个很方便的数据交换格式,但是其类型比较有限。BSON在其基础上增加了“byte array”数据类型。这使得二进制的存储不再需要先base64转换后再存成JSON。大大减少了计算开销和数据大小。
当然,在有的时候,BSON相对JSON来说也并没有空间上的优势,比如对{“field”:7},在JSON的存储上7只使用了一个字节,而如果用BSON,那就是至少4个字节(32位)
目前在10gen的努力下,BSON已经有了针对多种语言的编码解码包。并且都是Apache 2 license下开源的。并且还在随着MongoDB进一步地发展。
BSON这种格式是专门为MongoDB而开发的,类似json的一种二进制格式。
这种格式不一定比json存储的文件小,其优点是解释快。

官方说明文档:
http://bsonspec.org/#/specification

下面简单列举下:
基本类型都是小端存储。
基本类型:
byte 1字节(8位)
int32 4字节 (32位的有符号整数)
int64 8字节 (64柆的有符号整数)
double 8字节 (64柆的浮点数)
高级类型:
document
::=
int32 e_list “\x00”
BSON Document
文档=文档的长度+元素列表+”\x00”
e_list
::=
element e_list
Sequence of elements
元素列表=一个元素 + 元素列表

|
“”
或者是 “”
元素可以是不同类型,注意元素包含元素名,如”key”:”value”的类型是”\x02”,元素名是”key”。
element
::=
“\x01” e_name double
Floating point
“\x01”+元素名+double

|
“\x02” e_name string
UTF-8 string
\x02”+元素名+string

|
“\x03” e_name document
Embedded document
嵌入文档(子文档)

|
“\x04” e_name document
Array
数组,一种特殊的子文档

|
“\x05” e_name binary
Binary data
二进制数据

|
“\x06” e_name
Undefined — Deprecated
未使用的

|
“\x07” e_name (byte*12)
ObjectId
对象ID,即MongoDB中默认的”_id”的类型。12字节。

|
“\x08” e_name “\x00”
Boolean “false”

|
“\x08” e_name “\x01”
Boolean “true”

|
“\x09” e_name int64
UTC datetime

|
“\x0A” e_name
Null value

|
“\x0B” e_name cstring cstring
Regular expression

|
“\x0C” e_name string (byte*12)
DBPointer — Deprecated

|
“\x0D” e_name string
JavaScript code

|
“\x0E” e_name string
Symbol

|
“\x0F” e_name code_w_s
JavaScript code w/ scope

|
“\x10” e_name int32
32-bit Integer

|
“\x11” e_name int64
Timestamp

|
“\x12” e_name int64
64-bit integer

|
“\xFF” e_name
Min key

|
“\x7F” e_name
Max key
e_name
::=
cstring
Key name
string
::=
int32 (byte*) “\x00”
String
长度 + 内容 + ‘\0’
cstring
::=
(byte*) “\x00”
CString
内容 + “\0’
binary
::=
int32 subtype (byte*)
Binary
长度+二进制子类型的数据
subtype
::=
“\x00”
Binary / Generic
二进制数据的子类型的数据类型

|
“\x01”
Function

|
“\x02”
Binary (Old)

|
“\x03”
UUID

|
“\x05”
MD5

|
“\x80”
User defined
code_w_s
::=
int32 string document
Code w/ scope

要注意数组实际上也是一个子文档。如[“apple”, “banana”],实际上是{ “0” : “apple”, “1” : “banana”}。
数组之所以用”0”,”1”,”2”…来表示第几号元素,这样存储是可以节省空间。因为如果使用int,则会用到4个字节,考虑到数组的元素个数一般比较少。用”0”来表示第0个元素,只使用2个字节的空间。

官方例子详解:
官方网站上虽然有动态演示,不过还是可以详细解释下。
{“hello”: “world”} “\x16\x00\x00\x00\x02hello\x00\x06\x00\x00\x00world\x00\x00”

前面”\x16\x00\x00\x00” : 文档的长度,这里是小端表示,即文档的长度是22个字节
第5个字节:\x02 : 元素的类型,即”world”的类型是string,string类型 = 长度 + 内容 + ‘\0’,注意,这里指的是”world”的类型。
hello\x00 : 元素的名字,以”\0”结尾,在这里,元素的名字是hello。注意元素的名字是CString类型,不是String类型。即元素的名字是没有长度信息的。
x06\x00\x00\x00 : string类型的长度
world\x00 : string的内容和结尾的’\0’
最后一个”\x00” : 文档的结尾

{“BSON”: [“awesome”, 5.05, 1986]} → “1\x00\x00\x00\x04BSON\x00&\x00
\x00\x00\x020\x00\x08\x00\x00
\x00awesome\x00\x011\x00333333
\x14@\x102\x00\xc2\x07\x00\x00
\x00\x00”1\x00\x00\x00 : 文档的长度
第5个字节\x04 : 元素的类型,\x04,即数组类型
BSON\x00 : 元素的名字,以”\0”结尾,在这里,元素的名字是BSON
&\x00\x00\x00 : 数组即一个子文档,子文档的长度,这里子文档实际上是{“0”:”awesome”,”1”:5.05,”2”:1986}
\x02 : 元素的类型,即”awesome”的类型是string
0\x00 : 即”0”’\0’,即元素的名字是”0”,字符串以’\0’结尾
\x08\x00\x00\x00awesome\x00 : 长度 + “awesome” + ‘\0’
\x01 : 元素的类型,即5.05的类型是Floating point
1\x00 : 即”1”’\0’,即元素的名字是”1”
333333\x14@ : 即5.05
\x10 : 元素的类型,即1986的类型是32-bit Integer
2\x00 : 即”2”’\0’,即元素的名字是”2”
\xc2\x07\x00\x00 : 即1986
\x00 : 子文档,即数组的结尾
\x00 : 文档的结尾

总结:
我们可以看到BSON格式中,对子文档,数组都记录了其长度,所以可以快速地定位并解释数据。
同时,可以发现数组实际上就是特殊的子文档。
另外,我们在为元素起名时,应该尽量短,这样可以提高解释的效率。
比如 {“key” : “value”} 改为 { “k” : “value”} 。
BSON对UTF-8字符串友好。

0 0
原创粉丝点击