基于FDFS的文件系统设计

FDFS介绍

FastDFS是一个开源的轻量级分布式文件系统，它对文件进行管理，功能包括：文件存储、文件同步、文件访问（文件上传、文件下载）等，解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务，如相册网站、视频网站等等。
FastDFS为互联网量身定制，充分考虑了冗余备份、负载均衡、线性扩容等机制，并注重高可用、高性能等指标，使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。

1. FDFS原理与过程

1.1. FDFS系统结构

描述
1) 跟踪器和存储节点都可以由一台多台服务器构成。跟踪器和存储节点中的服务器均可以随时增加或下线而不会影响线上服务。其中跟踪器中的所有服务器都是对等的，可以根据服务器的压力情况随时增加或减少。
2) 为了支持大容量，存储节点（服务器）采用了分卷（或分组）的组织方式。存储系统由一个或多个卷组成，卷与卷之间的文件是相互独立的，所有卷的文件容量累加就是整个存储系统中的文件容量。一个卷可以由一台或多台存储服务器组成，一个卷下的存储服务器中的文件都是相同的，卷中的多台存储服务器起到了冗余备份和负载均衡的作用。
3) 在卷中增加服务器时，同步已有的文件由系统自动完成，同步完成后，系统自动将新增服务器切换到线上提供服务。
4) 当存储空间不足或即将耗尽时，可以动态添加卷。只需要增加一台或多台服务器，并将它们配置为一个新的卷，这样就扩大了存储系统的容量。
5) FDFS中的文件标识分为两个部分：卷名和文件名，二者缺一不可。

1.2. FDFS文件上传交互过程

描述
1) client询问tracker上传到的storage，不需要附加参数；
2) tracker返回一台可用的storage；
3) client直接和storage通讯完成文件上传。

1.3. FDFS文件下载交互过程

描述
1) client询问tracker下载文件的storage，参数为文件标识（卷名和文件名）；
2) tracker返回一台可用的storage；
3) client直接和storage通讯完成文件下载。
4) 需要说明的是client为使用FastDFS服务的调用方，client也应该是一台服务器，它对tracker和storage的调用均为服务器间的调用。

2. 服务部署

描述
1) 文件下载，利用keepalive和nginx做主主备份，对外只暴露一个ip地址，使用HTTPS安全连接。
2) 文件上传，服务端文件上传只允许内网访问，降低安全隐患；基于fastdfs开发，通过Tracker进行负载均衡，直接上传到负载较低的Storage服务器上，避免对下载接口带宽的占用。（fastdfs会利用空闲时间，把上传的文件同步到同组的其他Storage服务器上）