FastDFS分布式文件系统
来源:互联网 发布:成为院士 知乎 编辑:程序博客网 时间:2024/06/05 06:25
FastDFS介绍
FastDFS(Fast Distributed File System)是一个开源的分布式文件系统,它对文件进行管理,功能包括:文件存储、文件同步、文件访问(文件上传、文件下载)等,解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务,如相册网站、视频网站等。
FastDFS服务端有两个角色:跟踪器(Tracker)和存储节点(Storage)。
- 跟踪器(Tracker)主要做调度工作,在访问上起负载均衡的作用。
- 存储节点(Storage)存储文件,完成文件管理的所有功能:存储、同步和共存取接口,FastDFS同时对文件的meta data进行管理。
所谓文件的meta data就是文件的相关属性,以键值对(key value pair)的方式表示。文件meta data是文件属性列表,可以包含多个键值对。
FastDFS原理
如上图所示,用户请求发生时,将由系统的跟踪器Tracker来处理请求并分配请求给存储节点。
当Client机更多时,对Tracker的请求压力将增大,因此可以配置多个Tracker来进行Tracker的负载均衡。同时,多个Tracker的存在,也保证了单点故障问题的解决。
而存储节点群(Storage Cluster)则分为多个服务组:
- 每组多台存储点,具备备份功能,防止数据损坏或首选存储点宕机,并且在高并发时提供更多的数据源,降低服务压力。
- 多组存储组,组合成集群,保证数据的分散存储,便于扩容,分散单机节点访问压力。
FastDFS的优点
经过上面的介绍,我们就可以看出相对于tomcat的本地存储方式,FastDFS所具备的一些优点:
- FastDFS不存在单点故障问题、支持容灾。
- 集群式搭建提高安全性。
- 保存图片过多时,支持扩容,分配合理 。
- 具有备份功能、不怕磁盘损坏。 有效解决并发问题。
分布式文件系统的配置文件
这里提供较为全面的分布式系统配置文件,文件名:fdfs_client.conf。内容如下:
其中,tracker_server配置项为系统所在服务器的IP:端口,端口默认为22122。
# connect timeout in seconds# default value is 30sconnect_timeout=30# network timeout in seconds# default value is 30snetwork_timeout=60# the base path to store log filesbase_path=/home/fastdfs# tracker_server can ocur more than once, and tracker_server format is# "host:port", host can be hostname or ip addresstracker_server=192.168.150.10:22122#standard log level as syslog, case insensitive, value list:### emerg for emergency### alert### crit for critical### error### warn for warning### notice### info### debuglog_level=info# if use connection pool# default value is false# since V4.05use_connection_pool = false# connections whose the idle time exceeds this time will be closed# unit: second# default value is 3600# since V4.05connection_pool_max_idle_time = 3600# if load FastDFS parameters from tracker server# since V4.05# default value is falseload_fdfs_parameters_from_tracker=false# if use storage ID instead of IP address# same as tracker.conf# valid only when load_fdfs_parameters_from_tracker is false# default value is false# since V4.05use_storage_id = false# specify storage ids filename, can use relative or absolute path# same as tracker.conf# valid only when load_fdfs_parameters_from_tracker is false# since V4.05storage_ids_filename = storage_ids.conf#HTTP settingshttp.tracker_server_port=80#use "#include" directive to include HTTP other settiongs##include http.conf
Java接口的实现
FastDFS提供了Java接口,maven项目坐标如下:
<dependency> <groupId>fastdfs_client</groupId> <artifactId>fastdfs_client</artifactId> <version>1.20</version></dependency>
工具类:
下面是我所写的工具类,因为实在SSM框架环境下使用,因此使用到了spring框架的ClassPathResource类。并且用到了commons.io的工具类。代码如下:
import org.apache.commons.io.FilenameUtils;import org.csource.common.NameValuePair;import org.csource.fastdfs.ClientGlobal;import org.csource.fastdfs.StorageClient1;import org.csource.fastdfs.StorageServer;import org.csource.fastdfs.TrackerClient;import org.csource.fastdfs.TrackerServer;import org.springframework.core.io.ClassPathResource;/** * FastDFS分布式文件系统 * 的文件上传工具类 * * @author leon_zhangxf * */public class FastDFSUtils { /** * * @param fileBytes 文件字节 * @param fileName 文件名 * @param fileSize 文件大小 * @return path 文件保存路径,相对于项目下 * @throws Exception */ public static String fastDFSPicUpload(byte[] fileBytes, String fileName, long fileSize) throws Exception { //1. 设置全局Tracker的IP ClassPathResource resource = new ClassPathResource("fdfs_client.conf"); ClientGlobal.init(resource.getClassLoader().getResource("fdfs_client.conf").getPath()); //2. 连接Tracker TrackerClient trackerClient = new TrackerClient(); //3. 获取Storage的地址 TrackerServer trackerServer = trackerClient.getConnection(); //4. 连接Storage的服务器 StorageServer storageServer = null; StorageClient1 storageClient1 = new StorageClient1(trackerServer, storageServer); //5. 上传图片 byte[] file_buff = fileBytes; String file_ext_name = FilenameUtils.getExtension(fileName); NameValuePair[] meta_list = new NameValuePair[3]; meta_list[0] = new NameValuePair("fileName", fileName); meta_list[1] = new NameValuePair("fileExtName", file_ext_name); meta_list[2] = new NameValuePair("fileSize", String.valueOf(fileSize)); String path = storageClient1.upload_file1(file_buff, file_ext_name, meta_list); //返回文件保存路径,相对于web容器和项目 return path; }}
相关资料请自行搜集,本笔记只提供入门。
- 分布式文件系统FastDFS
- 分布式文件系统 FastDFS
- 分布式文件系统FastDFS
- FastDFS分布式文件系统
- 分布式文件系统 FastDFS
- fastDFS分布式文件系统
- 分布式文件系统FastDFS
- FastDFS分布式文件系统简介
- 分布式文件系统FastDFS
- 分布式文件系统 FastDFS
- 分布式文件系统 FastDFS
- 分布式文件系统FastDFS详解
- 分布式文件系统—FastDFS
- 分布式文件系统FastDFS
- fastdfs分布式文件系统概述
- 分布式文件系统 FastDFS学习
- 分布式文件系统 FastDFS
- 轻量级分布式文件系统fastDFS
- c 风格字符串和string
- AES加密技术在文件与字符串上的应用
- ClassPathXmlApplicationContext的简单使用
- redhat linux tomcat 中文URL 404 错误解决方案
- Boost 库的构建工具
- FastDFS分布式文件系统
- 初学者的小小代码
- 梅森素数与lucas定理
- 内存管理之bootmem管理之内存分配
- 《Linux内核分析》-mykernel实验指导(操作系统是如何工作的)
- 微服务
- Android FrameWork学习(一)Android 7.0系统源码下载\编译
- 7744问题
- 浅谈动态规划(二)