搭建图片服务器FastDFS上传+naginx访问(Centos6.4)

来源:互联网 发布:python 模拟键盘鼠标 编辑:程序博客网 时间:2024/06/05 20:11

什么是FastDFS?

FastDFS是用c语言编写的一款开源的分布式文件系统。FastDFS为互联网量身定制,

充分考虑了冗余备份负载均衡线性扩容等机制,并注重高可用高性能等指标,

使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传下载等服务。

FastDFS架构:

FastDFS架构包括 Tracker server和Storage server。客户端请求Tracker server进行文件上传、下载,通过Tracker server调度最终由Storage server完成文件上传和下载。

Tracker server作用是负载均衡和调度,通过Tracker server在文件上传时可以根据一些策略找到Storage server提供文件上传服务。可以将tracker称为追踪服务器或调度服务器。

Storage server作用是文件存储,客户端上传的文件最终存储在Storage服务器上,Storage server没有实现自己的文件系统而是利用操作系统 的文件系统来管理文件。可以将

storage称为存储服务器。

服务端两个角色:

Tracker:管理集群,tracker也可以实现集群。每个tracker节点地位平等

收集Storage集群的状态。

Storage:实际保存文件

Storage分为多个组每个组之间保存的文件是不同的。每个组内部可以有多个成员组成员内部保存的内容是一样的组成员地位是一致的,没有主从的概念。

文件上传的流程:


文件索引信息包括:组名,虚拟磁盘路径,数据两级目录,文件名。

文件下载:

FastDFS+Nginx实现文件服务器

架构图


FastDFS--tracker安装

1.下载:

tracker和storage使用相同的安装包,下载地址:http://sourceforge.net/projects/FastDFS/或https://github.com/happyfish100/FastDFS(推荐)

             本教程下载:FastDFS_v5.05.tar.gz

2.FastDFS安装环境:

         FastDFS是C语言开发,建议在linux上运行,本教程使用Centos6.4作为安装环境。

         安装gcc:yum install gcc-c++

         安装libevent:yum -y install libevent

         安装libfastcommon:libfastcommon是FastDFS官方提供的,libfastcommon包含了FastDFS运行所需要的一些基础库。

         将libfastcommonV1.0.7.tar.gz拷贝至/usr/local/下,依次执行命令

                                 cd /usr/local

                                 tar -zxvf libfastcommonV1.0.7.tar.gz

                                 cd libfastcommon-1.0.7

                                 ./make.sh

                                 ./make.sh install

                    注意:libfastcommon安装好后会自动将库文件拷贝至/usr/lib64下,由于FastDFS程序引用usr/lib目录所以需要将/usr/lib64下的库文件拷贝至/usr/lib下。

                    要拷贝的文件:libfastcommon.so

         tracker编译安装:

                          将FastDFS_v5.05.tar.gz拷贝至/usr/local/下

                          tar -zxvf FastDFS_v5.05.tar.gz

                          cd FastDFS

                         ./make.sh

                        ./make.sh install

             安装成功将安装目录下的conf下的文件拷贝到/etc/fdfs/下

3.配置:

              安装成功后进入/etc/fdfs目录:

             拷贝一份新的tracker配置文件:

             cp tracker.conf.sample tracker.conf

             vi tracker.conf

             base_path=/home/yuqing/FastDFS 改为:base_path=/home/FastDFS

4.启动:

       /usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf restart

       启动的日志显示先停止5619进程(实际环境不是5619)再启动,如下图:


    注意:如果没有显示上图要注意是否正常停止原有进程。

设置开机自动启动:

       将运行命令行添加进文件:/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf restart

FastDFS--storage安装:

1.环境:

        安装libevent:同tracker安装

        安装libfastcommon:同tracker安装。

2.编译:

        storage编译安装:同tracker编译安装。

3.配置:

         安装成功后进入/etc/fdfs目录:

         拷贝一份新的storage配置文件:

                   cp storage.conf.sample storage.conf

        修改storage.conf

                   vi storage.conf
                  group_name=group1

        base_path=/home/yuqing/FastDFS改为:

                  base_path=/home/FastDFS

        store_path0=/home/yuqing/FastDFS改为:

                  store_path0=/home/FastDFS/fdfs_storage

       #如果有多个挂载磁盘则定义多个store_path,如下

               #store_path1=.....
               #store_path2=......

               tracker_server=192.168.101.3:22122 #配置tracker服务器:IP

        #如果有多个则配置多个tracker

               tracker_server=192.168.101.4:22122

4.启动:

                /usr/bin/fdfs_storaged /etc/fdfs/storage.conf restart
 启动的日志显示先停止8931进程(实际环境不是8931)再启动,如下图:

注意:如果没有显示上图要注意是否正常停止原有进程。

设置开机自动启动。

       vim /etc/rc.d/rc.local

将运行命令行添加进文件:

      /usr/bin/fdfs_storaged /etc/fdfs/storage.conf restart

上传图片测试:

通过fdfs_test程序:

FastDFS安装成功可通过/usr/bin/fdfs_test测试上传、下载等操作。

修改/etc/fdfs/client.conf

base_path=/home/fastdfstracker_server=192.168.101.3:22122

使用格式:

/usr/bin/fdfs_test 客户端配置文件地址 upload 上传文件

比如将/home下的图片上传到FastDFS中:

/usr/bin/fdfs_test /etc/fdfs/client.conf upload /home/tomcat.png

http://192.168.101.3/group1/M00/00/00/wKhlBVVY2M-AM_9DAAAT7-0xdqM485_big.png就是文件的下载路径。

对应storage服务器上的

/home/fastdfs/fdfs_storage/data/00/00/wKhlBVVY2M-AM_9DAAAT7-0xdqM485_big.png文件。

由于现在还没有和nginx整合无法使用http下载。

通过java Client API:

完整的测试方法参考测试源代码。

public class FastdfsClientTest {//客户端配置文件public String conf_filename = "F:\\workspace_indigo\\fastdfsClient\\src\\cn\\itcast\\fastdfs\\cliennt\\fdfs_client.conf";     //本地文件,要上传的文件public String local_filename = "F:\\develop\\upload\\linshiyaopinxinxi_20140423193847.xlsx";//上传文件    @Test     public void testUpload() {         for(int i=0;i<100;i++){        try {             ClientGlobal.init(conf_filename);             TrackerClient tracker = new TrackerClient();             TrackerServer trackerServer = tracker.getConnection();             StorageServer storageServer = null;             StorageClient storageClient = new StorageClient(trackerServer,                     storageServer);             NameValuePair nvp [] = new NameValuePair[]{                     new NameValuePair("item_id", "100010"),                     new NameValuePair("width", "80"),                    new NameValuePair("height", "90")            };             String fileIds[] = storageClient.upload_file(local_filename, null,                     nvp);             System.out.println(fileIds.length);             System.out.println("组名:" + fileIds[0]);             System.out.println("路径: " + fileIds[1]);         } catch (FileNotFoundException e) {             e.printStackTrace();         } catch (IOException e) {             e.printStackTrace();         } catch (Exception e) {e.printStackTrace();}     }    }}

FastDFS 和nginx整合:

在tracker上安装nginx:

nginx的安装细节参考nginx文档。

在每个tracker上安装nginx,的主要目的是做负载均衡及实现高可用。如果只有一台tracker服务器可以不配置nginx。

在Storage上安装nginx:

FastDFS-nginx-module

将FastDFS-nginx-module_v1.16.tar.gz传至/usr/local/下

cd /usr/local

tar -zxvf FastDFS-nginx-module_v1.16.tar.gz

cd FastDFS-nginx-module/src

修改config文件将/usr/local/路径改为/usr/


将FastDFS-nginx-module/src下的mod_FastDFS.conf拷贝至/etc/fdfs/下

cp mod_FastDFS.conf /etc/fdfs/

并修改mod_FastDFS.conf的内容:

vi /etc/fdfs/mod_FastDFS.conf

base_path=/home/FastDFS

tracker_server=192.168.101.3:22122

#tracker_server=192.168.101.4:22122(多个tracker配置多行)

url_have_group_name=true #url中包含group名称

store_path0=/home/FastDFS/fdfs_storage #指定文件存储路径

将libfdfsclient.so拷贝至/usr/lib下

cp /usr/lib64/libfdfsclient.so /usr/lib/

创建nginx/client目录

mkdir -p /var/temp/nginx/client

nginx安装:

添加FastDFS-nginx-module模块

./configure \--prefix=/usr/local/nginx \--pid-path=/var/run/nginx/nginx.pid \--lock-path=/var/lock/nginx.lock \--error-log-path=/var/log/nginx/error.log \--http-log-path=/var/log/nginx/access.log \--with-http_gzip_static_module \--http-client-body-temp-path=/var/temp/nginx/client \--http-proxy-temp-path=/var/temp/nginx/proxy \--http-fastcgi-temp-path=/var/temp/nginx/fastcgi \--http-uwsgi-temp-path=/var/temp/nginx/uwsgi \--http-scgi-temp-path=/var/temp/nginx/scgi \--add-module=/root/fastdfs-nginx-module/src

make

make install

nginx配置文件:

新建一个nginx配置文件nginx-fdfs.conf.

添加server:

server {        listen       80;        server_name  192.168.101.3;        location /group1/M00/{                #root /home/FastDFS/fdfs_storage/data;                ngx_fastdfs_module;        }}

说明:
server_name指定本机ip
location /group1/M00/:group1为nginx 服务FastDFS的分组名称,M00是FastDFS自动生成编号,对应store_path0=/home/FastDFS/fdfs_storage,如果FastDFS定义store_path1,这里就是M01

测试:

通过java客户端上传文件,使用浏览器访问,比如访问上传图片测试的文件:

访问storage:

http://192.168.101.3/group1/M00/00/00/wKhlBVVY2M-AM_9DAAAT7-0xdqM485_big.png

下一篇:项目中使用图片服务器FastDFS

阅读全文
0 0
原创粉丝点击