搭建FastDFS文件上传服务器

大家好，欢迎来到IT知识分享网。

一、FastDFS介绍

1、简介

2、FastDFS的存储策略

3、FastDFS的上传过程

4、FastDFS的文件同步

5、FastDFS的文件下载

二、安装FastDFS环境

0、服务器规划

1、安装所需的依赖包

# yum install make cmake gcc gcc-c++  
 
 
 
 
  
1
 
 

2、下载安装 libfastcommon

# wget https://github.com/happyfish100/libfastcommon/archive/V1.0.7.tar.gz 
 
 
 
 
  
1
 
 

② 解压

# tar -zxvf V1.0.7.tar.gz # cd libfastcommon-1.0.7 
 
 
 
 
  
1
 
  
2
 
 

③ 编译、安装

# ./make.sh # ./make.sh install 
 
 
 
 
  
1
 
  
2
 
 

④ libfastcommon.so 安装到了/usr/lib64/libfastcommon.so，但是FastDFS主程序设置的lib目录是/usr/local/lib，所以需要创建软链接。

# ln -s /usr/lib64/libfastcommon.so /usr/local/lib/libfastcommon.so # ln -s /usr/lib64/libfastcommon.so /usr/lib/libfastcommon.so # ln -s /usr/lib64/libfdfsclient.so /usr/local/lib/libfdfsclient.so # ln -s /usr/lib64/libfdfsclient.so /usr/lib/libfdfsclient.so  
 
 
 
 
  
1
 
  
2
 
  
3
 
  
4
 
 

3、下载安装FastDFS

① 下载FastDFS

# wget https://github.com/happyfish100/fastdfs/archive/V5.05.tar.gz 
 
 
 
 
  
1
 
 

② 解压

# cd ~ # tar -zxvf V5.05.tar.gz # cd fastdfs-5.05 
 
 
 
 
  
1
 
  
2
 
  
3
 
 

③ 编译、安装

# ./make.sh # ./make.sh install 
 
 
 
 
  
1
 
  
2
 
 

④ 默认安装方式安装后的相应文件与目录

A、服务脚本： /etc/init.d/fdfs_storaged /etc/init.d/fdfs_tracker 
 
 
 
 
  
1
 
  
2
 
  
3
 
 

B、配置文件（这三个是作者给的样例配置文件） : /etc/fdfs/client.conf.sample /etc/fdfs/storage.conf.sample /etc/fdfs/tracker.conf.sample 
 
 
 
 
  
1
 
  
2
 
  
3
 
  
4
 
 

C、命令工具在 /usr/bin/ 目录下： fdfs_appender_test fdfs_appender_test1 fdfs_append_file fdfs_crc32 fdfs_delete_file fdfs_download_file fdfs_file_info fdfs_monitor fdfs_storaged fdfs_test fdfs_test1 fdfs_trackerd fdfs_upload_appender fdfs_upload_file stop.sh restart.sh 
 
 
 
 
  
1
 
  
2
 
  
3
 
  
4
 
  
5
 
  
6
 
  
7
 
  
8
 
  
9
 
  
10
 
  
11
 
  
12
 
  
13
 
  
14
 
  
15
 
  
16
 
  
17
 
 

# vi /etc/init.d/fdfs_storaged 使用替换命令统一修改（进入命令行模式：%s+/usr/local/bin+/usr/bin） # vi /etc/init.d/fdfs_trackerd 使用替换命令统一修改（进入命令行模式：%s+/usr/local/bin+/usr/bin） 
 
 
 
 
  
1
 
  
2
 
  
3
 
  
4
 
 

       ☞2:建立/usr/bin 到 /usr/local/bin 的软链接

# ln -s /usr/bin/fdfs_trackerd /usr/local/bin # ln -s /usr/bin/fdfs_storaged /usr/local/bin # ln -s /usr/bin/stop.sh /usr/local/bin # ln -s /usr/bin/restart.sh /usr/local/bin 
 
 
 
 
  
1
 
  
2
 
  
3
 
  
4
 
 

4、配置FastDFS跟踪器(Tracker)

# cd /etc/fdfs # cp tracker.conf.sample tracker.conf # vi tracker.conf 
 
 
 
 
  
1
 
  
2
 
  
3
 
 

② 编辑tracker.conf ，其它的默认即可。

# 配置文件是否不生效，false 为生效 disabled=false # 提供服务的端口 port=22122 # Tracker 数据和日志目录地址(根目录必须存在,子目录会自动创建) base_path=/home/fastdfs/tracker # HTTP 服务端口 http.server_port=80 
 
 
 
 
  
1
 
  
2
 
  
3
 
  
4
 
  
5
 
  
6
 
  
7
 
  
8
 
  
9
 
  
10
 
  
11
 
 

③ 创建tracker基础数据目录，即base_path对应的目录

# mkdir -p /home/fastdfs/tracker 
 
 
 
 
  
1
 
 

④ 防火墙中打开跟踪端口（默认的22122）

# vi /etc/sysconfig/iptables 添加如下端口行： -A INPUT -m state --state NEW -m tcp -p tcp --dport 22122 -j ACCEPT 重启防火墙： # service iptables restart 
 
 
 
 
  
1
 
  
2
 
  
3
 
  
4
 
  
5
 
  
6
 
  
7
 
 

可以用这种方式启动 # /etc/init.d/fdfs_trackerd start 也可以用这种方式启动，前提是上面创建了软链接，后面都用这种方式 # service fdfs_trackerd start 
 
 
 
 
  
1
 
  
2
 
  
3
 
  
4
 
  
5
 
 

查看 FastDFS Tracker 是否已成功启动 ，22122端口正在被监听，则算是Tracker服务安装成功。

# netstat -unltp|grep fdfs 
 
 
 
 
  
1
 
 

关闭Tracker命令：

# service fdfs_trackerd stop 
 
 
 
 
  
1
 
 

⑥ 设置Tracker开机启动

# chkconfig fdfs_trackerd on 或者： # vi /etc/rc.d/rc.local 加入配置： /etc/init.d/fdfs_trackerd start  
 
 
 
 
  
1
 
  
2
 
  
3
 
  
4
 
  
5
 
  
6
 
 

${base_path} |__data | |__storage_groups.dat：存储分组信息 | |__storage_servers.dat：存储服务器列表 |__logs | |__trackerd.log： tracker server 日志文件  
 
 
 
 
  
1
 
  
2
 
  
3
 
  
4
 
  
5
 
  
6
 
 

5、配置 FastDFS 存储 (Storage)

① 进入 /etc/fdfs 目录，复制 FastDFS 存储器样例配置文件 storage.conf.sample，并重命名为 storage.conf

# cd /etc/fdfs # cp storage.conf.sample storage.conf # vi storage.conf 
 
 
 
 
  
1
 
  
2
 
  
3
 
 

# 配置文件是否不生效，false 为生效 disabled=false # 指定此 storage server 所在 组(卷) group_name=group1 # storage server 服务端口 port=23000 # 心跳间隔时间，单位为秒 (这里是指主动向 tracker server 发送心跳) heart_beat_interval=30 # Storage 数据和日志目录地址(根目录必须存在，子目录会自动生成) base_path=/home/fastdfs/storage --需要修改，默认也可-- # 存放文件时 storage server 支持多个路径。这里配置存放文件的基路径数目，通常只配一个目录。 store_path_count=1 # 逐一配置 store_path_count 个路径，索引号基于 0。 # 如果不配置 store_path0，那它就和 base_path 对应的路径一样。 store_path0=/home/fastdfs/file --需要修改，默认也可-- # FastDFS 存储文件时，采用了两级目录。这里配置存放文件的目录个数。  # 如果本参数只为 N（如： 256），那么 storage server 在初次运行时，会在 store_path 下自动创建 N * N 个存放文件的子目录。 subdir_count_per_path=256 # tracker_server 的列表 ，会主动连接 tracker_server # 有多个 tracker server 时，每个 tracker server 写一行 tracker_server=192.168.2.125:22122 --需要修改-- # 允许系统同步的时间段 (默认是全天) 。一般用于避免高峰同步产生一些问题而设定。 sync_start_time=00:00 sync_end_time=23:59 # 访问端口 http.server_port=80 --需要修改，对应tracker配置的http端口-- 
 
 
 
 
  
1
 
  
2
 
  
3
 
  
4
 
  
5
 
  
6
 
  
7
 
  
8
 
  
9
 
  
10
 
  
11
 
  
12
 
  
13
 
  
14
 
  
15
 
  
16
 
  
17
 
  
18
 
  
19
 
  
20
 
  
21
 
  
22
 
  
23
 
  
24
 
  
25
 
  
26
 
  
27
 
  
28
 
  
29
 
  
30
 
  
31
 
  
32
 
  
33
 
  
34
 
  
35
 
  
36
 
 

③ 创建Storage基础数据目录，对应上述配置文件所配置的目录

# 这是配置的base_path路径 # mkdir -p /home/fastdfs/storage # 这是配置的store_path0路径 # mkdir -p /home/fastdfs/file 
 
 
 
 
  
1
 
  
2
 
  
3
 
  
4
 
  
5
 
 

④ 防火墙中打开存储器端口（默认的 23000）

# vi /etc/sysconfig/iptables 添加如下端口行： -A INPUT -m state --state NEW -m tcp -p tcp --dport 23000 -j ACCEPT 重启防火墙： # service iptables restart 
 
 
 
 
  
1
 
  
2
 
  
3
 
  
4
 
  
5
 
  
6
 
  
7
 
 

⑤ 启动 Storage
启动Storage前确保Tracker是启动的。初次启动成功，会在 /home/fastdfs/storage 目录下创建 data、 logs 两个目录。

可以用这种方式启动 # /etc/init.d/fdfs_storaged start 也可以用这种方式，后面都用这种 # service fdfs_storaged start 
 
 
 
 
  
1
 
  
2
 
  
3
 
  
4
 
  
5
 
 

查看 Storage 是否成功启动，23000 端口正在被监听，就算 Storage 启动成功。

# netstat -unltp|grep fdfs 
 
 
 
 
  
1
 
 

关闭Storage命令：

# service fdfs_storaged stop 
 
 
 
 
  
1
 
 

查看Storage和Tracker是否在通信：

/usr/bin/fdfs_monitor /etc/fdfs/storage.conf 
 
 
 
 
  
1
 
 

⑥ 设置 Storage 开机启动

# chkconfig fdfs_storaged on 或者： # vi /etc/rc.d/rc.local 加入配置： /etc/init.d/fdfs_storaged start 
 
 
 
 
  
1
 
  
2
 
  
3
 
  
4
 
  
5
 
  
6
 
 

6、文件上传测试

① 修改 Tracker 服务器中的客户端配置文件

# cd /etc/fdfs # cp client.conf.sample client.conf # vi client.conf 
 
 
 
 
  
1
 
  
2
 
  
3
 
 

修改如下配置即可，其它默认。

# Client 的数据和日志目录 base_path=/home/fastdfs/client # Tracker端口 tracker_server=192.168.2.125:22122 
 
 
 
 
  
1
 
  
2
 
  
3
 
  
4
 
  
5
 
 

创建配置的目录

# mkdir -p /home/fastdfs/client 
 
 
 
 
  
1
 
 

# /usr/bin/fdfs_upload_file /etc/fdfs/client.conf test.jpg 
 
 
 
 
  
1
 
 

三、安装Nginx

1、安装nginx所需环境

# yum install -y pcre pcre-devel 
 
 
 
 
  
1
 
 

③ zlib 安装

# yum install -y zlib zlib-devel 
 
 
 
 
  
1
 
 

④ OpenSSL 安装

# yum install -y openssl openssl-devel 
 
 
 
 
  
1
 
 

2、安装Nginx

① 下载nginx

# wget -c https://nginx.org/download/nginx-1.12.1.tar.gz 
 
 
 
 
  
1
 
 

② 解压

# tar -zxvf nginx-1.12.1.tar.gz # cd nginx-1.12.1 
 
 
 
 
  
1
 
  
2
 
 

③ 使用默认配置

# ./configure 
 
 
 
 
  
1
 
 

④ 编译、安装

# make # make install 
 
 
 
 
  
1
 
  
2
 
 

⑤ 启动nginx

# /usr/local/nginx/sbin/nginx 
 
 
 
 
  
1
 
 

其它命令

# /usr/local/nginx/sbin/nginx -s stop # /usr/local/nginx/sbin/nginx -s quit # /usr/local/nginx/sbin/nginx -s reload 
 
 
 
 
  
1
 
  
2
 
  
3
 
 

⑥ 设置开机启动

# vi /etc/rc.local 添加一行： /usr/local/nginx/sbin/nginx 
 
 
 
 
  
1
 
  
2
 
  
3
 
 

⑦ 查看nginx的版本及模块

/usr/local/nginx/sbin/nginx -V 
 
 
 
 
  
1
 
 

⑧ 防火墙中打开Nginx端口（默认的 80）

# vi /etc/sysconfig/iptables 添加如下端口行： -A INPUT -m state --state NEW -m tcp -p tcp --dport 80 -j ACCEPT 重启防火墙： # service iptables restart 
 
 
 
 
  
1
 
  
2
 
  
3
 
  
4
 
  
5
 
  
6
 
  
7
 
 

3、访问文件

① 修改nginx.conf

# vi /usr/local/nginx/conf/nginx.conf 添加如下行，将 /group1/M00 映射到 /home/fastdfs/file/data location /group1/M00 { alias /home/fastdfs/file/data; } # 重启nginx # /usr/local/nginx/sbin/nginx -s reload 
 
 
 
 
  
1
 
  
2
 
  
3
 
  
4
 
  
5
 
  
6
 
  
7
 
  
8
 
  
9
 
 

② 在浏览器访问之前上传的图片、成功。
http://192.168.2.125:80/group1/M00/00/00/wKgCfVseZceAd9P1AAO9QRktgHc307.jpg

四、FastDFS 配置 Nginx 模块

1、安装配置Nginx模块

# 这里为啥这么长一串呢，因为最新版的master与当前nginx有些版本问题。 # wget https://github.com/happyfish100/fastdfs-nginx-module/archive/5e5f3566bbfa57418b5506aaefbe107a42c9fcb1.zip # 解压 # unzip 5e5f3566bbfa57418b5506aaefbe107a42c9fcb1.zip # 重命名 # mv fastdfs-nginx-module-5e5f3566bbfa57418b5506aaefbe107a42c9fcb1 fastdfs-nginx-module-master 
 
 
 
 
  
1
 
  
2
 
  
3
 
  
4
 
  
5
 
  
6
 
  
7
 
  
8
 
 

# 先停掉nginx服务 # /usr/local/nginx/sbin/nginx -s stop 进入解压包目录 # cd ~/nginx-1.12.1/ # 添加模块 # ./configure --add-module=../fastdfs-nginx-module-master/src 重新编译、安装 # make && make install 
 
 
 
 
  
1
 
  
2
 
  
3
 
  
4
 
  
5
 
  
6
 
  
7
 
  
8
 
  
9
 
  
10
 
  
11
 
 

④ 查看Nginx的模块

# /usr/local/nginx/sbin/nginx -V 
 
 
 
 
  
1
 
 

# cd ~/fastdfs-nginx-module-master/src # cp mod_fastdfs.conf /etc/fdfs/ # vi /etc/fdfs/mod_fastdfs.conf  
 
 
 
 
  
1
 
  
2
 
  
3
 
  
4
 
  
5
 
 

修改如下配置，其它默认

# 连接超时时间 connect_timeout=10 --根据需要修改-- # Tracker Server tracker_server=192.168.2。125:22122 --修改为自己的ip-- # StorageServer 默认端口 storage_server_port=23000 # 如果文件ID的uri中包含/group，则要设置为true url_have_group_name = true --需要修改-- # Storage 配置的store_path0路径，必须和storage.conf中的一致 store_path0=/home/fastdfs/file --需要修改-- 
 
 
 
 
  
1
 
  
2
 
  
3
 
  
4
 
  
5
 
  
6
 
  
7
 
  
8
 
  
9
 
  
10
 
  
11
 
  
12
 
  
13
 
  
14
 
 

⑥ 复制 FastDFS 的部分配置文件到/etc/fdfs 目录

# cd ~/fastdfs-5.05/conf/ # cp anti-steal.jpg http.conf mime.types /etc/fdfs/ 
 
 
 
 
  
1
 
  
2
 
  
3
 
 

⑦ 配置nginx，修改nginx.conf

# vi /usr/local/nginx/conf/nginx.conf 
 
 
 
 
  
1
 
 

在80端口下添加fastdfs-nginx模块

location ~/group([0-9])/M00 { ngx_fastdfs_module; } 
 
 
 
 
  
1
 
  
2
 
  
3
 
 

注意：
       listen 80 端口值是要与 /etc/fdfs/storage.conf 中的 http.server_port=80 (前面改成80了)相对应。如果改成其它端口，则需要统一，同时在防火墙中打开该端口。
       location 的配置，如果有多个group则配置location ~/group([0-9])/M00 ，没有则不用配group。
⑧ 在/home/fastdfs/file 文件存储目录下创建软连接，将其链接到实际存放数据的目录，这一步可以省略。

# ln -s /home/fastdfs/file/data/ /home/fastdfs/file/data/M00/  
 
 
 
 
  
1
 
 

五、Java客户端

前面文件系统平台搭建好了，现在就要写客户端代码在系统中实现上传下载。

1、首先需要搭建 FastDFS 客户端Java开发环境

① 项目中使用maven进行依赖管理，可以在pom.xml中引入如下依赖即可：

<dependency> <groupId>net.oschina.zcx7878</groupId> <artifactId>fastdfs-client-java</artifactId> <version>1.27.0.0</version> </dependency> 
 
 
 
 
  
1
 
  
2
 
  
3
 
  
4
 
  
5
 
 

② 引入配置文件

 FastDFS-Client Start  # 文件服务器地址 file_server_addr=192.168.2.125:80 # 最大连接数 并发量较大的话可加大该连接数 max_storage_connection=8  fastdfs为前缀的是FastDFS的配置 fastdfs.connect_timeout_in_seconds=10 fastdfs.network_timeout_in_seconds=30 fastdfs.charset=UTF-8 # token 防盗链功能 fastdfs.http_anti_steal_token=fasle # 密钥 fastdfs.http_secret_key=HandFastDFSToken # TrackerServer port fastdfs.http_tracker_http_port=80  Tracker Server, if more than one, separate with "," # fastdfs.tracker_servers=10.0.11.201:22122,10.0.11.202:22122,10.0.11.203:22122 #fastdfs.tracker_servers=${tracker_server_addr}:22122 fastdfs.tracker_servers=192.168.2.125:22122  FastDFS-Client End  
 
 
 
 
  
1
 
  
2
 
  
3
 
  
4
 
  
5
 
  
6
 
  
7
 
  
8
 
  
9
 
  
10
 
  
11
 
  
12
 
  
13
 
  
14
 
  
15
 
  
16
 
  
17
 
  
18
 
  
19
 
  
20
 
  
21
 
  
22
 
  
23
 
  
24
 
  
25
 
  
26
 
  
27
 
 

2、FastDFS整合SpringMVC+layui Demo