FastDFS 安装和配置

0.参考
本文是在学习淘淘商城项目时记录的。主要是参考了淘淘商城视频及《Java 程序员眼中的 Linux》 https://github.com/judasn/Linux-Tutorial

1.什么是FastDFS
FastDFS是用c语言编写的一款开源的分布式文件系统。FastDFS为互联网量身定制,充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。

1.png

2.文件上传流程

2.png

3.文件下载流程

3.png

4.上传文件的文件名
客户端上传文件后存储服务器将文件ID返回给客户端,此文件ID用于以后访问该文件的索引信息。文件索引信息包括:组名,虚拟磁盘路径,数据两级目录,文件名。

clipboard.png

组名:文件上传后所在的storage组名称,在文件上传成功后有storage服务器返回,需要客户端自行保存。
虚拟磁盘路径:storage配置的虚拟路径,与磁盘选项store_path*对应。如果配置了store_path0则是M00,如果配置了store_path1则是M01,以此类推。
数据两级目录:storage服务器在每个虚拟磁盘路径下创建的两级目录,用于存储数据文件。

文件名:与文件上传时不同。是由存储服务器根据特定信息生成,文件名包含:源存储服务器IP地址、文件创建时间戳、文件大小、随机数和文件拓展名等信息。
5.FastDFS搭建

clipboard2.png

可以使用一台虚拟机来模拟,只有一个Tracker、一个Storage服务。配置nginx访问图片。
5.1 搭建步骤(单机安装部署CentOS 6.7 环境)

软件准备
FastDFS_v5.05.tar.gz
fastdfs-nginx-module_v1.16.tar.gz
libfastcommon-1.0.7.tar.gz

安装依赖包:yum install -y libevent
进入安装路径:cd /usr/local
创建fastFDS文件夹:mkdir fastFDS
进入fastFDS文件夹:cd fastFDS
安装 libfastcommon-1.0.7.tar.gz
下载:wget https://github.com/happyfish100/libfastcommon/archive/V1.0.7.tar.gz
修改名字:mv V1.0.7 libfastcommon-1.0.7.tar.gz
解压:tar zxvf libfastcommon-1.0.7.tar.gz
进入解压后目录:cd libfastcommon-1.0.7/
编译:./make.sh
安装:./make.sh install
设置几个软链接:ln -s /usr/lib64/libfastcommon.so /usr/local/lib/libfastcommon.so
设置几个软链接:ln -s /usr/lib64/libfastcommon.so /usr/lib/libfastcommon.so
设置几个软链接:ln -s /usr/lib64/libfdfsclient.so /usr/local/lib/libfdfsclient.so
设置几个软链接:ln -s /usr/lib64/libfdfsclient.so /usr/lib/libfdfsclient.so

安装 tracker (跟踪器)服务 FastDFS_v5.05.tar.gz
下载:wget https://github.com/happyfish100/fastdfs/archive/V5.05.tar.gz
修改名字:mv V5.05 FastDFS_v5.05.tar.gz
解压:tar zxvf FastDFS_v5.05.tar.gz
进入解压后目录:cd fastdfs-5.05/
编译:./make.sh
安装:./make.sh install
安装结果:

/usr/bin 存放有编译出来的文件/etc/fdfs 存放有配置文件
配置 tracker 服务
复制一份配置文件:cp /etc/fdfs/tracker.conf.sample /etc/fdfs/tracker.conf
编辑:vim /etc/fdfs/tracker.conf,编辑内容看下面中文注释
<pre>
disabled=false
bind_addr=
port=22122
connect_timeout=30
network_timeout=60

下面这个路径是保存 store data 和 log 的地方,需要改下,指向我们一个存在的目录

创建目录:mkdir -p /opt/fastdfs/tracker/data-and-log

base_path=/opt/fastdfs/tracker/data-and-log
max_connections=256
accept_threads=1
work_threads=4
store_lookup=2
store_group=group2
store_server=0
store_path=0
download_server=0
reserved_storage_space = 10%
log_level=info
run_by_group=
run_by_user=
allow_hosts=*
sync_log_buff_interval = 10
check_active_interval = 120
thread_stack_size = 64KB
storage_ip_changed_auto_adjust = true
storage_sync_file_max_delay = 86400
storage_sync_file_max_time = 300
use_trunk_file = false
slot_min_size = 256
slot_max_size = 16MB
trunk_file_size = 64MB
trunk_create_file_advance = false
trunk_create_file_time_base = 02:00
trunk_create_file_interval = 86400
trunk_create_file_space_threshold = 20G
trunk_init_check_occupying = false
trunk_init_reload_from_binlog = false
trunk_compress_binlog_min_interval = 0
use_storage_id = false
storage_ids_filename = storage_ids.conf
id_type_in_filename = ip
store_slave_file_use_link = false
rotate_error_log = false
error_log_rotate_time=00:00
rotate_error_log_size = 0
log_file_keep_days = 0
use_connection_pool = false
connection_pool_max_idle_time = 3600
http.server_port=8080
http.check_alive_interval=30
http.check_alive_type=tcp
http.check_alive_uri=/status.html
</pre>

启动 tracker 服务:/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf
重启 tracker 服务:/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf restart
查看是否有 tracker 进程:ps aux | grep tracker

storage (存储节点)服务部署
一般 storage 服务我们会单独装一台机子,但是这里为了方便我们安装在同一台。
如果 storage 单独安装的话,那上面安装的所有步骤都要在走一遍,只是到了编辑配置文件的时候,编辑的是 storage.conf 而已
复制一份配置文件:cp /etc/fdfs/storage.conf.sample /etc/fdfs/storage.conf
编辑:vim /etc/fdfs/storage.conf,编辑内容看下面中文注释

<pre>

disabled=false
group_name=group1
bind_addr=
client_bind=true
port=23000
connect_timeout=30
network_timeout=60
heart_beat_interval=30
stat_report_interval=60

下面这个路径是保存 store data 和 log 的地方,需要改下,指向一个存在的目录

创建目录:mkdir -p /opt/fastdfs/storage/data-and-logbase_path=/opt/fastdfs/storage/data-and-log

max_connections=256
buff_size = 256KB
accept_threads=1
work_threads=4
disk_rw_separated = true
disk_reader_threads = 1
disk_writer_threads = 1
sync_wait_msec=50
sync_interval=0
sync_start_time=00:00
sync_end_time=23:59
write_mark_file_freq=500
store_path_count=1

图片实际存放路径,如果有多个,这里可以有多行:

store_path0=/opt/fastdfs/storage/images-data0

store_path1=/opt/fastdfs/storage/images-data1

store_path2=/opt/fastdfs/storage/images-data2

创建目录:mkdir -p /opt/fastdfs/storage/images-datastore_path0=/opt/fastdfs/storage/images-data

subdir_count_per_path=256

指定 tracker 服务器的 IP 和端口

tracker_server=192.168.1.114:22122
log_level=info
run_by_group=
run_by_user=
allow_hosts=*
file_distribute_path_mode=0
file_distribute_rotate_count=100
fsync_after_written_bytes=0
sync_log_buff_interval=10
sync_binlog_buff_interval=10
sync_stat_file_interval=300
thread_stack_size=512KB
upload_priority=10
if_alias_prefix=
check_file_duplicate=0
file_signature_method=hash
key_namespace=FastDFS
keep_alive=0
use_access_log = false
rotate_access_log = false
access_log_rotate_time=00:00
rotate_error_log = false
error_log_rotate_time=00:00
rotate_access_log_size = 0
rotate_error_log_size = 0
log_file_keep_days = 0
file_sync_skip_invalid_record=false
use_connection_pool = false
connection_pool_max_idle_time = 3600
http.domain_name =
http.server_port=8888

</pre>

启动 storage 服务:/usr/bin/fdfs_storaged /etc/fdfs/storage.conf,首次启动会很慢,因为它在创建预设存储文件的目录
重启 storage 服务:/usr/bin/fdfs_storaged /etc/fdfs/storage.conf restart
查看是否有 storage 进程:ps aux | grep storage

测试是否部署成功
用自带的 client 进行测试
复制一份配置文件:cp /etc/fdfs/client.conf.sample /etc/fdfs/client.conf
编辑:vim /etc/fdfs/client.conf,编辑内容看下面中文注释

<pre>

connect_timeout=30
network_timeout=60

下面这个路径是保存 store log 的地方,需要改下,指向一个存在的目录

创建目录:mkdir -p /opt/fastdfs/client/data-and-log

base_path=/opt/fastdfs/client/data-and-log

指定 tracker 服务器的 IP 和端口

tracker_server=192.168.1.114:22122
log_level=info
use_connection_pool = false
connection_pool_max_idle_time = 3600
load_fdfs_parameters_from_tracker=false
use_storage_id = false
storage_ids_filename = storage_ids.conf
http.tracker_server_port=80

</pre>

从网上下载一张图片到 /opt下:

cd /opt
wget http://www.rettc.org/staticImage/news/20160419/1460995882635.jpg
在终端中通过 shell 上传 opt 目录下的一张图片:/usr/bin/fdfs_test /etc/fdfs/client.conf upload /opt/1460995882635.jpg

结果如下:

即使我们现在知道图片的访问地址我们也访问不了,因为我们还没装 FastDFS 的 Nginx 模块

安装Nginx和其插件
如果Nginx已经安装过,则仅需要fastdfs-nginx-module_v1.16.tar.gz。安装 Nginx 第三方模块相当于这个 Nginx 都是要重新安装一遍的
进入usr/local:cd /usr/local
下载Nginx:wget http://nginx.org/download/nginx-1.11.8.tar.gz
下载Nginx插件:wget http://jaist.dl.sourceforge.NET/project/fastdfs/FastDFS%20Nginx%20Module%20Source%20Code/fastdfs-nginx-module_v1.16.tar.gz
解压 Nginx 模块:tar zxvf fastdfs-nginx-module_v1.16.tar.gz,放到目录地址:/opt/setups/FastDFS/fastdfs-nginx-module
编辑 Nginx 模块的配置文件:vim /opt/setups/FastDFS/fastdfs-nginx-module/src/config
找到下面一行包含有 local 字眼去掉,因为这三个路径根本不是在 local 目录下的

<pre>

CORE_INCS="$CORE_INCS /usr/local/include/fastdfs /usr/local/include/fastcommon/"

</pre>
改为如下:

<pre>

CORE_INCS="$CORE_INCS /usr/include/fastdfs /usr/include/fastcommon/"

</pre>

复制文件:cp /usr/local/fastDFS/fastdfs-5.05/conf/http.conf /etc/fdfs
复制文件:cp /usr/local/fastDFS/fastdfs-5.05/conf/mime.types /etc/fdfs

安装 Nginx 依赖包:yum install -y gcc gcc-c++ pcre pcre-devel zlib zlib-devel openssl openssl-devel
预设几个文件夹,方便等下安装的时候有些文件可以进行存放:mkdir -p /usr/local/nginx /var/log/nginx /var/temp/nginx /var/lock/nginx
解压 Nginx:tar zxvf /opt/setups/nginx-1.8.1.tar.gz
进入解压后目录:cd /opt/setups/nginx-1.8.1/
编译配置:(注意最后一行)

<pre>

./configure
--prefix=/usr/local/nginx
--pid-path=/var/local/nginx/nginx.pid
--lock-path=/var/lock/nginx/nginx.lock
--error-log-path=/var/log/nginx/error.log
--http-log-path=/var/log/nginx/access.log
--with-http_gzip_static_module
--http-client-body-temp-path=/var/temp/nginx/client
--http-proxy-temp-path=/var/temp/nginx/proxy
--http-fastcgi-temp-path=/var/temp/nginx/fastcgi
--http-uwsgi-temp-path=/var/temp/nginx/uwsgi
--http-scgi-temp-path=/var/temp/nginx/scgi
--add-module=/opt/setups/FastDFS/fastdfs-nginx-module/src

</pre>

编译:make
安装:make install
复制 Nginx 模块的配置文件:cp /opt/setups/FastDFS/fastdfs-nginx-module/src/mod_fastdfs.conf /etc/fdfs
编辑 Nginx 模块的配置文件:vim /etc/fdfs/mod_fastdfs.conf,编辑内容看下面中文注释
如果在已经启动 Nginx 的情况下修改下面内容记得要重启 Nginx。

<pre>

connect_timeout=2
network_timeout=30

下面这个路径是保存 log 的地方,需要我们改下,指向我们一个存在的目录

创建目录:mkdir -p /opt/fastdfs/fastdfs-nginx-module/data-and-log

base_path=/opt/fastdfs/fastdfs-nginx-module/data-and-log
load_fdfs_parameters_from_tracker=true
storage_sync_file_max_delay = 86400
use_storage_id = false
storage_ids_filename = storage_ids.conf

指定 tracker 服务器的 IP 和端口

tracker_server=192.168.1.114:22122
storage_server_port=23000
group_name=group1

因为我们访问图片的地址是:

http://192.168.1.114/group1/M00/00/00/wKgBclb0aqWAbVNrAAAjn7_h9gM813_big.jpg

该地址前面是带有 /group1/M00,所以我们这里要使用 true,不然访问不到(原值是 false)

url_have_group_name = truestore_path_count=1

图片实际存放路径,如果有多个,这里可以有多行:

store_path0=/opt/fastdfs/storage/images-data0

store_path1=/opt/fastdfs/storage/images-data1

store_path2=/opt/fastdfs/storage/images-data2

store_path0=/opt/fastdfs/storage/images-data
log_level=info
log_filename=
response_mode=proxy
if_alias_prefix=
flv_support = true
flv_extension = flv
group_count = 0

</pre>

编辑 Nginx 配置文件

<pre>

注意这一行行,特别加上了使用 root 用户去执行,不然有些日记目录没有权限访问

user root;
worker_processes 1;

events {
worker_connections 1024;
}

http {
include mime.types;
default_type application/octet-stream;

sendfile on;
keepalive_timeout 65;

server {
listen 80;
# 访问本机
server_name 192.168.1.114;
# 拦截包含 /group1/M00 请求,使用 fastdfs 这个 Nginx 模块进行转发
location /group1/M00 {
ngx_fastdfs_module;
}
}
}

</pre>

启动 Nginx
停掉防火墙:service iptables stop
启动:/usr/local/nginx/sbin/nginx,启动完成 shell 是不会有输出的
访问:192.168.1.114,如果能看到:Welcome to nginx!,即可表示安装成功
检查 时候有 Nginx 进程:ps aux | grep nginx,正常是显示 3 个结果出来
刷新 Nginx 配置后重启:/usr/local/nginx/sbin/nginx -s reload
停止 Nginx:/usr/local/nginx/sbin/nginx -s stop
如果访问不了,或是出现其他信息看下错误立即:vim /var/log/nginx/error.log本文主要参考

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,222评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,455评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,720评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,568评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,696评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,879评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,028评论 3 409
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,773评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,220评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,550评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,697评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,360评论 4 332
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,002评论 3 315
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,782评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,010评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,433评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,587评论 2 350

推荐阅读更多精彩内容