分布式文件存储FastDFS

一、FastDFS简介

1.1 FastDFS体系结构

FastDFS是一个开源的轻量级分布式文件系统，它对文件进行管理，功能包括：文件存储、文件同步、文件访问（文件上传、文件下载）等，解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务，如相册网站、视频网站等等。

FastDFS为互联网量身定制，充分考虑了冗余备份、负载均衡、线性扩容等机制，并注重高可用、高性能等指标，使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。

FastDFS 架构包括 Tracker server 和 Storage server。客户端请求 Tracker server 进行文件上传、下载，通过Tracker server 调度最终由 Storage server 完成文件上传和下载。

Tracker server 作用是负载均衡和调度，通过 Tracker server 在文件上传时可以根据一些策略找到Storage server 提供文件上传服务。可以将 tracker 称为追踪服务器或调度服务器。Storage server 作用是文件存储，客户端上传的文件最终存储在 Storage 服务器上，Storageserver 没有实现自己的文件系统而是利用操作系统的文件系统来管理文件。可以将storage称为存储服务器。

2-1.png

1.2上传流程

1559117994668.png

客户端上传文件后存储服务器将文件 ID 返回给客户端，此文件 ID 用于以后访问该文件的索引信息。文件索引信息包括：组名，虚拟磁盘路径，数据两级目录，文件名

1559118013272.png

组名：文件上传后所在的 storage 组名称，在文件上传成功后有storage 服务器返回，需要客户端自行保存。

虚拟磁盘路径：storage 配置的虚拟路径，与磁盘选项store_path*对应。如果配置了store_path0 则是 M00，如果配置了 store_path1 则是 M01，以此类推。

数据两级目录：storage 服务器在每个虚拟磁盘路径下创建的两级目录，用于存储数据文件。

文件名：与文件上传时不同。是由存储服务器根据特定信息生成，文件名包含：源存储服务器 IP 地址、文件创建时间戳、文件大小、随机数和文件拓展名等信息。

二、FastDFS服务器搭建

2.1安装FastDFS镜像

拉取镜像

docker pull morunchang/fastdfs

运行tracker

docker run -d --name tracker --net=host morunchang/fastdfs sh tracker.sh

运行storage

docker run -d --name storage --net=host -e TRACKER_IP=8.142.115.125:22122 -e GROUP_NAME=group1 morunchang/fastdfs sh storage.sh

• 使用的网络模式是–net=host, 8.142.115.125是宿主机的IP
• group1是组名，即storage的组
• 如果想要增加新的storage服务器，再次运行该命令，注意更换新组名

2.2配置Nginx

Nginx在这里主要提供对FastDFS图片访问的支持，Docker容器中已经集成了Nginx，我们需要修改nginx的配置,进入storage的容器内部，修改nginx.conf

docker exec -it storage  /bin/bash

进入后

vi /etc/nginx/conf/nginx.conf

添加以下内容

location ~ /M00 {
     root /data/fast_data/data;
     ngx_fastdfs_module;
}

禁止缓存 (添加在上面的location项内)

add_header Cache-Control no-store;

退出容器

exit

重启storage容器

docker restart storage

查看启动容器 docker ps

image-20220314194808032.png

开启启动设置

docker update --restart=always tracker
docker update --restart=always storage

三、文件存储微服务框架搭建

环境配置完毕后，则需要写一个Java的微服务来实现文件上传以及文件删除等功能

接下来就来搭建文件管理微服务rongyun-service-file

3.1 pom.xml 依赖

    <!--依赖包-->
    <dependencies>
        <dependency>
            <groupId>net.oschina.zcx7878</groupId>
            <artifactId>fastdfs-client-java</artifactId>
            <version>1.27.0.0</version>
        </dependency>
        <dependency>
            <groupId>com.arun</groupId>
            <artifactId>rongyun-common</artifactId>
            <version>1.0-SNAPSHOT</version>
        </dependency>
    </dependencies>

3.2 FastDFS配置

在resources文件夹下创建fasfDFS的配置文件fdfs_client.conf

# 连接超时时间
connect_timeout=60
# 网络超时时间
network_timeout=60
# 字符集
charset=UTF-8
# 连接tarcker的端口号 http连接
http.tracker_http_port=8080
# 连接tarcker的端口号 tcp连接
tracker_server=8.142.115.125:22122

connect_timeout：连接超时时间，单位为秒。

network_timeout：通信超时时间，单位为秒。发送或接收数据时。假设在超时时间后还不能发送或接收数据，则本次网络通信失败

charset： 字符集

http.tracker_http_port ：tracker的http端口

tracker_server： tracker服务器IP和端口设置

3.3 application.yml 配置

在resources文件夹下创建application.yml

spring:
  servlet:
    multipart:
      # 上传的文件的最大限制
      max-file-size: 10MB
      # 上传的内容的最大限制（文件+表单数据等）
      max-request-size: 10MB
  application:
    name: file
server:
  port: 18082
eureka:
  client:
    service-url:
      defaultZone: http://127.0.0.1:7001/eureka
  instance:
    prefer-ip-address: true
feign:
  hystrix:
    enabled: true

max-file-size是单个文件大小，max-request-size是设置总上传的数据大小

3.4 启动类

创建com.arun包，创建启动类FileApplication

@SpringBootApplication(exclude={DataSourceAutoConfiguration.class})
@EnableEurekaClient
public class FileApplication {

    public static void main(String[] args) {
        SpringApplication.run(FileApplication.class);
    }
}

这里禁止了DataSource的加载创建

四、各项功能实现

4.1 文件信息封装

文件上传一般都有文件的名字、文件的内容、文件的扩展名、文件的md5值、文件的作者等、相关属性，我们可以创建一个对象封装这些属性

创建com.tarnett.file.FastDFSFile代码如下：

public class FastDFSFile implements Serializable {

    //文件名字
    private String name;
    //文件内容
    private byte[] content;
    //文件扩展名
    private String ext;
    //文件MD5摘要值
    private String md5;
    //文件创建作者
    private String author;

    public FastDFSFile(String name, byte[] content, String ext, String md5, String author) {
        this.name = name;
        this.content = content;
        this.ext = ext;
        this.md5 = md5;
        this.author = author;
    }

    public FastDFSFile(String name, byte[] content, String ext) {
        this.name = name;
        this.content = content;
        this.ext = ext;
    }

    public FastDFSFile() {
    }

    //..get..set..toString
}

4.2 文件各项操作方法封装

在使用FastDFS的各项功能的时候，若每次使用都需要写一遍功能代码将会十分麻烦，所以我们将各项功能封装成工具类进行使用

创建com.tarnett.util.FastDFSClient类,在该类中实现FastDFS信息获取以及文件的相关操作，代码如下：

4.2.1 初始化Tracker信息

在com.tarnett.util.FastDFSClient类中初始化Tracker信息,在类中添加如下静态块：

// 读取配置文件，初始化Tracker对象信息
static{
  try {
    // 1. 读取配置文件
    String filename = new ClassPathResource("fdfs_client.conf").getPath();
    // 2. 初始化client对象
    ClientGlobal.init(filename);
  } catch (IOException e) {
    e.printStackTrace();
  } catch (MyException e) {
    e.printStackTrace();
  }
}

4.2.2 文件上传

在类中添加如下方法实现文件上传：

/**
* 文件上传
* @param fastDFSFile 上传的文件的封装类
*/
public static String[] upload(FastDFSFile fastDFSFile) throws IOException, MyException {
  // 1. 创建Tarcker客户端：TarckerClient
  TrackerClient trackerClient = new TrackerClient();
  // 2. 通过TarckerClient客户端，获取TarckerService服务，通过该服务可以获取storage相关信息
  TrackerServer trackerServer = trackerClient.getConnection();
  // 3. 通过TarckerService创建storage客户端，获取storageClient
  StorageClient storageClient = new StorageClient(trackerServer, null);
  // 4. 上传图片并获取返回值
  // 添加附加信息
  NameValuePair[] meta_list = new NameValuePair[1];
  meta_list[0] = new NameValuePair("author", fastDFSFile.getAuthor());
  /**
  * 第一个参数：文件的字节数组
  * 第二个参数：文件的扩展名
  * 第三个参数：文件的扩展参数（作者，拍摄地点，手机型号等）
  *
  * 返回值为一个string[] 数组，里面有两个值
  *  results[0]: the group name to store the file ： group的名称
  *  results[1]: the new created filename         ： 上传到服务器的图片地址的名称
  */
  return storageClient.upload_file(fastDFSFile.getContent(), fastDFSFile.getExt(), meta_list);
}

4.2.3 优化

因为后面的所有方法都会涉及到获取TrackerServer或者StorageClient，所以我们可以把它们单独抽取出去，分别在类中添加如下2个方法：

/**
* 获取trackerServer对象
* @return
* @throws IOException
*/
private static TrackerServer getTrackerServer() throws IOException {
  // 1. 创建Tarcker客户端：TarckerClient
  TrackerClient trackerClient = new TrackerClient();
  // 2. 通过TarckerClient客户端，获取TarckerService服务，通过该服务可以获取storage相关信息
  TrackerServer trackerServer = trackerClient.getConnection();

  return trackerServer;
}

/**
* 获取StorageClient对象
* @param trackerServer
* @return
*/
private static StorageClient getStorageClient(TrackerServer trackerServer){
  // 3. 通过TarckerService创建storage客户端，获取storageClient
  StorageClient storageClient = new StorageClient(trackerServer, null);
  
  return storageClient;
}

将共有的模块进行抽取写成方法，可以有效的简化我们代码

4.2.4 优化后的文件上传

/**
* 文件上传
* @param fastDFSFile 上传的文件的封装类
*/
public static String[] upload(FastDFSFile fastDFSFile) throws IOException, MyException {
  // 1. 获取trackerServer对象
  TrackerServer trackerServer = getTrackerServer();
  // 2. 获取storageClient
  StorageClient storageClient = getStorageClient(trackerServer);
  // 3. 上传图片并获取返回值
  // 添加附加信息
  NameValuePair[] meta_list = new NameValuePair[1];
  meta_list[0] = new NameValuePair("author", fastDFSFile.getAuthor());
  /**
  * 第一个参数：文件的字节数组
  * 第二个参数：文件的扩展名
  * 第三个参数：文件的扩展参数（作者，拍摄地点，手机型号等）
  *
  * 返回值为一个string[] 数组，里面有两个值
  *  results[0]: the group name to store the file ： group的名称
  *  results[1]: the new created filename         ： 上传到服务器的图片地址的名称
  */
  return storageClient.upload_file(fastDFSFile.getContent(), fastDFSFile.getExt(), meta_list);
}

4.2.5 获取文件信息

在类中添加如下方法实现获取文件信息：

    /**
     * 获取文件信息
     */
    public static FileInfo getFileInfo(String groupName, String remoteFilename) throws IOException, MyException {
        // 1. 获取trackerServer
        TrackerServer trackerServer = getTrackerServer();
        // 2. 获取storageClient
        StorageClient storageClient = getStorageClient(trackerServer);
        // 3. 获取文件信息
        /**
         * 第一个参数：组的名称
         * 第二个参数：图片的路径
         */
        return storageClient.get_file_info(groupName, remoteFilename);
    }

4.2.6 文件下载

在类中添加如下方法实现文件下载：

/**
     * 文件下载
     * @param groupName
     * @param remoteFilename
     * @throws IOException
     * @throws MyException
     */
    public static InputStream downLoadFile(String groupName, String remoteFilename) throws IOException, MyException {
        // 1. 获取trackerServer
        TrackerServer trackerServer = getTrackerServer();
        // 2. 获取storageClient
        StorageClient storageClient = getStorageClient(trackerServer);
        // 3. 下载文件
        /**
         * 第一个参数：组的名称
         * 第二个参数：图片的路径
         */
        byte[] bytes = storageClient.download_file(groupName, remoteFilename);
        // 4. 将自己数组封装为一个字节输入流
        InputStream in = new ByteArrayInputStream(bytes);
        return in;
    }

4.2.7 文件删除实现

    /**
     * 删除图片
     * @param groupName
     * @param remoteFilename
     * @return
     * @throws IOException
     * @throws MyException
     */
    public static int deleteFile(String groupName, String remoteFilename) throws IOException, MyException {
        // 1. 获取trackerServer
        TrackerServer trackerServer = getTrackerServer();
        // 2. 获取storageClient
        StorageClient storageClient = getStorageClient(trackerServer);
        // 3. 删除文件
        int result = storageClient.delete_file(groupName, remoteFilename);
        return result;
    }

4.2.8 获取组信息

    /**
     * 获取storage信息
     * @return
     * @throws IOException
     */
    public static StorageServer getStorageInfo() throws IOException {
        // 1. 创建Tarcker客户端：TarckerClient
        TrackerClient trackerClient = new TrackerClient();
        // 2. 获取StorageClient对象
        TrackerServer trackerServer = getTrackerServer();
        // 3. 获取storage信息
        return trackerClient.getStoreStorage(trackerServer);
    }

4.2.9 获取Tracker服务地址

    /**
     * 获取tracker服务的信息
     * @return
     * @throws IOException
     */
    public static String getTrackerInfo() throws IOException {
        // 获取trackerServer
        TrackerServer trackerServer = getTrackerServer();
        // 获取IP
        String ip = trackerServer.getInetSocketAddress().getHostName();
        // 获取端口号,TCP的端口号
        //int port = trackerServer.getInetSocketAddress().getPort();
        // 获取端口号，http的端口号
        int port = ClientGlobal.getG_tracker_http_port();
        return "http://" + ip + ":" + port;
     }

4.3 文件上传功能实现

创建一个FileController，在该控制器中实现文件上传操作，代码如下：

package com.arun.controller;

import com.arun.entity.Result;
import com.arun.entity.StatusCode;
import com.arun.file.FastDFSFile;
import com.arun.util.FastDFSClient;
import org.apache.commons.lang.StringUtils;
import org.csource.common.MyException;
import org.springframework.web.bind.annotation.CrossOrigin;
import org.springframework.web.bind.annotation.PostMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.multipart.MultipartFile;

import java.io.IOException;

@RestController
@RequestMapping("/upload")
@CrossOrigin
public class FileController {

    @PostMapping
    public Result upload(MultipartFile file) throws IOException, MyException {
        // 1. 封装上传的文件对象
        FastDFSFile fastDFSFile = new FastDFSFile();
        String filename = file.getOriginalFilename();
        fastDFSFile.setName(filename);
        fastDFSFile.setContent(file.getBytes());
        fastDFSFile.setExt(filename.substring(filename.lastIndexOf(".") + 1));
        // 2. 调用工具类上传文件
        String[] upload = FastDFSClient.upload(fastDFSFile);
        // 构建图片访问路径
        String url = "http://8.142.115.125:8080/" + upload[0] + "/" + upload[1];
        // 3. 返回响应对象
        return new Result(true, StatusCode.OK, "文件上传成功", url);
    }

}

五、Postman测试文件上传功能

image.png

访问返回的地址，可以成功获取到图片

image_1.png